Почему кольца вокруг планет расположены в одной плоскости, а не вокруг окутывая как шар?

потому что центробежные силы распределены на эклиптике

потому что планеты движутся, а не стоят на месте...

потому что в этой плоскости сила притяжения самая сильная

Потому что за счет столкновений частиц все движения затухнут, кроме тех, которые не могут затухнуть из-за закона сохранения (суммарного) момента импульса.

Потому что когда-то это были не планеты, а облака пыли, а если два облака пыли будут вращаться вокруг звезды под углом друг к другу, они будут сталкиваться и либо терять скорость и падать на звезду, либо превращаться в одно облако пыли побольше, вращающееся примерно по биссектрисе от двух изначальных.

Орбиты почти всех спутников планет расположены в плоскости экватора планеты, в этой же плоскости расположены кольца. Кольца находятся близко к планете - на таких расстояниях приливные силы не позволяют частицам колец собраться в крупный спутник. А возможно, спутник там когда-то был, но разрушился теми же приливными силами - и теперь мы наблюдаем кольца.
Разрушение объекта вблизи планеты неоднократно наблюдалось на примере комет. В июле 1994 года, комета Шумейкеров-Леви-9 упала на Юпитер. До сближения с ним в 1992 году была одна комета, а падало в 1994 году несколько десятков обломков.
Существует предположение, что со временем спутник Нептуна Тритон приблизится к Нептуну, будет разрушен, и появится кольцо, более мощное, чем у Сатурна. Поживём - увидим...