по какой траектории движутся планеты? по объемной спирали или плоскостной??

Траектория зависит от системы отсчета.
Всегда можно выбрать такую систему отсчета, в которой планета движется строго в плоскости.
Обратите внимание, что эта система отсчета не является неподвижной относительно Солнца. А в системе отсчета, связанной с неподвижным Солнцем это эллиптическая спираль ассимптотически приближающаяся к плоскости, которая перпендикулярна вектору суммарного момента вращения всех объектов солнечной системы.
Если бы планета в солнечной системе была только одна или если бы изначально все плоскости вращения всех планет совпадали бы друг с другом и эта плоскость проходила бы через Солнце, тогда в системе отсчета, связанной с неподвижным Солнцем, все орбиты планет лежали бы строго в одной плоскости, ибо закон сохранения момента вращения никто не отменял и нет никаких сил, которые могут вывести вектор момента вращения какой-то планеты из своего направления.
В реальной солнечной системе изначально все вектора момента вращения были направлены в разные стороны в системе отсчета, связанной с Солнцем. Сохраняется только вектор суммарного момента вращения. А отдельные вектора постепенно поворачиваются к этому суммарному вектору и уменьшают свою длину, чтобы сумма не менялась. Поэтому в бесконечном пределе все планеты начнут вращаться в одной плоскости.
Аналогичный механизм работает и в галактиках, поэтому со временем галактики сплющиваются.