Почему планеты вращаются по орбитам вокруг общего центра масс? И чем вызвано вращение планет вокруг своей оси?

Планеты не падают на Солнце, так как имеют импульс, вектор движения которого направлен поперечно вектору действия гравитации.
Гравитационное взаимодействие уравнивает этот их импульс, и выходит, что планеты движутся с первой космической скоростью вокруг Солнца. Согласно ОТО, метрический тензор в таком потенциале гравитационного поля задает замкнутую геодезическую траекторию, что и есть орбитой. И, согласно закону Ньютона, телу сообщается ускорение в направлении действия силы, природой коей в данном случае является гравитационное взаимодействие. Орбиты вращения планет более-менее стабильны, потому что:
1) Основные показатели Солнца (масса, а значит, и потенциал гравитационного поля, радиус) практически не изменяются.
2) Другие планеты в системе не обладают достаточной массой, чтобы нарушить траекторию обращения целевой планеты.
3) В космосе трение минимально из-за крайне низкой концентрации частиц (про виртуальные я не пишу, конечно) , которые "выдуваются" солнечным излучением (фотоны, позитроны, альфа-частицы и т. д. )
4) Расстояния от Солнца до других звезд слишком велики, чтобы это сильно повлияло на взаимодействие оного с планетами.
_________________________
Большинство планет, скорее всего, вращаются вокруг оси из-за импульса, приданного им при их образовании. Например, на новообразованные планеты падали тела, которые сообщали им импульсное направление.
Насчет вращения Земли.
1) Земля также может обращаться вокруг оси из-за неоднородностей нагрева воздушных масс: на больших масштабах это создает области перепадов давления и температур, которые взаимодействуют с твердой поверхностью. Результатом взаимодействия воздушных потоков с твердой фазой является дрейф континентов, который может привести к ускорению или замедлению вращения. Это - из-за конвекции и последующей инерции.
2) Земля может крутиться вокруг оси за счет круговых токов, возникающих в твердой части земного ядра как результат намагниченности вещества ядра (в общем, однонаправленности спинов атомов металлов) . Это - из-за электромагнетизма.
Кстати, наблюдается также геодезическая прецессия тел, вращающихся в пространстве-времени с гравитационным потенциалом - смещение оси вращения. Для системы Земля-Луна составляет 1,9 угловой секунды в год.

В принципе между ними разницы нет - оба случая на момент инерции.
Только планета и Солнце - это два тела вокруг центра масс,
а планета вокруг оси - это одно тело вокруг своей оси.
Если не понимать момент инерции, то бесполезно объяснять.

Причина движения планет вокруг Солнца - инерция. А тяготение только искривляет траектории. чтобы планеты не убежали от Солнца.
А вращение вокруг своей оси - когда комки вращающегося газопылевого облака слипались во всё бОльшие, образуя в конце концов планеты, они все время били друг по другу, часто под углом, раскручивая зародыш планеты.

Интересно было бы посмотреть на это нечто, что не вращается вокруг Солнца и вокруг своей оси. Это был бы фокус-- Коппирфильд отдыхает!

А как ты думаешь почему спутник не падает на землю?
На самом деле он все время на нее падает (потому и существует невесомость в космическом корабле) , только из-за высокой скорости упасть не успевает - Земля то ведь круглая.