Если в формулу тяготения подставить данные солнца, луны и земли то ...

Так скорость Луны относительно Солнца, как и Земли, порядка 30 км/с. А относительно Земли всего порядка 1 км/с.

Это у тебя в голове гав... Не понимаешь, что Луна вместе с Землей кружат вокруг Солнца!

Земле и Луне упасть на Солнце не позволяет центробежная сила инерции.
Аналогичная сила не дает Луне грохнуться на Землю.

Дело в том что солнце землю тоже притягивает. Оно их обеих оновременно притягивает.

Ок. Уберём Землю, оставим одну Луну с той же скоростью, что изменится? А ничего, Луна будет кружить по той же орбите вокруг Солнца, естественно перестав совершать петлеобразное движение вокруг Земли. Если уберём Луну, также ничего не поменяется кроме разве что приливов. Другими словами относительно Солнца они уже уравновешены на орбите вокруг него. Зато разница в расстояниях между Луной и Солнцем в сравнении с расстоянием между Луной и Землёй огромна и именно она уравновешивает разницу в силах тяготения.

Формула правильная. Эта формула рассчитывает силу тяготения между телами.

Вы же говорите о равновесии системы. Равновесие системы - сумма сил действующих на тела равна нулю.
Вы не учитываете что кроме силы тяготения на тела действуют другие силы.

В данном случае за счет вращения вокруг солнца на землю и луну действует центростремительное ускорение, которое уравновешивает действие силы тяготения. За счет чего земля не падает на солнце, а вращается по орбите. Так как луна вращается вокруг солнца по той же орбите что и земля на нее тоже действует центростремительное ускорение...