Как учёные определяют массу планет и звёзд?

Массу планеты, имеющей спутник, очень легко рассчитать по характеристикам движения спутника. Хотя орбиты движения спутников эллиптические, но степень эллиптичности обычно очень мала и с хорошей точностью орбиту можно считать круговой. Для устойчивого движения всегда выполняется равенство гравитационной силы притяжения и центробежной силы: γmM/R² = mV²/R, где m - масса спутника, M - масса планеты, V - скорость движения спутника, R - расстояние от спутника до планеты. Сокращаем массу спутника m и получаем M = RV²/γ. Расстояние R легко измеряется с помощью телескопов: смотрят на спутник и саму планету из двух точек земной поверхности и видят их под разными углами, затем простейшими формулами геометрии высчитывают расстояние до спутника и планеты, а разность между этими расстояниями и дает искомую величину R. Зная удаление спутника от планеты и время его полного обращения, легко находят скорость V. И окончательно узнают массу планеты М. А затем вводят поправки на эллиптичность орбиты и корректируют найденную массу.
Определить массу планеты, не имеющей спутников (Венера и Меркурий) , заметно сложнее. Обычно это делается через гравитационные возмущения орбит. Чем ближе подходит Венера к Земле, тем сильнее притягивает её Земля и Венера как-бы немножко сходит со своей орбиты (Земля при этом также сходит) . Это изменение орбиты и называется гравитационным возмущением. Оно настолько мало, что даже в долгосрочной перспективе никак не скажется на судьбе планет. Но уже достаточно велико, чтобы быть обнаруженным в телескопы. Величина гравитационных возмущений орбит пропорциональна массам планет. Зная массу Земли, всегда можно подобрать такое значение массы Венеры, чтобы рассчитаннное возмущение орбиты совпало с тем, что наблюдается на практике. А затем точно таким же макаром ищут массу Меркурия.
Массу звезд ищут иным способом. Вначале находят массу Солнца по той же самой формуле, что я написал выше. Затем выбирают некоторую звезду и снимают максимально возможную информацию её излучения: светимость, спектр, распределение энергии по спектру, наличие линий поглощения и излучения в спектре, величину красного смещения и т. д. И все это сравнивают с теми же данными по Солнцу. Дело в том, что некоторые характеристики излучения звезды зависят от её массы. Сравнивая эти данные с данными Солнца и зная массу последнего, можно определить массу звезды.

По радиусу орбиты и скорости вращения. Чем ближе планета к Солнцу и чем быстрее она вращается, тем больше масса.

Это что же, выходит, Меркурий самая тяжелая планета в Солнечной системе (ответ на ответ колхозника) ? Дурдом. Масса планет рассчитывается по законам всемирного тяготения и законам небесной механики (обычно законам Кеплера) , связывающим массу и параметры эллиптических орбит. Расчет массы звезд - либо опять же по этим законам (например, для близких двойных звезд, для которых можно определить параметры орбит) , либо по их спектрам и светимости на основе законов звездной эволюции.

По расчетным формулам и результатам астрономических наблюдений.