Как рассчитывают массу звёзд и планет?

По закону всемирного тяготения.
Берём, к примеру, Землю. Расстояние от неё до Солнца известно - это научились измерять ещё во времена Кеплера. Период обращения Земли вокруг Солнца тоже известен, причём с гораздо более ранних времён. Значит, по радиусу и по периоду обращения враз вычисляется центростремительное ускорение при движении Земли вокруг Солнца. Ну и если теперь вот это ускорение подставить в формулу закона всемирного тяготения, то враз вычисляется масса Солнца (предполагается, что значение гравитационной постоянной нам известно - его впервые определил Г. Кавендиш).
Точно так же можно определить массу планет, если у неё есть спутники. Знаем расстояние до планеты (тоже со времён Кеплера) - значит, по данным астрономических наблюдений можно определить расстояние от спутника до планеты (до её центра) - значит, по этому расстоянию и по периоду обрашения, который тоже из наблюдений, рассчитывается масса планеты.
Массы спутников, как и массы планет, спутников не имеющих, определяются уже более сложными наблюдениями и более точными расчётами. Тут уже надо измерять влияние, которое эти планеты оказывают на соседей (именно так, кстати, были открыты Нептун, Уран и Плутон: их сначала нашли "на кончике пера", по тому возмущению, которое они оказывали на движение уже известных к тому времени планет).
Со звёздами примерно та же фигня. Большинство звёзд входит в кратные системы, чаще всего в двойные. Для таких систем легко определяется период обращения звёзд вокруг общего центра тяжести. По параллаксу определяется и расстояние до такой системы. А по расстоянию и по угловому расстоянию до системы - и абсолютный размер орбиты, по которой они обращаются. Ну а дальше всё то же самое: есть расстояние, есть время обращения - массы рассчитываются.
Но и это ещё не всё. Оказалось, что сушествует довольно чёткая связь между массой звезды и её светимостью (диаграмма Герцшпрунга-Рассела). То есть если просто взять и измерить светимость звезды (её абсолютную яркость), то по этой диаграме уже сразу можно сказать, даже для одиночной звезды, что её масса примерно вот такая.

По действию на другие объекты, или свет, например

взвешивают через телескоп

Прежде всего, по наблюдению за их движением.
Наблюдая движение планет, можно вычислить массу Солнца.
Наблюдая движение спутников Юпитера, можно вычислить массу Юпитера.
Наблюдая движение двойных звезд, можно вычислить их массу.
Ну а дальше включаются более тонкие способы.