Как ученые могли выяснить, какую массу имеет воздух, окружающий Землю?

Посчитали плотности воздуха в любой высоте (ещё раньше, летая на воздушных шарах, составляли таблицу высот и плотностей воздуха; впоследствие для этой цели использовались специальные метеозонды) . Зная эти данные из разных точек мира, можно составить среднюю таблицу зависимости плотности воздуха от высоты над средней поверхностью Земли. Плотность - это масса воздуха в 1 м^3. Дальше проводят функцию p=p(h) - зависимость средней плотности от высоты, и находят с помощью определённого интеграла от 0 до высоты высших слоёв атмосферы массу маленького столбика воздуха, у которого в основании площадь поверхности 1 м^2. Если эту массу умножить на площадь поверхности Земли (которая получается по формуле площади сферы S=4*PI*R^2, а радиус Земли измерили давно) , то можно получить среднюю массу воздуха, окружающего Землю.

в школе хорошо учились.

Можно рассчитать через атмосферное давление.

Методом от противного. Взяли гегметичную ёмкость и взвесили её. Затем откачали воздух и снова взвесили. Так узнали вес воздуха в ёмкости. Зная её объём - определили его плотность ( на поверхности Земли) . Зная давление воздуха на единицу площади - определили массу столба амосферы с основанием=единица площади. Умножил на площадь Земли и получили массу атмосферы
Я бы сделал так.

Умножили среднее давление воздуха на площадь поверхности Земли. Получили

1 кГ/см² · 510 млн. км² = 5,1·10^18 кг.

Массу см в кубе умножить на общий объем воздуха!

Траву хорошую курили.