Как рассчитать атмосферное давление на планете?

1 вариант:
Вы можете считать, что планета имеет "большую" массу, а весь газ имеет "малую" массу. Тогда для тех молекул, что выше, вам не надо учитывать дополнительную гравитацию, создаваемую тем газом, что ниже.
Так же вы можете предположить, что даже вблизи поверхности (где плотность максимальна) газ достаточно разрежен для того, чтобы молекулы можно было счиать невзаимодействующими помимо точечных мгновенных упругих столкновений между собой.
В таком случае вы используете распределение Больцмана в общем виде, и получаете конкретный вид для концентрации молекул на всех высотах. В этих предположениях у вас просто идеальный газ. Зная концентрации, находите давление по известному соотношению.

2 вариант:
Вы можете учесть, сам газ во круг планеты обладает массой, и сам создает дополнительную гравитацию для самого же газа. В этом случае также придется постулировать какое-то уравнение состояния для вашего газа.
В этом случае прочитайте вывод уравнения Лйна - Эмдена. Решив его (решать, вероятно, придется численно), найдете распределение плотности во круг планеты. А дальше через введенное вами уравнение состояния найдете давление.

Если считать, что толщина атмосферы значительно меньше размера планеты, то массу атмосферы умножить на ускорение свободного падения и поделить на площадь поверхности планеты.

Мало газа - давление будет маленьким и наоборот.
Без массы газа ничего рассчитать невозможно...

Как можно задаваться объёмом атмосферы, если этот объём для любой планеты теоретически (да и практически) БЕСКОНЕЧЕН? Нужно задаваться МАССОЙ атмосферы, её составом, да и температурным полем по высоте, что зависит от нескольких факторов (доли многоатомных газов в составе атмосферы, удапённости планеты от центрального Светила...).