Подскажите, в каком направлении двигаться для вычисления массы воздуха, обрабатываемого двигателем самолета?

Апстену :). Шучу. Если речь о потребляемом воздухе - я бы взял расход горючки (кг) . Хорошо бы знать, сколько воздуха надо для сжигания килограмма горючки. Можно вычислить по формуле горючего (я ее не знаю) . Чтоб сжечь 1 моль углерода (12 г) , надо 1 моль кислорода О2 - 22,4 л. Если это гептан (С6 Н14) - в его моле 6 молей углерода (по 12 г) и 14 молей атомов водорода (по 1 г) . Итого моль гептана весит 6х12+14*1=86 г. На 1 моль углерода надо 1 моль кислорода О2, на 1 моль атомов водорода надо 0,25 моля О2. В сумме 6*1+0,25*14=9,5 моль.
Т. о. на 1 моль гептана (86 г) надо 9,5 моль О2. 1 моль любого газа при 1 атм. , 20 град цельсия имеет 22,4 л. х 9,5 = 212,8 л. /86г=2,47 л кислорода на грамм горючки. Или 2,47 кубометра на кило. Воздуха же вроде надо в 5 раз больше - в нем кислорода немногим больше 20%.

Лучше в ту же сторону, что и самолет.

Я не совсем понимаю, что значит "обрабатываемового двигателем". Двигатели бывают разные.
Но на вскидку - у двигателя должен быть воздухозаборник, у него есть площадь поперечного сечения (пропеллер, можно считать, "забирает" воздух всей площадью, покрываемой лопастями) . Самолет летит со какой-то скоростью, воздухозаборник этой самой поперечной площадью "рисует" цилиндр - вот и объем. Множим на плотность воздуха - и есть масса.