Можно ли округлять моли? И если можно, то до каких знаков после запятой будет лучше?

Исходя из правил округления. Вас их учили на математике. Ты их, как и подавляющее большинство остальных ученичков, прошла "мимо".

В математике (в школе) учили лишь как округлять. А вот доколе округлять, скорее всего не учили. Величина округления зависит от самой большой погрешности исходных данных.

исходя из условий задачи и требуемой точности. чем больше знаков после запятой тем выше точность

Моли надо травить, они свитера жрут

Округлять можно любое число.
Вопрос только в том, что это даст.
Если тебе дано 3 л водорода, то это значит, что перед этим кто-то измерил его объём и округлил до 3 л, а на деле, может, его всего 2,7 л, а может, его измерили супер-пупер точной лазерной рулеткой и объём 3 л ± 1 мл.
Поэтому нормальные люди всегда указывают количество верных цифр в данных, даже если это нули (3 в первом случае и 3,000 во втором).
И округлять нужно до стольких же знаков по самому неточному значению (до единиц в первом случае и до тысячных во втором).
Меньше - теряется точность, больше - не прибавляется.

Смотря для чего вы будете использовать в дальнейшем полученный результат. В примере вы используете молярный объём для простых расчетов, уже округлённый, до третьей значащей цифры. Логично и ваши расчёты округлят подобно.
Но для ответственных расчётов, например объёма компонента топлива в баке ступени РН, не рекомендую вообще округлять. Набегает ошибка при округлении до 5 значащей цифры до 5%!!!!