как взять интеграл? f(x)=A*exp(-a*x^2)*4*pi*x^2, где A и a константы

Это ГАММА- ФУНКЦИЯ, причем вопрос вы некорректно задали, это определенный интеграл от нуля до бесконечности

В элементарных функциях он не берется.

Насчет этого посмотрите тут http://www.svarshik.kz/ru/typography-general-html-codes

там много ответов, главное не торопиться.