исследовать на выпуклость 1) f(x)=x^3-3x^2-18x+7 2)f(x)=x^4-2x^2 3)f(x)=1/(x-5)^2

Найдем вторые производные, приравняем их к 0
1) 6х-6=0
х=1
выпуклость вверх (- бесконечность; 1) выпуклость вниз (1; + бесконечность)
2) 12х^2-4=0
х= +- корень из (1/3)
выпуклость вверх ( - корень из (1/3); +корень из (1/3)) выпуклость вниз (- бесконечность; - корень из (1/3)) и (+корень из (1/3); + бесконечность)
3)6/(х-5)^4=0, корней нет
выпуклость вниз (- бесконечность; + бесконечность)