Как доказать, что не существует выпуклой ограниченной функции определенной на всей прямой и отличной от константы?

Если f''(x) < 0, то f'(x) < C, и тогда f(x) < Cx+D.
Если функция не постоянна, то С =/= 0, и предел на бесконечности бесконечный.

Вообще-то утверждение, что если f(x) < g(x), то F(x) < G(x), использовавшееся в предыдущем ответе, выглядит несколько подозрительно. Действительно, пусть f(x) = 1/x, g(x) = 1/x^2. Тогда F(x) = ln x, G(x) = -1/x, и, например, при x=0.5 получим: f(0.5) = 2 < g(0.5) = 4, в то время как F(0.5) = -ln(2) > G(0.5) = -2.

Наверно, лучше поступить примерно так. Пусть выпуклая функция f ограничена сверху константой: f(x) < C. Если эта функция отлична от константы, то существует точка x0, в коротой её производная не равна 0. В этой точке уравнение касательной имеет вид: g(x) = f(x0) + f'(x0)(x-x0). Если найти точку пересечения этой прямой с прямой y=C, то она имеет вид: x1 = [C - f(x0)] / f'(x0) + x0. В этой точке функция f(x1) >= C, так как график выпуклой функции лежит не ниже касательной, проведённой в любой точке выпуклости. Получили противоречие.