Какова должна быть высота конуса, вписанного в шар радиуса R, чтобы его боковая поверхность была наибольшей?

Можно так

S = πrL

{ r² = h(2R - h)
{ L² = h² + r² = 2Rh

f(h) = S²(h) = (πrL)² = k (2Rh² - h³)
f'(h) = k (4Rh - 3h²) = 0

h(max) = 4R/3

надо сначала формулу найти площади боковой поверхности фписанова конуса в зависимости от радиуса шара и высоты, а потом взять производную по высоте, и посмотреть где она обращается в ноль - там обычно функция достигает максимума или минимума. . ну минимум у вас будет при аш равном эр, а вот максимум где-т посередине.. . хорошая приятная задачка.. . ))

Представьте всевозможные конусы, вписанные в шар. Теперь представьте крайние случаи:
1) конус со всё уменьшающейся до нуля высотой;
2) конус, с высотой увеличивающейся до диаметра шара.
Очевидно, в первом случае произойдёт вырождение конуса в точку, лежащую на поверхности шара, а во втором - в отрезок, который является диаметром шара.
И в первом и во втором случае объём конуса равен нулю.
Теперь рассмотрите связь высоты вписанного конуса и площади боковой поверхности.
При монотонном росте высоты от нуля растёт и площадь боковой поверхности засчёт роста площади основания, затем, когда значение высоты становится больше радиуса шара начинается уменьшение площади основания конуса, но рост площади боковой поверхности продолжается за счёт роста высоты. Однако, наступает момент, когда площадь боковой поверхности конуса достигает максимального значения и начинает уменьшатся, в силу быстрого уменьшения площади основания.
Поэтому в задаче будет лишь один максимум.
Теперь выразите площадь боковой поверхности вписанного конуса через его высоту и найдите максимум этой функции.

Высота конуса: h
Радиус его основания: E=R2-(R-h)2
Боковая образующая: L=h2+E2
Площадь боковой поверхности: S=Π⋅E⋅L

S = П * R_осн * L
R_осн^2 + (L - R)^2 = R^2 => R_осн = sqrt(R^2 - (L - R)^2) = sqrt(R^2 - L^2 + 2 * L * R - R^2) = sqrt(2 * L * R - L^2)
S = П * L * (sqrt(2 * L * R - L^2)) = П * (sqrt(2 * L^3 * R - L^4))
dS/dL = П * (1/(2*sqrt(2 * R * L^3 - L^4)) * (6 * L^2 * R + 4 * L^3)) = 0
На корень забьем, потом проверим, >0 ли. Дробь = 0, когда числитель = 0.
6 * L^2 * R + 4 * L^3 = 0 => L_1 = 0, L_2 = 0, L_3 = (3*R)/2.
2 * R * L^3 - L^4 = R^4 * 27/4 - R^4 * 81/16 = R^4 * (108 - 81)/16 = R^4 * 27/16 - всегда>0.
Ответ. L = (3/2) * R