Вы это серьезно?
Для начала используем формулы приведения: sin(π/2+2x) = cos(2x) и sin(π + 2x) = -sin(2x).
Поэтому уравнение можно переписать так:
cos(2x)ctg(3x) -sin(2x) - √2* cos(5x)=0
ctg(3x) = cos(3x)/sin(3x), значит: (cos(2x)*cos(3x))/sin(3x) -sin(2x) - √2* cos(5x)=0
Разложим cos(2x)*cos(3x) по формуле и домножим уравнение на sin(3x):
1/2(cos(x)+cos(5x)) - sin(2x)*sin(3x) - √2* cos(5x)*sin(3x) = 0
Опять же, можно разложить по формуле sin(2x)*sin(3x), получится так:
1/2(cos(x)+cos(5x) - 1/2(cos(x) - cos(5x)) - √2* cos(5x)*sin(3x) = 0
Теперь, при раскрытии скобок 1/2cos(x) сократится:
cos(5x) - √2* cos(5x)*sin(3x) = 0
cos(5x)*(1 - √2*sin(3x)) = 0
Как видите, все стало очень просто:
совокупность из двух уравнений ⇒ cos(5x) = 0 и sin(3x) = 1/√2
Отсюда:
x = 1/5(π/2 + πk)
x = 1/3(π/4 + 2πk)
x = 1/3(3π/4 +2πk)
Ну и ответ: {π/10 + πk/5; π/12+2πk/3; π/4+πk/3}