как решить? tgxsin^2ydx+ctgycos^2xdy=0

Раздели переменные:
tgxdx/cos^2x+ctgydy/sin^2y=0 =>
tgxdtgx - ctgydctgy=0 => tg^2x - ctg^2y=C - общий интеграл.

Так.
tgx•sin²ydx+ctgy•cos²xdy=0
ctgy•cos²xdy=-tgx•sin²ydx
ctgydy/sin²y=-tgxdx/cos²x
-∫ctgyd(ctgy)=-∫tgxd(tgx)
ctg²y/2=tg²x/2+C
ctgy=±2√(tg²x/2+C)
y=arcctg(±2√(tg²x/2+C))