Как взять производную от этого уравнения (x *exp(-x)) * ( A cos2x + B sin 2x ) ?

Енто не уравнение, а хвункция. И производная от неё вычисляется точно также, как и от любой другой:
y'= - exp(-x)*(x*(A cos2x + B sin 2x) +exp(-x)*
(A cos2x + B sin 2x +2x*(-Asin2x+Bcos2x)).
Упрости сама.