ОД Ольга Дмитриева если имеется ввиду f(x) = x^2*cos(1-x), тогда f'(x)= 2*x*cos(1-x)+x^2*(-sin(1-x))*(-1). Сначала считаешь как производную произведения, а во втором слагаемом еще производная сложной функции.