Как из (x^2-x)^2-x^3=5 получить: (x^2- 2 x -4) (x^2-x+1) = 0 ?

Так:
(x^2-x-1)^2-x^3=5,
(x^2-x-1)^2-4-x^3-1=0,
((x^2-x-1)^2-2^2)-(x^3+1)=0,
(x^2-x-1-2)*(x^2-x-1+2)-(x+1)*(x^2-x+1)=0,
(x^2-x-3)*(x^2-x+1)-(x+1)*(x^2-x+1)=0,
(x^2-x+1)*((x^2-x-3)-(x+1))=0,
(x^2-x+1)*(x^2-x-3-x-1)=0,
(x^2-x+1)*(x^2-2*x-4)=0,
(x^2-x+1)>0, так как (x^2-2*х*(1/2)+1/4+3/4)=(x-1/2)^2+3/4>0
Значит остается (x^2-2*x-4)=0,
х (1)=1+√(5), х (2)=1-√(5).