как это решается? после иксов стоят не коэфиценты, а степени! х5 – х4 – 2х3 + 2х2 – 3х +3 = 0

Степени следует обозначать знаком ^ (на клавиатуре над цифрой 6).
х^5 – х^4 – 2х^3 + 2х^2 – 3х +3 =
x^4·(x-1) - 2x^2·(x-1) - 3·(x-1) =
(x-1)·(x^4-2x^2-3)
т. е. один корень равен 1, а чтобы найти остальные, решите биквадратное уравнение (заменой y=x^2)