Оператор линейный:
фи (А*у1+В*у2)=(x^2*(A*y1(x)+B*y2(x)))''=
=A*(x^2*y1(x))''+B*(x^2*y2(x))''=А*фи (у1)+В*фи (у2).
Пространство 4-мерное, так как 4 вектора в базисе.
Матрица М оператора имеет размер 4*4 и находится так:
1) фи (е1)=(x^2*1)''=2=2*e1(x)=2*e1+0*e2+0*e3+0*e4,
m11=1, m12=0, m13=0, m14=0.
2) фи (е2)=(x^2*x)''=6x=6*e2(x)=0*e1+6*e2+0*e3+0*e4,
m11=0, m12=6, m13=0, m14=0.
3) фи (е3)=(x^2*x^2)''=12x^2=12*e3(x)=0*e1+0*e2+12*e3+0*e4,
m11=0, m12=0, m13=12, m14=0.
4) фи (е4)=(x^2*x^3)''=20x^3=20*e4(x)=0*e1+0*e2+0*e3+20*e4,
m11=0, m12=0, m13=0, m14=20.
Получилась диагональная матрица с числами
2, 6, 12, 20 на главной диагонали.