посоветуйте с системмой уравнений пожалуйста

Зачем что-то доказывать? Можно просто решить. Например так:
x^4+y^4=(x^2+y^2)^2 - 2x^2*y^2=
((x+y)^2 - 2xy)^2 - 2x^2*y^2=(9 - 2xy)^2 - 2x^2*y^2=| z=xy |=(9-2z)^2-2z^2=
2z^2 - 36z + 81 =>
2z^2-36z+81=17. Надеюсь, что дальше всё понятно.