решить систему 3у+х в квадрате=7 и х=у=1

Вт втором уравнении явно х+у, а не х=у.
Ну тогда из этого второго уравнения пишем у=1-х и подставляем это в первое. Получится простенькое квадратное уравнение относительно х.