Что значит решить квадратное уравнение относительно числа ?

это тебя смутило моё решение твоей системы?

если x2*y2+2xy+4=0

если решаем относительно x, то условно считаем что y известно и решаем в общем виде
тоже самое для если решение относительно y

возможен вариант y4+2y2+4=0

решать относительно y2 означает сделать замену переменной a=y2, а затем решить обычное квадратное уравнение

a2+2a+4=0

и корни a1 a2 имеют вид y2=a1 y2=a2