А в чем проблема?
1. Заменим 1/х=А, 1/у=В, получим новую систему двух уравнений:
А+В=5
A^2+B^2=13
Из первого уравнения А=5-В и подставим это значение А во второе, получим
(5-В) ^2+В^2=13, раскроем скобки и перенесем все в левую часть, получим
25-10В+B^2+B^2-13=0
2B^2-10B+12=0
Решаем полученное квадратное уравнение (сам решишь) и находим его корни, они равны:
В1=3, В2=2 Подставляем эти значения В в первое уравнение и получаем А1=2 А2=3
Подставляя значения А и В в уравнения замены получим две пары корней
х1=0,5 у1=1/3
х2=1/3 у2=0,5
1/х=а 1/у=b тогда
а+b=5
a^2+b^2=13
выражаем а, подставляем во второе, получаем квадратное уравнение, и тогда а и b равны 2 и 3, обратно заменяем 1/х=2 1/у=3 ---> x=1/2 y=1/3 (или наоборот)
a+b=5
a^2+b^2=13
из первого уравнения выражаем любую переменную, подставляем во второе, решаем полученное квадратное уравнение и т. д.