Простой, но не простой вопрос)))

При возведении степени в степень, показатели перемножаются, следовательно x^y^x^y....^x^y...=x^(yxyxyx...); y^x^y^x...^y^x... =y^(xyxyxy...)
Чтобы бесконечное произведение пар одинаковых чисел было бы меньше бесконечности и больше нуля, произведение этих чисел должно быть строго равно единице, т. е. xy=1. Но, если это произведение будет равно единице, то каждое возведение в ^x^y или ^y^x можно считать просто возведением в степень 1, т. е. каждая пара операций, сколько бы их ни было, возвращает нам x в первом случае и y - во втором, и в конечном итоге, если предел вообще существует, он будет равен x^1=A и y^1=B. С другой стороны, можно считать так: (...(x^y^x)^y^x)...)^y=x^1^y=A, т. е. можно считать предел для чётного количества операций, а можно для нечётного и эти пределы должны совпадать, если у этой последовательности операций вообще есть предел. Из этого следует, что x^1^y=x^1=А, отсюда следует, что y=1, симметрично можно получить, что x=1, а бесконечно возводя в степени единицы мы можем получить только единицы. Следовательно система верна только для A=B=1 и решением будет x=y=1.

Ладно, мои пять копеек.. .

Легко видеть, что эти уравнения симметричны. То есть второе (к примеру) можно представить как y^(x^y^x^...). То есть показатель степени для игрека из второго уравнения В ТОЧНОСТИ равен левой части первого - именно в силу бесконечности числа членов. А значит, и его правой части. То есть x^B = A. Аналогично получаем y^A = B. Что, согласитесь, резко упрощает систему и сводит её по существу к двум НЕЗАВИСИМЫМ уравнениям, корни которых x = A^(1/B), y = B^(1/A).

Ха, у Пупкина фактически такой же ответ. Тока щасс заметил :((

x^B = A
y^A = B

x = B√A
y = A√B

Вроде так.

Допустим, что выражение x^y^x^y....^x^y... определяет функцию F(x,y). Перво-наперво у функции определяют область определения, а потом уже можно пробовать искать решения каких-то уравнений.
1) На каком множестве определена функцию F(x,y)?
"Зеркало" правильно обратил внимание, что F(x,y) = x^П (y,x), где П (y,x) - бесконечное произведение исксов и игреков.
Вывод: либо x=0 или 1, либо произведение стремится к нулю. Последнее возможно только, если |y|<1/|x|.
2) Область определения функции удалось найти.
На координатной плоскости область определения "зажата" между осями координат и гиперболой у=1/x (сама гипербола исключена)
3) Область значений.
F(x, y) = 1, если x НЕ равен нулю, а y лежит в области определения
F(x, y) = 0, если x равен нулю.
4) Как решить уравнение F(x, y)=A и F(y, x)=B?
А и В должны находится в области значений. При этом, либо А=1, а B=0, либо наоборот.
"Решений" (х, у) при этом оказывается бесконечное множество.

А теперь правильный ответ =)
Система имеет решение если В=у и одновременно А=у, или В=х и одновременно А=х.

Имеется строгое доказательство этого факта, если очень надо, я перепишу на чистовик сфотаю и скину. Доказывается просто путем замены x^y=t и замены y^x=t и подстановки в исходное выражение. Таким образом видно каждая система зависит от двух переменных и двух параметров.