каким образом можно решить уравнение 11x+13y=4xy в целых числах?

Например, так:

4xy − 11x − 13y = 0,
x(4y − 11) − ¹³⁄₄(4y − 11) − ¹⁴³⁄₄ = 0,
(x − ¹³⁄₄)(4y − 11) = ¹⁴³⁄₄,
(4x − 13)(4y − 11) = 143.

Числа 4x − 13 и 4y − 11 целые. Число 143 представляется в виде произведения двух целых чисел только следующими способами:

1·143, 11·13, 13·11, 143·1, (−1)·(−143), (−11)·(−13), (−13)·(−11), (−143)·(−1).

Получается восемь случаев:

1) 4x − 13 = 1, 4y − 11 = 143 — решение не целое;
2) 4x − 13 = 11, 4y − 11 = 13 ⇔ (x; y) = (6; 6);
3) 4x − 13 = 13, 4y − 11 = 11 — решение не целое;
4) 4x − 13 = 143, 4y − 11 = 1 ⇔ (x; y) = (39; 3);
5) 4x − 13 = −1, 4y − 11 = −143 ⇔ (x; y) = (3; −33);
6) 4x − 13 = −11, 4y − 11 = −13 — решение не целое;
7) 4x − 13 = −13, 4y − 11 = −11 ⇔ (x; y) = (0; 0);
8) 4x − 13 = −143, 4y − 11 = −1 — решение не целое.

Один из способов. Прими х=у и решай.
х=у=6
144=144.
Зачем снимаешь вопросы?