найдите все простые p и q такие что p^3 - q^2 = (p q)^2

А в скобках что, произведение или сумма? Знак пропущен.
Пусть будет сумма
p^3 = q^2 + (p + q)^2 = p^2 + 2pq + 2q^2
p^3 - p^2 = p^2*(p-1) = 2q*(p+q)
p и q - простые, поэтому p+q - четное, а 2q*(p+q) делится на 4.
Поскольку p^2 - очевидно, нечетное, то p-1 делится на 4.
p = 4k + 1 = 5, 13, 17, 29, ..

1) p = 5
p^2*(p-1) = 5^2*4 = 100 = 2q(5 + q)
q^2 + 5q - 50 = 0
D= 25 + 4*50 = 225 = 15^2
q = (-5 + 15)/2 = 5
p = q = 5 - подходит
2) p = 13
p^2*(p-1) = 169*12 = 2q*(13+q)
q^2 + 13q - 169*6 = 0
q^2 + 13q - 1014 = 0
D= 169 + 4*1014 = 4225 = 65^2
q = (-13 + 65)/2 = 26 - не простое, не подходит
3) p = 17
p^2*(p-1) = 289*16 = 2q*(17+q)
q^2 + 17q - 289*8 = q^2 + 17q - 2312 = 0
D= 289 + 4*2312 = 9537 - это не квадрат целого числа. Не подходит.
4) p = 29
p^2*(p-1) = 841*28 = 2q*(29+q)
q^2 + 29q - 841*14 = q^2 + 29q - 11774 = 0
D= 841 + 4*11774 = 47937 - это не квадрат целого числа. Не подходит.

Такое впечатление, что кроме p = q = 5 решений нет.

Нашел.