Найти наименьшее целое значение параметра a, при котором уравнение sqrt(2xy-a)=x+y+3 не имеет решений.

Уравнение эквивалентно следующей системе (возвожу обе части в квадрат и взаимно уничтожаю 2xy):
x + y + 3 >= 0 И
-a = x^2 + y^2 + 6x + 6y + 9
<=>
x + y + 3 >= 0 И
(x + 3)^2 + (y + 3)^2 = 9 - a

Нер-во в этой системе задает полуплоскость, уравнение - окружность.
Т.к. расстояние от центра окружности (-3, -3) до полуплоскости x + y + 3 >= 0 равно 3/(sqrt(2), то искомое a - наименьшее целое : 3/(sqrt(2)) > sqrt(9 -a)
Возводя обе части этого нер-ва в квадрат, получаем 9/2 > 9 - a, т.е. искомое наименьшее целое a = 5.

PS. Вот тебе рисуночек в помощь, для решения он, вообще говоря, не нужен, а для лучшего понимания пригодится. Ползунок с a можешь пошевелить, а тыками по кружочкам слева в списке можешь сделать объекты невидимыми или видимыми.
https://www.desmos.com/calculator/xuqnx7rmla

Ответ

Ну смотрите, при а⩽0 решение {x=-3+√(-a), y=0} есть всегда. Значит a>0
Если при каких то a>0 решения и существуют, то должно быть xy>0, т.е. "x"и "y" одного знака.
Если x,y>0, то √(2xy-a)<√(2xy)<2√(xy)⩽(x+y)<x+y+3
Если x,y<0, то имеем √(2|x|·|y|-a)+|x|+|y|=3
√(2|x|·|y|-a)+|x|+|y|⩾√(2|x|·|y|-a)+2√(|x|·|y|)=√(2t-a)+2√t, t⩾a/2
Последняя - возрастающая функция, как сумма двух аналогичных, посему имеет минимум при t=a/2 (x=y=-√(a/2)), равный 2√(a/2)
Если этот минимум меньше либо равен 3, то решения существуют, если больше, то нет .
Ну нам то надо, чтобы "нет", поэтому потребуем 2√(a/2)>3 откуда a>9/2
Поэтому наименьшее целое а=5