Это общее уравнение эллипса. |АХ| + |ХВ|=2а
Но оно работает, когда |АХ| + |ХВ| > |АВ|
Когда |АХ| + |ХВ| = |АВ| оно вырождается в отрезок
Когда |АХ| + |ХВ| < |АВ| это пустое множество точек.
А (-1;-1); В (4;3).
|АХ| + |ХВ|=5, а |АВ|=√((4+1)^2+(3+1)^2)=√41
Поскольку 5=√25<√41 то |АХ| + |ХВ| < |АВ|, значит твоя фигура задает пустое множество точек.
Ну это как бы решение для действительной плоскости.
А вот как выглядит рисование эллипса, А и В это черные точки, Х это красная точка (обычно стержень карандаша, которым рисуют эллипс). Подвижная веревочка не есть частью эллипса, но ее длинна равна 2а, ее концы закрепляют в точках А и В, ее используют для построения эллипса, а потом ее убирают:

Чушь какая-то.
Наверняка в первом корне (x - 1) ?