то, как вы ЭТО написали, в математическом языке соответствует вот такой записи.

Будьте добры переписать, группируя скобками что и где находится.
Если же у вас вот такое

то оно записывается как (x^2 + x - 12) / (Sqrt(x-2) - Sqrt(4-x))
ну и насчет корня из отрицательного числа вам уже сказали
>> ок (x^2 + x - 12 ) / (Sqrt(x-2) - Sqrt(4-x))
в выражении не ошиблись? так как этот предел будет равен 4 + 2 * i * √2, то есть комплексному числу. об это вам и сказали, что при x = 0 получаете √-2
заменяете x на 0, получаете
- 12 / (√-2 - √4) = - 12 / (i * √2 - 2)
что есть -12 * (-2 - i * √2) / (2 + 4) = 4 + 2 * i * √2
ну и там еще вариации со знаками, так как √4 = ±2 и √-2 = ± i * √2