исследование функции на непрерывность

Как раз таки оба односторонних предела не равны нулю и вообще они не равны между собой. Точка х = -1 действительно будет точкой разрыва.
Преподаватель хотел, чтобы вы раскрыли знак модуля - то есть рассмотрели два случая: как будет выглядеть функция, если х > -1 и как, если х < -1.
Если х > -1, то под знаком модуля всегда будет получаться положительное число, и дробь [х+1] / (х+1) сократится, дав единицу. Тогда функция будет подчиняться уравнению у = х^2 -2. Правый предел отсюда равен -1.
Если х < -1, то под модулем будет получаться число, противоположное по знаку знаменателю той дроби, и при сокращении от дроби останется -1 . Тогда функция примет вид у = х^2. Левый предел отсюда равен +1.

Ну уж наверняка там СКОБКА, иначе задача не интересна.

у=x^2-|x+1|/(x+1) - 1.

Выражение |x+1|/(x+1) равно 1 при х > -1, и равно -1 при x < -1.
Значит, НЕУСТРАНИМЫЙ разрыв 1-го рода (скачок) .

Модуль раскрывается. Одна функция получается если х - отрицательное (х=-х) , а другая, если х - положительное. В обоих случаях знак модуля исчезает, и функцию переписывают с теми знаками, которые приобретает Х. Дальше см. решение уравнений с модулями

Во-первых, есть еще точка х=0, где функция не определена.

В кусочном виде:
у=х^2 - 3 - 1/х, х € [-1;0) и (0;∞)
у=х^2 - 1 + 1/х, х € (-∞;-1)