При каком значении пораменра Y ранг матрицы равен 3?

последнюю строку пока не трогаем.
сначала пытаемся выяснить, есть ли среди оставшихся строк линейно зависимые.
если окажется, что есть, то нужно будет вычеркнуть одну такую строку.
останется матрица 3x3.
считаешь ее определитель и приравниваешь его к нулю.
отсюда найдешь, при каком y этот определитель равен нулю.
и если линейно зависимых строк ровно одна штука, то ранг матрицы равен 3 только при y, который не обращает в нуль матрицу 3x3.

упс.
y не равняется -1