Помогите решить матрицу

Ранг матрицы - это наибольший из ее миноров, не равный нулю. В Вашем случае наибольшим может быть ранг, равный 4 - если определитель матрицы не равен 0.
Можно сразу попытаться вычислить определитель матрицы. Если он равен нулю - значит ранг меньше 4 и надо вычислять все миноры 3-го порядка этой матрицы. Если и они все равны 0 - то переходим к минорам второго порядка этой матрицы. В общем, до тех пор, пока какой-нибудь минор n-го порядка не окажется не равным 0. Тогда ранг матрицы будет равен n.
Это метод железный, но муторный. Лучше всего сразу попытаться найти строки в определителе матрицы, которые являются линейной комбинацией других строк. Если таковые найдутся - то определитель матрицы точно равен 0 и надо переходить к минорам 3-го порядка. И так далее.
Я предпочитаю делать так:
Во первых, просматриваем матрицу. Сразу видно, что минор:
-4 2
-6 -6
не равен 0. Так что ранг матрицы больше или равен 2.
Если при просмотре примера не нашлось явных линейных комбинаций какой-то строки ( т. е. какая-то строка не является суммой (разностью) других строк, умноженных на какой-либо коэффициент) , пытаемся разложить определитель матрицы по любой строке. Однако я предпочитаю сначала, с помощью элементарных преобразований, сделать в этой строке как можно больше нулей. К примеру, в Вашем случае, если к третьей строке прибавить первую, а затем вычесть из нее вторую, то в третьей строке останется:
0 2 0 5
Уже разлагать станет легче - остаются лишь два слагаемых в разложении. Кроме того эту строку можно использовать для того, чтобы сделать в первой второй и третьей строках все члены, стоящие во втором столбце равными 0. Это оставит, фактически, лишь одно слагаемое в разложении определителя по третьей строке. Там еще можно многое сделать, для облегчения вычисления определителя.
Вычисляете значение определителя, а затем, по обстановке. Если равен 0 - переходите к минорам 3-го ранга. И т. д.

определитель равен -24