Линейная алгебра: объясните, как понять этот пример.

Не понял причем тут модули. Совершенно обычные уравнения.
x + y + z = 0
2x - 3y + 4z = 0
4x - 11y + 10z = 0
Умножаем 1-ое ур-ние на -2 и складываем со 2-ым:
-5y + 2z = 0
Умножаем 1-ое ур-ние на -4 и складываем с 3-им:
-15y + 6z = 0
Получаем систему:
x + y + z = 0
-5y + 2z = 0
-15y + 6z = 0
Второе и третье уравнения равнозначны, значит система неопределенная, решений бесконечно много.
Получаем:
x + y + z = 0
-5y + 2z = 0

y = y
z = 5y / 2
x + y + 5y / 2 = 0
x = - 7y /2
Можно выразить по-другому, через х:
x = x
y = - 2x / 7,
z = 5*(- 2x / 7) / 2 = -5x / 7

Теперь можно подставить любое х, которое делится на 7, например -21 или 56, и получить y и z:
x = -21, y = 6, z = 15
x = 56, y = -16, z = -40

для решения таких систем.. . существуют несколько методов. самые известные и легкие это
метод гаусса
метод крамера
метод обратной матрицы