От первой строки в матрице отнимаем вторую и восстанавливаем её...Что значит восстанавливаем?

Вероятно, что вторую строку вы предварительно домножали на какой-нибудь коэффициент, после вычитания вы должны записать строку БЕЗ домноженного коэффициента.