Дело вот в чём: при выводе формулы Ньютона не надо умножать
слева на обратную матрицу, а надо просто решить приближенную
линейную систему, скажем, методом Гаусса.
А именно: дана нелинейная система f(x)=0, где х - искомый
вектор-столбец, f(x) - заданная вектор-функция.
Выбираем х0 - начальное приближение, и пишем формулу Лагранжа:
f(x)=f(x0)+f'(x0)(x-x0).
Отсюда получаем приближенную линейную систему:
f '(x0)(x-x0)=-f(x0). (***)
Здесь х - неизвестный вектор-столбец, - квадратная матрица
(Якоби) из частных производных элементов вектора f(x) по
элементам вектора x.
Алгоритм: выбираем начальное приближение х0, вычисляем
вектор-функцию f(x) и её производную в этой точке, пишем
и решаем систему (***).
Полученный вектор х - это 1-е приближение, назовем его х1.
Затем повторяем процедуру, начиная с х1, и так далее.
При удачном выборе х0 достаточно 2-3 шагов.