Как решить систему уравнений (n-1)(m-1)=a n(m-1)+m(n-1)=b?

Вы не просите решения - вы просите объяснить, КАК решать. Будь по-вашему, тем более, что решения нет в принципе. Его не существует, поскольку нет переменных. А для решения необходимы переменные. Лучше х, но на худой конец и у сойдёт. А a и b - постоянные числа, относительно их решать нельзя. То же относится к m и n. Если в этих уравнениях всё же считать a и b переменными, то опять выходит обманка - оба неизвестных должны содержаться в обоих уравнениях. То есть уравнения можно решать только относительно m и n. Но для этого необходимо специальное указание, т. к. такими буквами переменные не обозначают. Общее правило решения систем - число неизвестных должно быть равно числу независимых уравнений. То есть если мы умножим одно уравнение, скажем, на 3, то это нам ничего не даст - нового независимого уравнения мы не получим. Решение системы из двух уравнений с двумя неизвестными заключается в том, что мы решаем одно из уравнений относительно одного из неизвестных, а полученным значением подменяем это неизвестное в другом уравнении. Получаем одно уравнение с одним неизвестным. Вот с ним уже пластаемся до победы. Полученное значение неизвестного подставляем в первоначальные уравнения, и оттуда узнаём значение другого неизвестного.

Раскройте скобки и упростите выражение

(n-1)(m-1)= nm-m-m+1
n(m-1)+m(n-1) = nm-n + mn- m

что-то типо того. хотя такое вообще-то в 5 классе решают...