помогите решить матричное уравнение и сделать проверку

У вас уравнение вида X*A=B. Чтобы решить это уравнение, вам потребуется найти обратную матрицу к матрице А, т. е. A^{-1}. А затем, домножая обе части этого уравнения на A^{-1} справа, будем иметь:

X*A*A^{-1}=B*A^{-1};
X*E=B*A^{-1};
X=B*A^{-1}.

Чтобы найти A^{-1} рассмотрите пример №2 на этой странице:
http://math1.ru/education/matrix/inverse0.html