1. В общем уравнении прямой:
Ax + By + C = 0
коэффициенты А и В - это координаты вектора, ортогонального данной прямой.
2. Если у нас есть 2 прямых 2x-13y+1=0 и x+y-5=0 для которых существуют ортогональные им векторы N1(2, -13) и N2(1, 1), то угол между прямыми равен углу между их ортогональными векторами. Это правильно только для прямых на плоскости. Для прямых в пространстве угол между ортогональными векторами может отличаться от угла между прямыми.
3. Угол между двумя векторами можно найти, используя свойство скалярного произведения векторов. С одной стороны скалярное произведение векторов А (а1, а2) и В (b1, b2) равно:
(A,B) = |A|*|B|*cos(A^B)
С другой стороны, используя координаты векторов получим:
(A,B) = a1*b1 + a2*b2
Т. е.
a1*b1 + a2*b2 = |A|*|B|*cos(A^B)
откуда
(a1*b1 + a2*b2)/ |A|*|B| = cos(A^B)
Так что вычисляете модули векторов, делите величину скалярного произведения на произведение модулей и получаете величину косинуса угла между векторами. Ну а зная косинус легко определить и сам угол (с помощью калькулятора, таблиц Брадиса, приближенными вычислениями) .
Успехов!