как найти угол между векторами?

Угол между векторами, заданными своими координатами, находится по стандартному алгоритму. Сначала нужно найти скалярное произведение векторов a и b: (a, b) = x1x2 + y1y2 + z1z2. Подставляем сюда координаты данных векторов и считаем:
(a,b) = 8*5 + 10*(-20) = 4*(-10) = 40 - 200 - 40 = -200.
Далее определяем длины каждого из векторов. Длина или модуль вектора - это корень квадратный из суммы квадратов его координат:
|a| = корень из (x1^2 + y1^2 + z1^2) = корень из (8^2 + 10^2 + 4^2) = корень из (64 + 100 + 16) = корень из 180 = 6 корней из 5
|b| = корень из (x2^2 + y2^2 + z2^2) = корень из (5^2 + (-20)^2 + (-10)^2) = корень из (25 + 400 + 100) = корень из 525 = 5 корней из 21.
Перемножаем эти длины. Получаем 30 корней из 105.
И наконец, делим скалярное произведение векторов на произведение длин этих векторов. Получаем, -200/(30 корней из 105) или
- (4 корня из 105) / 63. Это - косинус угла между векторами. А сам угол равен арккосинусу из этого числа
ф = arccos(-4 корня из 105) / 63.
Если я всё правильно посчитал.