Помогите решить задачу

Кратко: 5.
Подробно: все три точки плоскости имеют одинаковую Z-координату, это означает, что плоскость параллельна горизонтальной плоскости и расположена на высоте Z=1. А ваша точка расположена на высоте Z=6, поэтому просто отнимаем 6-1 и получаем 5.
Это вам просто повезло, что координаты такие удобные. Обычно для задач такого рода надо много математических вычислений.

Вам уже показали, что делать, если вам "повезло" с удобными координатами. Давайте теперь предоложим, что вам не повезло с коордиатами)
У вас есть три точки плоскости: A, B, C. Можем получить два вектора, лежащих в этой плоскости:
AB = {1; 2; 0}
AC = {2; 1; 0}
Получим нормаль к плоскости:
n = [AB x BC] = {0, 0, -3}
Нам важно только направление, и не важна величина нормали, поэтому перепишем ее так:
n = {0, 0, 1}
Уравнение плоскости имеет вид:
n_x x + n_y y + n_z z + F = 0
Если взять нашу нормаль, получим:
z + F = 0
Возьмем любую из точек плоскости (например, C) и потребуем, чтобы она удовлетворяла уравнению:
1 + F = 0
Получаем значение F:
F = -1
И уравнение плоскости:
z - 1 = 0
Теперь садимся в точку D. И начинаем двигаться из нее вдоль нормали к плоскости:
r = 0D + n s = {-3; -7; 6} + {0; 0; 1} s = {-3; -7; 6+s}
При s = 0 мы будем в точке D, при других s мы окажемся сдвиинуты от D на расстояние |s| вдоль n. Найдем такое s, чтобы попасть на плоскость. Подставим эти коордиинаты в уравнение плоскости:
(6+s) - 1 = 0
Выразим от сюда s:
s = -5
Усе. Выяснили, что нужно сместиться на 5, чтобы из точки D попасть на плоскость.