Не могу понять, как получили эту формулу...
А (2,1), В (1,-2), С (-1,0)
Объясните, кто знает)

Ax + By - это скалярное произведение вектора (A, B) на вектор (x, y), перпендикулярность означает равенство скалярного произведения нулю.
А если рассмотрите вектор (х - x0, y - y0) и помножите его скалярно на (A, B), то сможете выразить C в уравнении прямой через x0, y0, A, B. Пробуйте и думайте дальше.
У Вас в условии A, B и C - это вообще не числа, а точки/векторы, к буквам A, B и С в уравнении прямой они отношения не имеют. Я бы Вам советовал одни и те же буквы для обозначения разных сущностей не использовать.
Еще и вершина какая-то тоже буквой С обозначена. Разгребите бардак в обозначениях, что ли.
Я так понимаю, что 9) - это условие задания, а точки А (2,1), В (1,-2), С (-1,0) - это варианты ответа на него.
Форма уравнения прямой - "по точке и направляющему вектору". Т. е. уравнение задано. Тогда (-1; 0) - координаты точки. Т. е. ответ - точка С.
Хо и Уо-это координаты точки Мо
x0 и y0 - это координаты точки М0. Через точку М0 проходит прямая, перпендикулярная прямой Ax+By+C=0, согласно этой формуле.
X0 и Y0 - это координаты точки М0. Формула - одно из уравнений прямой, в данном случае уравнение прямой, которая проходит через точку.