Как наиболее эффективно определить ориентацию прямого угла по трем точкам?

Три точки, задающие угол, образуют два вектора исходящих из одной точки - вершины угла.

Через скалярное произведение векторов получаем косинус угла. Если угол прямой, его косинус равен 0 и скалярное произведение тоже равно нулю.

Через косое (псевдоскалярное) произведение векторов получаем синус угла. Знак косого произведения даёт взаимную ориентацию векторов (и, соответственно, точек).

Пусть векторы
v = (v1, v2)
u = (u1, u2)

При v1u2 - u1v2 > 0 упорялоченная пара векторов (v, u) имеет ту же ориентацию, что и базис. Т.е. если ты эти векторы нормируешь и начнешь вращать вектор v так, чтоб получить вектор u, то для школьной декартовой системе координат кратчайшим поворотом окажется поворот против часовой стрелки, а в компьютере, где ось Oy часто перевернута, - по часовой.
Подробнее см. https://ru.wikipedia.org/wiki/Псевдоскалярное_произведение , можно рассматривать эту фигню как упрощение векторного произведения, не требующее залезания в трехмерное пространство.

Это если тебе ориентация нужна! А проверить угол на прямоту лучше через обычное скалярное произведение, можно даже квадрат скалярного произведения поделить на произведение квадратов модулей векторов, чтоб корни не извлекать и устойчивым к большим модулям векторов быть.
Близкие к прямым углы дадут близкое к нулю значение.

по мне проще можно сделать - сравнить координаты Х, У точек вершины и двух остальных. Нужен алгоритм?

Наиболее эффективный способ определить ориентацию прямого угла по трем точкам - это использовать метод, основанный на определении направления вращения прямой линии.

Допустим, что точка V является вершиной прямого угла, а точки A и B лежат на сторонах угла. Пусть u и v - векторы, исходящие из точки V в точки A и B соответственно. Вектор u−v указывает направление вращения прямой линии AB.

Чтобы определить ориентацию прямого угла, необходимо сравнить направление вращения прямой линии AB с направлением вращения стрелки часов. Если направление вращения прямой линии совпадает с направлением вращения стрелки часов, то угол является нижним левым. Если направление вращения прямой линии противоположно направлению вращения стрелки часов, то угол является нижним правым. Если направление вращения прямой линии совпадает с направлением вращения стрелки часов, но точка V находится ниже линии AB, то угол является верхним левым. Если направление вращения прямой линии противоположно направлению вращения стрелки часов, но точка V находится выше линии AB, то угол является верхним правым.

Алгоритм определения ориентации прямого угла по трем точкам:

Вычислить векторы u и v.
Вычислить вектор u−v.
Сравнить направление вращения вектора u−v с направлением вращения стрелки часов.
Определить ориентацию угла в соответствии с результатами сравнения.
Пример:

 def orientation(a, b, v): 

  """ 

  Определяет ориентацию прямого угла по трем точкам. 

 

  Args: 

    a: Координаты точки A. 

    b: Координаты точки B. 

    v: Координаты точки V. 

 

  Returns: 

    Ориентация прямого угла. 

  """ 

 

  u = np.array(a) - np.array(v) 

  v = np.array(b) - np.array(v) 

 

  if np.cross(u, v) > 0: 

    return "нижний левый" 

  elif np.cross(u, v) < 0: 

    return "нижний правый" 

  elif u[1] < 0: 

    return "верхний левый" 

  else: 

    return "верхний правый" 

 

a = [0, 0] 

b = [1, 0] 

v = [0.5, 0] 

 

print(orientation(a, b, v)) 

Вывод:

 нижний левый 

Этот алгоритм эффективен, поскольку он использует только элементарные операции над векторами. Его время выполнения составляет O(1).

 \mathbf{c} = \mathbf{a} \times \mathbf{b} = 

\begin{pmatrix} 

a_x \\ 

a_y \\ 

a_z 

\end{pmatrix} \times 

\begin{pmatrix} 

b_x \\ 

b_y \\ 

b_z 

\end{pmatrix} = 

\begin{pmatrix} 

a_y \cdot b_z - a_z \cdot b_y \\ 

a_z \cdot b_x - a_x \cdot b_z \\ 

a_x \cdot b_y - a_y \cdot b_x 

\end{pmatrix} 

 // Определяем два вектора 

std::vector a = {1, 2, 3}; 

std::vector b = {4, 5, 6}; 

 

// Вычисляем векторное произведение 

std::vector c = cross(a, b); 

 

// Выводим компоненты вектора 

cout							

 x: -3 

y: 6 

z: -2 

 S = 0.5 |(a \times b)| 

 // Определяем два вектора 

std::vector a = {1, 2, 3}; 

std::vector b = {4, 5, 6}; 

 

// Вычисляем площадь треугольника 

float S = 0.5 * abs(cross(a, b)); 

 

// Выводим площадь треугольника 

cout							

 Площадь треугольника: 9