Один способ скажу, возможно тупой, но работает насколько я помню.
Ты знаешь координаты вершин на диагонали. Значит ты знаешь ещё и их середину. Значит ещё ты знаешь координаты вектора этой диагонали. И можешь построить перпендикуляр, который проходит через данную точку (в этом случае через серединную) . Тем самым ты имеешь уравнение этой перпендикуляры. Дальше дело техники. Берешь два уравнения. Первое что искомая точка должна принадлежать нашему перпендикуляру и второе что расстояние между этой точкой и серединной должно равно какому-то числу который ты уже знаешь.