Геометрия. Центр масс неправильной фигуры в многомерном пространстве

R = int ( ro(r ) *r dV)/ int ( ro(r ) dV)
R,r - вектора

у вас какая-то каша. есть как минимум пять разные задачи:
1. центр масс точек
2 центр масс плоской фигуры, ограниченной контуром
3 центр масс 3-мерного тела, заданного треугольниками
4 точка, находящаяся внутри тела/фигуры и максимально удаленная от самой близкой к ней вершины
5 равноудаленная от всех точек (не координат!) фигуры, ну это - есть только для сферы или окружности.

первые две - легко, дальше - труднее, 5-я как-то вообще не имеет смысла

Прочел коммент.
Найти точку, равноудаленную от заданных вершин:

Если вершин конечное множество, то задача сводится к системе линейных уравнений (СЛУ). Имеет ли СЛУ решение и единственное ли оно - зависит от вершин.
Скобками обозначаю скалярное произведение, буквами a и x буду обозначать векторы.

Делаем так: ГМТ точек x, равноудаленных от двух точек a1 и a2 на плоскости - это прямая. Уравение прямой: (x-(a1 + a2)/2, a1 - a2) = 0.
В трехмерном пространстве: ГМТ точек x, равноудаленных от двух точек a1 и a2 в пространстве - это плоскость. Уравнение плоскости: (x - (a1 + a2)/2, a1 - a2) = 0
...
В n-мерном пространстве: ГМТ точек x, равноудаленных от двух точек a1 и a2 - это гиперплоскость. Уравнение гиперплоскости: (x - (a1 + a2)/2, a1 - a2) = 0

То есть для каждой пары вершин имеем линейное уравнение. Вот и решайте систему линейных уравнений. Все пары точек перебирать не стоит, но нужно каждую точку учесть в какой-то паре, и граф пар должен быть связным.

Т. е., например, если заданы точки a1...ak, то берем отсюда любую точку с координатами попроще и суем ее в пары ко всем остальным точкам.