раздел математики изучающий пространственные отношения и формы

Геометрия наверное?

Конкретно по поставленному вопросу, так: Геометрия - раздел математики, изучающий пространственные отношения и формы.
Если говорить о стереометрии, стереометрия - это раздел геометрии, в котором изучаются фигуры в пространстве.
Так что геометрия.