Как определить на сколько фигур делится многоугольника когда проводишь на диагонали?

Зависит от многоугольника и что считать фигурами (например, два треугольника могут и четырехугольником считаться) . Если делить выпуклый многоугольник на треугольники диагоналями, исходящими из одной вершины, то на 2 меньше числа сторон.

и 1 монгольника

Если провести все диагонали в выпуклом многоугольнике, получается
максимум д * (д + 1) / 2 + 1 треугольников (д - колич диагоналей) .