Докажите, что выпуклый многоугольник с n сторонами имеет ( n(n-3))/2 диагоналей. ...

Подсчитаем число пар вершин, оно равно числу
сочетаний из n по 2, а именно, С=n(n-1)/2.

Вычитаем число сторон n, тогда будет C-n, то есть:

n(n-1)/2-n=n(n-3)/2