В математике есть исключения из правил как в русском языке?

Нет в математике исключений!!!
Есть границы теории. При одних значениях справедлива одна теория, при других - другая теория и выполняются другие соотношения.

В математике нет никаких исключений, так как по идеологии этой науки все исключения должны быть строгими правилами.

Например, нельзя делить на ноль, это исключение или правило?

С обычной точки зрения кажется, что запрет деления на ноль, это исключение из правил деления вещественных чисел друг на друга. Но с точки зрения теории групп, линейной алгебры и теории поличисел, этот запрет является естественным правилом. Хотя экстраполирование этого правила на вещественные числа и выглядит как какое-то исключение.

Есть области допустимых значений, которые являются эквивалентом исключений в языках.

Но специалисты возразят, что мир - это гармоничная система, в которой не может быть исключений в принципе. И действительно, чем глубже мы познаём предмет, тем меньше остаётся непонятных вещей, которые мы досадливо назовём исключениями.

В языках, чем больше мы познаём их историю, географию, анатомию, тем больше исключений превращается для нас в правила. Но правила с синусами и интегралами, недоступными для понимания простым людям

Это общий принцип науки. Если слабо развитая наука состоит из множества догм (постулатов), то по мере развития они постепенно превращаются в выводимые теоремы, оставляя постулатам две-три базовые позиции, да и то - не навсегда.

Да. Например Е в степени икс.

Да. Много их.

Да