какой раздел Математики изучает оптимизацию решения задач (мат задач в часности)?
Такой пример: имеем математическую задачу - поиска корня уравнения. Мы можим идти разными путями: 1) решать это уравнения аналитически - что давольно часто сложно: (использовать замены, подстановки, алгебраические преобразования) 2) использовать численные методы: часто простой путь, но так же зависит от выбранного метода и заданной точности.
То есть задача оптимизации, поиска оптимального решения того или иного уравнения нами решается интуитивно - зачастую это выработанный навык. Однако для програмного языка необходимо аналитическая формулировка, что такое оптимальное решение (например минимальное количество действий) и как определить его.