По какому принципу человек проводит математические операции?

Перебор не обязательно должен быть "тупой", даже в компьютерной программе. Используя дополнительную информацию - признаки делимости - можно иногда эффективно определить некоторые делители и сократить число.

Математические операции человек делает по алгоритмам, хотя при большой практике, мозг "автомтизирует" процесс, распознавая знакомые ситуации бессознательно. Либо запоминается готовый результат. Например, я знаю, что 64 - это 6 степень двойки, т. е. не нужно ничего считать.

Он это делает по тем алгоритмам, которым обучился в школе.

Человек ЗАРАНЕЕ знает ответ, потому-то он и быстрее всех компьютеров... Твой мозг ничего так и не вычислил, иначе бы ты ЗНАЛ ответ на этот вопрос...

Человеческий мозг у разных "человеков" будет решать по-разному. Пример с компьютером весьма показателен, потому, что компьютер будет решать задачу так, как заложил программист. Тупой, малограмотный, программист, заложит тупой перебор. Грамотный, будет следить за последними достижениями в теории чисел (и построении алгоритмов решения задачи "факторизации") и заложит очень эффектный и эффективный метод решения. То есть человек разделил задачу и распараллелил: есть люди, разрабатывающие алгоритмы, "теорию", и есть люди программно реализующие теоретические разработки. "Чистый", незамутнённый обработкой интеллектом других людей, человеческий мозг ни с какой задачей не справится. То есть и мозг можно сравнить с компьютером, который программируется обществом.

это 90 просто - смотришь, последний ноль, значит, можно поделить на 10=2*5, потом сумма цифр кратна трем и т. п.
а вот попробуй без перебора разложить на простые множители число 4603019, например...

Механизм памяти вообще интересная вещь. Запоминать мы можем суть которая приходит только через осознание (понимание) некоторого процесса. Не зря же говорят, что "что понятно то просто, что не не понятно, то сложно". Однако мы можем не понимая процесса просто выучить слова, которые его описывают, что является грубым нарушением логического мышления и вообще образовательной системы. Зубрить - нет, понимать - да. Т. е. в приоритете запоминание по сути синоним понимания. Также надо помнить, что 80% всей информации о мироздании мы получаем через глаза, образы, в общем через графическую информацию. На слух приходится 10%, остальное на прочие чувства. Поэтому в образовательной системе графический способ доведения информации наиболее продуктивен с позиции способности ее запоминать учащимися.
Также и с математическими вычислениями. Фактически память организована по принципу сравнения информации.

Сложнейший процесс "по аналогии". Ещё Лейбниц утверждал, что никаких объективных оснований, кроме повторного пересчёта, для сложения 7 и 5 не существует — обоснование этому содержится аж на 4-х страницах в русском переводе его 4-томника.

Их невозможно сложить по аналитическим правилам. Это уже не говоря о процессе деления, который вообще итерационный с рекурсиями.

А что до мозга, то есть все основания считать, что операции в нейронно-аксонной его сетевой структуре в чём-то аналогичны квантовому компьютеру.

Так что учите таблицу умножения!

Способность ищет применения - вот как.