Где применяется высшая математика в программирование?

Это то же самое, что спросить, где в программировании применяется физика или экономика. Программирование - это инструмент, с помощью которого решаются задачи из разных областей: науки, производства, развлечений и т. д.
Т. е. программисту (программистам) дается постановка задачи. Согласно ей нужно разработать программное средство. Если для решения задачи нужно применять законы физики, значит будут использоваться эти законы. Если без применения методов высшей математики нельзя решить поставленную задачу, значит надо применять высшую математику. Вот и все.

Вы неправильно понимаете вопрос. Первична математика - абстракция, программирование, её реализация - вторична (для тех, кто в танке).
Другими словами, если задачи программирования не связаны с матмоделью (любой), то и требования к кодерам соответствующее (и зарплата, конечно)
Вопрос, конечно, дилетантски. Поиграйте в к-л игру и спросите себя - как это сделано. Почему мячик отскакивает не случайно, а ожидаемо в уже тривиальном арканоиде или в бильярде. Почему машина врезалась в ограждение, а не проехала мимо.
Ежели проблемы уже в физике, то развивать тему дальше бессмысленно. Дело даже не в математике, игры сделаны по физическим законам, которые описываются математическими формулами. Очень часто - линейными

Например, в нейронных сетях надо считать производную
Но поскольку в книгах все формулы есть, можно ничего не знать. Просто пиши по формуле.

в любом моделировании физических процессов

Полёт пули или движение корпуса автомобиля в плоскости с высчитыванием разных сил и так далее... это ли высшая математика? Это всё может сделать школьник-отличник. А в школе высшую математику не преподают.

3D программирование, создание игровых движков, обработка звука, обработка растровых изображений, а так же оптимизации и алгоритмы сжатия - здесь не обойтись без высшей математики.
(нужно знать хотя бы основы и некоторые формулы.)

Для скриптов годиться база тригоеометрии.