Чем отличаются в математике проекция и отображения?

Правилами, по которым они получаются.
Проекция получается построением на пространстве размерности N-1 некоторого объекта размерности N, у которого для всех точек какая-то одна координата просто отбрасывается. Ну вот простейший пример: вектор из точки (0, 0, 0) в точку (1, 3, 5). Проекция этого вектора на плоскость XY получается отбрасыванием координаты, соответствующей оси Z, то есть получится вектор с конечной точкой (1, 3).
Отображение - это более общее понятие. Проекцию можно рассматривать как частный случай отображения, но вообще оно относится к теории множеств. Отображение - это правило, по которому одному элементу множества А ставится в соответствие какой-то элемент множества В, причём единственный. То есть хотя бы в одну сторону соответствие должно быть однозначным - не может быть так, что элементу a(i) одного множества соответствуют элементы b(i), b(j) другого. Хотя обратное может оказаться верным - см. пример с проекцией, когда одной точки проекции может соответствовать сколько угодно точек исходного объекта.
Пример отображения - разложение функции в ряд по каким-то другим базовым функциям. Ну хоть преобразование Фурье - это отображение функции (элемента множества всех возможных функций, удовлетворяющим определенным требованиям) элементу пространства. натянутому на базис из векторов exp(-jnω).

емнип, проекция - это частный вид отображений, обладающий свойством F² = F.

Математика обширна, где именно в математике?

Предлагаю ограничиться вот этим частным случаем проекции:
https://ru.wikipedia.org/wiki/Проекция_(геометрия)#Общее_определение