Для изучения математики все термины нужно выучивать и помнить всегда?

Нужна побольше практики !

Обучение на основе зубрешки заканчивается в 3-м классе, а то и раньше. Дальше практически вся учеба базируется на ПОНИМАНИИ. Когда Вы понимаете что либо, то это запоминается само собой.
Таким образом изучая Математику Вы должны ПОНИМАТЬ все термины с которыми сталкиваетесь. При этом надо попытаться сформулировать собственное определение. А то, которое в учебнике нужно разобрать "по косточкам". То есть исследовать какое слово там самое важное, а какое второстепенное.
Пример. Берём словарь по математике.
Первое же определение - АКСИОМА. Что это такое?
Аксиома — утверждение, принимаемое БЕЗ ДОКАЗАТЕЛЬСТВ.
Вот именно, что без доказательств. Как написано так и есть.
Или ещё:
Теорема — утверждение, которое нужно ДОКАЗАТЬ исходя из аксиом и ранее доказанных теорем.
Вот теоремы нужно доказывать, используя подходящие аксиомы и теоремы.
По поводу литературы.
Попробуйте использовать учебники по математике для системы СПО.
И используйте словари, справочники.
И поищите школьные учебники по математике середины прошлого века. Есть некоторые отличия в изложении теории тогда и сейчас. Иногда современный учебник проигрывает.
И вообще, чтобы ПОНЯТЬ что либо по данной книге нужно состыковать её с другими информационными источниками. То есть и с информацией, содержащейся в интернете и в других учебниках, справочниках, пособиях и т. д..
В общем система такая: чем глубже понимание чего либо, тем легче запомнить. Ну и при этом наступает эффект накопления полезной информации - то есть ЗНАНИЙ. Один полностью понятный, изученный термин даёт возможность гораздо легче усвоить следующий термин.

А наизусть надо учить иностранные слова, когда изучаете язык. Но и опять же тупая зубрёжка малопродуктивна. Советуют каждому слову находить какое то соответствие в русском.
Например. Английский. СНЕГИРЬ
bullfinch [ˈbʊlfɪnʧ] - ну что-то типа булфинич. Созвучно слову булка. Запоминаем так: все снегири любят булки.

Их не надо заучивать. Если ими пользоваться, они сами начнут запоминаться.

Математику не надо зазубривать её надо понять, когда поймешь она будет как песня легка в понимании.