Что такое "функция не определена"?

Это означает, что при определённых значениях аргумента (х) функция (у) не может быть вычислена, а её график в этих точках прерывен.

Напрмер,

у= ln(х-5)
В точке х=5 функция не определена, потому что логарим нуля не существует

у= 2х/(3+х)
В точке х=-3 Функция не определена, потому что в этой точке знаменатель равен нулю, а на нуль делть нельзя

Не определена при каких то определенных значениях аргумента. Например, функция y=1/x не определена при х=0. y=ln(x) не определена при х меньше или равно нулю.

Значит, что ее нельзя вычислить при этих значениях аргумента.

"Значения уравнения, при которых функция не определена" это такие значения уравнения, при которых оно не имеет решения.
Вот, например, функция y=arcsin(x) не имеет таких значений x, больших 1 и меньших -1, которым можно было бы сопоставить хоть какое-нибудь значение y (неважно - бесконечное или нет) . Это означает, что функция y=arcsin(x) определена только на интервале от x=-1 до x=1 включительно, и не определена при любых других x.
Ещё пример - формула окружности:
Понятно, что функция, имеющая форму окружности, существует только в определённых пределах, для определённых значений x и y. Для других пределов и значений говорить о ней нет смысла. Там она просто не существует и, соответственно, никак себя не "ведёт".

Значит, одно из ее значений (конец/начало) имеет бесконечность (+/-). Но я точно незнаю.

Функция не определена в точке, если в ней (в точке) не ставится аргументу в соответствие значение функции