Обозначим конкретную точку числовой прямой (хотя, все рассуждения верны и для произвольного упорядоченного множества) через Xo, чтобы не путать её с переменной X, принимающей любые значения из области определения функции f.
В обратную сторону ( f(Xо) =Xo <= g(Xo)=Xo ) доказательство тривиально: если Xo таково, что g(Xo)=Xo, то просто подставляем это в формулу для f(Xo) и получаем g(g(Xo))=g(Xo)=Хo (независимо от монотонности g(x)).
Однако утверждение g(g(Xo))=Xo => g(Xo)=Xo верно лишь для монотонных неубывающих функций. Ошибочность утверждения в случае убывающей функции g(x) показывает простой пример g(x)=-x для точки Xo=1: g(g(1))=g(-1)=1, тогда как g(1)=-1
Доказательство g(g(Xo))=Xo => g(Xo)=Xo для неубывающей g(x) тоже довольно простое.
Функция g(x) неубывающая. Это означает, что если X1≤X2, то g(X1)≤g(X2).
Предположим, что выполняется не строгое равенство, а лишь неравенство g(Xo)≤Xo. Применяя функцию g к обеим частям этого неравенства и используя свойство неубывания, получим:
g(g(Xo))≤g(Xo). Комбинируя с исходным предположением получаем g(g(Xo))≤g(Xo)≤Xo. Но по условию g(g(Xo))=Xo, что возможно только если g(g(Xo))=g(Xo)=Xo.
Предположение g(Xo)≥Xo приводит к аналогичным рассуждениям.