Почему решая это уравнение (X^2-4x+5)^2=(x^2-2x-1)^2 можно убрать степень справа и слева

Вообще говоря и в первом случае так делать не стоит, потому что оно того не стоит, прошу прощения за тавтологию.
Выяснение можно ли это сделать и почему никак не экономит ваши усилия при решении этой задачи.
Переносим все в левую часть, раскладываем как разность квадратов и получаем совокупность из двух уравнений, квадратного и линейного. И всё. Её Богу, это проще

Потому что там равно (x^2-2x-1)^2, а тут - 81

Убрать можно, НО:
(х² - 4x + 5)² = (x² - 2x - 1)²
| х² - 4x + 5 | = | x² - 2x - 1 |
1) х² - 4x + 5 = x² - 2x - 1
4х - 5 = 2х + 1
2х = 6
х = 3
2) х² - 4x + 5 = - (x² - 2x - 1)
х² - 4x + 5 = - x² + 2x + 1
2х² - 6х + 4 = 0
х² - 3х + 2 = 0
х = 1
х = 2
Ответ: 1, 2, 3
ВТОРОЕ: замена (x² - 6x)

нет такого понятия - "убрать квадраты"
есть понятие - "взять корень от обеих частей"
и сделать это можно всегда (конечно же, при условии, что обе части положительны)

I
В первом уравнении (X^2-4x+5)^2=(x^2-2x-1)^2
1) X^2-4x+5
D=16-20= -4 - значит X^2-4x+5 всегда больше 0
2)x^2-2x-1
D=4+4=8 - значит x^2-2x-1 может быть меньше нуля по этому квадраты убрать нельзя, а можно преобразовать в совокупность уравнений
[X^2-4x+5=x^2-2x-1
[X^2-4x+5= -(x^2-2x-1)
II
(x^2-6x)^2-2(x-3)^2=81 это x^4-12x^3+36x^2-2(x^2-6x+9)=81 это
x^4-12x^3+34x^2+12x=99
------------------------------------------
Если просто убрать квадраты то получится
x^2-6x-2x+3=81 это
x^2-8x=78 - совсем другое уравнение.
--------------

смотри, покажу на более простом примере
x^2=x^2
убираем квадраты
x=x
выражение верно.

а во втором, если ты уберешь квадраты, то твоё выражение слева не будет равно выражению справа, так как у тебя слева не всё выражение под квадратом, а только его часть