Как решить уравнение: X в квадрате +1 - 6 X = 2 |X-3|

Первым делом избавимся от этих кошмарных вертикальных палочек.

Когда выражение под знаком модуля будет отрицательным? Когда x < 3.
В этом случае |x-3| = 3-x
В случае же, когда x > 3, получим: |x-3| = x-3

Итак, у нас получилось два унылых квадратных уравнения:
x^2+1-6x = 2(3-x), при x < 3
x^2+1-6x = 2(x-3), при x > 3

Решаем их и получаем:
x^2+1-6x = 6 - 2x, при x < 3
x^2+1-6x = 2x - 6, при x > 3

x^2 - 4x - 5 = 0, при x < 3
x^2 - 8x + 7 = 0, при x > 3

x = -1 или x = 5, при x < 3
x = 1 или x = 7, при x > 3

Учитывая ограничения на x отбрасываем лишние корни:
x = -1
x = 7