Помогите решить уравнение. Как следует раскрыть модуль? |x-y-3|+x^2-4ху+4у^2=0

Не надо раскрывать модуль. Заметим, что:

x^2-4ху+4у^2=(x-2y)^2 >= 0.

Значит, оба слагаемые равны 0. Поэтому получается
система:

x-y-3=0, x-2y=0.