разложите многочлен на множители x( x-y)+3xy-3y^2

Нужно сгруппировать два последних слагаемых и вынести за скобки общий множитель 3у, а затем вынести общим множителем целую скобку.
х (х-у) +3у (х-у) =(х-у) (х+3у).

если помню то так
x^2-xy+3xy-y^2
x(x-y)+3y(x-y)
(x-y)(x+3y)