Площадь квадрата на 11см2 меньше площади прямоугольника.

(х+5)(х-2)-x^2= 11
x^2 +5x-2x-10-x^2 = 11
3x= 21
x= 21/3=7
S= (7+5)*(7-2)= 12*5= 60 см².

площадь прямоугольника = 60 см2

Обозначим сторону квадрата = Х
Площадь квадрата = Х*Х = Х^2
Площадь прямоугольника = (Х+5)*(Х-2)
Так как Площадь квадрата на 11 см2 меньше площади прямоугольника,составим уравнение :
X^2 + 11 = (Х+5)*(Х-2)
X^2 + 11 = X^2 - 2X + 5X - 10
3X = 21
Сторона квадрата X = 21 / 3 = 7 см
Одна сторона прямоугольника = Х+5 = 7 + 5 = 12 см
Другая сторона прямоугольника = Х-2 = 7 - 2 = 5 см
Площадь прямоугольника = 12*5 = 60 см2

Для начала нам толком ничего не известно - одни только разницы. Это разницы площадей и длин сторон. Однако, если к ним внимательно отнестись, они непременно помогут нам отыскать правильный ответ. И в ходе его поиска я предлагаю обозначить стороны прямоугольника X и Y, а стороны квадрата всегда одинаковы и им хватит одной буквы Z. При этом площадь прямоугольника можно обозначить SP, а квадрата - SK, соответственно. И по условиям задания мы имеем следующее:

SP - SK = 11 см²
Y - Z = 5 см
Z - X = 2 см
Получается, что:

(Z + 5) * (Z - 2) - Z² = 11 см²
Надо бы раскрыть скобки, как это делают ученики в школе и получить:

Z² + 3Z - 10 - Z² = 11
3Z - 10 = 11
3Z = 11 + 10 = 21
Z = 7
В итоге нам становится известной сторона квадрата - она равна 7 см. Но в задаче спрашивается о площади прямоугольника - SP. И определить её можно двумя способами:

Во-первых, нам известно, что одна сторона прямоугольника больше на 5, а другая меньше на 2 сантиметра. И тогда его площадь равна: SP = (Z+5)*(Z-2) = (7+5)*(7-2) = 12*5 = 60 см².
Во-вторых, мы можем легко вычислить площадь квадрата SK = Z² = 7² = 49 см². А площадь прямоугольника, как было сказано, на 11 см² больше: SP = SK + 11 = 60 см².
Всё сходится и в ответе можно написать - искомая площадь прямоугольника равна 60 см².