Как решать это задание по математике?

Объясните пожалуйста как можно подробнее, как решать выделенное задание?