Нужна помощь в математике..

У меня скоро экзамен, некоторым дали контрольную на дом вместо экзамена. Один вариант я сфоткал и пытался решить, вы не могли проверить или подсказать, как решать дальше. Просто дальше я не знаю что делать

помогите пожалуйста: (