Очень сложная задача по математике (СУНЦ МГУ), я решил подбором, но не уверен, что это единственное решение.

Решение подбором вообще не является решением... это угадывание

Как только в задаче видим "целое число рублей (или попугаев, или ещё чего-то)", то сразу надо понимать что мы работаем не с полем, а с кольцом (где операция деления не всегда позволена). Именно оценивая делимость чисел и решаются такие задачи.

16x + 5y = 143

разложим 143 на простые множители, тогда
16x + 5y = 11*13
16*(x+y) - 11y = 11*13
16/11*(x+y) - y = 13
16/11*(x+y) = 13+y
по условию задачи y целое число, а значит 13+y тоже целое, из чего следует, что (x+y) делится на 11

пускай x+y = 11*n, где n - целое число, тогда
16x + 5y = 5*11n + 11x = 11*13
5n + x = 13
n = 2.6 - x/5

Тогда n может быть равно только или 1 или 2:
5*1 + x = 13 => x = 8; y = 3
5*2 + x = 13 => x = 3; y = 19 - не подходит по условию, потому что разница между x и y больше 7

Ответ у задачи 1: x = 8; y = 3; То есть за тетрадь 8 рублей, а за ручку 3

Обычное диофантово уравнение.

комплект = ручка+тетрадь
5к+11т=143
к>т
5к=143-11т должно делиться на 5 т. е т=[3, 8, 13]
других вариантов нет.
т=3, к=22, к-т>7
т=8, к=11 - всем условиям удовлетворяет

решается "методом дедукции"))
цена ручек четной быть не может, в противном случае не получится целой цена тетрадей.
Значит цена ручек заканчивается цифрой 5, цена тетрадей - цифрой 8..Дальше - дело техники.
Цена тетрадей либо 3, либо 8. Но 3 не подходит по условию, следовательно, стоимость ручек (143-8*16)/5=3
3+8=11

решать системой уравнений, второе уравнение это неравенство
Решить много времени займет.