Коля записал квадратичную функцию f(x)=x2+ax+b и занялся ее исследованием.

Функцию можно записать в виде f(x) = (x - p)(x - q).
По условию f(17) = (17 - p)(17 - q) - простое число. Значит, одна из скобок равна +-1 (в противном случае мы бы получили разложение простого числа на 2 множителя, не равные 1, чего быть не может). Без ограничения общности будем считать, что 17 - p = +-1.

Есть два варианта:
1) 17 - p = 1. При этом p = 16 - не простое число. Поэтому q - простое.
Должно одновременно выполниться два условия: q - простое и f(17) = 17 - q - простое. Заметим, что q и 17 - q - разной чётности, тогда то из них, что чётно, равно единственному чётному простому числу - 2. Но тогда второе число равно 17 - 2 = 15 - не простое. Противоречие с условием.
2) 17 - p = -1. При этом p = 18 - не простое число. Вновь q - простое. Добавляем к этому условие простоты f(17) = q - 17. Рассуждения те же: числа разной чётности, значит, одно из них равно 2. Если q = 2, то f(17) < 0, и это плохо. Значит, f(17) = 2, q = 19. Подходит.

Ответ. p + q = 18 + 19 = 37