у отца спросили сколько его детям лет

Ну вроде как 2 и 4 года,

Простое уравнение
ab + a + b = 14
a(b + 1) = 14 - b
a = (14 - b)/(b + 1)
b = 1, a = 13/2 = 6,5
b = 2, a = 12/3 = 4
b = 4, a = 10/5 = 2
b = 5, a = 9/6 = 1,5
b = 9, a = 5/10 = 0,5

Целые решения - только (2, 4) и (4, 2), что по сути одно и тоже. Но у столь маленьких детей обычно возраст считают с точностью до полугода, а то и до месяца.

a*b+a+b=14
a(b+1)=14-b
диофантово уравнение

ищем целые числа от 1 до 14 такие, что
a=(14-b)/(b+1) будет целым

при 2 12/3
при 4 10/5

больше решений нет

итого 2 и 4

х*у + х + у = 14
Варианты : 2 года и 4 года, или 1 год и 6,5 лет и т. д.
Данное уравнение - имеет бесконечное множество решений. Если в задаче имеется в виду, что возраст каждого ребёнка - целое число, то универсальных способов решения подобных уравнений - не существует. Так что подбор в данном случае - вполне оправдан.

X*Y+X+Y=14
X(Y+1)=14-Y
X=(14-Y)/(Y+1)
Значение в правой части должно быть целым.
Y от 1 до 6 и неравно 1, 3, 5, 6
т. е. детям 2 и 4 года