в поход пошли 20 человек:

20m+5f+3c=149; m+f+c=20
c=20-f-m
20m+5f+60-3f-3m=149; 17m+2f=89
m - нечетное, иначе четное +четное не дадут 89 - нечетное.
m=2n+1
34n+17+2f=89; 34n+2f=72; 17n+f=36; n=(36-f)/17=2+(2-f)/17;
(2-f)/17 должно быть целым, пусть k, тогда 2-f=17k f=2-17k
n=2+k, m=4+2k+1=2k+5 c=20-2+17k-2k-5=13+15k
m, f, c>=0
отсюда 2-17k >=0 ==> k=0, -1. из с>=0 остаётся единственное возможное k=0/
f=2, m=5, c=13
Ответ 5 мужчин, 2 женщины, 13 детей - единственный ответ.

А ВЕРНУЛИСЬ ТОЛЬКО двое!

По крайней мере, было 3 мужчины - иначе больше 100 кг не получится, с 20-ю то женщинами по 5... Но и больше 5 их быть не могло, ибо если бы было 6 (120 кг) , да 14 детей по 3 (42 кг) - больше 149.

Значит, граничные условия - мужчин 3, 4 или 5.

Примитивный подбор:
если мужчин 3, то они несут 60 кг, на оставшихся 17 женщин и детей - 89 кг,
если мужчин 4, то они несут 80 кг, на оставшихся 16 женщин и детей - 69 кг,
если мужчин 5, то они несут 100 кг, на оставшихся 15 женщин и детей - 49 кг,

Если обозначить число женщин переменной ж, а детей - д, то получаем три системы уравнений, причём есть еще одно условие (неявное) - переменные ж и д должны быть целыми.

ж + д = 17
5 ж + 3 д = 89

или

ж + д = 16
5 ж + 3 д = 69

или

ж + д = 15
5 ж + 3 д = 49

Решаем, получаем в первом случае женщин - 17, детей минус 2. Ясно, что физический смысл отсутствует. Во втором случае женщин будет 5 с половиной, тоже не совсем правильно %-((

И только в третьем случае будет верный ответ 5 мужчин, 2 женщины и 13 детей.

по-моему нельзя дать однозначный ответ

А могу быть еще врианты: 3 мужчин (60 кг) , 4 женщины (20 кг) и 23 ребенка (69 кг) . 60+20+69= 149.
Еще: 5, 8, 3. (100+40+9=149);
1, 12, 23. (20+60+69=149) Вообще-то детей минимум трое, а максимум 33, в остальном куча вариантов. Запутаться можно.

13 детей, 5 мужчин, 2 женщины.
Ищем детей = ближайшее число делящееся на 3 это 9 или 39. 39/3=13 детей. С остальным всё ясно.