Пусть х - количество лошадей, у - коров, z - кур.
Составляем два уравнения:
50х + 10у + z = 500 (копеек)
х + у + z = 100 (голов скота)
Вычитаем 2-е уравнение из 1-го (левую часть - из левой, правую - из правой) и таким образом избавляемся от z:
49х + 9у = 400
Выразим у через х:
у = (400 - 49х)/9
Так как по смыслу задачи х и у могут быть только целыми положительными числами, задача сводится к тому, чтобы найти все значения х, при которых (400 - 49х) больше 0 и делится на 9 без остатка.
Подставим вместо х целые числа от 1 до 8 (при х > 8 значение выражения становится отрицательным), результат запишем в виде таблички. Делится ли число на 9 без остатка - видно сразу (признак делимости на 9: если сумма цифр делится на 9, то делится и число):

Если х = 1, то у = 351/9 = 39, а z = 100 - 1 - 39 = 60
Таким образом, задача имеет единственное решение:
1 лошадь за 50 копеек,
39 коров по 10 коп.,
60 кур по 1 коп.
50 + 390 + 60 = 500