сколько таких цифр будет? в 3-х значном числе цифры расположены в убывающем порядке и первая цифра равна 5

Так надо просто все такие числа перечислить, дело нехитрое:
543, 542, 541, 540, 532, 531, 530, 521, 520, 510
432, 431, 430, 421, 420, 410
321, 320, 310
210
Итого 20 штук.

Ох, плохо прочитал условия и слегка усложнил задачу. Правильный ответ - ниже.