..какими возможными способами можно разменять сторублёвую купюру?

Смотря какие монеты нам доступны. Если рассматривать только до рубля, и не брать копейки, то нам доступны:
50, 10, 5, 2, 1.
Множество всех способов размена есть множество неотрицательных решений диофантова уравнения
50*x1 + 10*x2 + 5*x3 + 2*x4 + x5 = 100. Но решить его - весьма непростая задача.
Но можно попробовать оценить число решений сверху.
Легко посчитать, что разменять 10 рублей можно 10 способами.
Теперь оценим сверху число способов разменять 50 рублей.
1) 10*5 (один способ)
2) 10*4 + разложение червонца (т. е. 10 способов)
3) 10*3 + разложение 20 рублей,
4) 10*2 + разложение 30 рублей,
5) 10 + разложение 40 рублей,
6) разложение 50 рублей без участия 10-рублевок.
Число способов разложить 20 рублей не превышает число способов разложить 10 рублей в квадрате, т. е. 100.
Способов разложить 30 руб. не больше 1000, 40 руб. - не больше 10 000, 50 руб. - не больше 100 000,
итого 50 руб. раскладываются не более чем 111 111 способов.
А 100 руб. можно раскидать:
1) 50+50 (1 способ)
2) 50+разложение 50 (не более 111 111 способов)
3) разложение 100 без участия 50 (не более 111 111 ^ 2 способов) ,
итого 12 345 765 433.
---
P. S.
Сейчас ради интереса не поленился и посчитал, вышло всего-то 2498

Если купюрами - то три: 50 + 50, 50 + 5Х10, 10Х10. А если с монетами - то ...

более миллиарда.... а может и больше....