найти вероятность угадать три номера в лотерее 5 из 36?

Забудь о вероятности.
Эту лотерею придумали математики просчитав все вероятности
ещё при СССР )

Во-первых, вы не совсем правильно посчитали вероятность угадывания всех пяти чсел, она равна 5/36 * 4/35 * 3/34 * 2/33 * 1/32

Чтобы посчитать дальше, нам будет нужно число вариантов выбрать k чисел из n.
Оно равно n * (n - 1) * ...* (n - (k - 1)) / k! (разделить на k - факториал, т. е. 1 * 2 * ...* k)

Например, общее число способов выбрать 5 чисел из 36 равно
(36 * 35 * 34 * 33 * 32 * 31) / (5 * 4 * 3 * 2 * 1). Когда нужно угадать все 5 номеров, то нам подходит только один, отсюда ответ для угадывания всех чисел.

Теперь если мы хотим отгадать хотя бы четыре числа, то нам уже подходит
5 * 36 вариантов (пятью вариантами можно выбрать четыре угаданных числа из пяти, и 36 вариантов для последнего) = 180.

Значит вероятность угадать хотя бы 4 числа в 180 раз больше вероятности угадать все 5.

Если достаточно угадать три числа, то считаем сколько есть вариантов счастилвых троек. Оно равно, количеству вариантов выбора трех чисел из пяти умноженное на количесвто вариантов выбора двух чисел из 36.

Получаем 5 * 4 * 3 / (3 * 2 * 1) = 10 умноженное на 36 * 35 / (2 * 1) = 630, всего получаем 6300 вариантов. Значит чтобы вычислить эту вероятность нужно умножить вероятность для угадывания всех пяти чисел умножить на 6300.

Так же считаем для 2.
Получаем 5 * 4 / (2 * 1) = 10 и умножаем на 36 * 35 * 34 / (3 * 2 * 1) = 7140, всего 71400.

Итак вероятность угадать
3 числа = 6300 * 120 /(36*35*34*33*32)