Вероятность события

В Вашей задаче получается, что есть только 2 дискретные случайные величины (ДСВ) А и B, и 5 порогов. А вот с пятью "различными" событиями не всё ясно.
Было бы понятно, если бы Вы сказали, что отношение ДСВ сравнивается с порогами и в зависимости от попадания в соответствующий интервал определяют появление ДСВ: (p1,p1,p3, p4 или p5).
Фраза "наиболее вероятно" - неопределённая. Если у Вас сложная зависимость и попадание отношения в заданный интервал ещё не говорит о выпадении той или иной величины, то тогда надо что-то сказать об этом условии, и определить плотности распределения вероятностей ДСВ (p1,p1,p3, p4 или p5).
Как только чётко распишите все условия, то так сразу Вам можно будет пояснить искомую формулу (алгоритм)

Да, задача понятна и здесь надо знать хотя бы усреднённую кривую распределения результатов. То есть на сколько вероятен тот или иной результат. В этом случае можно тогда решить задачу. Я так понимаю теоретической кривой такой нет. Ну можно конечно воспользоваться гауссовской кривой - но это должен быть Ваш выбор на Ваше усмотрение!

Правда у Вас есть такой параметр как пороги. Можно предложить вам кусочно линейное распределение или трапецеидальное. Но проблема в том какой шкалой пользоваться для измерения отношения линейной или логарифмической?

Кстати время здесь на редактирование кончилось, так что ответы уже в другом вопросе