Помогите решить задачу по теории вероятности.

Объясню подробно, чтобы было понятно.
В таких задачах нужно опираться на формулы комбинаторики. В данном случае потребуется формула перестановок: P!, где P - количество элементов, которые можно переставить.
Например, на столе лежат груша, яблоко и апельсин, а наша задача посчитать сколькими способами их можно переставить. Всего три фрукта - подставляем в формулу 3! = 1 * 2 * 3 = 6. Иначе говоря, всего существует 6 возможных способов, позволяющих переставить фрукты на столе. И мы можем попробовать доказать это, определив все комбинации вручную:
груша / яблоко / апельсин
груша / апельсин / яблоко
яблоко / груша / апельсин
яблоко / апельсин / груша
апельсин / яблоко / груша
апельсин / груша / яблоко
Как и ожидалось - всего 6 комбинаций.

Ваша задача решается по формуле классического определения вероятности: p = m/n, где m - количество благоприятных событий, а n - количество всех возможных событий.
n вычислить очень легко, всего 10 детей, следовательно 10! = 3628800 - существует способов их перестановок.
А вот, чтобы определить m нужно немного включить логику: 2! = 1 * 2 = 2 - двумя способами можно переставить двух братьев. Остальных детей можно переставить 8! = 40320 способами. И при этом существует 9 мест, где могут попарно расположиться братья на скамейке.
Получается искомая вероятность равна: p = (2! * 9 * 8!) / 10! = 0,2

18 * 8! / 10! = 1/5

Попробуйте по примерным задачам по теории вероятностей решить. В справочнике есть теория и примеры.