На брусок действуют две силы: сила тяжести mg и сила реакции опоры со стороны наклонной плоскости N, которая перпендикулярна её поверхности.
Применение второго закона Ньютона для бруска в проекции на направление, перпендикулярной наклонной плоскости даёт:
0 = N – mg cos α.
отсюда N = mg cos α. (1)
По третьему закону Ньютона, с такой же по величине, но противоположной по направлению силой –N брусок действует на наклонную плоскость. Поскольку клин неподвижен, то векторная сумма всех сил, действующих на него, равна нулю. Равна нулю и сумма проекций сил на горизонтальное направление. В горизонтальном направлении на клин действуют силы: от стенки – сила реакции стенки Fn; к стенке – горизонтальная составляющая силы давления со стороны бруска, равная N sin α.
По второму закону Ньютона, для клина имеем
0 = Fn – N sin α
отсюда Fn = N sin α (2)
откуда с учётом равенств (1) и (2) получаем ответ
Fn = N sin α = mg cos α. sin α
Дальше – тригонометрическое преобразование (синус двойного угла) и получишь ответ.
Нужен еще хороший чертеж.