При взрыве камень разрывается на три части. Первый осколок массой 1 кг летит горизонтально со скоростью 12 м/с, а

Надо полагать, камено до взрыва покоился. То есть суммарный импульс системы был равен 0.
Ну а теперь просто нарисуйте два перпендикулярных вектора - импульс первого осколка и импульс второго осколка. Ясен пень, что импульс третьего осколка есть вектор, противоположный сумме первых двух. Поэтому как он направлен - понятно. Чему он равен - тоже понятно (это теорема Пифагора, nothing special). Ну и раз известен импульс и известна скорость - то враз считается и массса.