При дроблении ядра образуются три осколка массами m1, m2 и m3 с общей кинетической энергией Е. Найти скорости осколков.

Это не однозначная задача. В курсе "Теоретическая механика" в решебельнике Бать М. И. "Теоретическая механика в примерах и задачах" в т. 3 решена эта задача, НО (!) если внимательно проанализировать, она решена неоднозначно.
Осколки разлетаются под 120 градусов в какой системе координат? в лабораторной или нет?? это существенный вопрос.
Ибо для разлета под 120 градусов (в ЛАБОРАТОРНОЙ системе координат) НЕОБХОДИМО (для закона сохранения энергии, импульса и еще кое чего) иметь одинаковые массы...
Для решения этой задачи (в общем случае) не хватает законов сохранения: закон сохранения импульса, закон сохранения энергии: поскольку имеем 3 неизвестных, а уравнений всего 2, и не спасает то, что система уравнений нелинейная.
Задача решается не так просто, даже если "осколки" движутся вдоль одной прямой. Школьных знаний (однозначно!) не хватит это решить.
Да и ВУЗовские не особо помогут...
В свое время подобного рода вопрос пытался решить П. Л. Чебышёв.
Но он брал упрощенную систему уравнений... которая не подойдет для этой задачи и не является общей (т. е. для любых масс)

На эту тему был доклад на Международной конференции, которую проводил Санкт-Петербургский Государственный университет в конце января - начале февраля этого года. Статья опубликована (на английском языке в AIF). Статья посвящена решению этой задачи для любых масс.
И, зная массы осколков, можно определить (однозначно!) углы разлета осколков, энергии и импульсы осколков.

А чего Тебя заинтересовал этот вопрос?