В науке физике задачи решаются не "по формулам", а путем анализа физических явлений, описанных в задаче, определения физических законов, которым подчиняются эти явления, и только после этого вспоминаются математические зависимости (формулы) , которыми связаны физические величины, численно характеризующие эти явления. В данном случае мы имеем упругое соударение (закон сохранения импульса) , передачу части кинетической энергии от пули к шару (закон сохранения энергии) и подьём шара по круговой траектории в верхнюю точку, заданную длиной нити. Я бы применил здесь тоже закон сохранения при переходе энергии из кинетической в потенциальную, правда, для этого надо условиться, что дело происходит на Земле в условиях действия силы гравитации с ускорением свободного падения 9,81 или 10 м/с кв. Иначе ответ будет совсем другим.
Дальше, по-моему, всё просто.