Не могу вырезать на новый слой в фотошопе

Дык у вас этот слой — это смарт-объект. Вот и не вырезает. Растеризуйте его и всё будет вырезаться. Если он вам нужен в виде смарт-объекта, то скопируйте его и растеризуйте копию.

Выделите, что хотите скопировать, с нового слоя замок снимите (или сделайте его дубликат), а то вы на нём ничего сделать не сможите. Новый слой такой же по размеру сделайте или растяните по нему. Способов и проблем достаточно.

Я обычно выделяю любым способом выделения и копирую выделенное на новый слой комбинацией клавиш Ctrl и J, но если нужно более точное выделение тогда
1 - На палитре СЛОИ видим слой. Справа, от названия слоя, установлен замочек. Внизу есть пиктограмма урны. ЛКМ тащим замочек в урночку. Слой разблокирован.
2 – Обозначаем область выделения
На панели инструментов (слева) выбираем инструмент "Перо". Расставляем опорные точки по контуру выделяемого изображения. Точки можно перемещать ЛКМ, зажав Ctrl
3 – Определяем выделенную область
После того, как контур замкнётся, точки исчезнут и линия станет сплошной. ПКМ щёлкаем по образовавшейся линии и в вывалившемся окне указываем "Определить область выделения". Радиус =0. Ок
4 – Убираем не выделенное
Накладываем белую маску. Для этого на палитре СЛОИ щёлкаем внизу по пиктограмме – белый кружочек в сером квадрате.
5 – Обрабатываем края выделенного
Идём на палитру Маски. Там выбираем Mask Edg… Нижний движок (Contract/Expand) ставим на - 40. Остальными по вкусу.