Как в фотошопе уменьшить выделенное?

Если ФОтошоп русский, то Выделение->Модификация-->Сжать и значение в пикселях

А я можно соберу все воедино.
Трансформайия - изменяет размер всего врагмента
Растушевка - увеличивает ширину самой граници. Т. е. ближе к изображению прозрачности не будет, а ближе к раям - изображение постепенно станет прозрачным . Это не изменяет границы выделения, а делает из из 0 какой либо ширины.
А вот модификация, сжать расширить - это то, что вам нужно.

Ctrl+J, Ctrl+T, тянуть за углы рамки. чтобы сохранились пропорции, зажать Shift.
а если тебе надо улучшить именно по границе, то Ctrl+Alt+R и двигать ползуны. там понятно.

если просто изменить размер - то есть в менюшке кнопка.
в гимпе это называется scale.

если срезать куски фона вокруг себя - то ласитком.

Гдето или в меню файл или еще где, есть пункт "Трансформация".

Когда вырезаешь, устанавливай растушевку краев примерно 4-6 пикселов.

Предлагаемый вариант, возможно не самый быстрый, но позволяет более чистое выделение.
Итак задача: имеется "выделение" и нужно подчистить-подогнать края. Создаем (сохраняем) выделенную область в альфа-канал, а затем применяем Gauss-размытие (на альфа-канал) , для того что-бы ранд сделать немного размытым. Загружаем (при нажатой Ctrl кликаем мышкой в иконку канала) и создаем маску на слой. Переходим на маску. Берем инструмент Burn-Dodge "О" и начинаем затемнять-осветлять края маски. Нажимая ALT, можно быстро переключаться между Burn- и Dodge-Tool.
Разумеется параметры и размер кисти подбираются в зависимости от типа картинки.

нажать ctrl+T и shift