Линия выделения имеет толщину. Где изменить толщину линии выделения? Photoshop.

При вырезке с выделением всегда вырезается какое-то количество пикселей. Ластик + Alt используйте.

Здесь поставь 0 или 1:

Alt+Ctrl+R, и там на ноль убрать сглаживание и растушёвку, а контрастность на сто.
Жесткость и характер выделения может зависеть от способа выделения.
Волшебная палочка и быстрое выделение лидируют по количеству возможных косяков.
При конвертировании контура в выделение может стоять ненулевой радиус растушёвки.
Или разница в пиксель может образоваться при инвертировании выделения...

Вы, очевидно, не понимаете, что такое выделение. Выделение технически устроено так же, как и маска -- пиксели можно выделить не полностью, а на какую-то долю от полного выделения. Бегущие муравьи проходят по контуру, обходящему области, где выделено больше 50%.

Выделение можно растушевать так же, как и маску (но, в отличие от маски, растушевка -- это деструктивная операция). Это задаётся в настройке Feather. Применение Feather с неким радиусом -- это аналог применения фильтра Gaussian Blur с тем же радиусом к маске, соответствующей выделению.

Вы всегда можете конвертировать выделение в маску, повысить кривыми контраст и опять загрузить в выделение.

Кроме всего вышеперечисленного, не нужно вырезать из фона выделенный объект, нужно копировать его и вставлять в то же место копию на новом слое. Это оставляет куда больший простор для дальнейших манипуляций, чем дыра в фоне под вставкой. И полпикселя по контуру, сожранных выделением, уже не имеют такого значения.