Photoshop СС векторная графика

Потому, что Фотошоп - редактор РАСТРОВОЙ графики.

Ножницами можно закручивать шурупы. Но вообще для этого есть ОТВЁРТКА. Ну CorelDraw например или, хотя бы, inkscape.

Потому что Фотошоп, это РАСТРОВЫЙ редактор.
Заливки и обводки векторных фигур фотошоп СРАЗУ растрирует, ведь они НЕИЗБЕЖНО будут растрированы в итоговом изображении. Не заливайте и не обводите векторные фигуры до тех пор, пока не убедитесь в окончательности их формы и положения.
И еще: пиксели видны, потому что вы пытаетесь что -то делать на картинке МАЛЕНЬКОГО РАЗМЕРА. На БОЛЬШОЙ картинке, линии станут идеальными, хоть и останутся растровыми (РАЗМЕР растровых картинок определяется не сантиметрами, а пикселями).

Рисуешь контуры пером - единственное что можно сделать - Файл - Экспортировать - контуры в illustrator

думаю тебе следует понять, что варить лучше на печке, а замораживать в холодильнике. И не думать, что можно обойтись одним устройством для разных целей

угу, должны быть.. . пока открыт фотошоп, и вектор там есть но только в виде Paths, которые там на птичьих правах, а как только в дело вмешивается цвет, программа сразу "вспоминает" что у нее единица изображения - пиксель
Самые лучшие результаты, как здесь уже не один раз прямо и косвенно ответили, получаются при одновременном создании дизайна в Фотошопе и Иллюстраторе.

Объединяем растровое и векторное изображения в Photoshop
http://www.photoshop-master.ru/lessons.php?rub=5&id=879
Pen Tool: урок по использованию инструмента Перо
http://www.dejurka.ru/graphics/pen-tool-tutorial/

Присоединяюсь к ответам где советуют для вектора использовать редактор для векторной графики. Только добавлю что вам будет удобней использовать для вектора все таки Illustrator. Он по интерфейсу ближе к шопу, шоткаты похожи, работа с вектором (с опорными точками) как в шопе. Ну и это тот же Adobe и при тягании тудым сюдым файлов меньше проблем возникать будет...

измени разрешение файла (то, что мерятся в dpi)

Значит, успели Ваш пат обвести кисточкой. А как - не знаю. Над душой не стоял.
У меня получилось при одновременном нажатии на эти кнопочки:



А надо жать на эту: