почему текст в фотошопе квадратиками?

Когда будете создавать новый документ, в котором планируете что-то написать, в графе "Resolution", что в переводе "Разрешение", необходимо выставит значение пикселизации. Рекомендую поставить не меньше 300. У Вас просто изначально было выставлено маленькое значение, порядка 25 - 30 пикселей на см..

При таком незначительном размере сложно подобрать размер текста, при котором не будут видны пиксели. Чем тоньше текст, тем более выражена зубчатость, даже если Вы поставили галочку на "сглаживание".

Логичное предложение: начать осваивать наконец векторные программы.
Иллюстратор, Корел, Инкскейп.

Эти квадратики - это пиксели.
Задавая размер 260 на 90 ты автоматически даешь программе понять, что у нее всего 260 пикселей в ширину и 90 - в высоту. То есть по ширине у нас изображение простраивается всего по 260 точкам. Ни о каком качестве речь не идет. Ты можешь снять скрин своего вопроса и вставить его в фш. Удивишься, но то, что кажется нормальным при 100% при увеличении в фотошопе становится просто пиксельной жутью.
И тут не поможет даже способ представления текста. Выход только один - использовать не растровые, а векторные редакторы, приведенные Татис.
При малом числе пикселей пикселизации не избежать, смирись

зависит от разрешения документа и метода сглаживания шрифтов.

не нужно растрировать текст, а потом увеличивать-(уменьшать)

Все логично.. .
При таком маленьком размере у вас очень низкое разрешение, разрешение шрифта не может быть выше разрешения документа...

Печатай текст на том размере, который тебе нужен и будет ГУД)))