почему текст в фотошопе квадратиками?

Потому что он из ЭТИХ "квадратиков" и стостоит, вот и квадратиками! Раз документ маленький - терпи! Можешь вот тут поменять, вдруг что-то понравится больше:

только оценивать на до в размере 100%!

зависит от разрешения документа и метода сглаживания шрифтов.

При таком незначительном размере сложно подобрать размер текста, при котором не будут видны пиксели. Чем тоньше текст, тем более выражена зубчатость, даже если Вы поставили галочку на "сглаживание".

Логичное предложение: начать осваивать наконец векторные программы.
Иллюстратор, Корел, Инкскейп.

Все логично.. .
При таком маленьком размере у вас очень низкое разрешение, разрешение шрифта не может быть выше разрешения документа...

Эти квадратики - это пиксели.
Задавая размер 260 на 90 ты автоматически даешь программе понять, что у нее всего 260 пикселей в ширину и 90 - в высоту. То есть по ширине у нас изображение простраивается всего по 260 точкам. Ни о каком качестве речь не идет. Ты можешь снять скрин своего вопроса и вставить его в фш. Удивишься, но то, что кажется нормальным при 100% при увеличении в фотошопе становится просто пиксельной жутью.
И тут не поможет даже способ представления текста. Выход только один - использовать не растровые, а векторные редакторы, приведенные Татис.
При малом числе пикселей пикселизации не избежать, смирись

Печатай текст на том размере, который тебе нужен и будет ГУД)))

не нужно растрировать текст, а потом увеличивать-(уменьшать)

Когда будете создавать новый документ, в котором планируете что-то написать, в графе "Resolution", что в переводе "Разрешение", необходимо выставит значение пикселизации. Рекомендую поставить не меньше 300. У Вас просто изначально было выставлено маленькое значение, порядка 25 - 30 пикселей на см..