Он у вас не 32 битный случаем?
Меню - Редактирование - Установки - Производительность.
Тут нужно не фотошоп, а пользователя менять, но есть шанс что подучится ))
Зайдите в Фотошопе в Настройки. Там можно отрегулировать доступный объём оперативной памяти, указать размещение (и размер) своп-файла на жёстком диске.
Старая, 32 битная версия, больше 4ГБ увидеть не может. Ваше "3255" намекает, что это именно такой случай. Если "да", то это не лечится. Никак.
Рекомендации "Как оптимально настроить Adobe Photoshop перед работой"
Производительность - Использование памяти
- параметр "Идеальный диапазон"
http://alpha-byte.ru/grafika/photoshop-cs5/osnovnyie-nastroyki
Программа выбирает оптимальные параметры для комфортной работы.
Другим приложениям ресурсы иногда тоже нужны.