Поставила программу FS Caller, фотка при звонке всё равно маленькая и разрешение картинки которое заданное прграммой

Судя по размерам вашего экрана, вам надо искать версию для Series 9. А вы пытаетесь воспользоватьс программой для Simbyan 8.
http://series60.ru/file/down/43562
Вам нужна вот эта версия. Предварительно потребуется регистрация на сайте.

Кстати вот еще одна программа для того же - может она пойдет? http://dimonvideo.ru/files/file_2718.html

Мне кажется, если FS Caller установился, то версия операционной системы подошла (Хотя я могу ошибаться) .
Для ОС 7-8 можно воспользоваться следующими ссылками. Там тоже надо зарегистрироваться.
http://www.dimonvideo.ru/files/file_4162.html
http://www.dimonvideo.ru/files/file_1355.html
http://www.dimonvideo.ru/files/file_1764.html
http://www.dimonvideo.ru/files/file_1677.html

FS Caller все картинки сжимает и подгоняет под свои размеры. Из-за этого качество фоток становится не самым лучшим. Чтобы исправить это - надо сохранять рисунки в файлы с соотношением сторон (для экранов 176x208) 176x187 пикселов (можно и больше, сохраня эти пропорции, но я не вижу в этом смысла) . Компрессию ставьте на свое усмотрение. Я использую 7-8 уровень качества в опциях сохранения в JPEG в Photoshop'е. В среднем картинка занимает 30 кб. Далее, после того, как картинка переписана в телефон и прикреплена к контакту в FS Caller'е, следует отыскать эту же картинку в данной папке С: (если программа установлена в память телефона) или E: (если на карту памяти) \system\apps\FSCaller\Pictures и, запомнив название JPEG-файла, удалить её (картинку) . После этого поместить в эту же папку исходную картинку, переименновав её тем же именем, какое дала FS Caller.
Что касается других разрешений, то соотношение сторон можно подобрать эмперическим путем, либо составить пропорцию.