Как улучшить качество печати фото, если используеться маленькое исходное изображение ?

Нет. Есть, конечно, Photo Zoom Pro, но это всё игрушки :)

5Х5 не в лом и в вектор перевести, если есть бюджетик хоть какой.
А вектор как не увеличивай, хуже не станет.

Всё зависит от изображения: вы б пример привели.. . Есть разные способы.

Есть программы такие как Photo Zoom Pro и т. д, соглашусь с Александром Савиным это.. .
Можно в ручную это сделать, но это дело очень так скажаем, нудное.. .
Отвечал на похожий вопрос

Чудес не бывает. Будет отстой.
Немного снизить отстойность можно, если в фотошопе увеличивать процентов на 120-130, а не в питсотмильёнов раз. Чуть добавить резкости (чуть-чуть) - и снова увеличить на те же 120. И так далее, пока качество не станет отстойным.
Вроде, на photoscape.ru (если не ошибаюсь) или ещё где рассматривалось сравнение нескольких программ. Итог неутешительный в любом случае.

хуже не станет тожж

ну если только отсканировать на профессиональном сканере с очень высоким разрешением. зернистость всё равно будет, хотя, если будете потом на изображение смотреть с большого расстояния, то результат может быть вполне удовлетворительным.

Есть плагин к фотошопу Genius Fractal Pro .Увеличивает фотки особым фрактальным способом на 800-1000% без искажения, вернее с искажениями неуловимыми глазом. Я метровые панорамы составлял из нескольких А4, а фотик простой Olympus.

Если оно не векторное - НЕТ. Надо учитывать не только линейный размер, но и разрешение. При указанных параметрах компромисов нет.

Фрактал. . и все одно, думаю, что без ручной прорисовки не обойтись.

Ни Фракталом ни БенВистой ни какой-либо другой программой нормального качества не добиться. Тем паче, что более 1000% они не гарантируют. Но Вы бы видели эти 1000% ! Отстой полный. Правильный единственный ответ - насчет векторизовать, но и это не выход - будет как рисованое. Выход один - нормально снимать заново...

Если фотография достаточно резкая шансы есть.
Зернистость можно убрать с помощью размытия,
потом вручную в фотошопе с помощью осветления или затемнения (как карандашом) подрисовать детали.