как отразится качество печати если вместо 300 пикс на дюйм поставит 300 пикс на см при размере печати 20 на 30 см.

Увеличится фото, ухудшится качество, если растр, достаточно 118 пикс/см = 300 пикс/дюйм для фото. Если изначально размер фото соответствует, то улучшится.

не надо этого делать:
слепое увеличение количества пикселей при любой интерполяции, тем более в 2,5 раза, обычно только ухудшает качество фото, загружает фотошоп, неприлично много весит и вызывает смех (ржач) в итоге;
почему: это разрешение будет "съедено" гораздо меньшей (и не соответствующей ему) линиатурой и цифрой dpi, Вы имели разрешение 300 пикс на инч и пиксели были окрашены (каждый в свой оттенок) правильно и стояли на своих местах. Теперь вместо каждого правильного будет 2,5 покрашенных так, как надумал комп по воле безголового пользователя. Что из этого уцелеет на выводе - знает только Слепой Рандом.

Подобное изменение разрешения обычно является грубой ошибкой пьяного дизайнера или абсолютного новичка и в любом случае должно быть исправлено.
Проблема в том, что пьяный дизайнер обычно успевает отловить и исправить сам. А новичок надеется что прокатит. и проигрывает

Это не повлияет ни на качество печати ни на качество самого изображения. А вообще не нужно изменять количество пикселей, если нет необходимости. При печати необходимо менять размер оттиска, т. е. физический размер изображения. Оптимизировать разрешение при печати поможет выбор линиатуры растра. В фотошоп, в окне размера изображения нажмите на "авто" и введите в появившееся окошко значение линиатуры. И не забудьте снять галочку с "Интерполяция", чтобы кол-во пикселей оставалось неизменным.