Какому размеру фото соответствует разрешение 3:2?

никакому - 9х12 - это соотношение сторон 3:4

А теперь по сути:
есть (а) соотношение сторон, оно говорит о том, во сколько раз длинна сторона больше короткой. Бывают из ходовых 1:1 (квадрат) , 2:3 (цифрозеркалки) , 3:4 ("узкая" пленка) , 6х7 (Linhof Ideal format), 1:2 и более (панорама)
есть (б) типовые размеры при печати - они могут соответствовать фотографии по соотношению сторон или нет, тогда фото либо обрежется, либо на отпечатки будут две белые полосы по краям
есть (в) разрешение - грубо, это количество точек на погонный дюйм. То бишь на 1 дюйм (2,5 см) длини фотографии. Например, 250 dpi - это 250 точек на дюйм.. . при такой разрешалке 9х12 - это 886х1181 пикселов.

любому. соотношение это не размер
обычно в фотолабах именно это соотношение не режут в неожиданных местах, когда отдаёшь на печать, например в популярный размер 10х15 не оговорив что нужно именно с полями

вроде бы 3,2 мп

Если для качественной печати в фотолаборатории с резрешением 300 пикселей дюйм, то
1417 на 1063 пикселя.

разрешение фото долно быть в численном значении больше, напремер, 300 пикселей на дюйм. Вы наверное имеете ввиду пропорцию отношения ширины к высоте? это примерно : 10х15, 20х30, 25х38 и т. д. при печати в такой пропрции края фото или будут соответствовать стандартным пропорциям печатного листа, либо срезаться по миниму - внесколько мм, что в итоге не значительно.