Какой лучше выбрать формат изображения, чтобы на печати выглядел максимально качественно?

"Как можно качественнее" - зависит от оборудования печати, это может быть офсетная печать, широкоформатный принтер для банеров, широкоформатный фотопринтер с 10-ю чернилами - вот он то и даст максимально возможное на сегодня качество, для него надо подготовить файл PDF - где растровые картинки в нужной цветовой модели и профиле, с нужными линейными размерами (см, мм, in) и разрешением 360ppi и сохранённые в Tif без сжатия - (выдерживаем условие - максимальное качество) прилинкованы в программе верстки, векторные элементы фигуры, шрифты делаются в программе верстки. Плясать надо от выбора места печати, где есть нужное оборудование (там же Вам дадут действительно правильные ответы на Ваши вопросы по размерам, форматам, шрифтам, вылетам и т. д. (подготовка к печати совсем не так проста, так что профессия "специалист по допечатной подготовке" процветает даже в условиях кризисов)

GIF не феншуйно для печати, JPEG по большому счету тоже, остальные форматы можно, но главное в том, что качество печати будет зависеть не от формата файла, а от его содержания, а так-же от квалификации печатника... ну и качества принтера.

jpeg. другой не напечатаешь

Практически любой, подходящий по количеству цветов, кроме jpeg. Даже если печатники хотят jpeg как результирующий файл, экспортировать в него нужно в последний момент, поскольку это формат с потерями. Все промежуточные и архивные сохранения делают в psd, а если нужна совместимость, то в tiff (но это только если нужна совместимость).

Это всё равно, что спрашивать у соседей о требованиях ГИБДД при сдаче экзаменов по вождению.
Большой плакат понятие растяжимое. В таких делах конкретика нужна. Точны размер, расстояние с которого смотреть будут, назначение, ит. д...
За твои деньги печатники хоть почтовую марку на билборд растянут. Ржать будут не над ними. Поэтому — в типографию! Они объяснят и подскажут.
Потому что размер и dpi может оказаться не единственным требованием к макету.

тебе нужен не формат, а размер в пикселях
для современной типографии формат так то по барабану

Начните с выбора вменяемого печатника и качественного оборудования.

Большие плакаты вроде афиш обычно делаются в масштабе 1:10. 300 dpi. Типография потом увеличивает их в десять раз. Но если на плакате не только фото, но и текст, то лучше делать в Иллюстраторе или ИнДизайне, чтобы текст был векторным.