В каких случаях в полиграфии используется CMYK, а в каких - Pantone? В чем разница?

В любых. Можно использовать, а можно не использовать. CMYK - система смешения из четырех цветов. В принципе практически всю продукцию можно отпечатать в CMYK, но если нужен дополнительный чистый цвет тут и добавляются цвета Pantone. Или наоборот, допустим визитка в два цвета, но цвета не совпадают с чистыми цветами CMYK (Голубой, Пурпурный, Желтый, Черный) в этом случае используютя цвета Pantone. Например Orange 021 или Blue 072. Цвета Pantone можно переводить в систему CMYK, но точной цветопередачи не получится. Еще пример. цвет Orange 021 это цвет сам по себе, как и вся система Pantone, если его переводить в систему CMYK то получится уже 2 цвета Пурпурный и Желтый, процесс печати усложняется и стоимость соответственно. Более подробно в Нете почитайте.

зависит от дизайнерской концепции и требований заказчика.. .
CMYK - стандартный набор красок для воспроизведения любых оттенков всей палитры цветов в доступной области цветовоспроизведения на выбранном материале;
Pantone - стандартный каталог плашечных цветов (источник) используется для точной передачи дизайнерской идеи до потребителя, включает в себя многие цвета, которые невозможно воспроизвести в цмике (металлики, как пример) ;
возможны любые сочетания цмик и пантона

Это вы сами назначаете, когда у вас нет уверенности в CMYK, как он отобразится после печати, то можно взять Pantone, предварительно посмотреть на веере панотонов как выглядит цвет.