Каком может быть максимальное Magenta и Yellow при печати, если Циан должен быть на 20% больше?

Интересно, кто Вам ставит такие занимательные задачи.
Вообще-то никаким конкретно не должно быть.
У Вас 4 краски (а не три.. . или дизайн трехкрасочный? ) СМУК.
total ink limit - суммарное кол-во краски в тенях по всем четырем в типографиях равен от 270 до 300 (в среднем 280).
Но ИМХО: на распределение этих красок в дизайне есть воля творца (автора картинки)

максимальное может быть 100%
даже, скажу больше, в случае красного цвета оно ДОЛЖНО быть 100+100% (M+Y)

но вы, наверное, не про это спрашивали, а про черную точку?
тогда это определяется профилем цветоделения, который соответствует выбранной бумаге, технологическому процессу в типографии и некоторыми вторичными соображениями
при сумме в ЧТ порядка 320-350% (на отличной плотной меловке) это будут одни значения, а при печати на офсете (а тем более на газете) и сумме в 220 -- сильно другие
наконец, способ генерации черного тоже сильно влияет