селективность автоматов определяется по номинальному току автомата или расцепителя?

ток короткого замыкания петли "фаза-нуль" автомата категории С по тепловому расцепителю равен 1,1*номинал автомата*10.
По электромагнитному расцепителю в ПУЭ 6 было так. До 100А ток к. з считался равным 1,4*номинал автомата, выше 100 А 1,25*номинал автомата.
В последнем ПУЭ 7 уже коэффициентов нет и считают по токо-временной характеристике. Время отключающей способности для автомата категории С равно 0,4 с
Ответ на ваш вопрос - однозначно по расцепителю

Селективность - это определённая очередность автоматического отключения автоматов. Атоматическое отключение происходит по двум параметрам: по току и по времени отключения. В зависимости от этого конструируют автоматы с разными время-токовыми характеристиками, чтобы соблюсти условия селективности.
Автоматический выключатель потому и называют выключателем (а не включателем) , потому что он автоматически ОТКЛЮЧАЕТСЯ. А спускной механизм для этого является независимый расцепитель.
Например, в одной цепи есть автоматы АП-50 Iн=40 А, Iотс=3Iн и АП-50 Iн=25 А, Iотс=10Iн. Второй автомат по номинальному току меньше первого. Допустим ток в цепи стал 300 А. Ток срабатывания первого автомата -120А, а второго 250 А. Автоматы однотипные, и поэтому имеют одинаковую вольтамперную характеристику. Поэтому здесь играет роль кратность превышения тока. А значит вперед отключится первый автомат, не смотря, что номинальный ток у него больше.
Но это я показал пример по селективности срабатывания отсечки, а есть ещё селективность по перегрузу, так называемое Iтепл.