Как активизировать альфа-канал,где объект будет черным, фон - белым,а граница перехода - сероватой?

Канал не "активизируется", а создаётся маска на основе копии зелёного (в данном случае) канала. Далеко не для всех изображений можно использовать данную методику, а если и можно, то не всегда оптимальный канал именно зелёный. В последствии эта маска и используется в качестве альфа-канала (канала прозрачности) для отделения фона.

Обратите внимание - в самом начале рубашка и лицо выделены инструментом "Лассо" и залиты чёрным вручную: "Поскольку рубашка ребенка растворяется в фоне из-за движения, я предпочел начать выделение с нее, используя инструмент лассо".

Все остальные трюки с кривыми и смешением канала с самим собой сделаны для того, чтобы чётко отделить волосы от фона (обычно - это самая сложная работа) , поэтому, вначале, нужно искать канал с самым высоким контрастом именно в областе волос.

В общем, никакой магии и достаточно много ручной работы! И помните, что написано в уроке; "Как я сказал в начале, это не единственный способ изолировать объект от фона и, может быть, даже не лучший способ. Но в этом случае он сработал. И все же ключ к оптимальной изоляции лежит в поиске оптимального для маскирования канала. Когда подходящий канал найден и контрастность увеличена, его можно использовать как маску слоя, которую уже можно редактировать так, чтобы ни один драгоценный пиксель не был утерян... "

Переведи изображение в CMYK, если оно в RGB.