Как научиться понимать, в какой случае лучше чб или сепия чем цветная?

Да никак. Невозможно научиться. Общее развитие вкуса идет хотя бы через какое-то серьезное занятие близкое к искусству. Если брать искусствоведов которые только изучают, но сами не создают - у них часто отсутствует художественный вкус. Должен быть просто творческий талант когда человек является создателем.
Преодолеть отсутствие таланта можно только большим вниманием к этой области /с детства/
Например печатник, просто мастер печатник, который всю жизнь печатает например литографии, через него проходит большее количество произведений искусств, может посоветовать даже лучше чем художник - короче большим вниманием. Это все уважаемые люди со вкусом - много работают.
Даже дежурный в музее может развиваться и смотреть на шедевры, а может смотреть в потолок - все зависит от человека.

Сравнить.

По поводу комментария "сразу ставить в фотике ч/б" - сделать такой режим, и ему подобные (сепия и т. д. ) производителю фотиков - труда не составляет, а потом это рекламируют как сюжетный программы. Художественная ценность таких режимов не высокая, правильно сказали - в фотошопе намного интереснее можно сделать. Практически такие режимы есть смысл применять, когда предполагается прямая печать на принтер, без компьютера. Или когда снимок "технический" - снять текст, в ч/б вариате он более читаемый получится.

Тут алгоритма нет.
Только собственный художественный вкус.

Это надо чувствовать.
Понятно заранее одно: если картинка переводится в ч/б тупым "обесцвечиванием", она будет хуже, чем цветной исходник. Адекватно перевести тона в градиенты серого -- это очень непростая задача...

Эт на глаз!