В каких случаях матери могут отказать исполнять роль защитника своего ребенка на суде?

Гражданский процессуальный кодекс РФ, Глава 5

Статья 49. Лица, которые могут быть представителями в суде
Представителями в суде могут быть дееспособные лица, имеющие надлежащим образом оформленные полномочия на ведение дела, за исключением лиц, указанных в статье 51 настоящего Кодекса. Лица, указанные в статье 52 настоящего Кодекса, имеют полномочия представителей в силу закона.

Статья 51. Лица, которые не могут быть представителями в суде
Судьи, следователи, прокуроры не могут быть представителями в суде, за исключением случаев участия их в процессе в качестве представителей соответствующих органов или законных представителей.

Статья 52. Законные представители
1. Права, свободы и законные интересы недееспособных или не обладающих полной дееспособностью граждан защищают в суде ИХ РОДИТЕЛИ, УСЫНОВИТЕЛИ, ОПЕКУНЫ, ПОПЕЧИТЕЛИ ИЛИ ИНЫЕ ЛИЦА, КОТОРЫМ ЭТО ПРАВО ПРЕДОСТАВЛЕНО ФЕДЕРАЛЬНЫМ ЗАКОНОМ.
2. По делу, в котором должен участвовать гражданин, признанный в установленном порядке безвестно отсутствующим, в качестве его представителя выступает лицо, которому передано в доверительное управление имущество безвестно отсутствующего.
3. Законные представители совершают от имени представляемых ими лиц все процессуальные действия, право совершения которых принадлежит представляемым, с ограничениями, предусмотренными законом.
Законные представители могут поручить ведение дела в суде другому лицу, избранному ими в качестве представителя.

Как видите мать имеет право исполнять роль защитника своего ребенка, при условии, что ребенок является недееспособным или ограниченно дееспособным.

Мать ребенка является его законным представителем в силу закона. Это басспорно и никто этого отменить не может.