Как установить отцовство при такой ситуации...

Обжалуйте отказ в вышестоящую судебную инстанцию, если, конечно, отказ был официальным и выносилось соответствующее определение. Если отказали на словах-подавайте еще раз и требуйте принятия по вашему исковому заявлению процессуального решения, которое вы могли бы обжаловать. Не принимают непосредственно на приеме-посылайте по почте закзаныи письмом с уведомлением о вручении.
Что касается экспертизы ДНК- то доказательства могут предъявляться вами не только на стадии подачи искового заявления, но и в процессе судебного разбирательства. Так что отсутствие оной при подаче иска-не является основанием для отказа в приеме заявления. Вы вправе ходатайствовать перед судом о ее проведении на стадии судебного разбирательства.
Что касается нотариального отказа от ребенк-отказ от ребенка законодательством РФ не предсмотрен. Биологический отец может написать не отказ, а согласие на усыновление ребенка вами. В таком случае, вам надо будет обратиться в суд уже с другим иском-не об установлении отцовства, а об усыновлении.

Пусть мать подаст

Вам в любом случае придется делать анализ ДНК. вы не член семьи, поэтому вам отказали. Делайте анализ и подавайте исковое снова.
Соглашений об отказе от ребенка законом не предусмотрено

Вам необходимо подать иск в суд об оспаривании отцовства, ст. 52 СК РФ. Судом будет назначена генетическая экспертиза (анализ ДНК)

А что мать ребёнка подать не может?

бывшей жене трудно связатся с бывшем мужем?
они вместе через суд могут оспорить отцовство без экспертизы
вам надо не оспаривать отцовство а устанавливать отцовство

Результаты ДНК им нужно? ! Они там в суде вообще в курсе, что генетическая экспертиза отцовства, выполненная без вынесения судом определения на ее выполнения (точнее она в этом случае будет называться "актом исследования"), не имеет юридической силы и суд может ее не признать. Так что пусть сначала открывают дело и назначают эту экспертизу. Иначе не факт, что Вам не придется 2 раза ее делать, а это не дешево.
Как доказательство обоснованности Вашего иска приведите доказательства совместного проживания с матерью Вашего ребенка.