Подскажите, начисляется ли пеня или штраф за просрочку выплаты единовременного пособия на рождение ребенка?

Если Вы получаете пособие по месту работы, применяются нижеследующие правила ТК РФ
Статья 236. Материальная ответственность работодателя за задержку выплаты заработной платы и других выплат, причитающихся работнику
При нарушении работодателем установленного срока выплаты заработной платы, оплаты отпуска, выплат при увольнении и других выплат, причитающихся работнику, работодатель обязан выплатить их с уплатой процентов (денежной компенсации) в размере не ниже одной трехсотой действующей в это время ставки рефинансирования Центрального банка Российской Федерации от невыплаченных в срок сумм за каждый день задержки начиная со следующего дня после установленного срока выплаты по день фактического расчета включительно. Размер выплачиваемой работнику денежной компенсации может быть повышен коллективным договором или трудовым договором. Обязанность выплаты указанной денежной компенсации возникает независимо от наличия вины работодателя.

Наталья права.
если получаете пособие через работодателя, то действует ст. 236 ТК РФ (1/300 ставки ЦБ РФ за каждый день просрочки) . эти проценты спокойно можно требовать в досудебном порядке, ссылайтесь на ст. 236 ТК РФ (естественно, в письменной форме)
если сильно задерживают, жалобу в фонд соц. страхования (заказным письмом)

если пособие получаете в администрации района, то проценты можно взыскать только через суд.

вообще, еп должно быть выплачено в течение 10 дней после написания заявления.... по поводу штрафов не помню....

Но вообще, в принципе, возможно начислить неустойку за пользование чужими денежными средствами за каждый день просрочки))