Имееют ли право выписывать штраф по новой если я его оплатил но с опозданием?

Называется не "по новой", а удвоение в связи с тем, что не оплачен в 30+10 дней срок..

влечет наложение административного штрафа в двукратном размере суммы неуплаченного административного штрафа, но не менее одной тысячи рублей либо административный арест на срок до пятнадцати суток. (на практике арест встречается очень редко)

Нарушение срока уплаты, само по себе, административное правонарушение.