Почему 10 руб брак стоят дороже чем целые?

Ответ есть в вопросе. Дороже, потому что миновали ОТК и попали в оборот. Что, как утверждают на монетных дворах, не возможно. Т. е. брак это единичные экземпляры, относительно всей массы монет. Вот и ответ, дороже потому что их на порядок меньше.
А теперь о самом браке. Если это банальные непрочеканы, то это в порядке вещей. Всё же качество чеканки оставляет желать лучшего. Это всё относится к любым номиналам, а не только к 10 рублям.

Значительно реже встречаются.

Если у вас в руках брак - он по-любому уникален, ибо на Гознаке отдел технического контроля ой-ой-ой какой, мыша не проскочит. Но только в том случае если это именно фабричный брак, а не кто-то подложил десятку под трамвай или тупо раскурочил острым предметом и молотком. Браки бывают разных видов - непрочеканы, трещины (то есть когда печатающая форма треснула, а на монете соответственно толстый рубец ), выкусы - когда монетка не успела соскользнуть с формы, и по ней ударило второй раз и откусило краешек. Еще один вид брака - разворот, то есть когда аверс и реверс значительно смещены относительно друг друга. Наиболее ценны развороты в 90 градусов.