Доли в приватизированных комнатах в общежитии

А при чём тут сводный брат мамы? Он в перечень наследников первой очереди не попадает. Всё делят папа и сын

1/9 долю сводного брата выкупить и дальше жить вдвоём в двух комнатах

Мамина доля будет делиться на троих. При наличии согласия сводного брата его долю можно у него выкупить. Это можно сделать либо после выдачи свидетельств о праве на наследство либо выплатить ему энную сумму в обмен на его отказ от принятия наследства.
После получения свидетельств о праве на наследство оставшиеся два наследника заключают договор мены долями ( при условии, если в документах указаны доли конкретных комнат).

1. Наследники первой очереди по закону- родители, супруг, дети (внуки по праву представления).
Если у вашей матери двое детей, значит уже два наследника первой очереди,
отец, упомянутый в попросе - наследник только если он в браке с матерью на дату ее смерти состоял,
еще открыт вопрос по родителям матери.
Принять наследство нужно в течение 6 мес. с даты открытия наследства (дата смерти наследодателя).
Идти к нотариусу и подавть заявление о принятии наследства.
2. У вас если по договору соцнайма было жилое помещение, состоящее из двух комнат в коммунал. квартире, то у вас по 1/3 в этом жилом помещении.
Поэтому сособственники могут соглашением определить порядок пользования жилым помещением. Например этот пользуется этой жилой комнатой, а другой- той.
Можно разделить между сособственниками оплату жилищ. и комм. услуг соглашением и платить отдельно каждому пропорционльно доле собственности.
Выделить доли в натуре в квартире в МКД - невозможно.
Т. е невозможно, чтобы отец стал собственником одной комнаты, а вы- другой.

Сводный брат тут ни при чём. Он не является наследником в данном случае.
Делятся не комнаты, а доли в праве собственности.

Сводному брату ничего не причитается. Он не наследует.

Доля матери наследуется её мужем и сыном!