Подскажите, пожалуйста! В квартире прописано 3 человека, у мамы 2 доли, у нас с братом по одной доле.

Не получится заставить долю продать. Чит. п4.ст. 252 ГК РФ. http://www.zakonrf.info/gk/252/ По смыслу п. 4 статьи 252 ГК РФ прекратить право собственности на долю в общем имуществе с выплатой компенсации собственнику возможно лишь при наличии волеизъявления этого собственника на выдел своей доли (т. е. при заявлении им иска о выделе доли).
Остается только уговорить брата, чтобы продал вам свою долю. Противоправное будет поведение, обращайтесь в полицию.

можно обратиться в суд с требованиям обязать брата принять выкуп за его долю - ч. 4 ст. 252 ГК РФ

Кто много говорит - ТОТ МАЛО ДЕЛАЕТ. Вам не стоит бояться пустых угроз своего брата, а вот он-то как раз боится, что отчим присвоит ваше жилье или его часть, тогда вы точно никогда не разойдетесь. Мы все конечно под Богом ходим, но в случае чего, отчим и так становится наследником. Лучше бы ваша мама, с учетом обстоятельств и ваших с братом отношений, позаботилась бы о том, чтобы вы с братом получили поровну, лично я бы так и поступила.

Вот когда он приедет и начнет реально ломать вещи, тогда сможете звонить 02. А пока что говорить не о чем. Продавать свою долю он не обязан. Но вопрос может раз и навсегда решить мама. Если она хочет продолжать жить с мужем, она может ему половину своей доли просто подарить. Или продать. И он станет совладельцем.

только полицаев вызывать

Братик хочет сесть? Чего ж маме портить жизнь?