наследственное право

Вы, похоже, несколько запутались в терминах.. .
Не может быть в собственности 5 кв. м. жилой площади в квартире,... но может быть в собственности доля, пропорциональная 5 кв. м. площади (или жилой, или общей) этой квартиры. Т. е. брату, скорее всего, в наследство досталась такая ДОЛЯ, в праве общей долевой собственности на эту квартиру.
И он, как сособственник, тоже имеет право пользования этой квартирой (и жилой площадью, и местами общего пользования) - не только владельцы большей долей. Порядок пользования определяется по соглашению между ВСЕМИ сособственниками (или в судебном порядке) , при этом установленные учетные нормы площади (для квартиры, находящейся в частной собственности) не применяются.
По той же причине (общая долевая собственность на квартиру) сдача в аренду (в наем) даже части квартиры (например, одной из комнат) может осуществляться только с согласия ВСЕХ сособственников. А сдача в аренду ВСЕЙ квартиры должна производиться по Договору, в котором в на стороне арендодателя (наймодателя) должны участвовать ВСЕ сособственники и каждый может требовать свою долю арендной платы.
И если брат обратится в суд с иском о признании Договора аренды НЕДЕЙСТВИТЕЛЬНЫМ, то почти наверняка, решение будет в его пользу…
Думается, что наилучшим выходом для Вас будет поделиться с братом пропорциональной частью арендной платы (заключив с ним ПИСЬМЕННО соответствующее Соглашение) или договориться о выкупе у него его доли…
Удачи.

это как - "в одностороннем", но судебном порядке?

Собственник 5 кв. м. имеет право проживать в квартире без всякого судебного порядка, если судом не установлено иное. Я рекомендую выкупить его долю, пока он не раздарил ее по 100 кв. см. различным посторонним лицам.

Имеет полное право, так как он такой же собственник помещения. Норма о минимальной площади в данном случае здесь роли не играет. Ваши действия - не мешать проживать сособственнику.

ну ему явно принадлежит не 5 кв. м а доля которую Вы посчитали. Поэтому надо ставить вопрос о разделе в натуре и от этого плясать после результатов экспертизы.