как выделить долю площади в трехкомнатной квартире-9 м если меньшая комната 10,8м

Можно в судебном порядке, но в любом случае порядок выдела такой доли предусматривается статьёй 252 Гражданского кодекса РФ.

Статья 252. Раздел имущества, находящегося в долевой собственности, и выдел из него доли

1. Имущество, находящееся в долевой собственности, может быть разделено между ее участниками по соглашению между ними.
2. Участник долевой собственности вправе требовать выдела своей доли из общего имущества.
3. При недостижении участниками долевой собственности соглашения о способе и условиях раздела общего имущества или выдела доли одного из них участник долевой собственности вправе в судебном порядке требовать выдела в натуре своей доли из общего имущества.
Если выдел доли в натуре не допускается законом или невозможен без несоразмерного ущерба имуществу, находящемуся в общей собственности, выделяющийся собственник имеет право на выплату ему стоимости его доли другими участниками долевой собственности.
4. Несоразмерность имущества, выделяемого в натуре участнику долевой собственности на основании настоящей статьи, его доле в праве собственности устраняется выплатой соответствующей денежной суммы или иной компенсацией.
Выплата участнику долевой собственности остальными собственниками компенсации вместо выдела его доли в натуре допускается с его согласия. В случаях, когда доля собственника незначительна, не может быть реально выделена и он не имеет существенного интереса в использовании общего имущества, суд может и при отсутствии согласия этого собственника обязать остальных участников долевой собственности выплатить ему компенсацию.
5. С получением компенсации в соответствии с настоящей статьей собственник утрачивает право на долю в общем имуществе.

Можно определить порядок пользования квартирой и закрепить в пользование конкретные комнаты, за каждым из собственником. Но это не право собственности на комнату, это порядок пользования ими. Доли при этом останутся долями.

долю, равную конкретному количеству метров не выделишь никак... .
практически никогда доле в праве на квартиру не соответствует ни одна из ее комнат.. .
Практически всегда выделение доли в натуре затруднительно ( ведь есть еще доля в туалете, ванной и на кухне)
В таких случаях собственники определяют порядок пользования квартирой, закрепляя, по общему соглашению между собой, право пользования конкретными имеющимися комнатами...