на основаниичего можно определить границу участка между соседями

При производстве судебной строительно-технической экспертизы эксперты произведут все необходимые замеры, встретятся с Вами и с Вашими соседями, предложат, исходя из документов и сложившегося порядка пользования землёй и домом, несколько вариантов их раздела, выберите приемлевый для Вас вариант. После решения суда у Вас уже будет не доля в праве собственности, а самостоятельный участок и отдельная часть дома, например, квартира № 1. Вы уже самостоятельно сможете принимать решения о застройке участка и пристройках к дому, не спрашивая согласия совладельцев, а также продать свою часть, не предлагая им.

Земля закреплена документально? Или только дом?

Не обязательно, вы можете иметь долю дома а земли ни метра, только до калитки проход, так что УФРС РФ вам поможет там описаны права на долю

Если не определен порядок пользования земельным участком, настаивайте на суде, что участок разделить пропорционально общей площади Вашей доли в доме.
Раздел земельного участка в натуре возможен лишь при условии, что размер каждого из вновь образованных земельных участков будет не менее минимального размера, установленного земельным законодательством для участков соответствующего целевого назначения.
Предельные (максимальные и минимальные) размеры земельных участков, предоставляемых гражданам в собственность из находящихся в государственной или муниципальной собственности земель для ведения крестьянского (фермерского) хозяйства, садоводства, огородничества, животноводства, дачного строительства, устанавливаются законами субъектов РФ, для ведения личного подсобного хозяйства и индивидуального жилищного строительства - нормативными правовыми актами органов местного самоуправления. Для иных целей предельные размеры земельных участков устанавливаются в соответствии с утвержденными в установленном порядке нормами отвода земель для конкретных видов деятельности или в соответствии с правилами землепользования и застройки, землеустроительной, градостроительной и проектной документацией (ст. 33 ЗК) .
Статья 4 Закона об обороте земель также предусматривает, что законами субъектов РФ могут быть установлены минимальные и предельные (максимальные) размеры земельных участков из земель сельскохозяйственного назначения в соответствии с требованиями законодательства РФ о землеустройстве.
Таким образом, если после раздела размер земельного участка, приходящегося на каждого наследника, будет меньше минимального размера, установленного для участка соответствующего целевого назначения, то раздел участка невозможен.