Почему Княжна Марья не могла выйти за Николая?

Трудно складывается любовь княжны Марьи и Николая.
Он чувствовал себя несвободным, потому что дал слово Соне,
его смущали мысли о богатстве княжны и собственном
разорении. А княжна считала невозможным для себя думать
о личном счастье после смерти отца и брата.
Но все сомнения и решения, принятые обоими накануне, рушатся,
когда они снова видят друг друга.
Любовь преобразила княжну. "В первый раз вся та чистая,
духовная внутренняя работа, которой она жила до сих пор,
выступила наружу... ее страдания, стремление к добру,
покорность, любовь, самопожертвование - все это светилось
теперь в этих лучистых глазах, тонкой улыбке, в каждой
черте ее нежного лица". И Николай Ростов "увидел —
все это так же ясно, как будто знал всю ее жизнь.
Он чувствовал, что существо, бывшее перед ним, было совсем
другое, лучшее, чем все те, которые он встречал до сих пор,
и лучшее, главное, чем он сам".

Потому что НИКОЛАЙ никак не может выбиться ИЗ ГРЯЗИ В КНЯЗИ

ну да А потом в конце николай был еще горд типа ему деньги марии не нужны

Тупость, конечно. Насколько я знаю, сейчас брат и сестра спокойно могли бы пожениться с другими братом и сестрой.

Я такое и в другой книге тех времён встречала. Видимо, было такое правило. Можно предположить, что если Наташа вышла бы за Андрея, то Николай и Марья считались бы братом и сестрой, хоть и не по крови. Вот ещё: Амфитеатров "Отравленная совесть": " Уходу и заботам Елены Львовны папа был обязан своим возрождением. Тетя полюбила моего отца, неся целебную помощь его больному сердцу; он полюбил ее, принимая ее сострадание. Они объяснились... Вдовец от одной сестры, папа не имел права жениться на другой."

Именно так. Если бы князь Андрей и Наташа поженились, то его сестра и её брат стали бы родственниками, а церковь такие браки, мягко говоря, не одобряла.