Как принимается решение в суде, если в договоре не прописана ответственность сторон?

Суд будет выносить решение с учётом принципов разумности и справедливости.

Если в договоре не указано, решение суд будет принимать в соответствии с законодательством РФ. Что касается Вашего случая: в статье 380 ГК РФ говорится, что задатком "признается денежная сумма, выдаваемая одной из договаривающихся сторон в счет причитающихся ей по договору платежей и как доказательство заключения договора в обеспечение его исполнения".
В статье 381 ГК РФ сказано, что при прекращении обязательств до начала исполнения договора по соглашению сторон или если его невозможно исполнить (статья 416) задаток надо вернуть. Если за неисполнение договора ответственна сторона, давшая задаток, он остается у другой стороны. Если за неисполнение договора ответственна сторона, получившая задаток, она обязана уплатить другой стороне двойную сумму задатка.
http://www.consultant.ru/document/cons_doc_LAW_5142/f9658bf38181daad404c799a289d3df11ae5fd33/
Но лучше получить очную консультацию по тексту договора при наличии прочих документов. Возможно, в договоре прописано то, что вы для себя считаете несущественным, а это имеет значение. Так бывает...

Всё зависит от текста написанного в расписке.
1, Суд будет принимать решение по закону.
2, В законе - залогом является сумма переданная именно за приобретение недвижимости и если документ ( договор залога! а не расписка) - заверен нотариально.
3, Расписка пишется только на передачу денег и считается долговой распиской. По таковой суд примет решение -"о возврате суммы, как долг выдавшему вам сумму человеку" сочтёт как аванс в счёт платежа на время дооформления договора или других документов.

Вот, к чему приводит самостоятельность в таком серьёзном деле, как купля-продажа недвижимости. При подписании Соглашения о задатке и передаче денежных средств необходимо знать правовые нюансы этого действа. Вы, как покупатель, при отказе вернуть задаток, в Суде проиграете на основании статей 380-381 ГК РФ. Внимательно ознакомьтесь со статьями Закона и со своим Договором.