Переходит ли квартира рентодателя в случае его смерти его родственникам?

Здесь надо смотреть договор или к адвокату
Одним из основных признаков этого договора является безвозмездность действий Дарителя. Безвозмездным является договор, по которому одна сторона обязуется предоставить что-либо другой стороне без получения от нее платы или иного встречного требования. Важно понимать, что при наличии условий о встречном требовании вещи или права либо встречного обязательства договор не считается дарением и такой договор признаётся притворной сделкой. Такая сделка считается ничтожной, и не влечет никаких правовых последствий.

Они имеют право подать иск в суд о переводе ренты на них. Если бабушка не согласна, то могут заставить вернуть деньги за понесенные расходы.

Смерть плательщика ренты не является основанием для прекращения договора ренты, обязанности плательщика ренты входят в состав наследства.

Обоснование вывода:
Согласно п. 1 ст. 583 ГК РФ по договору ренты одна сторона (получатель ренты) передает другой стороне (плательщику ренты) в собственность имущество, а плательщик ренты обязуется в обмен на полученное имущество периодически выплачивать получателю ренту в виде определенной денежной суммы либо предоставления средств на его содержание в иной форме.
Как указано в п. 2 ст. 218 ГК РФ, в случае смерти гражданина право собственности на принадлежавшее ему имущество переходит по наследству к другим лицам в соответствии с завещанием или законом.
Таким образом, в случае смерти плательщика ренты принадлежавшее ему имущество, полученное по договору ренты, входит в состав наследства.
В силу ст. 418 ГК РФ обязательство, в том числе возникшее из договора, прекращается смертью должника только в том случае, если исполнение такого обязательства не может быть произведено без личного участия должника либо обязательство иным образом неразрывно связано с личностью должника. В ст. 1112 ГК РФ указано, что не входят в состав наследства права и обязанности, неразрывно связанные с личностью наследодателя, в частности право на алименты, право на возмещение вреда, причиненного жизни или здоровью гражданина, а также права и обязанности, переход которых в порядке наследования не допускается ГК РФ или другими законами.
Обязанности плательщика ренты не связаны неразрывно с личностью наследодателя, а глава 33 ГК РФ не упоминает в качестве основания расторжения договора ренты смерть плательщика ренты.
В силу п. 1 ст. 1110 ГК РФ при наследовании имущество умершего (наследство, наследственное имущество) переходит к другим лицам в порядке универсального правопреемства, то есть в неизменном виде как единое целое. Ответственность наследников по долгам наследодателя установлена ст. 1175 ГК РФ.
Таким образом, смерть плательщика ренты по договору ренты не является основанием прекращения договора ренты, а обязанности плательщика ренты по договору ренты входят в состав наследства.
Сказанное подтверждается судебной практикой (смотрите, например, п. 1 Обзора судебной практики Верховного Суда Республики Мордовия по гражданским делам (1-ое полугодие 2002 г.), определение СК по гражданским делам Верховного Суда РФ от 21 октября 2002 г. N 15-ВПР02-11, определение президиума Московского областного суда от 4 марта 2008 г., постановление президиума Московского областного суда от 4 июня 2008 г. по делу N 44г-167/08, определение Московского городского суда от 6 августа 2010 г. N 4г/1-6816, определение СК по гражданским делам Московского городского суда от 28 марта 2011 г. по делу N 33-8334/2011).
ГАРАНТ. РУ: http://www.garant.ru/consult/civil_law/383389/#ixzz3bRRg9d2s
----------------------
Порядок наследования квартиры, если наследодателем является плательщик ренты

В состав наследства плательщика ренты вместе с правом собственности на квартиру, переданную ему по договору ренты, включается также обязанность по выплате ренты ее получателю (п. 1 ст. 583, ст. 1175 ГК РФ; п. 69 Постановления Пленума Верховного Суда РФ от 29.05.2012 N 9).

Иными словами, наследники плательщика ренты наследуют квартиру и обязательства по выплате ренты, если получатель ренты пережил плательщика ренты или если заключен договор постоянной ренты.
http://azbuka.consultant.ru/cons_doc_PBI_212820/

Новый

Квартира уже была в собственности племянницы .. См. ГК РФ Ст. 583 п. 1 .. Наследуют родственники племянницы ( ст. 1142 ГК РФ).. Но условия Ренты надо соблюдать до конца.. Иначе бабуля опротестует ренту, как таковую..

Договор прекращается в связи со смертью.
Надо новый договор заключать и регистрировать через росреестр, если договор не зарегистрирован он может быть признан недействительным.