При каком самом большом размере планета сможет оставаться планетой?

до 12,5 масс Юпитера это считается планетой (никакие термоядерные реакции внутри не идут)
По диаметру не сильно больше нашего Юпитера - т. к. с ростом массы сжимается всё плотнее из-за гравитации.
Если масса больше, то уже возможно протекание реакций и объект называют звездой.

Это граница между коричневым карликом и суперюпитером-границы точной нет...

Планета никоим образом не станет звездой или чёрной дырой. Такая трансформация может произойти только с плазмой, по теории большого взрыва, а также по результатам опытов с плазмой на орбите, во время формирования планет и звёзд и то и другое - плазма. В тот момент от разных внешних воздействий, а также начальной массы, зависит, станет плазма звездой, чёрной дырой или планетой. А уже образовавшееся космическое тело определяют по структуре. Если это любая почва, то это планета. Если газ, то это газовый гигант. Если плазма, то это звезда. А вот структура чёрной дыры неизвестна, потому что она поглощает всё, даже свет и "лучи зрения", которые являются светом. Есть ещё белые дыры, но это уже о другом.

есть гипотеза, что Юпитер это формирующаяся будущая звезда

Точные размеры указать нельзя . Ибо всё зависит от размеров звезды и размеров планеты. И расстояния до звезды, при котором планета не сходит с орбиты и не падает на свою звезду или её не разрывает сила притяжения Звезды. ( Моя гипотеза ). Может, у физиков-астрономов есть формула расчёта, в которую вставляют данные о массах, скорости вращения и т. п.