Почему желе не густеет?

Причина только одна - мало желатина на данное количество жидкости . Первоначально Вы все делали правильно.... желатин набух и потом его смешать с горячей жидкостью, но не кипятком, хотя правильнее распустить этот набухший желатин на водяной бане. Второй раз не надо было нагревать компот, который уже с желатином... первая порция потеряла свойства. На 1 ст. ложку желатина надо 100 мл воды, что бы набух. На жидкости навар из ягод и фруктов всегда надо желатина больше, чем на простую воду или холодец
https://www.videoculinary.ru/recipe/vishnevoe-zhele/ здесь пропорции правильные

Желатин на водяной бане растворяют, а потом уже добавляют в жидкость... да и компот не должен быть горячим, потому и не застыл...

Вы перегрели желатин

Отмерять весами, а не ложками, 50-60 г на литр, не перегревать

Для вишни желатина надо больше, желе из вишни, особенно из сока застывает плохо.
У вас желатина мало получается 1 ст ложка на 1,2 л жидкости, а для вишни это очень мало.

- по-моему, 1 ст. л. желатина- мало на 1л воды хотя проверьте инф. на пакете)
- нельзя заливать желатин кипятком: он сворачивается и не работает. Вода должна быть теплой
- добавьте еще замоченного желатина - в правильной пропорции к воде.
И еще: трудно застыть большому объему. Лучше сразу разливать в порционные емкости

Очень мало желатина.
Там на упаковке вроде 1 ст ложка желатина - на 300 мл воды или напитка (или на 500)