Что лучше в плане качества сигнала оптика или джек на 2 тюльпана

Теоретически - оптика.
Потому что это цифра, а значит сигнал передается со 100% точностью.

Но фактически - испортить аналоговый сигнал нужно очень постараться.

"джек" - это просто разъем. Не важно , какой разъем, важно какой аудиотракт , какая схема и ее качество.
Если к схеме усилителя претензий нет - то какие проблемы?

А по кабелю с разъемами: чтоб потери качества были, нужно чтобы
разъемы были испорчены и окислены в хлам,
кабели были испорчены и окислены в хлам, чтоб живого места не было, труха на скрутках,
чтоб кабеля было не метр-два, а десятки метров хренового кабеля, прям ужасно плохого. С плохой экранировкой, с очень большой емкостью (если у нас источник - муз. инструмент с пассивными звукоснимателями) .

Вот только тогда какие-то недостатки и начнут всплывать.

Если усилитель у нас качественный, выходной тракт источника сигнала качественный, кабель в адекватном состоянии, разъемы исправны - то совершенно пофигу, оптикой или аналогом подключать.

У меня с компа используются оба выхода - оптика идёт на усилитель, 3,5" -> тюльпаны на телек. Разницу в качестве вы вряд ли услышите, только если у вас источники сигнала уровня хай-энд.

Много от "передавателя" и "принимателя"

Оптика, плюс она не подвержена помехам.

зависит от ЦАПа. где он качественнее, там и звук будет лучше

Кроме того, при использовании оптического кабеля исключается возможность передачи электрических помех и наводок, которые могут присутствовать на корпусе источника сигнала, в приемник.
https://www.audiomania.ru/content/art-2345.html

не знаю, но джек выглядит как то по надежней.