Если взять колонки только с rca выходом, и подключить через переходник на мини джек 3.5, качество звука ухудшится?

Ухудшится, если только кабель будет низкого качества (плохо экранирован) . От разъёмов качество не зависит.

Нет.

всё будет точ так же.

Если бы это был шнур ценой баксов 5-10 за метр из бескислородной меди, а колонки стоили бы баксов 500-700, ухудшение было бы заметно. А с обычной "лапшой" имхо никаких эффектов не будет.