Каким проводом подключить сабвуфер Yamaha YST-SW315 к ресиверу pioneer vsx 323

В вашем варианте есть только один способ соединения - с помощью параллельного подключения акустического ("колоночного") кабеля (пары проводов R и L, см цветовую окраску) с клемм Front Speakers с ресивера, на From Amplifier у сабвуфера (подробности есть в инструкциях к технике) .
Те входы RCA/"тюльпаны", про которые вы говорите, в данном случае бесполезны - это вход по низкой частоте у саба, а у ресивера такого выхода нет вообще (коаксиальный аудиовыход предназначен для цифрового сигнала, который "не понимает" сабвуфер) ) . .
http://chezasite.com/forum/threads/slovar.33231/
Обязательно выключайте работу аппаратуры, когда перетыкаете кабели, чтобы не сжечь схемы...