to listen to music - бессмыслица
to listen - глагол "слушать", "to" перед глаголом придаёт ему неопределённую форму
music - существительное "музыка" и "to" может быть использовано с ним, как предлог "к"
Получается - "слушать к музыке"?
Фразовые глаголы и послелоги - это совсем другое и к этому случаю не имеют никакого отношения. В данном случае "to" просто предлог, это случай так называемого предложного управления глаголов. Некоторые глаголы требуют после себя определённых предлогов, например, в русском - думать о, смотреть на, состоять из и так далее. Так вот, это предложное управление в разных языках не всегда совпадает. Бывает в русском языке предлог нужен, а в английском нет: отвечать НА вопрос - to answer a question. Бывает наоборот, в русском предлог не нужен, а в английском нужен: ждать кого-то - to wait FOR somebody. Глагол listen - один из таких случаев, в русском предлог не нужен, а в английском нужен: слушать музыку - listen TO music.
Это ПРАВИЛЬНЫЙ вариант. Слушать (чего, кого?) = to listen to (somebody, something.)
НО тут НЕ частица, а предлог "to". Хотя правильнее называть его "послелог".
В выражении " to listen to music " первое to является частицей, указывающей на инфинитив. Второе to - послелог.
В англ. языке существуют ФРАЗОВЫЕ ГЛАГОЛЫ, заучивать их нужно "в комплекте".
В зависимости от послелога может очень сильно меняться смысл высказывания.
Например, to look at smb. = смотреть НА кого-л.
To look for smb. = искать кого-л. и т. д.
Т. е. в Вашем примере, когда мы хотим сказать, что слушают кого-то или чего-то (музыку) , мы употребляем необходимый тут послелог. И даже, когда нет продолжения ( без дополнения, такое бывает) , всё равно, как правило, в этом выражении на конце ставится "to".