как мне подключить модем к хабу? в какое гнездо хаба он подключается?

Вариант первый. Если Вы говорите про телефонный хаб. Хаб логически представляет из себя шину, так что ему всё равно, в какое гнездо Вы подключите модем. Хотя, я бы рекомендовала, если модем АДСЛ, сначала поделить разделителем частот телефонную линию, один выход отдать модему, второй хабу и куда Вам там дальше. Потому что иначе, данные, предназначенные для АДСЛ соединения и передающиеся на более высоких частотах, чем голосовые данные телефонной связи, пойдут не только на модем, но и на телефоны, подключенные к хабу, что может вылиться в проблемы с телефонной свзяью.
Вариант второй. Если вы говорите про сетевой хаб. Тогда Ваш вопрос попросту некорректен, модем подключается к телефонной линии, иначе зачем нужна модуляция/демодуляция.