что нужно сделать чтобы можно было разговаривать по модему?

у модема нет микрофона => звук он не воспринимает => никак.
подумай над вопросом еще раз.

Установить скайп или ICQ

По модему? Это как? Модем - это просто коробка с платами.

Если по usb, то прошивку обновить. Правда возможно что у оператора и нет такой прошивки.

посмотри в гугле название своего модема и глянь поддерживает голосовые вызовы если да то можно если нет даже прошивка не поможет а сверху на глупых не обращай внимания