Так это же Вин–модем! А Windows — это Вин–ОС! Они же несовместимы по определению! :–)

На самом деле, скорее всего, проблема из–за драйвера модема. Модем большую часть своей работы выполняет с помощью софта, жрёт уж очень много ресурсов, и оставшихся ресурсов не хватает на Винамп. Попробуй переустановить драйвер модема и / или подёргать ползунок Winamp process priority в настройках Winamp`а.

Кроме того глянь насчет пересечения прерываний
в Винде. Хотя она якобы с этим справляется, на самом деле и ей от этого не хорошо, в случаях, подобным тобой описанному.
Запросто вин–модем мог сесть на одно прерывание со звуковухой