Nekem hasonló problémáim (betűk helyett fura karakterek jelennek meg, főleg négyzetek) akkor szoktak lenni, ha a betűkészlettel van valami gond ( pl.: nem támogatja a magyar betűket). Bár fura lenne, de azért próbáld ki:
1. Telepítve vannak a windowsos fontok? Ha nem, itt le van írva hogy kell: http://ubuntu.hu/dokumentacio/elso-lepesek/az-ubuntu-finomhangolasa
2. Próbál meg a xmms beállításai között megkeresni valahol a használt betűkészletet, és állítsd át másikra.
Egyelőre ennyi ötletem van.