Szia!
Nekem is megvolt ez a problémám gmplayer alatt (hivatalosan mplayer). ATI kártyám van. A valószínű megoldás a videodriver cseréje fxglx-re (vagy hasonló). Most a restricted drivers által elepített van fenn. Még nem próbáltam ki, de korábban nem volt problémám, amikor ezt használtam (januárban telepítettem újra az Ubuntut). Egyik ismerősöm is erre esküszik. Most azért nincs fenn, mert még nem szántam rá az időt :)
Másik tipp: használj mplayer-t (mplayer-nonGUI), ez kevesebb erőforrást használ, valószínűleg jobban ki tudja küszübölni ezt a bakit is. Én gl2-es kodekkel(?)/beállítással használom.