Le format OGG est de meilleure qualité que le MP3 et plus compact.
http://sebsauvage.net/logiciels/ogg.html

Sinon pour le MP3, LAME fait un excellent boulot.
(C'est celui fourni avec CD-Ex).
http://sebsauvage.net/logiciels/lame.html

Le meilleur de tous en MP3 (surtout dans les forts taux compression) est celui de Fraunhofer IIS (mais c'est un produit commercial).

J'ai fait quelques essais à 8, 16 et 32 kbits/seconde, et Fraunhofer est effectivement meilleur (c'est flagrant). Mais dès qu'on dépasse 128 kbit/seconde, la différence entre Fraunhofer et LAME est difficile à percevoir.

Le modèle psycho-acoustique de LAME s'est assez amélioré pour le considérer comme aussi bon que celui de Fraunhofer pour les taux supérieurs à 128 kbits/seconde.