Ti serve la versione precedente di Handbrake, la 0.9.3(nell'ultima versione 0.9.4 non c'è più l'AVI/Divx)
http://www.videohelp.com/tools/HandBrake/old-versions
se hai un intel: HandBrake-0.9.3-MacOSX.5_GUI_x86.dmg
Su Leopard e Snow Leopard con VLC 1.0.2 funziona ottimamente.