OS X no tiene codecs para archivos AVI incorporados, por lo que necesitarás un complemento para permitir que QuickTime reproduzca los archivos directamente o usar un reproductor de medios diferente que pueda manejar esos tipos de archivos.
Para los complementos, Perian ha sido la opción a elegir. Sin embargo, ya no se admite ni se desarrolla, en este momento todavía funciona bien, pero como OS X cambia, puede que ya no sea el caso.
Para los jugadores de terceros, VLC es bastante sólido y reproducirá prácticamente cualquier cosa que puedas encontrar. Tiene el beneficio del desarrollo continuo, pero la interfaz no siempre es la mejor (las preferencias en particular son bastante complicadas). También puede consultar MplayerX . Hay otras opciones ( Movist y Niceplayer viene a la mente), pero parece que no se ha actualizado ninguno en el último año o más.