El motivo de la "tartamudez" podría ser una combinación de diferentes factores.
La primera es, por supuesto, la tarjeta de alimentación y video de su computadora. Cuanta más potencia tenga, más "FPS" podrá "grabar" su computadora.
A pesar de eso, QuickTime no es conocido por su grabación "rápida", por lo que te sugiero que pruebes diferentes alternativas. Esta comparación es un poco "obsoleta" porque algunos (si no la mayoría) de las aplicaciones mencionadas se han actualizado y han solucionado o cambiado algunos de los problemas que tenían, sin embargo, debería ser un punto de partida para su reemplazo final de QUickTime. Este otro enlace tiene una lista muy similar, pero en lugar de una revisión es una lista con una breve descripción de los productos.
Como referencia, las herramientas de captura de pantalla más importantes para OS X (o para decirlo de otra manera, las "más utilizadas") son (en ningún orden en particular): iShowU, Snapz Pro X, ScreenFlow y una que es faltan en esas listas (porque es un nuevo jugador en el mundo Mac): Camtasia para Mac (que he estado apostando y es bastante bueno y está a la par con los que he mencionado). Algunas de las características que faltan en Camtasia 1.0 se han abordado en una actualización y sé que están trabajando en una versión más reciente después de recibir un montón de comentarios en los foros Beta (que no puedo revelar porque participé).
He probado personalmente los cuatro que he mencionado (tengo una licencia Pro de Snapz) y creo que son más o menos iguales, pero algunos eran (cuando los probé) más rápido que otros, pero carecían de ciertas funciones. En general, el "mejor" no existe, todos tienen fortalezas y debilidades, por lo que lo mejor es probarlos y ver si uno hace el trabajo.
Por último, pero no menos importante, recuerde que la calidad también juega un factor importante en la sobrecarga de la CPU cuando graba, intente mantener la carga de la CPU baja y reduzca la calidad de la grabación tanto como pueda.