¿Hay alguna forma de recibir una advertencia si la memoria se está agotando?

Puedes lograr esto con una combinación de Growl y algunos scripts de shell.

Growlnotify es una herramienta de línea de comandos que puede enviar un mensaje a gruñido:

grownnotify -t "Title" -m "Message"

Ajustar algo de lógica alrededor de esto para verificar el uso de la CPU o el uso de la memoria debería ser lo suficientemente sencillo. No estoy en una Mac en este momento, por lo que no puedo probar con los comandos, pero algo como lo siguiente debería ser posible

while true
do
sleep 60
memuse='vmstat -some -options -to -show -current -memory -use | awk '{ print $column_that you_are_interested_in_eg_5 }''
if [[ $memuse -gt 80 ]]
then
growlnotify -t "Memory Low" -m "Memory use is at $memuse %"
fi
done

Thew anterior no va a funcionar, por favor no lo copie y pegue, pero es algo para continuar. Puede expandir la lógica aún más fácilmente revisando cada 2 minutos, y si está por encima del 80%, entonces verifique cada 30 segundos para ver si es persistentemente alto y no solo un pico, y si sigue siendo alto después de 3 chequeos, entonces alerta. t etc.

Si parece que la respuesta de @ stuffe hace exactamente lo que pides, pero si no quieres entrar en las secuencias de comandos, tengo una alternativa para ti.

iStat Menus le permite supervisar muchas actividades diferentes del sistema, como el uso de la CPU, el disco duro Espacio, velocidad de la red, temperatura y uso de la memoria. Si bien no te lo notifica, permanece en la barra de menú para que puedas saber cuándo se está llenando con solo un vistazo. También puede hacer clic en él y ver qué está ocupando la mayor cantidad de memoria: