La ruta completa al archivo del sistema que manipula RCDefaultApp es:
~/Library/Preferences/com.apple.LaunchServices/com.apple.launchservices.secure.plist
(es decir, este es el archivo que ya mencionó en su pregunta)
Este es el archivo real que el Finder consulta (a través de LaunchServices) para encontrar la preferencia global de cuáles aplicaciones están asociadas con ciertos tipos de archivos.
Parece que estás pensando que RCDefaultApp manipula algún otro archivo, que menciona explícitamente "Mail.app" (es decir, la carpeta de la aplicación en realidad). Esto no es así.
En su lugar, Mail.app realmente proporciona esta información al sistema operativo por medio de su archivo Info.plist dentro de la carpeta de la aplicación. Esto se escanea cuando se abre la aplicación, para que el sistema conozca la aplicación y los tipos de archivos compatibles.
Dentro del archivo Info.plist para Mail.app, encontrará que define "CFBundleIdentifier" para que Mail.app sea "com.apple.mail". Así es como la información de las preferencias de LaunchServices se "vincula" al Mail.app real.
Además, define los tipos de contenido admitidos dentro de Info.plist dentro de CFBundleDocumentTypes, donde LSItemContentTypes incluye, por ejemplo, com.apple.mail.emlx, com.apple.mail.mbox, etc.
Esto garantiza, por ejemplo, que incluso si mueve Mail.app a una carpeta diferente, el sistema aún podrá iniciar Mail.app cuando haga doble clic en un archivo emlx en Finder, por ejemplo.