En Ubuntu / Windows cuando tengo abierta una ventana de gvim, simplemente escribo :!gvim filename
para abrir una nueva ventana.
En OSX esto no hace nada.
Creo que puede tener que ver con que OSX no esté interesado en varias instancias del mismo programa, pero me permite abrir todas las ventanas de gvim que quiero manualmente desde el terminal.