Su pregunta indica que la unidad no estaba formateada. ¿Alguna vez lo reformateó como HFS (formato Mac)? Si simplemente inició e intentó ejecutar el instalador, si la unidad no está en el formato correcto, no funcionará.
Cuando se inicie en el disco del instalador, vaya al elemento de menú Utilidades en la barra de menús y abra la aplicación Utilidad de Discos. Desde allí, seleccione la unidad de la lista de fuentes a la izquierda. Debajo de la pestaña de partición, seleccione 'opciones' para usar el esquema de partición GUID y vuelva a particionar la unidad, usando HFS como el formato. Una vez hecho esto, puede cerrar la utilidad de disco y el instalador debería ver la unidad como un volumen de destino válido.
Como se indicó en bmike, deberá asegurarse de que está utilizando medios de instalación válidos; los discos que vienen con cada máquina son específicos para ellos, por lo que si son los discos originales, debería estar bien, pero son de un modelo 'similar' que probablemente no serán.