instalé xcode directamente desde un dmg que descargué del sitio del desarrollador en Apple, ahora en la tienda de aplicaciones aparece como no estaba instalado (muestra el botón de instalación)
¿Cómo puedo saber a la tienda de aplicaciones que ya está instalada?
No puedes hacer que App Store reconozca un Xcode instalado desde un dmg. Además de eso, Apple ya no utiliza el método de distribución dmg, por lo que es probable que tenga una versión antigua de Xcode de todos modos.
Las nuevas versiones de Xcode solo se distribuyen a través de la App Store. Simplemente descargue / instale la versión más reciente de Xcode de la App Store nuevamente (es gratis de todas formas)
Lea otras preguntas en las etiquetas xcode mac-appstore