Es posible que haya superado la resolución máxima que admite el subsistema de gráficos. De las especificaciones de Apple para tu Mac:
Soporte de video
Admite simultáneamente la resolución nativa completa en la pantalla integrada en millones de colores y:
Hasta dos pantallas con resolución de 5120 por 2880 a 60Hz a más de mil millones de colores
Hasta cuatro pantallas con resolución de 4096 por 2304 a 60Hz y millones de colores
Hasta cuatro pantallas con resolución de 3840 por 2160 a 60Hz a más de mil millones de colores
Tendrá que mantener sus ajustes de resolución por debajo de las cifras enumeradas anteriormente. Supongo que es posible que tenga uno o más monitores que superen la resolución específica en una o más pantallas.
Sin embargo, si no superan esas especificaciones, diría que debería justificar una llamada al soporte técnico de Apple (soporte gratuito durante los primeros (creo) 90 días) y ver si pueden solucionar el problema con usted.