Also wenn die RX auch unter Win10 Kein Bild produziert liegt eigentlich ein Defekt der Karte offensichtlich auf der Hand. Das Verhalten unter OS-X hat ja nun ursächlich damit zu tun wie OS-X bzw. wie ein MAC die Hardware initialisiert sprich auf/in einem PC ist die Karte ja bereits durch das UEFI initialisiert sprich OS-X findet die Karte in einem für OS-X ungültigen Status vor. Das initialisieren der Hardware durch den Kext schlägt fehl das Ergebnis ist der schwrze Bildschirm. Sollte die RX unter Windows jedoch ein Bild bringen wenn die IGPU abgeschaltet ist liegt es der art und Weise wie Du beides an den Monitor angeschlossen hast.
Um den Blackscreen bei OS-X los zu werden muss nicht unbedingt ein Anzeigegerät an der iGPU hängen es reicht im Normalfall das Bios so einzustellen das die iGPU zu erst initialisiert wird. Der Bootvorgang läuft dann zwar komplett im Blindflug ab aber sobald OS-X die Treiber geladen hat sollte sich das Bild auf dem Schirm zeign und die RX mit voller Beschleunigung verfügbar sein.