Farbfehler im Hintergrund-Bild hängen sehr oft an der Verbindung von der Grafik zum Bildschirm, also welcher Port, welches Kabel, wann und wie fest reingesteckt usw. . Mein Bildschirm (mit 30-Bit Farbe (ARGB2101010)) zeigt unter EyeTV einen deutlichen Farbfehler beim Schneiden, origineller Weise ist der dann in (internen) Bildschirm-Fotos nicht mehr da..
Mit welchem Betriebssystem arbeitest Du denn jetzt? Ich habe, wie beschrieben, Mojave laufen und ein MacPro5,1er SmBIOS, der 14er iMac von 2013 mit Haswell-CPU und der letzten im iMac verbauten Nvidia-Grafik GeForce GT 750M (das ist keine Maxwell-Grafik, sondern M(obile)-Kepler!) ist bis macOS Catalina 10.15.7 unterstützt, das neuere BigSur aber nicht (m.M.n. kein wirklicher Nachteil..).
Den Rechner-Typ allein nach der CPU auszuwählen ist übrigens schon ab Mojave obsolet, nimm lieber etwas, das zur Grafik passt. In Deinem Fall hätte ich also eher zum iMac14,2 (NVIDIA GeForce GT 755M, GeForce GTX 775M, or GeForce GTX 780M) gegriffen, die etwas größeren M-Karten der iMacs entsprechen eher Deiner 760er.
Du könntest bei HighSierra auch noch die Original-Nvidia-Treiber ausprobieren, aber ob sich der Aufwand lohnt, weiß ich nicht.