So, nach langer Zeit will ich mich mal mit meinem Ergebnis zurück melden.
Noch einmal eine Zusammenfassung:
Mainboard: Gigabyte Z77Mx-D3H Th
CPU: Intel i5 2500K Quad-Core
RAM: 4x 4GB TeamGroup Elite DDR3-1333
Grafikkarte: MSI N460GTX-MD1GD5/OC, 1024MB, GDDR5
SSD1: Samsung 830 250GB (OSX)
SSD2: Kingston SSDNow V300 60GB (Win7)
WLAN: TP-LINK TL-WDN4800 N900 WLAN
Gehäuse: Cooltek U3
CPU Kühler: BeQuiet Dark Rock Advanced C1
Zunächst habe ich das Ozmosis BIOS installiert.
Einstellungen (sofern vorhanden):
SATA-AHCI-Mode : Enabled
XHCI-Mode : Auto
XHCI-Hand Off : Enabled
EHCI-Hand Off : Enabled
vt-D falls vorhanden : Disabled
Wake On Lan falls vorhanden : Disabled
Secure Boot : Disabled
CPU EIST : Disabled - ist oft versteckt unter Advanced CPU Einstellungen
oder M.I.T./Advanced Frequency Settings/Advanced CPU Core Features
Wenn du die Integrierte GPU (Grafik) verwenden willst kannst du die nächsten 2 Schritte überspringen.
Internal Graphics : OFF
Init Display First auf den PCIe Slot ändern in dem die Grafikkarte steckt.
Wenn du die interne Grafik verwenden willst:
Internal Processor Graphics : Enabled
Internal Prozessor Graphics Memory: 32M <- Wichtig: mehr führt oft zu Problemen im Zweifelsfall austesten mit 64/96
DVMT Total Memory Size : MAX
Intel Speedstep: Disabled
Und für alle Bildschirme, die extrem nicht der Norm entsprechen:
CSM : Never
Die Installation vom 10.9 Bootstick funktionierte dann problemlos. Anschließend habe ich mit Multibeast die Treiber für SATA (3rd Party SATA), USB (USB 3.0 - Universal), Ethernet (AtherosL1cEthernet 1.2.3) und Audio (Voodoo VIA VT2021), sowie TRIM Enabler (10.9.4+ TRIM Patch) und separat den NVIDIA WebDriver installiert.
Allerdings nutze ich eine USB Soundkarte (im Keyboard integriert), die nativ läuft.
Einen alten Bluetooth USB Stick von O2 habe ich auch noch gefunden. Läuft ebenfalls, allerdings lässt er sich beispielsweise nicht deaktivieren, also irgendwo hakt es noch.
Ab und an scheint das System von allein zu rebooten, ich sehe dann nur den Fehlerbericht (System wurde aufgrund eines Problems neu gestartet...). Dafür habe ich bisher keine Lösung.
Zudem würde ich die Grafikkarte in naher Zukunft gern gegen eine Maxwell Karte (750ti) austauschen. Allerdings fehlen mir dazu bisher die Erfahrungsberichte, bzw. scheint die Karte wenn, nur unter 10.10. zu laufen. Aber will ich das..? 
Aber erst einmal an alle die hier behilflich waren, ein dickes Dankeschön! 




