Die neue Version von Vulkan, 1.4.356, integriert eine Erweiterung, die Datenformate des Open Compute Project wie MXFP4 und MXFP8 übernimmt. Diese Formate reduzieren die Speichernutzung und verbessern die Geschwindigkeit bei Machine-Learning-Aufgaben. Für den Nutzer bedeutet dies, dass Geräte mit Vulkan-Grafik KI-Anwendungen mit weniger Ressourcen und schneller ausführen können, wodurch der Zugang zu dieser Technologie auf handelsüblicher Hardware demokratisiert wird.
MXFP-Formate: weniger Bits, mehr GPU-Leistung 🚀
Die vom Open Compute Project entwickelten Formate MXFP4 und MXFP8 optimieren die Speicherung numerischer Daten in neuronalen Netzen. Durch die Verwendung von 4 oder 8 Bit anstelle der üblichen 32 Bit reduzieren sie die benötigte Bandbreite und den Speicher. Vulkan 1.4.356 macht diese Fähigkeit direkt für Entwickler zugänglich und ermöglicht es KI-Algorithmen, effizienter auf handelsüblichen GPUs zu laufen, ohne dass spezielle Hardware erforderlich ist. Dies ist entscheidend für lokale Anwendungen der künstlichen Intelligenz.
Deine Gaming-GPU denkt jetzt auch mit, aber erwarte keine Wunder 😅
Also ja, deine Grafikkarte, dieselbe, die du zum Spielen von Fortnite nutzt, kann jetzt KI-Berechnungen mit weniger Speicher durchführen. Aber freu dich nicht zu früh: Du wirst nicht über Nacht ChatGPT auf einer RTX 3060 zum Laufen bringen. Was du jedoch bemerken wirst, ist, dass lokale KI-Anwendungen wie Fotobearbeitungsprogramme oder Assistenten flüssiger laufen. Allerdings wird sich deine GPU weiterhin beschweren, wenn du sie bittest, gleichzeitig zu rendern und Machine Learning zu betreiben. Ironie des Fortschritts.