Die Hersteller von HBM-Speicher planen einen Konzeptwechsel: Die Speicherchips werden physisch von der GPU getrennt und auf einer eigenständigen Platine untergebracht. Um keine Geschwindigkeitseinbußen zu erleiden, werden optische Schnittstellen verwendet. Ziel ist es, die verfügbare Kapazität pro GPU zu vervielfachen und die Grenze von 16-20 gestapelten Schichten oder die Anordnung um den Speicherchip herum zu überwinden, was das Design verteuert.
Optische Schnittstellen zur Durchbrechung des physischen Flaschenhalses 🚀
Derzeit wird der HBM-Speicher vertikal gestapelt und neben der GPU platziert, was die Gesamtkapazität begrenzt und die Verpackung erschwert. Der neue Vorschlag entkoppelt beide Komponenten: Der Speicher würde auf eine separate Platine wandern, verbunden durch optische Hochgeschwindigkeitsverbindungen. Dies ermöglicht das Hinzufügen weiterer Module ohne Vergrößerung der Siliziumfläche oder Wärmeentwicklung und erleichtert die Skalierung der Kapazität für KI- und HPC-Workloads.
Der Speicher zieht auf eine andere Platine um: Schluss mit der Enge 😅
Der HBM-Speicher, es leid, wie eine Klette an der GPU zu kleben, hat sich also entschieden, in eine eigene Wohnung zu ziehen. Mit Glasfaser als Vermittler muss die GPU ihre lauten Nachbarn nicht mehr ertragen. Die Ingenieure, begeistert, kalkulieren, dass sie Module stapeln können, bis das Budget „Stopp“ schreit. Allerdings verspricht die Verkabelung genauso unterhaltsam zu sein wie das Schmücken eines Weihnachtsbaums mit Glasfaser.