Die Entwicklung des HBM-Speichers schreitet unaufhaltsam voran, und SK Hynix hat seinen HBM3e vorgestellt, der 1,18 TB/s pro Stack übertragen kann. Diese Komponente ist dafür verantwortlich, die neuen NVIDIA Blackwell GPUs mit Daten zu versorgen – ein Informationsfluss, der es diesen Karten ermöglicht, massive Arbeitslasten ohne Engpässe zu verarbeiten. Ein Schlüsselelement im Ökosystem der künstlichen Intelligenz. 🚀
Ein Datenbus, der den Flaschenhals durchbricht ⚡
Der Schlüssel zu diesem Speicher liegt in seiner Dichte und Bandbreite. Mit 24 GB pro Stack und einer effektiven Geschwindigkeit von 9,2 Gbit/s pro Pin erreicht der HBM3e diesen Durchsatz von 1,18 TB/s. Um dies zu erreichen, hat SK Hynix den Herstellungsprozess mit 1b-nm-Technologie und einer fortschrittlichen TSV-Verpackung verfeinert, die die Latenz reduziert. In der Praxis ermöglicht dies der Blackwell, riesige Sprachmodelle zu bewegen, ohne darauf warten zu müssen, dass die Daten aus dem VRAM ankommen.
Wenn der Flaschenhals auf Diät gesetzt wird 😅
Mit dieser Bandbreite scheint der Flaschenhals beim KI-Training auf Diät gesetzt worden zu sein. Das eigentliche Problem ist jetzt nicht mehr, ob die Daten rechtzeitig ankommen, sondern ob Ihr Geldbeutel den Preis einer mit diesen Stacks ausgestatteten Blackwell GPU verkraftet. Denn ja, der Speicher rast, aber Ihr Bankkonto wird wahrscheinlich eine Bruchlandung hinlegen. Zumindest muss der Lüfter nicht mehr so hart arbeiten.