एचबीएम स्वतंत्र हुआ: ऑप्टिकल फाइबर से जीपीयू से अलग मेमोरी

HBM मेमोरी निर्माता एक अवधारणा परिवर्तन की योजना बना रहे हैं: मेमोरी चिप्स को GPU से भौतिक रूप से अलग करना, उन्हें एक स्वतंत्र बोर्ड पर रखना। गति न खोने के लिए, वे ऑप्टिकल इंटरफेस का उपयोग करेंगे। लक्ष्य प्रति GPU उपलब्ध क्षमता को गुणा करना है, 16-20 परतों को ढेर करने या मेमोरी चिप को घेरने की सीमा को पार करना, जो डिजाइन को महंगा बनाता है।

HBM memory modules physically detached from GPU chip, arranged on separate fiber-optic interposer board, optical cables transmitting data between memory stacks and processor, glowing laser signals traveling through transparent fibers, 3D-stacked HBM cubes mounted on independent substrate, engineering visualization, cutaway view showing optical interface connectors replacing traditional silicon interposer, photorealistic technical illustration, dramatic blue and orange lighting, ultra-detailed chip architecture, industrial precision aesthetic

भौतिक अड़चन को तोड़ने के लिए ऑप्टिकल इंटरफेस 🚀

वर्तमान में, HBM मेमोरी को लंबवत रूप से ढेर किया जाता है और GPU के बगल में रखा जाता है, जो कुल क्षमता को सीमित करता है और पैकेजिंग को जटिल बनाता है। नया प्रस्ताव दोनों घटकों को अलग करता है: मेमोरी एक अलग बोर्ड पर जाएगी, जो हाई-स्पीड ऑप्टिकल लिंक के माध्यम से जुड़ा होगा। यह सिलिकॉन क्षेत्र या गर्मी को बढ़ाए बिना अधिक मॉड्यूल जोड़ने की अनुमति देता है, और AI और HPC वर्कलोड के लिए क्षमता बढ़ाना आसान बनाता है।

मेमोरी दूसरे बोर्ड पर जा रही है: भीड़भाड़ को अलविदा 😅

तो HBM मेमोरी, GPU से चिपके रहने से तंग आकर, अपने खुद के अपार्टमेंट में जाने का फैसला किया है। बीच में ऑप्टिकल फाइबर के साथ, GPU को अब अपने शोर करने वाले पड़ोसियों को सहन नहीं करना पड़ेगा। उत्साहित इंजीनियरों का अनुमान है कि वे मॉड्यूल को तब तक ढेर कर सकते हैं जब तक बजट चिल्ला न उठे। हालाँकि, वायरिंग ऑप्टिकल फाइबर के साथ क्रिसमस ट्री सजाने जितनी मजेदार होने का वादा करती है।