सांबानोवा एसएन४०एल: तीन स्तरों में पाँच खरब पैरामीटर वाला चिप

SambaNova ने अपनी चौथी पीढ़ी की चिप SN40L प्रस्तुत की है, जो पुनर्विन्यास योग्य डेटा प्रवाह वास्तुकला और तीन-स्तरीय मेमोरी वाला एक प्रोसेसर है। यह डिज़ाइन 5 ट्रिलियन पैरामीटर तक के विशाल भाषा मॉडल को चलाने में सक्षम बनाता है, जो कृत्रिम बुद्धिमत्ता के लिए हार्डवेयर में एक महत्वपूर्ण प्रगति है, जो पारंपरिक GPU कॉन्फ़िगरेशन पर निर्भर हुए बिना प्रदर्शन को अनुकूलित करना चाहता है।

पुनर्विन्यास योग्य वास्तुकला और तीन-स्तरीय मेमोरी 🧠

SN40L एक पुनर्विन्यास योग्य डेटा प्रवाह वास्तुकला का उपयोग करता है जो गणना को गतिशील रूप से व्यवस्थित करता है, वास्तविक समय में मॉडल की आवश्यकताओं के अनुकूल होता है। इसकी तीन-स्तरीय मेमोरी SRAM, HBM और स्थानीय DRAM मेमोरी को जोड़ती है, जो विलंबता को कम करती है और बड़े पैमाने के मॉडल को संभालने में सक्षम बनाती है। यह दृष्टिकोण वॉन न्यूमैन आर्किटेक्चर की विशिष्ट बाधाओं से बचता है, गहन AI कार्यभार के लिए एक विकल्प प्रदान करता है।

जब आपकी चिप में आपके धैर्य से अधिक पैरामीटर हों 😅

बेशक, यह सब बहुत अच्छा लगता है जब तक कि आपका 5 ट्रिलियन पैरामीटर वाला मॉडल यह तय न कर ले कि 2+2 का उत्तर संदर्भ पर निर्भर करता है। तीन स्तरों की मेमोरी के साथ, कम से कम आपके पास AI के मतिभ्रम करने पर बहाने संग्रहीत करने के लिए तीन गुना अधिक जगह होगी। लेकिन अरे, अगर चिप पुनर्विन्यास योग्य है, तो शायद आप इसे पुन: प्रोग्राम कर सकते हैं ताकि यह आपसे यह न बहस करे कि आसमान नीला है या नहीं। बस मामले में, जब यह चीज़ प्रोसेस कर रही हो, तो एक अतिरिक्त कॉफी रखना बेहतर होगा।