सिस्को सिलिकॉन वन जी२००: वह चिप जो जीपीयू को एक सार्जेंट की दक्षता से जोड़ता है

जब हम AI क्लस्टर की बात करते हैं, तो अड़चन हमेशा GPU नहीं होती, बल्कि यह होता है कि वे एक-दूसरे से कैसे संवाद करते हैं। Cisco ने Silicon One G200 पेश किया है, जो एक स्विचिंग चिप है जिसे हजारों एक्सेलेरेटर को ऐसी विलंबता से जोड़ने के लिए डिज़ाइन किया गया है जो टेलीपोर्टेशन जैसी लगती है। यह जादू नहीं है, यह नेटवर्क इंजीनियरिंग को चरम सीमा पर ले जाना है ताकि आपके मॉडल डेटा की प्रतीक्षा में सो न जाएं।

AI स्विच के लिए आर्किटेक्चर और प्रदर्शन 🚀

G200 डेटा सेंटर स्विचिंग लेयर पर काम करता है, प्रति पोर्ट 800 Gbps तक की हैंडलिंग करता है जिसमें सबमाइक्रोसेकंड विलंबता होती है। इसका रहस्य एक साझा मेमोरी आर्किटेक्चर और वितरित प्रशिक्षण ट्रैफ़िक के लिए अनुकूलित एक नियंत्रण प्लेन में निहित है। यह पैकेट और सेल स्विचिंग का समर्थन करता है, जिससे हजारों GPU एक क्लॉक साइकिल खोए बिना ग्रेडिएंट को सिंक्रोनाइज़ कर सकते हैं। यह मूल रूप से एक ट्रैफ़िक मैनेजर है जिसमें कोई जाम नहीं है।

वह चिप जो आपके GPUs को बस के लिए लड़ने से रोकेगी 😅

क्योंकि हाँ, हम सभी जानते हैं कि 4090s का क्लस्टर बनाना क्रिसमस परिवार के खाने की तरह है: पहले सभी बात करना चाहते हैं, फिर कोई नहीं सुनता और अंत में वे राउटर को दोष देते हैं। G200 के साथ, Cisco वादा करता है कि आपके GPU भिक्षुओं की तरह चुपचाप व्यवहार करेंगे, बिना धक्का-मुक्की के एक-दूसरे को डेटा पास करेंगे। और अगर कुछ गलत होता है, तो कम से कम आपको पता होगा कि समस्या नेटवर्क की नहीं है, बल्कि यह है कि आपका मॉडल अभी भी एक ब्लैक बॉक्स है।