बड़े कृत्रिम बुद्धिमत्ता मॉडलों को प्रशिक्षित करने की दौड़ में डेटा को तेज़ गति से स्थानांतरित करने की आवश्यकता होती है। ब्रॉडकॉम ने Thor 2 प्रस्तुत किया है, जो एक 400G ईथरनेट एडाप्टर है जिसे AI क्लस्टर में विलंबता को कम करने के लिए डिज़ाइन किया गया है। यह Netflix को तेज़ी से देखने का आविष्कार नहीं है; यह वह राजमार्ग है जहाँ से मशीनों के विचार गुज़रते हैं।
Thor 2 के पीछे की वास्तुकला 🚀
BCM57608 एक उच्च-प्रदर्शन नेटवर्क नियंत्रक को एकीकृत करता है जो प्रति पोर्ट 400 Gbps ईथरनेट कनेक्टिविटी का समर्थन करता है। इसकी वास्तुकला एक अनुकूलित पैकेट प्रोसेसिंग इंजन और RoCEv2 जैसी तकनीकों के समर्थन के माध्यम से एंड-टू-एंड विलंबता को कम करने पर केंद्रित है। इसे उच्च-घनत्व वाले स्विचों के साथ काम करने के लिए डिज़ाइन किया गया है, जो वितरित प्रशिक्षण के दौरान GPU के बीच संचार में बाधाओं को समाप्त करता है।
जब आपका घरेलू राउटर दया की भीख माँगता है 😅
जहाँ Thor 2 बिना किसी परेशानी के 400 गीगाबिट डेटा स्थानांतरित करता है, वहीं आपका घरेलू राउटर शायद YouTube के तीन स्ट्रीम और एक वीडियो कॉल से ही लड़खड़ा जाता है। यह एक F1 कार की तुलना किराए के स्कूटर से करने जैसा है। अगली बार जब आपका कनेक्शन डिस्कनेक्ट हो, तो याद रखें: ऐसे नेटवर्क कार्ड हैं जो एक सेकंड में उससे अधिक डेटा स्थानांतरित करते हैं जितना आपका ऑपरेटर आपको एक साल में देगा।