ईटी-एसओसी-१ चिप: एआई अनुमान के लिए मैनि-कोर रिस्क-वी त्वरक

ET-SoC-1 चिप: AI अनुमान के लिए many-core RISC-V त्वरक

उद्योग कृत्रिम बुद्धिमत्ता को बड़े पैमाने पर और कुशलता से संसाधित करने की तलाश कर रहा है। ET-SoC-1 आधुनिक सर्वरों के लिए सोचा गया एक कट्टरपंथी समानांतर वास्तुकला के साथ इस आवश्यकता का जवाब देता है। यह चिप एक पारंपरिक CPU नहीं है, बल्कि IA मॉडलों को उच्च गति पर निष्पादित करने और अनुकूलित उपभोग के साथ डिज़ाइन किया गया एक सिस्टम है 🚀।

Many-core वास्तुकला और विशेषीकृत इकाइयाँ

सिस्टम का हृदय 64-बिट के हزار से अधिक RISC-V कोर हैं, जो अपनी सादगी और कम उपभोग के लिए जाने जाते हैं। ये कोर अकेले नहीं काम करते; उनके साथ टेंसोर त्वरक समर्पित हैं। जबकि RISC-V कोर कार्यों को व्यवस्थित करने और नियंत्रण तर्क को संभालते हैं, विशेषीकृत इकाइयाँ तंत्रिका नेटवर्क की आवश्यकता वाले भारी मैट्रिक्स गणनाओं को निष्पादित करती हैं। इस कार्य विभाजन की कुंजी उनकी प्रभावशीलता के लिए है।

• मासिव समानांतरता: भार को विशाल संख्या में कोरों के बीच वितरित करता है, लाखों अनुरोधों को एक साथ संभालने की अनुमति देता है।
• डिज़ाइन द्वारा दक्षता: सरल कोर और अनुकूलित त्वरक प्रत्येक ऑपरेशन के लिए आवश्यक ऊर्जा को कम करते हैं।
• स्केलेबिलिटी: वास्तुकला आसानी से विभाज्य तीव्र कार्यभारों के लिए स्वाभाविक रूप से अनुकूलित होती है।

यदि एक कोर विचलित हो जाता है, तो अन्य हजार तैयार हैं अपने स्थान को कवर करने के लिए, सुनिश्चित करते हुए कि आपकी वीडियो सिफारिश कभी विलंबित न हो।

डेटा सेंटर्स में व्यावहारिक अनुप्रयोग

यह त्वरक वास्तविक समय अनुमान कार्यों के लिए स्थित है, जो वह चरण है जहाँ पहले से प्रशिक्षित AI मॉडल अनुरोधों का जवाब देता है। यह उन क्लाउड सेवाओं के लिए आदर्श है जिनका हम दैनिक उपयोग करते हैं।

• प्राकृतिक भाषा प्रसंस्करण: वर्चुअल सहायकों, स्वचालित अनुवादकों या सोशल मीडिया पर भावना विश्लेषण के लिए।
• सामग्री अनुशंसा: डिजिटल प्लेटफॉर्मों पर वीडियो, उत्पादों या संगीत सुझाने वाले एल्गोरिदम।
• छवियों और वीडियो विश्लेषण: चेहरे की पहचान से लेकर सामग्री की स्वचालित मॉडरेशन तक।

AI इन्फ्रास्ट्रक्चर पर प्रभाव

ET-SoC-1 की उच्च मात्रा के अनुरोधों को कम लेटेंसी के साथ संभालने की क्षमता पारंपरिक सर्वरों के साथ स्केल करने के लिए एक विकल्प प्रस्तुत करती है, जो कम कुशल और अधिक महंगा हो सकता है। उद्योग देख रहा है कि इस प्रकार की विशेषीकृत वास्तुकला कृत्रिम बुद्धिमत्ता को तैनात करने के तरीके को कैसे बदल सकती है, वाट प्रति प्रदर्शन और बड़े पैमाने पर उत्पादन वातावरणों में प्रतिक्रिया क्षमता को प्राथमिकता देते हुए। इसका many-core डिज़ाइन अधिक शक्तिशाली और टिकाऊ AI सर्वरों की ओर एक मार्ग का प्रतिनिधित्व करता है 💡।