एज पर कृत्रिम बुद्धिमत्ता अक्सर समझौता का पर्याय होती है: या तो आपके पास शक्ति होती है या दक्षता। एक्सेलरा AI अपने मेटिस AIPU के साथ इस पैटर्न को तोड़ता है, एक प्रोसेसर जो पारंपरिक ऊर्जा खपत के एक अंश के साथ डेटा सेंटर प्रदर्शन प्रदान करने के लिए मेमोरी में कंप्यूटिंग लागू करता है। एक प्रस्ताव जो क्लाउड पर निर्भर हुए बिना कंप्यूटर विज़न, जनरेटिव AI और रीयल-टाइम विश्लेषण के लिए नियमों को बदलता है। 🚀
मेमोरी में कंप्यूटिंग: वह ट्रिक जो डेटा को बिना हिलाए तेज करती है ⚡
मेटिस AIPU आर्किटेक्चर मेमोरी और प्रोसेसिंग को एक ही सब्सट्रेट में एकीकृत करता है, डेटा बस की बाधाओं को समाप्त करता है। यह YOLOv8 या ResNet-50 जैसे जटिल मॉडलों के अनुमानों को मिलीसेकंड की विलंबता के साथ निष्पादित करने की अनुमति देता है, जो 10 से 50 वाट के बीच खपत करता है। इसका टाइल-आधारित डिज़ाइन एकल चिप से 16 नोड कॉन्फ़िगरेशन तक स्केल करने की अनुमति देता है, जो 400 TOPS तक पहुँचता है। एम्बेडेड सिस्टम, ड्रोन या स्मार्ट कैमरों के लिए आदर्श जिन्हें तत्काल प्रतिक्रिया की आवश्यकता होती है।
क्लाउड को अलविदा? इतना भी नहीं, लेकिन कम से कम आप बिजली के बिल पर बचत करते हैं 😅
एक्सेलरा का वादा है कि इसकी चिप एज पर वह करती है जिसके लिए पहले पूरे रैक की आवश्यकता होती थी। और हाँ, यह प्रभावशाली है, लेकिन यह भी उम्मीद न करें कि आपका कॉफी मेकर ChatGPT चलाना शुरू कर देगा। फिलहाल, मेटिस AIPU विज़न और हल्के AI कार्यों पर केंद्रित है। हालांकि अगर यह AWS से पूछे बिना एक ड्रोन को बिल्ली को पहचानने में सक्षम बनाता है, तो शायद बिल्लियाँ भी बिजली की खपत में अपना हिस्सा देना शुरू कर दें।