AI दक्षता की दौड़ में एक नया दावेदार आया है। Etched ने Sohu पेश किया है, जो एक ASIC चिप है जिसे विशेष रूप से Llama या GPT जैसे Transformer मॉडल को चलाने के लिए डिज़ाइन किया गया है। सामान्य उद्देश्य वाली GPUs को भूल जाइए; यह एप्लाइड इंटीग्रेटेड सर्किट किसी भी पारंपरिक हार्डवेयर को पीछे छोड़ते हुए अनुमानों को गति देने का वादा करता है।
निश्चित वास्तुकला बनाम लचीलापन: आवश्यक बलिदान 🎯
GPUs के विपरीत, जो किसी भी ग्राफिकल या कंप्यूटेशनल लोड को संभाल सकती हैं, Sohu एक कार्यात्मक मोनोलिथ है। इसकी सर्किटरी Transformers के प्रमुख संचालनों के लिए बारीकी से अनुकूलित है: ध्यान, प्रक्षेपण और फीड-फॉरवर्ड परतें। सामान्य प्रोग्रामेबिलिटी के ओवरहेड को हटाकर, यह प्रति वाट बहुत बेहतर प्रदर्शन प्राप्त करता है। नुकसान स्पष्ट है: यदि कल कोई अलग AI आर्किटेक्चर उभरता है, तो चिप अप्रचलित हो जाएगी।
एक फेरारी का नाटक जो केवल सीधी रेखा में जाना जानता है 🏎️
एक रेसिंग कार खरीदने की कल्पना करें जो बहुत तेज़ है, लेकिन केवल एक सीधे टोल राजमार्ग पर काम करती है। यही Sohu है। जबकि GPUs एक वैन की तरह हैं जो सब कुछ ले जा सकती है, यह ASIC एक F1 है जो पहले गोलचक्कर पर फंस जाता है। यदि आप एक ऐसी कंपनी हैं जो Llama के लिए जीती और मरती है, तो यह आपकी आस्तीन का इक्का है। बाकी सभी के लिए, बाजार के यह तय करने का इंतजार करना होगा कि क्या विशेषज्ञता बिल का भुगतान करती है।