त्रीस में से दस बार एक ही पाठ दोहराने पर आईए असफल हो जाती है

एक पत्रकार ने कृत्रिम बुद्धिमत्ता को एक सरल परीक्षण के अधीन किया: Google पर 30 बार एक ही टेक्स्ट लिखना। परिणाम चिंताजनक था। दस बार, AI ने सही अर्थ से भिन्न अर्थ प्रस्तुत किए, और इसके अलावा वह उन अर्थों को आपस में जोड़ने में भी असमर्थ रहा। नागरिकों के लिए, इसका मतलब है कि AI महत्वपूर्ण जानकारी गढ़ सकता है, जो पैसे, स्वास्थ्य या बुनियादी सेवाओं के बारे में निर्णयों को प्रभावित करता है।

भाषा मॉडलों में सुसंगति की तकनीकी समस्या 🤖

वर्तमान भाषा मॉडल सांख्यिकीय पैटर्न पर काम करते हैं, न कि सामग्री की वास्तविक समझ पर। जब उन्हें कोई कार्य दोहराने के लिए कहा जाता है, तो वे शब्दार्थ सटीकता पर वाक्य-विन्यास भिन्नता को प्राथमिकता देते हैं। ऐसा इसलिए है क्योंकि उनका प्रशिक्षण अगले संभावित शब्द की भविष्यवाणी करने पर आधारित है, न कि तथ्यों की पुष्टि करने पर। अर्थों को आपस में जोड़ने में विफलता एक संरचनात्मक सीमा को उजागर करती है: AI में दुनिया का एक आंतरिक मॉडल नहीं है जो उसे कई प्रतिक्रियाओं में तार्किक सुसंगति बनाए रखने की अनुमति देता है।

AI और अनचाही रचनात्मक सुधार की इसकी प्रतिभा 🎭

देखिए, AI का हर तीन दोहराव पर नए अर्थ गढ़ना कोई त्रुटि नहीं है, यह एक कलात्मक कृत्य है। यदि आप इसे समझाने के लिए कहते हैं कि किराये का अनुबंध क्या है, तो यह आपको कानूनी खंडों के साथ गज़्पाचो की रेसिपी दे सकता है। और ध्यान रहे, फिर वे आपसे टमाटर पर ब्याज वसूलते हैं। सबसे बुरा यह नहीं है कि यह विफल होता है, बल्कि यह है कि यह आश्चर्यजनक आत्मविश्वास के साथ ऐसा करता है, उस सहकर्मी की तरह जो हमेशा सही होता है, भले ही उसे पता न हो कि वह किस बारे में बात कर रहा है।