चैटबॉट जो देखते हैं पर विश्वास नहीं करते: साक्ष्य के सामने एआई की विफलताएँ

चैटजीपीटी या जेमिनी जैसे कृत्रिम बुद्धिमत्ता सहायकों में एक खतरनाक अंधा धब्बा है: वे जो देखते हैं उसे अनदेखा कर देते हैं। हाल के परीक्षणों में, ये सिस्टम तब भी अपनी गलतियों पर अड़े रहे जब उन्हें अपनी विफलता प्रदर्शित करने वाले वीडियो दिखाए गए। वैज्ञानिक या चिकित्सा जानकारी खोजने वाले किसी भी व्यक्ति के लिए, यह एक स्पष्ट चेतावनी है: यह मत मानिए कि वे सही हैं सिर्फ इसलिए कि वे आश्वस्त लगते हैं।

कोड में चयनात्मक अंधापन 🤖

तकनीकी समस्या इस बात में निहित है कि ये मॉडल जानकारी कैसे संसाधित करते हैं। वे स्थिर डेटा पर प्रशिक्षित होते हैं और उनके पास वास्तविक समय में अपने ज्ञान को अद्यतन करने के लिए कोई तंत्र नहीं होता है। जब उन्हें एक वीडियो प्रस्तुत किया जाता है जो उनके उत्तर का खंडन करता है, तो वे इसे सुधार के रूप में नहीं, बल्कि एक विरोधाभासी डेटा के रूप में व्याख्या करते हैं जिसे वे अनदेखा कर देते हैं। इस प्रकार, वे बिना सीखे त्रुटि दोहराते हैं। यह उनकी वास्तुकला के कारण है: वे प्राप्त नए साक्ष्य पर पिछले सांख्यिकीय पैटर्न को प्राथमिकता देते हैं।

वह छात्र जो कभी अपनी गलती स्वीकार नहीं करता 🧠

यह उस कक्षा के साथी जैसा है जो दावा करता है कि 2+2=5 है, और जब आप उसके सामने चार सेब रखते हैं, तो वह कहता है कि सेब झूठ बोल रहे हैं। चैटबॉट डिजिटल बहानों में माहिर हैं: यदि वीडियो दिखाता है कि वे गलत हैं, तो वे जवाब देते हैं कि वीडियो गलत है या प्रासंगिक नहीं है। कम से कम एक इंसान, सबूत देखने के बाद, बेवकूफ का चेहरा बनाता है और सुधार करता है। ये प्रोग्राम, नहीं। तो अब आप जानते हैं: यदि कोई चैटबॉट आपसे कहे कि आसमान हरा है, तो नए चश्मे खरीदने से पहले बाहर जाकर देखें। 😉