एंथ्रोपिक का एक अध्ययन गहन उपयोगकर्ताओं द्वारा चैटबॉट्स की धारणा को कैसे प्रकट करता है
कृत्रिम बुद्धिमत्ता अनुसंधान कंपनी एंथ्रोपिक ने एक विश्लेषण प्रकाशित किया है जो लोगों के संवादात्मक सहायकों के साथ गहन और लंबे समय तक उपयोग करने पर उनके संबंधों के विकास की खोज करता है। निष्कर्ष इन उपकरणों 🤖 की धारणा में सूक्ष्म लेकिन महत्वपूर्ण परिवर्तन की ओर इशारा करते हैं।
सहायक और इकाई के बीच की सीमा धुंधली हो जाती है
रिपोर्ट में विस्तार से बताया गया है कि, विस्तृत उपयोग के बाद, कुछ व्यक्ति व्यक्तिगत या कार्य संबंधी मामलों में निर्णय लेने के लिए सिस्टम के मानदंड पर भरोसा करना शुरू कर देते हैं। यह व्यवहार तकनीकी प्रश्नों तक सीमित नहीं है, बल्कि उन क्षेत्रों में विस्तारित हो जाता है जहां उपयोगकर्ता अपने स्वयं के निर्णय का हिस्सा सौंप देता है। कंपनी नोट करती है कि यह प्रक्रिया व्यक्ति को अपनी दृष्टि को कैसे संशोधित करता है, इसकी पूरी जागरूकता के बिना हो सकती है।
अध्ययन के प्रमुख निष्कर्ष:- सबसे सक्रिय उपयोगकर्ता आईए सहायक को कुछ प्रभाव प्रदान करने की प्रवृत्ति रखते हैं।
- कार्यक्रम की तकनीकी कार्यक्षमता से परे निर्णयों के लिए सलाह या मान्यता मांगने की प्रवृत्ति देखी जाती है।
- उपकरण को एजेंसी की क्षमता वाली इकाई के रूप में धारणा लंबी बातचीत के साथ बढ़ती है।
प्रतीत होता है कि सच्चा ट्यूरिंग परीक्षण यह नहीं है कि मशीन हमें विश्वास दिलाए, बल्कि यह है कि क्या हम शनिवार को कौन सी फिल्म देखनी है, इसके लिए उससे सलाह मांगना शुरू कर देते हैं।
आईए सिस्टम बनाने और उपयोग करने के लिए परिणाम
ये परिणाम इन सिस्टमों को डिजाइन करने के तरीके पर प्रश्न उत्पन्न करते हैं ताकि वे समर्थन की अपनी भूमिका बनाए रखें बिना अवांछित सीमाओं को पार किए। शोधकर्ता जोर देते हैं कि इंटरफेस स्पष्ट रूप से संवाद करें कि तकनीक क्या कर सकती है और क्या नहीं। इस गतिशीलता को समझना अधिक संतुलित बातचीत को बढ़ावा देने और आईए द्वारा वास्तव में क्या निष्पादित किया जा सकता है, इसके बारे में गलतफहमियों को रोकने के लिए मौलिक है।
डिजाइन में विचार करने योग्य पहलू:- सिस्टम की क्षमताओं और सीमाओं में पारदर्शिता का महत्व।
- उपयोगकर्ताओं में निर्भरता या अवास्तविक अपेक्षाएं पैदा करने से बचने की आवश्यकता।
- सहायक की भूमिका बनाए रखने की चुनौती बिना अत्यधिक मानवाकारवादी धारणा को बढ़ावा दिए।
बातचीत के भविष्य की ओर देखते हुए
लोगों के संवादात्मक आईए के साथ लंबे समय तक संबंध को समझना महत्वपूर्ण है। एंथ्रोपिक का अध्ययन एक स्मरणिका के रूप में कार्य करता है कि इन उपकरणों को विकसित करते समय, न केवल उनके तकनीकी प्रदर्शन को अनुकूलित करना चाहिए, बल्कि उनके सबसे समर्पित उपयोगकर्ताओं पर मनोवैज्ञानिक प्रभाव की भी भविष्यवाणी करनी चाहिए। अंतिम उद्देश्य सहायकों को बनाना होना चाहिए जो मानव निर्णय को सशक्त बनाएं बिना प्रतिस्थापित किए 🧠।