एंथ्रोपिक ने समाज को अनुकूलित होने के लिए एआई में वैश्विक विराम का आग्रह किया

कृत्रिम बुद्धिमत्ता कंपनी एंथ्रोपिक ने उन्नत AI सिस्टम के विकास में वैश्विक विराम का प्रस्ताव दिया है। उनका तर्क है कि समाज को इन प्रौद्योगिकियों की गति के अनुकूल होने के लिए समय चाहिए। इसे प्राप्त करने के लिए, वे मांग करते हैं कि सभी बड़ी कंपनियां सत्यापन योग्य नियमों का पालन करें और वे सरकारों, वैज्ञानिकों और प्रतिस्पर्धियों को एक केंद्रीकृत नियंत्रण प्रणाली में एकत्र करने की योजना बना रहे हैं।

आंतरिक डेटा मानव निगरानी के बिना स्वायत्त AI के बारे में चेतावनी देता है 🤖

एंथ्रोपिक के आंकड़ों के अनुसार, वर्तमान AI मॉडल एक ऐसे बिंदु पर पहुंच सकते हैं जहां वे प्रत्यक्ष मानव हस्तक्षेप के बिना संचालित होते हैं और अधिक बुद्धिमान हो जाते हैं। इसका तात्पर्य सुरक्षा और नियंत्रण जोखिमों से है जिनका पूर्वानुमान लगाना कठिन है। प्रस्ताव का उद्देश्य नियमों के अनुपालन को सत्यापित करने के लिए स्पष्ट मीट्रिक और बाहरी ऑडिट स्थापित करना है, जो अब तक उद्योग में मौजूद नहीं है। इस विराम की तकनीकी व्यवहार्यता संदिग्ध है।

वैश्विक विराम: एक ऐसा विचार जो केवल प्रस्तावक को ही पसंद आता है 😅

बेशक, प्रतिस्पर्धा से रुकने के लिए कहना जबकि आप स्वयं विकास जारी रखते हैं, एक क्लासिक बात है। एंथ्रोपिक सुझाव देता है कि हर कोई बातचीत के लिए बैठे, जबकि उनके अपने मॉडल सीखते रहते हैं। यह पड़ोसी से दौड़ना बंद करने के लिए कहने जैसा है ताकि आप उसे पकड़ सकें। विडंबना यह है कि AI को नियंत्रित करने के लिए, पहले उसे बनाने वाली कंपनियों को नियंत्रित करना होगा। असंभव मिशन।