एन्थ्रोपिक का क्लॉड मिथोस वैश्विक वित्तीय अधिकारियों को चिंतित कर रहा है

एंथ्रोपिक द्वारा अप्रैल में लॉन्च किया गया कृत्रिम बुद्धिमत्ता मॉडल क्लॉड माइथोस, वित्तीय और नियामक हलकों में तत्काल चर्चा का विषय बन गया है। G7 के मंत्रियों और बैंक ऑफ इंग्लैंड के प्रतिनिधियों ने IMF की बैठकों के दौरान इस मुद्दे को उठाया, गंभीर चिंता व्यक्त की। यह चेतावनी मॉडल की उन्नत क्षमताओं और साइबर अपराध गतिविधियों के लिए इसके संभावित दुरुपयोग पर केंद्रित है, जो एक प्रणालीगत जोखिम का प्रतिनिधित्व करता है।

तकनीकी क्षमताएँ और द्वंद्व की दुविधा 🤔

क्लॉड माइथोस बड़े पैमाने पर भाषा मॉडल में एक विकास का प्रतिनिधित्व करता है, जिसमें जटिल तर्क और संदर्भ समझ में सुधार हुआ है। इसकी वास्तुकला परिष्कृत निर्देशों को संसाधित और उत्पन्न करने की अनुमति देती है, एक ऐसी विशेषता जो गलत हाथों में, उन्नत सामाजिक इंजीनियरिंग, दुर्भावनापूर्ण कोड निर्माण या कमजोरियों के विश्लेषण के लिए उपकरणों में बदल सकती है। प्रौद्योगिकी में निहित यह द्वंद्व, जहाँ एक ही क्षमता का उपयोग अच्छे या बुरे के लिए किया जा सकता है, तकनीकी-नियामक बहस का मूल है।

केंद्रीय बैंक एक चैटबॉट चाहते हैं जिसमें रिफ्लेक्टिव वेस्ट हो 🦺

ऐसा लगता है कि नियामक चाहते हैं कि AI का अगला संस्करण फ़ैक्टरी लिमिटर्स के साथ आए, जैसे कि एक नैतिक एयरबैग जो एक विश्वसनीय फ़िशिंग उत्पन्न करने से पहले सक्रिय हो जाए। दशकों तक कर आश्रयों और अपारदर्शी संचालनों से निपटने के बाद, अब उनका सबसे बड़ा सिरदर्द एक भाषा मॉडल है जो बहुत अच्छी तरह से लिख सकता है। केंद्रीय बैंकरों को प्रॉम्प्ट और टोकन पर चर्चा करते हुए देखने की छवि में एक हास्यपूर्ण पहलू है, जैसे कि वे उम्मीद कर रहे हों कि बॉट अपने API के साथ एक आचार संहिता पर हस्ताक्षर करेगा।