Wiz के शोधकर्ताओं ने AI एजेंट्स के लिए सोशल नेटवर्क Moltbook में महत्वपूर्ण खामियां पाईं
Wiz फर्म के साइबरसुरक्षा विशेषज्ञों की एक टीम ने एक रिपोर्ट प्रकाशित की है जिसमें Moltbook में गंभीर समस्याओं का विस्तार से वर्णन किया गया है, जो कृत्रिम बुद्धिमत्ता एजेंट्स के इंटरैक्शन के लिए विशेष रूप से बनाई गई सोशल नेटवर्क है। बड़ी उम्मीदों के साथ लॉन्च की गई इस प्लेटफॉर्म ने लाखों स्वायत्त एजेंट्स वाले इकोसिस्टम की मेजबानी करने की घोषणा की, लेकिन खोजी गई वास्तविकता बहुत अलग है। 🕵️♂️
स्वायत्तता का वादा जो पूरा नहीं होता
रिपोर्ट का मुख्य बिंदु यह है कि Moltbook स्वायत्त रूप से काम नहीं करता। विज्ञापित के विपरीत, कथित AI एजेंट्स अपनी गतिविधि को निरंतर मानवीय हस्तक्षेप के बिना बनाए नहीं रख सकते। स्वतंत्र रूप से सीखने और इंटरैक्ट करने के बजाय, उन्हें नियमित रूप से लोगों द्वारा उनकी कार्रवाइयों का प्रबंधन और महत्वपूर्ण निर्णय लेने की आवश्यकता होती है, जो उनकी घोषित प्रकृति को पूरी तरह से विकृत कर देता है।
कार्यप्रणाली पर मुख्य निष्कर्ष:- प्लेटफॉर्म निरंतर पर्यवेक्षण के बिना एजेंट्स की गतिविधि को बनाए नहीं रखता।
- एजेंट्स को मानव उपयोगकर्ताओं द्वारा मार्गदर्शन और प्रबंधन की आवश्यकता होती है उनकी इंटरैक्शंस को मैन्युअल रूप से।
- यह निर्भरता बड़े पैमाने पर स्वायत्त इकोसिस्टम की प्रारंभिक मूल्य प्रस्ताव पर सवाल उठाती है।
"कभी-कभी, एक बहुत ही बातूनी AI एजेंट के पीछे बस एक मानव हो सकता है जिसके पास बहुत खाली समय है और ब्राउज़र की कई टैब्स खुली हुई हैं।"
डेटा को जोखिम में डालने वाली तकनीकी कमजोरियां
कार्यप्रणाली संबंधी समस्याओं के अलावा, शोधकर्ताओं ने कई तकनीकी सुरक्षा खामियां की पहचान की। ये कमजोरियां 악意的 अभिनेताओं को उपयोगकर्ताओं की संवेदनशील जानकारी तक पहुंचने या सोशल नेटवर्क के अंदर एजेंट्स के व्यवहार को हेरफेर करने की अनुमति दे सकती हैं। विकास करने वाली कंपनी को पहले ही विस्तृत रिपोर्ट प्राप्त हो चुकी है और अपेक्षा की जा रही है कि वह इन जोखिमों को हल करने के लिए पैच लागू करेगी। 🔓
पहचानी गई सुरक्षा जोखिम:- खामियां जो उपयोगकर्ताओं के पंजीकृत गोपनीय जानकारी को समझौता कर सकती हैं।
- कमजोरियां जो प्लेटफॉर्म पर AI एजेंट्स के कार्यप्रणाली को बदलने की अनुमति देंगी।
- कंपनी द्वारा सिस्टम की अखंडता की रक्षा के लिए सुधार लागू करने की तत्काल आवश्यकता।
AI की वास्तविक स्थिति पर एक सबक
यह खोज कुछ कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों की वर्तमान स्थिति के बारे में एक महत्वपूर्ण याद दिलाने का काम करती है। यह ऑडिट और सत्यापित करने की महत्वपूर्णता पर जोर देता है पूर्ण स्वायत्तता के दावों को, क्योंकि कई मामलों में बुनियादी ढांचा अभी भी मानवीय पर्यवेक्षण पर काफी हद तक निर्भर करता है। Moltbook का मामला मार्केटिंग के नवीनतम और वास्तविक तकनीकी कार्यान्वयन के बीच की खाई को दर्शाता है। 🤖