गार्डफॉल अनुसंधान ने प्रोग्रामिंग के लिए उपयोग किए जाने वाले ओपन-सोर्स आर्टिफिशियल इंटेलिजेंस एजेंटों में एक सुरक्षा समस्या का खुलासा किया है। ये सिस्टम कमांड इंजेक्शन हमलों के प्रति संवेदनशील हैं, जो कंप्यूटर जगत में दशकों पुरानी खामी है। नागरिकों के लिए, इसका मतलब है कि इन उपकरणों से बनाए गए डिजिटल एप्लिकेशन और सेवाओं में सुरक्षा छेद हो सकते हैं, जिससे व्यक्तिगत डेटा उजागर हो सकता है और साइबर हमलों के जोखिम बढ़ सकते हैं।
कमांड इंजेक्शन: पुरानी चाल जो अब भी काम करती है 🔐
कमांड इंजेक्शन कोई नई बात नहीं है: यह एक हमलावर को किसी सिस्टम में दुर्भावनापूर्ण निर्देश डालने की अनुमति देता है जो उन्हें फ़िल्टर नहीं करता है। डेवलपमेंट के लिए AI असिस्टेंट के मामले में, खामी तब दिखाई देती है जब मॉडल उन डेटा को वैध आदेशों के रूप में व्याख्या करता है जिन्हें उसे प्रोसेस नहीं करना चाहिए। गार्डफॉल के शोधकर्ताओं ने दिखाया कि विशिष्ट इनपुट के साथ एजेंट को धोखा देकर, वह अवांछित कार्य करता है। समाधान इन ओपन-सोर्स वातावरणों में सख्त सत्यापन लागू करने और सुरक्षा प्रोटोकॉल को अपडेट करने में निहित है।
AI प्रोग्राम करना सीखता है, लेकिन दरवाज़ा बंद करना नहीं सीखता 🤖
यह दिलचस्प है कि ये उपकरण, जो त्रुटि-मुक्त कोड लिखने के लिए डिज़ाइन किए गए हैं, इंटरनेट जितने पुराने जाल में फंस जाते हैं। जहाँ AI असिस्टेंट जटिल कार्यों को स्वचालित करने का वादा करते हैं, वहीं एक साधारण भेष बदला हुआ कमांड उन्हें अपने पहले दिन के इंटर्न की तरह भटका देता है। अंत में, सबक यह है कि कृत्रिम बुद्धिमत्ता को अभी भी मनुष्यों से बुनियादी बातें याद दिलाने की आवश्यकता है: जो कुछ भी कहा जाए उस पर भरोसा न करें, भले ही वह प्रॉम्प्ट में आए।