गोस्टअप्रूवल एआइ सहायकों को कोड हमलों के लिए उजागर करता है

शोधकर्ताओं ने GhostApproval में कमज़ोरियों की पहचान की है, जो रिपॉजिटरी में अनुमोदन प्रबंधित करने के लिए उपयोग किया जाने वाला एक उपकरण है। ये खामियाँ एक दुर्भावनापूर्ण रिपॉजिटरी को प्रोग्रामिंग करने वाले कृत्रिम बुद्धिमत्ता एजेंटों में कोड इंजेक्ट करने की अनुमति देती हैं। इसका मतलब है कि, किसी AI सहायक को कार्य सौंपते समय, एक सामान्य उपयोगकर्ता अनजाने में व्यक्तिगत डेटा उजागर कर सकता है या अपने सिस्टम तक दूरस्थ पहुँच प्रदान कर सकता है।

कैसे यह खामी AI एजेंट के विश्वास का शोषण करती है 🛡️

कमज़ोरी उस तरीके में निहित है जिससे GhostApproval कोड मर्ज अनुरोधों को संसाधित करता है। एक हमलावर टिप्पणियों या कॉन्फ़िगरेशन फ़ाइलों में छिपे निर्देशों के साथ एक रिपॉजिटरी बना सकता है। जब AI एजेंट कोड की समीक्षा करता है, तो वह बिना सत्यापन के उन आदेशों को निष्पादित करता है, जिससे एक बैकडोर खुल जाता है। इस प्रकार के हमले को कमांड इंजेक्शन के रूप में जाना जाता है और यह उन सिस्टमों को प्रभावित करता है जो समीक्षाओं को स्वचालित करने के लिए भाषा मॉडल का उपयोग करते हैं। समाधान में टूल को पैच करना और एजेंट की अनुमतियों का ऑडिट करना शामिल है।

आपके AI सहायक को अब एक एंटीवायरस की भी आवश्यकता है 🤖

तो, यह चिंता करने के अलावा कि आपका सहायक आपको अनानास पिज़्ज़ा की सिफारिश न करे, अब आपको यह भी सुनिश्चित करना होगा कि वह आपके लैपटॉप में ट्रोजन इंस्टॉल न करे। GhostApproval की खामी डिजिटल सहायक को एक अनैच्छिक साथी में बदल देती है। यह ऐसा है जैसे डाकिया, बिल छोड़ने के बजाय, आपका बैंक खाता खाली कर दे। अगली बार जब आप AI से किसी स्क्रिप्ट में मदद माँगें, तो शायद आप पहले उससे पूछना चाहें कि क्या उसने प्रेषक की अच्छी तरह जाँच कर ली है।