गूगल ने एआई की मदद से बने जीरो-डे एक्सप्लॉइट को रोका

गूगल थ्रेट इंटेलिजेंस ग्रुप (GTIG) ने एक ओपन-सोर्स प्रशासनिक टूल में दो-कारक प्रमाणीकरण को बायपास करने के लिए डिज़ाइन किए गए जीरो-डे एक्सप्लॉइट को रोक दिया है। शोधकर्ताओं ने पता लगाया कि साइबर अपराधी एक बड़े पैमाने पर हमले की योजना बना रहे थे, और कृत्रिम बुद्धिमत्ता की भागीदारी के संकेतों में एक गढ़ा हुआ CVSS स्कोर और एक अत्यधिक संरचित टेक्स्ट प्रारूप शामिल था।

एक्सप्लॉइट और एक भाषा मॉडल के निशान 🧠

GTIG विश्लेषकों ने पहचाना कि मैलिशियस कोड दो-चरणीय सत्यापन को बायपास करने के लिए एक अज्ञात कमजोरी का शोषण कर रहा था। ध्यान आकर्षित करने वाली बात एक गढ़े हुए CVSS स्कोर की उपस्थिति थी, जो एक सामान्य त्रुटि है जब कोई भाषा मॉडल बिना सत्यापन के डेटा उत्पन्न करता है। इसके अलावा, एक्सप्लॉइट से जुड़ी तकनीकी रिपोर्ट का प्रारूप AI सहायकों के आउटपुट के समान संरचना और शब्दावली दिखाता था, जिससे शोधकर्ताओं ने निष्कर्ष निकाला कि कृत्रिम बुद्धिमत्ता ने इसके विकास में भाग लिया।

यहां तक कि ChatGPT ने भी सुरक्षा परीक्षा पास नहीं की 🤖

ऐसा लगता है कि साइबर अपराधियों ने अपना एक्सप्लॉइट बनाने के लिए AI से मदद मांगी, लेकिन सहायक ने उन्हें एक गढ़े हुए जोखिम स्कोर के साथ एक रिपोर्ट लौटा दी। यानी, AI ने उनके लिए काम तो किया, लेकिन होमवर्क गढ़ दिया। अच्छा हुआ कि Google ने इसे पकड़ लिया, क्योंकि अगर ऐसा नहीं होता, तो ओपन-सोर्स टूल को इस डिजिटल गड़बड़ी से बचाने के लिए एक साधारण CAPTCHA से कहीं अधिक की आवश्यकता होती।