माइक्रोसॉफ्ट ने दो टूल्स, RAMPART और Clarity, को ओपन सोर्स के रूप में जारी किया है, जो कृत्रिम बुद्धिमत्ता एजेंटों की सुरक्षा पर केंद्रित हैं। यह पहल वर्तमान तकनीकी पारिस्थितिकी तंत्र में बढ़ती चिंता के क्षेत्र, स्वायत्त प्रणालियों के विकास के दौरान उनकी सुरक्षा की आवश्यकता को पूरा करती है।
स्वायत्त एजेंटों के विकास में रक्षा और पारदर्शिता 🛡️
RAMPART एक रक्षा प्रणाली के रूप में कार्य करता है जो AI मॉडल के खिलाफ प्रतिकूल हमलों का अनुकरण करने की अनुमति देता है, जिससे डेवलपर्स को तैनाती से पहले कमजोरियों की पहचान करने और उन्हें कम करने में मदद मिलती है। दूसरी ओर, Clarity एजेंटों के निर्णयों को ट्रैक और विज़ुअलाइज़ करके पारदर्शिता प्रदान करता है, जिससे स्वायत्त प्रणालियों में विफलताओं का पता लगाना आसान हो जाता है। दोनों उपकरण मालिकाना समाधानों पर निर्भर हुए बिना सुरक्षा को मजबूत करना चाहते हैं।
क्योंकि AI को भी एक अभिभावक देवदूत की ज़रूरत है 😇
अब AI एजेंटों का अपना सुरक्षा सिस्टम होगा, जैसे कि वे पार्क में छोटे बच्चे हों। माइक्रोसॉफ्ट हमें RAMPART देता है ताकि डेवलपर्स हमलों का अनुकरण कर सकें और Clarity यह देखने के लिए कि जब कोई नहीं देख रहा हो तो मशीनें क्या करती हैं। काश ऐसा ही एक उपकरण होता यह ट्रैक करने के लिए कि जब आप लाइट बंद करने के लिए कहते हैं तो वॉयस असिस्टेंट हमेशा रेडियो क्यों चालू कर देता है।