مايكروسوفت تطلق رامبارت وكلاريتي دروع مفتوحة المصدر للذكاء الاصطناعي

أصدرت شركة مايكروسوفت أداتين مفتوحتي المصدر، RAMPART وClarity، تركزان على أمن وكلاء الذكاء الاصطناعي. تأتي هذه المبادرة استجابة للحاجة إلى حماية الأنظمة المستقلة أثناء تطويرها، وهو مجال يثير قلقًا متزايدًا في النظام البيئي التكنولوجي الحالي.

الدفاع والشفافية في تطوير الوكلاء المستقلين 🛡️

تعمل أداة RAMPART كنظام دفاعي يسمح بمحاكاة الهجمات العدائية ضد نماذج الذكاء الاصطناعي، مما يساعد المطورين على تحديد وتخفيف نقاط الضعف قبل النشر. من جانبها، توفر أداة Clarity الشفافية من خلال تتبع وتصور قرارات الوكلاء، مما يسهل اكتشاف الأعطال في الأنظمة المستقلة. تهدف كلتا الأداتين إلى تعزيز الأمن دون الاعتماد على حلول مملوكة.

لأن الذكاء الاصطناعي أيضًا يحتاج إلى ملاك حارس 😇

الآن سيكون لوكلاء الذكاء الاصطناعي نظام الأمن الخاص بهم، كما لو كانوا أطفالًا صغارًا في حديقة. تقدم لنا مايكروسوفت أداة RAMPART كهدية ليتمكن المطورون من محاكاة الهجمات، وأداة Clarity لرؤية ما تفعله الآلات عندما لا يراقبها أحد. ليتني كانت هناك أداة مماثلة لتتبع سبب تشغيل المساعد الصوتي للراديو دائمًا عندما تطلب إطفاء الأنوار.