كشف تحقيق "GuardFall" عن مشكلة أمنية في وكلاء الذكاء الاصطناعي مفتوح المصدر المستخدمين في البرمجة. هذه الأنظمة عرضة لهجمات حقن الأوامر، وهو ثغرة موجودة منذ عقود في عالم الحوسبة. بالنسبة للمواطنين، يعني ذلك أن التطبيقات والخدمات الرقمية التي تم إنشاؤها باستخدام هذه الأدوات قد تحتوي على ثغرات أمنية، مما يعرض البيانات الشخصية للخطر ويزيد من مخاطر الهجمات الإلكترونية.
حقن الأوامر: الحيلة القديمة التي لا تزال تعمل 🔐
حقن الأوامر ليس جديدًا: فهو يسمح للمهاجم بإدخال تعليمات ضارة في نظام لا يقوم بتصفيتها. في حالة مساعدي الذكاء الاصطناعي للتطوير، يظهر الخلل عندما يفسر النموذج بيانات لا ينبغي له معالجتها على أنها أوامر صالحة. أثبت باحثو GuardFall أنه عند خداع الوكيل بمدخلات محددة، فإنه ينفذ إجراءات غير مرغوب فيها. الحل يكمن في تنفيذ عمليات تحقق صارمة وتحديث بروتوكولات الأمان في هذه البيئات مفتوحة المصدر.
الذكاء الاصطناعي يتعلم البرمجة، لكنه لا يعرف كيف يغلق الباب بالمفتاح 🤖
من الغريب أن هذه الأدوات، المصممة لكتابة كود خالٍ من الأخطاء، تقع في فخ قديم قدم الإنترنت نفسه. بينما تعد مساعدات الذكاء الاصطناعي بأتمتة المهام المعقدة، يتبين أن أمرًا بسيطًا مقنعًا يضللها مثل متدرب في يومه الأول. في النهاية، الدرس المستفاد هو أن الذكاء الاصطناعي لا يزال بحاجة إلى أن يذكره البشر بالأساسيات: عدم الثقة بكل ما يُقال له، حتى لو جاء في موجه (برومبت).