ألغى قاضٍ فيدرالي إلغاء منح تجاوزت قيمتها 100 مليون دولار، والذي دفع به قسم كفاءة الحكومة. وقررت القاضية كولين مكماهون أن استخدام ChatGPT لتحديد وإلغاء الأموال المتعلقة بالتنوع والمساواة والشمول (DEI) يفتقر إلى أساس قانوني. وتكشف القضية مخاطر تفويض القرارات الإدارية للذكاء الاصطناعي دون إشراف بشري.
الخوارزمية التي كانت تقرر دون فهم السياق 🧠
اعترف جاستن فوكس، الموظف السابق في DOGE، باستخدام ChatGPT لتحليل أوصاف المنح المقدمة من المؤسسة الوطنية للعلوم الإنسانية. كانت منهجيته بسيطة: سؤال chatbot عما إذا كان كل مشروع مرتبطًا بـ DEI، متوقعًا إجابة نعم أو لا مع شرح موجز. لم يحدد فوكس مصطلح DEI للذكاء الاصطناعي، ولم يتحقق من كيفية تفسيره لمفاهيم معقدة مثل الشمول أو المساواة. أدى ذلك إلى إلغاءات تعسفية لمشاريع ثقافية وتعليمية.
عندما يكون الرئيس هو prompt مكتوب بشكل سيء 🤖
أغرب ما في القضية هو أنه لم يكلف أحد نفسه عناء شرح معنى DEI لـ ChatGPT. اعترف فوكس بأنه لا يعرف كيف يفسر الذكاء الاصطناعي المصطلح. ببساطة، قرروا مستقبل ملايين الدولارات بسؤال chatbot دون سياق، مثل شخص يطلب من نادل اختيار النبيذ دون معرفة ما إذا كان العشاء سمكًا أم لحمًا. النتيجة: فوضى قانونية ومنح مقطوعة بشكل عشوائي.