Федеральный судья отменил отмену субсидий на сумму более 100 миллионов долларов, инициированную Департаментом эффективности государственного управления. Судья Коллин МакМахон постановила, что использование ChatGPT для выявления и удаления средств, связанных с разнообразием, равенством и инклюзивностью (DEI), не имело законных оснований. Это дело демонстрирует риски делегирования административных решений искусственному интеллекту без контроля со стороны человека.
Алгоритм, который решал, не понимая контекста 🧠
Джастин Фокс, бывший сотрудник DOGE, признался, что использовал ChatGPT для анализа описаний грантов Национального фонда гуманитарных наук. Его методология была проста: задавать чат-боту вопрос, связан ли каждый проект с DEI, ожидая ответа Да или Нет с кратким пояснением. Фокс не определил термин DEI для ИИ и не проверял, как тот интерпретирует сложные понятия, такие как инклюзивность или равенство. Это привело к произвольной отмене культурных и образовательных проектов.
Когда начальник — это плохо написанный промпт 🤖
Самое забавное в этом деле — никто не удосужился объяснить ChatGPT, что означает DEI. Фокс признался, что не знает, как ИИ интерпретирует этот термин. По сути, они решали судьбу миллионов долларов, спрашивая у чат-бота без контекста, как будто просят официанта выбрать вино, не зная, будет ли ужин из рыбы или мяса. Результат: юридический хаос и произвольно сокращенные субсидии.