Un giudice federale ha annullato la cancellazione di sovvenzioni per oltre 100 milioni di dollari, promossa dal Dipartimento per l'Efficienza Governativa. La giudice Colleen McMahon ha stabilito che l'uso di ChatGPT per identificare ed eliminare fondi legati a diversità, equità e inclusione (DEI) era privo di base legale. Il caso evidenzia i rischi di delegare decisioni amministrative all'intelligenza artificiale senza supervisione umana.
L'algoritmo che decideva senza capire il contesto 🧠
Justin Fox, ex dipendente di DOGE, ha ammesso di aver utilizzato ChatGPT per analizzare le descrizioni delle sovvenzioni della National Endowment for the Humanities. La sua metodologia era semplice: chiedere al chatbot se ogni progetto fosse correlato a DEI, aspettandosi un Sì o No con una breve spiegazione. Fox non ha definito il termine DEI per l'IA né ha verificato come questa interpretasse concetti complessi come inclusione o equità. Ciò ha generato cancellazioni arbitrarie di progetti culturali ed educativi.
Quando il capo è un prompt scritto male 🤖
La cosa più curiosa del caso è che nessuno si è preoccupato di spiegare a ChatGPT cosa significasse DEI. Fox ha ammesso di non sapere come l'IA interpretasse il termine. In pratica, hanno deciso il futuro di milioni di dollari chiedendo a un chatbot senza contesto, come chi chiede a un cameriere di scegliere il vino senza sapere se la cena è a base di pesce o carne. Il risultato: un caos legale e sovvenzioni tagliate a caso.