Un juez federal ha tumbado la cancelación de subvenciones por más de 100 millones de dólares, impulsada por el Departamento de Eficiencia Gubernamental. La jueza Colleen McMahon determinó que el uso de ChatGPT para identificar y eliminar fondos relacionados con diversidad, equidad e inclusión (DEI) carecía de base legal. El caso expone los riesgos de delegar decisiones administrativas a inteligencia artificial sin supervisión humana.
El algoritmo que decidía sin entender el contexto 🧠
Justin Fox, exempleado de DOGE, admitió haber utilizado ChatGPT para analizar descripciones de subvenciones de la Fundación Nacional para las Humanidades. Su metodología era simple: preguntar al chatbot si cada proyecto se relacionaba con DEI, esperando un Sí o No con breve explicación. Fox no definió el término DEI para la IA ni verificó cómo esta interpretaba conceptos complejos como inclusión o equidad. Esto generó cancelaciones arbitrarias de proyectos culturales y educativos.
Cuando el jefe es un prompt mal escrito 🤖
Lo más curioso del caso es que nadie se molestó en explicarle a ChatGPT qué significaba DEI. Fox admitió que desconocía cómo la IA interpretaba el término. Básicamente, decidieron el futuro de millones de dólares preguntándole a un chatbot sin contexto, como quien le pide a un camarero que elija el vino sin saber si la cena es pescado o carne. El resultado: un caos legal y subvenciones cortadas al azar.