El Gobierno prepara una ley para supervisar la ética de la inteligencia artificial en empresas, pero sus propios algoritmos administrativos ya discriminan a ciudadanos en prestaciones y multas. Resulta contradictorio exigir responsabilidad a terceros mientras los sistemas estatales operan sin transparencia ni rendición de cuentas.
Algoritmos públicos opacos: el problema técnico de fondo 🛠️
Los modelos usados por la administración para asignar ayudas o sanciones suelen ser cajas negras sin auditoría externa. Carecen de conjuntos de datos balanceados y sus sesgos se arrastran desde el diseño. La solución técnica pasa por auditar código, publicar métricas de desempeño y abrir procesos a revisión ciudadana, antes de imponer estándares a empresas que innovan más rápido que las instituciones.
El bucle infinito de la burocracia digital 🔄
Imaginen que la máquina estatal que decide si reciben su subsidio se entrena con datos de expedientes previos, muchos con fallos humanos. Resultado: el algoritmo aprende a denegar prestaciones con la misma eficiencia que un funcionario con resaca un lunes por la mañana. Pero claro, ellos piden ética a las startups mientras su propio sistema es un misterio. Ironías de la digitalización.