Las empresas de inteligencia artificial exigen confianza pública mientras ocultan sus algoritmos tras el velo del secreto comercial. Esta contradicción impide auditar sesgos que ya discriminan en acceso a vivienda, procesos de selección laboral o concesión de créditos. Sin acceso al código y datos de entrenamiento, cualquier reclamo de equidad es una promesa vacía.
El código cerrado impide auditar sesgos algorítmicos 🔍
Un modelo de IA que decide sobre préstamos hipotecarios puede penalizar códigos postales con mayoría étnica sin que nadie lo verifique. La opacidad técnica bloquea la detección de correlaciones espurias en los datos de entrenamiento. La solución pasa por una ley que exija publicar el código fuente completo y los datasets utilizados, con sanciones económicas severas para empresas que obstaculicen la auditoría independiente. Sin transparencia forzada, el sesgo permanece invisible.
El algoritmo mágico que nadie puede revisar 🎩
Las grandes tecnológicas tratan sus modelos como si fueran la receta de la Coca-Cola, solo que esta bebida decide quién consigue trabajo o vivienda. Piden que confiemos ciegamente mientras sus abogados redactan cláusulas de confidencialidad más largas que el manual de IKEA. Si el algoritmo es tan bueno, ¿por qué temen que lo veamos? Quizás porque la magia desaparece cuando enciendes la luz.