Timnit Gebru, fundadora del Distributed AI Research Institute, ha recibido el Right Livelihood Award por su trabajo sobre sesgos en inteligencia artificial y grandes modelos de lenguaje. Google la despidió en 2020 tras negarse a retirar un paper sobre estos riesgos. Para quien trabaja en arte generativo o pipelines 3D, la señal es clara: la ética y la transparencia siguen siendo un frente crítico.
Sesgos en datasets y modelos: impacto directo en pipelines 3D 🧠
Los datasets que alimentan modelos de imagen y texto arrastran desequilibrios de representación que se propagan a texturas, assets y materiales generados de forma automática. Un pipeline 3D que use IA para generar variaciones de personajes o entornos puede reproducir esos sesgos sin que el artista lo note. La presión sobre auditabilidad crece: revisar procedencia de datos, documentar limitaciones del modelo y validar resultados por lotes deja de ser opcional. La auditoría de IA se consolida como estándar profesional en estudios y productoras.
Ahora todos somos auditores de IA, aunque no lo sepamos 🔍
Resulta que pasar horas ajustando un shader o corrigiendo una malla ya no basta. Toca también revisar si el modelo que generó esa textura tiene sesgos de género, etnia o estilo. La buena noticia es que podemos añadir auditor de IA al currículum. La mala es que nadie nos pagará extra por ello. Al menos Gebru ya tiene un premio. Nosotros, un pipeline más lento y la satisfacción de hacerlo bien.