Tres gigantes tecnológicos han firmado acuerdos con el Departamento de Comercio de EE.UU. para que sus nuevos modelos de inteligencia artificial sean revisados por el Centro para Estándares e Innovación en IA (CAISI) antes de su lanzamiento público. Este movimiento ocurre mientras la administración Trump considera endurecer la supervisión del sector, según reportes recientes.
Evaluación previa como nuevo filtro en el desarrollo de IA 🤖
El CAISI actuará como un filtro técnico, analizando aspectos como sesgos, seguridad y rendimiento de cada modelo. Este proceso busca detectar fallos antes de que el software llegue a los usuarios. Las empresas colaborarán compartiendo datos de entrenamiento y resultados de pruebas. La medida apunta a establecer un estándar mínimo, aunque los detalles sobre los criterios de aprobación aún no se han hecho públicos.
El gobierno quiere ver la IA antes de que ella los vea a ellos 🏛️
Ahora resulta que los mismos que no logran que funcione bien su web de impuestos van a revisar si una IA es segura. Uno se imagina a un funcionario preguntándole a ChatGPT: ¿Eres un riesgo para la seguridad nacional?. Y la IA respondiendo: Depende, ¿tienes café?. Menos mal que han firmado un acuerdo, porque si no, igual la IA se lanzaba sola y les robaba el puesto.