El secretario general de la ONU, António Guterres, ha solicitado una normativa internacional que obligue a las empresas tecnológicas a demostrar la seguridad de sus productos de inteligencia artificial antes de que los utilicen niños. La iniciativa busca frenar los riesgos de una tecnología capaz de imitar el comportamiento humano y causar daños graves, priorizando la protección de los más vulnerables frente a un avance sin control.
Evaluación técnica de riesgos en sistemas de IA generativa 🛡️
La petición de Guterres apunta a un vacío crítico en el desarrollo actual: la ausencia de protocolos de verificación obligatorios antes del despliegue comercial. Modelos como los asistentes conversacionales pueden replicar patrones de abuso o desinformación si no se filtran adecuadamente. Implementar auditorías externas, pruebas de sesgo y límites de interacción para menores son pasos técnicos viables que las empresas evitan por coste o falta de presión regulatoria.
La IA y el nuevo método para que los niños no hagan los deberes 🤖
Resulta curioso que ahora los gobiernos se preocupen tanto por la seguridad cuando los mismos sistemas ya se usan para que los críos generen redacciones de Shakespeare en cinco segundos. Guterres pide control: quizá lo que falta es un botón de pánico para padres que descubren que su hijo aprobó historia gracias a ChatGPT. Mientras tanto, las tecnológicas prometen que todo irá bien justo antes de lanzar la próxima beta sin manual de instrucciones.