La empresa de inteligencia artificial Anthropic ha propuesto una pausa mundial en el desarrollo de sistemas avanzados de IA. Su argumento es que la sociedad necesita tiempo para adaptarse al ritmo de estas tecnologías. Para lograrlo, exigen que todas las grandes compañías cumplan reglas verificables y planean reunir a gobiernos, científicos y competidores en un sistema de control centralizado.
Datos internos alertan sobre IA autónoma sin supervisión humana 🤖
Según los datos de Anthropic, los modelos de IA actuales podrían alcanzar un punto donde operen y se vuelvan más inteligentes sin intervención humana directa. Esto implica riesgos de seguridad y control difíciles de prever. La propuesta busca establecer métricas claras y auditorías externas para verificar el cumplimiento de las reglas, algo que hasta ahora no existe en la industria. La viabilidad técnica de esta pausa es cuestionable.
Pausa mundial: la idea que solo gusta a quien la propone 😅
Por supuesto, pedirle a la competencia que pare mientras tú sigues desarrollando es un clásico. Anthropic sugiere que todos se sienten a hablar, mientras sus propios modelos siguen aprendiendo. Es como pedirle al vecino que deje de correr para que tú puedas alcanzarlo. La ironía es que, para controlar la IA, primero habría que controlar a las empresas que la crean. Misión imposible.