La Agencia Central de Inteligencia estadounidense planea desplegar asistentes de IA generativa en todas sus plataformas analíticas antes de dos años. Estos sistemas, llamados compañeros de trabajo de IA, asistirán en labores de redacción y edición de informes, aunque la toma de decisiones final seguirá siendo humana. La agencia ya ha producido su primer informe completo con esta tecnología.
Desarrollo interno y el conflicto con las salvaguardas éticas 🤖
La CIA está desarrollando capacidades de IA de forma interna para evitar depender de proveedores externos. Este impulso viene tras un conflicto con la empresa Anthropic, que se negó a relajar las restricciones éticas de su modelo Claude para usos como la vigilancia masiva. El enfoque de la agencia prioriza la funcionalidad operativa sin límites, alejándose de modelos con alineación a valores humanos estrictos.
Tu nuevo compañero de despacho no tiene ética, pero escribe genial 😈
Imagina tener un compañero que nunca duerme, no cuestiona las órdenes y escribe informes a velocidad de luz. El único detalle es que, si le pides que planifique una vigilancia masiva, no pondrá objeciones morales. Al menos no como las que puso Claude. Parece que en la CIA prefieren a los becarios digitales que no tienen reparos en saltarse la deontología profesional por un informe bien maquetado.