En 2017, el Pentágono inició el Proyecto Maven, una iniciativa para emplear inteligencia artificial en el análisis de la abrumadora cantidad de vídeo e imágenes captadas por drones. El libro de Katrina Manson documenta, a través de testimonios clave, la evolución de esta herramienta: desde sus torpezas iniciales hasta convertirse en un sistema capaz de identificar y proponer blancos de ataque. Esta crónica no es solo técnica, sino una puerta a la reflexión ética más urgente: ¿debemos automatizar la decisión de quitar una vida?
De la asistencia a la autonomía: la pendiente técnica 🤖
El desarrollo del Proyecto Maven ilustra una trayectoria común en la IA aplicada. Comenzó como un sistema de apoyo, un filtro para aliviar la carga cognitiva de los analistas, clasificando objetos en miles de horas de metraje. Sin embargo, su evolución natural lo llevó hacia una mayor autonomía, integrando capacidades de identificación y sugerencia de objetivos dentro del ciclo de combate. Manson detalla su despliegue operativo, mostrando cómo la herramienta pasó de ser unos ojos a convertirse en un componente activo que reduce el tiempo entre la detección y la potencial acción letal, erosionando progresivamente la supervisión humana directa.
El algoritmo sin juicio: el riesgo último ⚖️
El núcleo del dilema ético que expone Manson no es la tecnología en sí, sino la delegación. Un algoritmo carece de contexto humano, de compasión, de ese juicio último que en el pasado ha prevenido escaladas catastróficas. Automatizar completamente el ciclo de ataque significa confiar decisiones irreversibles a un sistema que solo procesa datos, no consecuencias. Este caso plantea la pregunta fundamental para nuestra era digital: en aplicaciones de alto riesgo, ¿dónde debemos trazar la línea infranqueable para la autonomía de la máquina? El futuro de la guerra, y de nuestra humanidad, depende de esa respuesta.
¿Cómo afecta la moderación agresiva a la percepción de una marca tecnológica?