Nel 2017, il Pentagono ha avviato il Progetto Maven, un'iniziativa per impiegare l'intelligenza artificiale nell'analisi della schiacciante quantità di video e immagini catturati dai droni. Il libro di Katrina Manson documenta, attraverso testimonianze chiave, l'evoluzione di questo strumento: dalle sue goffaggini iniziali fino a diventare un sistema capace di identificare e proporre bersagli di attacco. Questa cronaca non è solo tecnica, ma una porta alla riflessione etica più urgente: dobbiamo automatizzare la decisione di togliere una vita?
Dall'assistenza all'autonomia: la pendenza tecnica 🤖
Lo sviluppo del Progetto Maven illustra una traiettoria comune nell'IA applicata. È iniziato come un sistema di supporto, un filtro per alleviare il carico cognitivo degli analisti, classificando oggetti in migliaia di ore di filmati. Tuttavia, la sua evoluzione naturale lo ha portato verso una maggiore autonomia, integrando capacità di identificazione e suggerimento di obiettivi all'interno del ciclo di combattimento. Manson dettagli il suo dispiegamento operativo, mostrando come lo strumento sia passato da essere degli occhi a diventare un componente attivo che riduce il tempo tra la rilevazione e la potenziale azione letale, erodendo progressivamente la supervisione umana diretta.
L'algoritmo senza giudizio: il rischio ultimo ⚖️
Il nucleo del dilemma etico che espone Manson non è la tecnologia in sé, ma la delega. Un algoritmo manca di contesto umano, di compassione, di quel giudizio ultimo che in passato ha prevenuto escalation catastrofiche. Automatizzare completamente il ciclo di attacco significa affidare decisioni irreversibili a un sistema che processa solo dati, non conseguenze. Questo caso pone la domanda fondamentale per la nostra era digitale: in applicazioni ad alto rischio, dove dobbiamo tracciare la linea invalicabile per l'autonomia della macchina? Il futuro della guerra, e della nostra umanità, dipende da quella risposta.
Come influisce la moderazione aggressiva sulla percezione di un marchio tecnologico?