En 2017, le Pentagone a initié le Projet Maven, une initiative pour employer l'intelligence artificielle dans l'analyse de la quantité écrasante de vidéos et d'images captées par des drones. Le livre de Katrina Manson documente, à travers des témoignages clés, l'évolution de cet outil : de ses maladresses initiales jusqu'à devenir un système capable d'identifier et de proposer des cibles d'attaque. Cette chronique n'est pas seulement technique, mais une porte vers la réflexion éthique la plus urgente : devons-nous automatiser la décision de supprimer une vie ?
De l'assistance à l'autonomie : la pente technique 🤖
Le développement du Projet Maven illustre une trajectoire commune dans l'IA appliquée. Il a commencé comme un système de support, un filtre pour soulager la charge cognitive des analystes, classant des objets dans des milliers d'heures de métrage. Cependant, son évolution naturelle l'a conduit vers une plus grande autonomie, intégrant des capacités d'identification et de suggestion d'objectifs dans le cycle de combat. Manson détaille son déploiement opérationnel, montrant comment l'outil est passé d'être des yeux à devenir un composant actif qui réduit le temps entre la détection et l'action létale potentielle, érodant progressivement la supervision humaine directe.
L'algorithme sans jugement : le risque ultime ⚖️
Le noyau du dilemme éthique exposé par Manson n'est pas la technologie en soi, mais la délégation. Un algorithme manque de contexte humain, de compassion, de ce jugement ultime qui dans le passé a prévenu des escalades catastrophiques. Automatiser complètement le cycle d'attaque signifie confier des décisions irréversibles à un système qui ne traite que des données, pas des conséquences. Ce cas pose la question fondamentale pour notre ère numérique : dans les applications à haut risque, où devons-nous tracer la ligne infranchissable pour l'autonomie de la machine ? L'avenir de la guerre, et de notre humanité, dépend de cette réponse.
Comment la modération agressive affecte-t-elle la perception d'une marque technologique ?