Le pape Léon XIV a lancé un avertissement direct sur les risques de l'intelligence artificielle appliquée aux conflits armés. Lors de sa visite à l'Université La Sapienza de Rome, le pontife a souligné que déléguer des décisions de vie ou de mort à des machines conduit à une spirale d'anéantissement sans contrôle humain. Il a également dénoncé que l'augmentation des dépenses militaires en Europe se fait au détriment des coupes dans l'éducation et la santé, profitant à des élites qui ignorent le bien commun.
Contrôle technique et responsabilité humaine à l'ère de l'IA 🤖
Le pape a demandé un cadre réglementaire plus rigoureux pour le développement de l'IA, tant dans les usages militaires que civils. Il a souligné que l'automatisation des systèmes létaux ne doit pas exonérer les humains de leur responsabilité morale. Dans le domaine civil, il a alerté sur les algorithmes qui prennent des décisions sans supervision, des embauches aux diagnostics médicaux. La clé, selon le pontife, est de maintenir l'être humain au centre du processus, en évitant que la technologie n'aggrave les conflits ou n'approfondisse les inégalités.
L'IA ne demande pas la permission pour bombarder, mais oui pour se mettre à jour 💥
Pendant que les dirigeants mondiaux débattent pour savoir si un drone doit demander l'autorisation de tirer, les fabricants de logiciels planifient déjà la prochaine mise à jour avec des frais supplémentaires. Le pape suggère de freiner l'IA militaire, même si ce dont nous avons besoin est peut-être un bouton d'arrêt d'urgence qui fonctionne lorsque la machine décide que la paix n'est pas rentable. Pour l'instant, la seule intelligence artificielle qui semble imparable est celle qui facture des missiles par carte de crédit.