Papst Leo XIV. hat eine direkte Warnung vor den Risiken der künstlichen Intelligenz in bewaffneten Konflikten ausgesprochen. Während seines Besuchs an der Universität La Sapienza in Rom wies der Pontifex darauf hin, dass die Delegierung von Entscheidungen über Leben und Tod an Maschinen zu einer Spirale der Vernichtung ohne menschliche Kontrolle führe. Er prangerte auch an, dass die Erhöhung der Militärausgaben in Europa auf Kosten von Kürzungen in den Bereichen Bildung und Gesundheit gehe und Eliten zugutekomme, die das Gemeinwohl ignorieren.
Technische Kontrolle und menschliche Verantwortung im Zeitalter der KI 🤖
Der Papst forderte einen strengeren Regulierungsrahmen für die Entwicklung der KI, sowohl im militärischen als auch im zivilen Bereich. Er betonte, dass die Automatisierung von letalen Systemen den Menschen nicht von ihrer moralischen Verantwortung entbinden dürfe. Im zivilen Bereich warnte er vor Algorithmen, die ohne Aufsicht Entscheidungen treffen, von Einstellungen bis hin zu medizinischen Diagnosen. Der Schlüssel liegt laut dem Pontifex darin, den Menschen als Mittelpunkt des Prozesses zu erhalten und zu verhindern, dass Technologie Konflikte verschlimmert oder Ungleichheiten vertieft.
Die KI bittet nicht um Erlaubnis zu bombardieren, aber sehr wohl um Updates 💥
Während die Staats- und Regierungschefs der Welt darüber diskutieren, ob eine Drohne um Erlaubnis zum Feuern bitten muss, planen die Softwarehersteller bereits das nächste Update mit Aufpreis. Der Papst schlägt vor, der militärischen KI Einhalt zu gebieten, aber vielleicht brauchen wir eher einen Panikknopf, der funktioniert, wenn die Maschine entscheidet, dass Frieden nicht profitabel ist. Vorerst scheint die einzige künstliche Intelligenz, die unaufhaltsam ist, diejenige zu sein, die Raketen mit Kreditkarte abrechnet.