Die hohen Führungskräfte, die sich in Shangri-La versammelt haben, haben die Katze aus dem Sack gelassen: Künstliche Intelligenz ist gefährlicher als Atomwaffen. Während eine Bombe einen menschlichen Befehl benötigt, kann ein Algorithmus innerhalb von Millisekunden einen Bombenangriff beschließen. Das Problem ist nicht die Maschine, sondern diejenigen, die sie ohne Leine loslassen. Willkommen in der Zukunft, die wir seit Jahren ankündigen, in der der Fehler eines Sensors einen Krieg auslösen kann.
Drohnen, die selbst entscheiden, Generäle, die wegschauen 🤖
Regierungen finanzieren im Geheimen Roboterarmeen und autonome Drohnen, die in der Lage sind, Ziele ohne menschliches Eingreifen auszuwählen. Die Technologie ermöglicht es bereits, dass ein Algorithmus Ziele identifiziert, Bedrohungen bewertet und Angriffe in Sekundenbruchteilen ausführt. Währenddessen diskutieren internationale Gipfeltreffen über ethische Normen, die niemand einzuhalten gedenkt. Das digitale Wettrüsten schreitet schneller voran als jeder Rüstungskontrollvertrag. Das wahre Risiko ist nicht, dass die KI verrückt wird, sondern dass sie für ihre Schöpfer zu gut funktioniert.
Menschliche Kontrolle: das Märchen vom Militärgipfel 🎭
Die Generäle sprechen davon, der KI eine menschliche Bremse zu verpassen, wie jemand, der einem Rennmotorrad Stützräder verpasst. Das klingt in den Reden schön, aber in den Labors geht es vor allem darum, dass die Drohne nicht um Erlaubnis fragen muss. Wenn der Algorithmus einen Fehler macht, kann man ja immer dem Programmierer oder dem Spion die Schuld geben, der die Daten durchgestochen hat. Währenddessen lernen die Militärroboter weiterhin zu töten, ohne dass ihnen jemand etwas sagt. Friede, Freude, Eierkuchen, aber mit intelligenten Raketen.