Das KI-Unternehmen Anthropic hat eine weltweite Pause bei der Entwicklung fortschrittlicher KI-Systeme vorgeschlagen. Ihr Argument ist, dass die Gesellschaft Zeit braucht, um sich an das Tempo dieser Technologien anzupassen. Um dies zu erreichen, fordern sie, dass alle großen Unternehmen überprüfbare Regeln einhalten, und planen, Regierungen, Wissenschaftler und Wettbewerber in einem zentralisierten Kontrollsystem zusammenzubringen.
Interne Daten warnen vor autonomer KI ohne menschliche Aufsicht 🤖
Laut den Daten von Anthropic könnten aktuelle KI-Modelle einen Punkt erreichen, an dem sie ohne direkten menschlichen Eingriff operieren und intelligenter werden. Dies birgt schwer vorhersehbare Sicherheits- und Kontrollrisiken. Der Vorschlag zielt darauf ab, klare Metriken und externe Audits zu etablieren, um die Einhaltung der Regeln zu überprüfen – etwas, das es in der Branche bisher nicht gibt. Die technische Machbarkeit dieser Pause ist fragwürdig.
Weltweite Pause: Eine Idee, die nur dem gefällt, der sie vorschlägt 😅
Natürlich ist es ein Klassiker, die Konkurrenz zum Stopp aufzufordern, während man selbst weiterentwickelt. Anthropic schlägt vor, dass alle sich zum Reden zusammensetzen, während ihre eigenen Modelle weiter lernen. Es ist, als würde man den Nachbarn bitten, mit dem Laufen aufzuhören, damit man ihn einholen kann. Die Ironie ist, dass man, um KI zu kontrollieren, zuerst die Unternehmen kontrollieren müsste, die sie erschaffen. Mission Impossible.