Mrinank Sharma erklärt, warum er Anthropic verlässt und sein neues Projekt
Der Forscher, der das Team zur Schutz von KI-Systemen bei Anthropic leitete, hat eine interne Mitteilung veröffentlicht. Darin detailliert er die Gründe für seinen Abschied und enthüllt seinen nächsten beruflichen Schritt im Bereich der algorithmischen Sicherheit. 🧠
Gründe hinter der Entscheidung zum Gehen
Sharma erläutert, dass sein Ausscheiden mit einem grundlegenden Meinungsunterschied über die Strategie zur Sicherstellung einer sicheren künstlichen Intelligenz zusammenhängt. Er meint, dass die Geschwindigkeit zur Entwicklung dieser Systeme unsere Fähigkeit übersteigt, zu überprüfen, dass sie keine Gefahr darstellen. Daher wählte er, seine Bemühungen von einer autonomeren und unabhängigeren Position aus zu fokussieren.
Schlüsselargumente:- Es gibt Unterschiede im Ansatz, wie man den Schutz im KI-Entwicklungsprozess priorisiert.
- Das aktuelle Tempo des technologischen Fortschritts ist schneller als unsere Fähigkeit, effektive Schutzmaßnahmen umzusetzen.
- Er bevorzugt, das Problem von einem externen Rahmen aus und mit größerer Handlungsfreiheit anzugehen.
"Manchmal ist die sicherste Art, eine Sandburg zu schützen, sich von der Uferlinie zu entfernen und einen Deich weiter entfernt zu bauen."
Die Zukunft: eine neue Non-Profit-Organisation
Der ehemalige Direktor kündigte an, dass er eine Organisation gründen wird, die sich der Analyse der Gefahren widmet, die von den komplexesten KI-Modellen ausgehen. Sein Ziel ist es, mögliche Bedrohungen im großen Maßstab zu bewerten und zu reduzieren, indem er mit anderen Experten zusammenarbeitet, um robuste Protokolle zu definieren.
Ziele der neuen Initiative:- Eine Organisation zu schaffen, die sich auf die Forschung zu Risiken fortgeschrittener KI konzentriert.
- Mit der Forschergemeinschaft zusammenarbeiten, um robuste Sicherheitsstandards zu etablieren.
- Potenzielle Bedrohungen abzumildern, die global auftreten könnten.
Ein Blick nach vorn
Der Abschied einer Schlüsselfigur im Bereich der KI-Sicherheit von Anthropic unterstreicht die bestehenden Debatten in der Branche. Sharmas neues Projekt zielt darauf ab, eine Lücke zu schließen, indem es eine unabhängige Bewertung der Risiken fördert, während die Technologie ihre beschleunigte Entwicklung fortsetzt. 🔍