Der Journalist Arnaud Nemet hat die Geschichte seiner Großtante Bella Ariel wieder aufleben lassen, eines erfolgreichen jüdischen Models der 1930er Jahre, das nach einer Denunziation verhaftet und im Alter von 31 Jahren in Auschwitz ermordet wurde. Ihr Fall ist eine Erinnerung daran, wie Hass und Diskriminierung vielversprechende Leben zerstören können. Die Lehre ist klar: Wir müssen aus der Vergangenheit lernen, um zu verhindern, dass Intoleranz erneut so viel Schaden anrichtet.
Wie ein Meldealgorithmus die Geschichte wiederholen kann ⚠️
In der aktuellen Entwicklung automatisierter Moderationssysteme sehen wir beunruhigende Parallelen. Sprachmodelle und Inhaltsfilter, die mit historischen Daten trainiert wurden, können Ausschlussverzerrungen reproduzieren. Werden sie nicht mit strengen ethischen Kriterien überprüft, kann eine einfache anonyme Meldung auf einer Plattform eine Kaskade ungerechtfertigter Sperrungen auslösen. Technologie ist nicht neutral; ohne menschliche Aufsicht kann der Code zu einem stillen Henker werden.
Anonyme Meldungen: Die Denunziation 2.0 🕵️
Heute kannst du, anstatt einen Brief an die Gestapo zu schreiben, mit einem Klick von deinem Sofa aus eine Meldung absetzen. Das System verarbeitet sie und löscht deinen digitalen Rivalen, ohne nachzufragen. Der Unterschied ist, dass das Opfer jetzt eine automatische Nachricht erhält: Ihr Konto wurde wegen Verstoßes gegen unsere Richtlinien gesperrt. In den 30ern hatte man zumindest noch Zeit, den Koffer zu packen. Allerdings diskriminiert der Algorithmus nicht: Er löscht alle gleichermaßen, ohne zu wissen, ob du Model oder Klempner bist.