Die EU konzentriert sich auf Grok, ignoriert aber IA-Nackt-Apps
Die Behörden der Europäischen Union haben ihre Besorgnis über die Möglichkeit geäußert, dass das Künstliche-Intelligenz-Tool Grok Bilder von nackten Personen erzeugen könnte. Diese Haltung ignoriert jedoch eine viel umfassendere und etablierte technologische Realität. Während diskutiert wird, den Zugriff auf diesen Editor einzuschränken, sind zahlreiche Anwendungen mit identischen Funktionen weiterhin ohne Hindernisse auf den größten Vertriebsplattformen der Welt verfügbar. 📱
Ein massives Ökosystem in den offiziellen Stores
Eine kürzliche Studie des Technologie-Transparenz-Projekts (TTP) liefert Zahlen zu diesem Phänomen. Die Untersuchung identifiziert über hundert Apps in den Stores von Google Play und Apple App Store, die speziell dafür entwickelt wurden, Kleidung digital von Personen auf Fotos zu entfernen. Diese Tools konzentrieren sich hauptsächlich auf Porträts von Frauen und können die Subjekte vollständig nackt, teilweise entkleidet oder mit sehr wenig Kleidung darstellen.
Schlüsseldaten aus dem TTP-Bericht:- Es wurden 55 Anwendungen in Google Play und 48 im Apple App Store erkannt.
- Diese Apps weisen zusammen mehr als 705 Millionen Downloads weltweit auf.
- Sie haben geschätzte Einnahmen von rund 117 Millionen US-Dollar generiert.
Der Mechanismus zur Erstellung nicht einvernehmlicher sexualisierter Bilder ist weit verbreitet und leicht zugänglich.
Die Maßnahme gegen Grok ist eine begrenzte Lösung
Den Bildeditor von Grok allein einzuschränken, scheint eine Maßnahme zu sein, die nur einen kleinen Teil des Problems berührt. Die Existenz dieses umfangreichen Katalogs spezialisierter Apps zeigt, dass das Problem strukturell ist. Sich auf einen einzigen Dienst zu konzentrieren, während ein ganzes Ökosystem straffrei agiert und Hunderte Millionen Nutzer erreicht, stellt die tatsächliche Wirksamkeit der vorgeschlagenen Antwort infrage. 🚨
Herausforderungen für eine effektive Regulierung:- Die Antwort muss die App-Stores direkt einbeziehen und verlangen, dass sie ihre Überprüfungsrichtlinien verschärfen.
- Ein umfassender Ansatz ist erforderlich, keine isolierten Aktionen gegen einzelne Tools.
- Es zeigt sich eine Ungleichheit bei der Anwendung der Regeln, bei der einige Apps die Filter passieren, während andere hervorgehoben werden.
Ein Fazit zu digitalen Doppelmoralen
Die Situation enthüllt eine Paradoxie der digitalen Welt: Es ist technologisch einfacher, einer Person auf einem Bild die Kleidung auszuziehen, als konsistente und gerechte Kontrollen zur Verhinderung einzuführen. Während die Aufmerksamkeit auf einen Akteur gerichtet ist, operieren Dutzende vor aller Augen, was darauf hindeutet, dass die Regeln manchmal eine Doppelmoral verkörpern. Die Lösung, wenn sie wirklich wirken soll, erfordert einen Blick über das unmittelbare Ziel hinaus und Handeln auf den Plattformen, die diese Tools verteilen. ⚖️