Das Versprechen einer unvoreingenommenen Meritokratie durch den Einsatz künstlicher Intelligenz in Auswahlprozessen bröckelt. Eine aktuelle Analyse zeigt, dass Plattformen, die Video mit KI zur Bewertung von Kandidaten einsetzen, Diskriminierung aufgrund von Geschlecht, Rasse oder Aussehen wieder einführen, indem sie das Gesicht vor den Fähigkeiten zeigen. Die angebliche technologische Neutralität prallt auf die Realität: Algorithmen reproduzieren menschliche Vorurteile.
Erzwungene Anonymität: der technische Schlüssel gegen visuelle Verzerrung 🛡️
Die technische Lösung besteht darin, von diesen Plattformen zu verlangen, das Video bis zu fortgeschrittenen Phasen des Prozesses zu anonymisieren. Dies beinhaltet die Anwendung von Gesichtsunschärfefiltern, das Ersetzen von Stimmen durch neutrale Synthese und das Verbergen physischer Marker wie Kleidung oder Hintergrund. Erst nach der Bewertung fachlicher Kompetenzen durch Blindtests wäre die visuelle Identifizierung erlaubt. So wird vermieden, dass das Bild die Einstellung beeinflusst und Ungleichheiten am Arbeitsplatz fortbestehen.
Blinde Einstellung, aber nicht ganz 😅
Also, damit die KI nicht rassistisch oder klassistisch ist, müssen wir sie bitten, wegzuschauen. Es ist, als ob man dir bei einem Blind Date einen Sack über den Kopf stülpen würde, bis du beweist, dass du kochen kannst. Am Ende hat die Technologie versprochen, menschliche Vorurteile zu beseitigen, und braucht nun selbst beigebracht zu bekommen, nicht hinzusehen. Ironie des Fortschritts: Damit die Maschine fair ist, müssen wir ihr die Augen verbinden.