Instacart beendet seinen Test mit KI, die unterschiedliche Preise pro Kunde festlegte
Die Plattform für Lebensmittellieferungen Instacart hat ein kontroverses Experiment beendet. Sie nutzte künstliche Intelligenz, um variable Kosten festzulegen, sodass dasselbe Artikel je nach Betrachter einen unterschiedlichen Wert zeigte. Das Unternehmen stellte das System nach intensiver Prüfung ein. 🤖
Der Algorithmus, der für jeden Nutzer eine andere Kaufrealität schuf
Der Test, genannt Kundenpreise, basierte auf einem KI-Modell, das mehrere Daten verarbeitete, um die angezeigten Beträge anzupassen. Das bedeutete, dass zwei Personen in demselben virtuellen Laden und an demselben Ort unterschiedliche Preise für dasselbe Produkt sehen konnten. Instacart verteidigte, dass das Ziel darin bestand, zu verstehen, wie man Promotionen optimiert, und nicht, mehr zu verlangen.
Die Schlüsselfaktoren, die zum Stopp führten:- Politischer Druck von US-Senatoren, die einen Brief schickten und vor möglicher Diskriminierung bei den Preisen warnten.
- Eine akademische Analyse der University of Southern California, die diese Variationen formal dokumentierte und nachwies.
- Die Kombination aus dieser öffentlichen und technischen Prüfung zwang das Unternehmen, den Pilot endgültig zu beenden.
Das Unternehmen behauptet, immer die endgültigen Preise vor der Zahlung durch den Nutzer vollständig transparent angezeigt zu haben.
Die Konsequenzen für die Zukunft des digitalen Handels
Dieser Vorfall markiert einen Wendepunkt darüber, wie Unternehmen Algorithmen einsetzen können, um von Verbrauchern zu lernen. Die Suche nach Effizienz stößt mit den Prinzipien der Fairness und des gerechten Umgangs zusammen.
Was nach dem Experiment bleibt:- KI-Systeme müssen neue Wege finden, um zu trainieren, die nicht das Einkaufskorb-Kosten zwischen Nachbarn variieren.
- Transparenz und Erklärbarkeit der Algorithmen werden zu zentralen Forderungen der Nutzer.
- Die Preisgleichheit wird vorerst als Wert bestätigt, der von einer Person und nicht von einer Maschine entschieden werden muss.
Ein Präzedenzfall für die Regulierung von KI im Einzelhandel
Der Fall von Instacart schafft ein klare Präzedenz. Er zeigt, dass undurchsichtige algorithmische Praktiken ein abruptes Ende finden können, wenn sie öffentlich ans Licht kommen und strenger Analyse unterzogen werden. Die Botschaft für die Branche ist, dass Innovation nicht über das Aufbauen von Vertrauen hinweggehen kann. Die künstliche Intelligenz im Handel wird mit klareren ethischen Grenzen evolieren müssen. ⚖️