Instacart прекращает свою пробную версию с ИИ, которая устанавливала разные цены для разных клиентов
Платформа доставки продуктов Instacart положила конец спорному эксперименту. Она использовала искусственный интеллект для установления переменных цен, из-за чего один и тот же товар показывал разную стоимость в зависимости от того, кто на него смотрел. Компания закрыла систему после интенсивной критики. 🤖
Алгоритм, который создавал разную реальность покупок для каждого пользователя
Пробная версия, названная цены для клиентов, основывалась на модели ИИ, которая обрабатывала множество данных для корректировки отображаемых сумм. Это означало, что два человека в одном и том же виртуальном магазине и местоположении могли видеть разные цены на один и тот же продукт. Instacart утверждала, что её цель — понять, как оптимизировать акции, а не завышать цены.
Ключевые факторы, приведшие к прекращению:- Политическое давление со стороны американских сенаторов, которые отправили письмо, предупреждая о возможной дискриминации в ценах.
- Академический анализ Южно-Калифорнийского университета, который формально задокументировал и доказал эти вариации.
- Комбинация этого общественного и технического scrutiny вынудила компанию окончательно завершить пилотный проект.
Компания утверждает, что всегда показывала окончательные цены с полной прозрачностью перед оплатой пользователем.
Последствия для будущего цифровой торговли
Этот эпизод знаменует поворотный момент в том, как компании могут использовать алгоритмы для изучения потребителей. Поиск эффективности сталкивается с принципами справедливости и равного обращения.
Что остаётся после эксперимента:- Системы ИИ должны искать новые способы обучения, которые не подразумевают изменение стоимости корзины покупок между соседями.
- Прозрачность и объяснимость алгоритмов становятся центральными требованиями для пользователей.
- Справедливость в ценообразовании на данный момент подтверждается как ценность, которую должен определять человек, а не машина.
Преcedent для регулирования ИИ в розничной торговле
Случай Instacart устанавливает чёткий прецедент. Он демонстрирует, что непрозрачные алгоритмические практики могут abruptно закончиться, когда они попадают под публичное внимание и строгий анализ. Послание для отрасли заключается в том, что инновации не могут игнорировать создание доверия. Искусственный интеллект в торговле должен эволюционировать с более чётко определёнными этическими границами. ⚖️