Instacart 停止其使用 AI 为不同客户设定不同价格的测试
食品配送平台 Instacart 已结束一项备受争议的实验。它使用 人工智能 来设定可变成本，使得同一商品根据查看者不同显示不同的价格。公司在面临强烈审查后关闭了该系统。🤖
为每个用户创建不同购物现实的算法
该测试名为 客户价格，基于一个 AI 模型，该模型处理多种数据来调整显示的价格。这意味着两个人在同一个虚拟商店和位置，可能看到同一商品的不同价格。Instacart 辩护称，其目标是了解如何 优化 促销，而不是多收费。
导致停止的关键因素：- 美国参议员的政治压力，他们发出一封信警告可能存在价格 歧视。
- 南加州大学 的一项学术分析，正式记录并证明了这些差异。
- 这种公众和技术审查的结合迫使公司永久终止该试点。
公司声称，在用户支付之前始终以完全透明的方式显示最终价格。
对数字商业未来的影响
这一事件标志着一个转折点，关于企业如何 使用算法 从消费者那里学习。追求效率与公平和公正对待的原则发生冲突。
实验结束后留下的：- AI 系统必须寻找新的训练方式，而不涉及邻居之间购物车成本的差异。
- 透明度 和算法的可解释性成为用户的主要需求。
- 价格公平 暂时重新确立为应由人而非机器决定的价值。
零售业 AI 监管的先例
Instacart 的案例树立了一个 明确的先例。它证明了不透明的算法实践在暴露于公众视线和严格分析时可能突然结束。给行业的讯息是，创新 不能超越建立信任。商业中的人工智能必须在更明确的伦理界限内演进。⚖️