Instacart가 고객별로 다른 가격을 책정하는 AI 테스트를 중단
식료품 배송 플랫폼 Instacart가 논란이 된 실험을 종료했습니다. 인공지능을 사용해 변동 비용을 설정하여 동일한 상품이 보는 사람에 따라 다른 가격을 표시했습니다. 회사는 강한 감시를 받은 후 이 시스템을 폐쇄했습니다. 🤖
각 사용자에게 다른 쇼핑 현실을 만드는 알고리즘
고객 가격이라고 불린 이 테스트는 표시되는 금액을 조정하기 위해 여러 데이터를 처리하는 AI 모델에 기반했습니다. 이는 동일한 가상 상점과 위치에서 두 사람이 동일한 제품에 대해 다른 가격을 볼 수 있음을 의미했습니다. Instacart는 목표가 과도한 요금을 부과하는 것이 아니라 최적화된 프로모션을 이해하는 것이라고 옹호했습니다.
중단으로 이어진 주요 요인:- 미국 상원의원들의 정치적 압력으로, 가격 차별 가능성에 대해 경고하는 편지를 보냈습니다.
- 남부 캘리포니아 대학의 학술 분석으로 이러한 변동을 공식적으로 문서화하고 증명했습니다.
- 이러한 공공 및 기술적 감시의 조합이 회사가 파일럿을 영구적으로 종료하도록 강제했습니다.
회사는 사용자가 결제하기 전에 항상 최종 가격을 완전한 투명성으로 표시했다고 주장합니다.
디지털 상거래의 미래에 대한 결과
이 에피소드는 기업이 소비자로부터 배우기 위해 알고리즘을 어떻게 사용할 수 있는지에 대한 전환점을 표시합니다. 효율성 추구는 공정성과 공평한 대우 원칙과 충돌합니다.
실험 후 남은 것:- AI 시스템은 이웃 간 쇼핑 카트 비용을 변동시키지 않는 새로운 훈련 방법을 찾아야 합니다.
- 투명성과 알고리즘의 설명 가능성이 사용자들의 핵심 요구사항이 됩니다.
- 가격 공정성은 당분간 사람이 결정해야 할 가치로 재확인됩니다, 기계가 아닙니다.
소매업에서의 AI 규제에 대한 선례
Instacart 사례는 명확한 선례를 세웁니다. 불투명한 알고리즘 관행이 공공의 빛과 엄격한 분석에 노출되면 갑작스러운 종말을 맞을 수 있음을 보여줍니다. 산업에 대한 메시지는 혁신이 신뢰를 생성하는 것을 넘어설 수 없다는 것입니다. 상거래에서의 인공지능은 더 명확한 윤리적 한계와 함께 진화해야 합니다. ⚖️