إنستاكارت توقف تجربة الذكاء الاصطناعي التي كانت تحدد أسعارًا مختلفة لكل عميل
لقد أنهت منصة توزيع الطعام إنستاكارت تجربة مثيرة للجدل. كانت تستخدم الذكاء الاصطناعي لتحديد تكاليف متغيرة، مما يجعل نفس المنتج يظهر بسعر مختلف حسب من ينظر إليه. أغلقت الشركة النظام بعد مواجهة تدقيق شديد. 🤖
الخوارزمية التي كانت تخلق واقع شراء مختلف لكل مستخدم
كانت التجربة، المسماة أسعار العملاء، تعتمد على نموذج ذكاء اصطناعي يعالج بيانات متعددة لتعديل المبالغ المعروضة. هذا يعني أن شخصين في نفس المتجر الافتراضي والموقع يمكنهما رؤية أرقام غير متساوية لنفس المنتج. دافعت إنستاكارت بأن هدفها كان فهم كيفية تحسين العروض الترويجية، لا فرض رسوم إضافية.
العوامل الرئيسية التي أدت إلى التوقف:- ضغط سياسي من سناتورين أمريكيين، الذين أرسلوا رسالة تحذيرية بشأن احتمالية التمييز في الأسعار.
- تحليل أكاديمي من جامعة جنوب كاليفورنيا وثّق هذه الاختلافات وأثبتها بشكل رسمي.
- الجمع بين هذا التدقيق العام والفني أجبر الشركة على إنهاء التجربة بشكل نهائي.
تؤكد الشركة أنها كانت دائمًا تعرض الأسعار النهائية بشفافية تامة قبل أن يدفع المستخدم.
العواقب على مستقبل التجارة الرقمية
يُمثل هذا الحادث نقطة تحول حول كيفية استخدام الشركات لـالخوارزميات للتعلم من المستهلكين. يصطدم السعي إلى الكفاءة بمبادئ العدالة والمعاملة العادلة.
ما يبقى بعد التجربة:- يجب على أنظمة الذكاء الاصطناعي البحث عن طرق جديدة للتدريب لا تشمل تغيير تكلفة سلة الشراء بين الجيران.
- تصبح الشفافية وقابلية تفسير الخوارزميات مطالبات مركزية من المستخدمين.
- تُؤكد العدالة في السعر، في الوقت الحالي، كقيمة يجب أن يقررها إنسان، لا آلة.
سوابق لتنظيم الذكاء الاصطناعي في التجزئة
يضع قضية إنستاكارت سوابق واضحة. يُظهر أن الممارسات الخوارزمية غير الشفافة يمكن أن تنتهي فجأة عند تعريضها للضوء العام والتحليل الدقيق. الرسالة للصناعة هي أن الابتكار لا يمكن أن يتجاوز بناء الثقة. سيتعين على الذكاء الاصطناعي في التجارة التطور مع حدود أخلاقية أكثر تحديدًا. ⚖️