इंस्टाकार्ट ने ग्राहक के अनुसार अलग-अलग कीमतें तय करने वाली अपनी AI परीक्षा रोक दी
खाद्य वितरण प्लेटफॉर्म इंस्टाकार्ट ने एक विवादास्पद प्रयोग को समाप्त कर दिया है। यह कृत्रिम बुद्धिमत्ता का उपयोग करके परिवर्तनीय लागतें निर्धारित करता था, जिससे एक ही वस्तु अलग-अलग मूल्य दिखाती थी जो इसे देखने वाले पर निर्भर करता था। कंपनी ने तीव्र जांच का सामना करने के बाद सिस्टम को बंद कर दिया। 🤖
वह एल्गोरिदम जो प्रत्येक उपयोगकर्ता के लिए अलग खरीदारी की वास्तविकता बनाता था
यह परीक्षा, जिसे ग्राहक मूल्य कहा जाता था, एक AI मॉडल पर आधारित थी जो दिखाए गए राशियों को समायोजित करने के लिए कई डेटा संसाधित करती थी। इसका मतलब था कि दो व्यक्ति, एक ही आभासी दुकान और स्थान पर, एक ही उत्पाद के लिए असमान आंकड़े देख सकते थे। इंस्टाकार्ट ने बचाव किया कि उनका लक्ष्य अनुकूलन को समझना था, अधिक शुल्क लेना नहीं।
रोकने के प्रमुख कारक:- अमेरिकी सीनेटरों का राजनीतिक दबाव, जिन्होंने कीमतों में संभावित भेदभाव के बारे में चेतावनी देते हुए एक पत्र भेजा।
- दक्षिणी कैलिफोर्निया विश्वविद्यालय के एक शैक्षणिक विश्लेषण ने इन भिन्नताओं को औपचारिक रूप से दस्तावेजित और प्रमाणित किया।
- इस सार्वजनिक और तकनीकी जांच के संयोजन ने कंपनी को पायलट को स्थायी रूप से समाप्त करने के लिए मजबूर किया।
कंपनी का दावा है कि उपयोगकर्ता भुगतान करने से पहले हमेशा अंतिम कीमतों को पूर्ण पारदर्शिता के साथ दिखाती थी।
डिजिटल वाणिज्य के भविष्य के लिए परिणाम
यह प्रकरण कंपनियों द्वारा उपभोक्ताओं से सीखने के लिए एल्गोरिदम का उपयोग कैसे कर सकती हैं, इस पर एक मोड़ का बिंदु चिह्नित करता है। दक्षता की खोज निष्पक्षता और उचित व्यवहार के सिद्धांतों से टकराती है।
प्रयोग के बाद क्या बचता है:- AI सिस्टमों को खरीदारी कार्ट की लागत को पड़ोसियों के बीच भिन्न करने वाले प्रशिक्षण के लिए नई राहें ढूंढनी चाहिए।
- पारदर्शिता और एल्गोरिदम की स्पष्टता उपयोगकर्ताओं के लिए केंद्रीय मांगें बन जाती हैं।
- कीमत में समानता अभी के लिए एक मूल्य के रूप में पुनः स्थापित होती है जो एक व्यक्ति द्वारा तय की जानी चाहिए, न कि मशीन द्वारा।
रिटेल में AI विनियमन के लिए एक पूर्व उदाहरण
इंस्टाकार्ट का मामला एक स्पष्ट पूर्व उदाहरण स्थापित करता है। यह दर्शाता है कि अपारदर्शी एल्गोरिदमिक प्रथाएं सार्वजनिक प्रकाश और कठोर विश्लेषण के संपर्क में आने पर अचानक अंत कर सकती हैं। उद्योग के लिए संदेश यह है कि नवाचार विश्वास उत्पन्न करने से ऊपर नहीं जा सकता। वाणिज्य में कृत्रिम बुद्धिमत्ता को अधिक स्पष्ट नैतिक सीमाओं के साथ विकसित होना होगा। ⚖️