एक संघीय न्यायाधीश ने सरकारी दक्षता विभाग द्वारा प्रेरित 100 मिलियन डॉलर से अधिक की अनुदान रद्दीकरण को खारिज कर दिया है। न्यायाधीश कोलीन मैकमोहन ने निर्धारित किया कि विविधता, समानता और समावेशन (DEI) से संबंधित धन की पहचान और समाप्ति के लिए ChatGPT का उपयोग कानूनी आधार से रहित था। यह मामला मानवीय निगरानी के बिना प्रशासनिक निर्णयों को कृत्रिम बुद्धिमत्ता को सौंपने के जोखिमों को उजागर करता है।
एल्गोरिदम जो संदर्भ को समझे बिना निर्णय लेता था 🧠
DOGE के पूर्व कर्मचारी जस्टिन फॉक्स ने स्वीकार किया कि उन्होंने राष्ट्रीय मानविकी फाउंडेशन के अनुदान विवरणों का विश्लेषण करने के लिए ChatGPT का उपयोग किया। उनकी पद्धति सरल थी: चैटबॉट से पूछना कि क्या प्रत्येक परियोजना DEI से संबंधित है, संक्षिप्त स्पष्टीकरण के साथ हाँ या नहीं की उम्मीद करना। फॉक्स ने AI के लिए DEI शब्द को परिभाषित नहीं किया और न ही यह सत्यापित किया कि AI समावेशन या समानता जैसी जटिल अवधारणाओं की व्याख्या कैसे करता है। इसके परिणामस्वरूप सांस्कृतिक और शैक्षिक परियोजनाओं की मनमानी रद्दीकरण हुई।
जब बॉस एक खराब लिखा गया प्रॉम्प्ट हो 🤖
इस मामले की सबसे दिलचस्प बात यह है कि किसी ने ChatGPT को यह समझाने की जहमत नहीं उठाई कि DEI का क्या अर्थ है। फॉक्स ने स्वीकार किया कि वह नहीं जानते थे कि AI इस शब्द की व्याख्या कैसे करता है। मूल रूप से, उन्होंने बिना संदर्भ के एक चैटबॉट से पूछकर लाखों डॉलर के भविष्य का फैसला किया, जैसे कोई वेटर से यह पूछे कि वह शराब चुन ले, बिना यह जाने कि रात के खाने में मछली है या मांस। परिणाम: कानूनी अराजकता और बेतरतीब ढंग से काटे गए अनुदान।