OpenAI उपयोगकर्ताओं की आयु का अनुमान लगाने के लिए एक सिस्टम लागू करता है
कंपनी OpenAI ने इस सप्ताह अपने उपभोक्ता सेवाओं के लिए एक नई सुविधा का खुलासा किया है: एक कृत्रिम बुद्धिमत्ता मॉडल जो उन लोगों की संभावित आयु की गणना करने के लिए डिज़ाइन किया गया है जो उनकी उपकरणों का उपयोग करते हैं। यह कार्रवाई मुख्य रूप से किशोर उपयोगकर्ताओं का पता लगाने के उद्देश्य से है ताकि उन्हें संभावित हानिकारक सामग्री से बचाया जा सके। यह तंत्र केवल उपयोगकर्ता द्वारा प्रदान किए गए डेटा पर निर्भर नहीं करता, बल्कि व्यक्तिगत आदतों की जांच करता है ताकि आयु का अनुमान लगाया जा सके। 🧠
आयु गणना करने वाले मॉडल की कार्यप्रणाली
यह उपकरण ChatGPT के साथ एक व्यक्ति के संवाद के तरीके के बारे में डेटा की जांच करता है। यह आवृत्ति, दिन का समय, प्रश्नों की प्रकृति और लेखन के तरीके का मूल्यांकन करता है ताकि उपभोग का प्रोफाइल बनाया जा सके। इस जानकारी के साथ, एल्गोरिदम निर्धारित करता है कि उपयोगकर्ता वयस्क होने की अधिक संभावना है या नाबालिग। यह विधि कंपनी द्वारा उपयोग की जा सकने वाली अन्य तकनीकों में जुड़ जाती है ताकि आयु की पुष्टि की जा सके।
सिस्टम द्वारा विश्लेषित प्रमुख कारक:- उपयोग की आवृत्ति: प्लेटफॉर्म के साथ कितनी बार और कितनी नियमितता से बातचीत की जाती है।
- गतिविधि का समय: दिन के वे क्षण जब प्रश्न पूछे जाते हैं।
- प्रश्नों का प्रकार और भाषाई शैली: प्रश्नों की सामग्री और लेखन की विशेषताएं।
यह प्रौद्योगिकी बाल संरक्षण के नियमों का पालन करने और माता-पिता तथा शिक्षकों की चिंताओं का जवाब देने में मदद करती है।
लक्ष्य: सबसे युवा उपयोगकर्ताओं की रक्षा करना
यह पहल अधिक सुरक्षित डिजिटल स्थान बनाने के एक व्यापक परियोजना का हिस्सा है। युवा उपभोक्ताओं को पहचानने पर, सिस्टम स्वचालित रूप से बाधाएं लगा सकता है, जैसे संवेदनशील विषयों को फ़िल्टर करना या कुछ क्षमताओं तक पहुंच को प्रतिबंधित करना। OpenAI जोर देता है कि यह विकास नाबालिगों की सुरक्षा के कानूनों का पालन करना और परिवारों तथा शैक्षिक समुदाय की चिंताओं को संबोधित करना आसान बनाता है। 🛡️
सुरक्षा उपाय जो सक्रिय किए जा सकते हैं:- संवेदनशील या अनुपयुक्त विषयों पर बातचीत को फ़िल्टर करना।
- कृत्रिम बुद्धिमत्ता की विशिष्ट कार्यों तक पहुंच को सीमित करना।
- स्वर और प्रतिक्रियाओं को अनुमानित आयु के लिए उपयुक्त बनाना।
गोपनीयता और दायरे पर विचार
हालांकि केंद्रीय उद्देश्य किशोरों की रक्षा करना है, सिस्टम अपरिहार्य रूप से जांच और वर्गीकृत करता है सभी उपयोगकर्ताओं के लेखन आदतों को, उनकी आयु की परवाह किए बिना। इससे कुछ वयस्क अपनी बातचीत पर निगरानी महसूस कर सकते हैं। विरोधाभास यह है कि एक समूह की रक्षा के लिए बनाई गई उपकरण पूरी उपयोगकर्ता आधार के संवाद पैटर्न का विश्लेषण करने लगती है। 🤔