ChatGPT युवा उपयोगकर्ताओं की पहचान के लिए सुरक्षा उपाय तैनात करता है
OpenAI की कृत्रिम बुद्धिमत्ता ने अपने ब्राउज़रों में नाबालिगों द्वारा संचालित खातों का पता लगाने के लिए तंत्र सक्रिय कर दिए हैं। यह पहल किशोरों की रक्षा करने का उद्देश्य रखती है, जो संवादकर्ता की संभावित आयु की गणना करने वाले सिस्टम लागू करके बिना सीधे पूछे। 🛡️
आयु अनुमान के तंत्र
मॉडल व्यक्तिगत डेटा नहीं मांगता, बल्कि संवाद के दौरान पकड़ी गई अप्रत्यक्ष संकेतों से आयु का अनुमान लगाता है। यह प्रयुक्त भाषा के प्रकार, प्रश्नों की जटिलता के स्तर और बातचीत के सामान्य संदर्भ को संसाधित करता है। इसके अलावा, यह अधिकांश इंटरैक्शनों के होने वाली समय क्षेत्र का मूल्यांकन कर सकता है।
एल्गोरिदम द्वारा विश्लेषित प्रमुख संकेत:- बातचीत के विषय: विभिन्न आयु समूहों से जुड़े पैटर्न खोजने के लिए उठाए गए मुद्दों का विश्लेषण करता है।
- भाषाई शैली और जटिलता: परिपक्वता का अनुमान लगाने के लिए शब्दावली और प्रश्नों की संरचना का मूल्यांकन करता है।
- गतिविधि का समय: उपयोगकर्ता द्वारा सबसे अधिक बार इंटरैक्ट करने वाले दिन के समय पर विचार करता है।
उद्देश्य एक अधिक सुरक्षित डिजिटल वातावरण बनाना है, हालांकि यह कभी-कभी मॉडल की क्षमताओं को सीमित कर देता है उन उपयोगकर्ताओं के लिए जो वयस्क होने के बावजूद, सिस्टम द्वारा किशोरों के रूप में व्याख्या किए गए पैटर्न प्रदर्शित करते हैं।
इंटरैक्शन में परिणाम
जब सिस्टम निर्धारित करता है कि एक उपयोगकर्ता के 18 वर्ष से कम आयु के होने की संभावना है, तो यह स्वचालित रूप से मजबूत सुरक्षा फिल्टर सक्रिय करता है। इससे अनुभव बदल जाता है, क्योंकि सहायक कुछ प्रश्नों का उत्तर देने से इनकार कर सकता है या अधिक सामान्य और सतर्क उत्तर प्रदान कर सकता है।
सुरक्षा प्रोटोकॉल सक्रिय करने के प्रभाव:- मॉडल पहुंच प्रतिबंधित करता है उस सामग्री तक जो अनुमानित आयु के लिए उपयुक्त नहीं मानता।
- उत्तर अधिक सतर्क और कम विशिष्ट हो सकते हैं।
- सहायक की पूर्ण उपयोगिता पर सुरक्षा को प्राथमिकता दी जाती है।
संभावित मिथ्या सकारात्मक
ये सिस्टम अचूक नहीं हैं और वयस्क उपयोगकर्ताओं को गलत वर्गीकृत कर सकते हैं। उदाहरण के लिए, एक वृद्ध व्यक्ति जो मध्यरात्रि में सरल प्रश्न पूछता है, उसे किशोर के समान व्यवहार प्राप्त हो सकता है, जो अत्यधिक संरक्षित उत्तरों की ओर ले जाता है जो बच्चों के मैनुअल से लिए गए प्रतीत होते हैं। यह स्थिति संरक्षण और अनावश्यक प्रतिबंध के बीच नाजुक संतुलन को रेखांकित करती है। 🤖