ऑस्ट्रेलिया ने रोब्लॉक्स और स्टीम से मांगा बच्चों की सुरक्षा के तरीकों का स्पष्टीकरण

ऑस्ट्रेलिया की ऑनलाइन सुरक्षा आयोग ने रोब्लॉक्स, माइनक्राफ्ट, फोर्टनाइट और स्टीम के खिलाफ कानूनी आदेश जारी किए हैं। ये मांग करते हैं कि ये प्लेटफॉर्म बताएं कि वे बच्चों को यौन शिकारियों और ऑनलाइन कट्टरपंथीकरण से बचाने के लिए क्या उपाय कर रहे हैं। इन दिशानिर्देशों का पालन न करने वाली कंपनियों को आर्थिक जुर्माने और नागरिक कार्रवाइयों का सामना करना पड़ सकता है, यह एक ऐसा कदम है जो बाल सुरक्षा में अधिक पारदर्शिता के लिए दबाव बनाना चाहता है।

रियल-टाइम में लाखों इंटरैक्शन को मॉडरेट करने की तकनीकी चुनौतियाँ 🛡️

रोब्लॉक्स या फोर्टनाइट जैसे प्लेटफॉर्म पर सामग्री मॉडरेशन में एआई फ़िल्टरिंग और मानव टीमों की जटिल प्रणालियाँ शामिल हैं। रियल-टाइम में लाखों वॉयस और टेक्स्ट चैट का विश्लेषण करने के लिए प्राकृतिक भाषा प्रसंस्करण और पैटर्न डिटेक्शन एल्गोरिदम की आवश्यकता होती है। चुनौती यह है कि खेल के अनुभव को प्रभावित किए बिना मासूम भाषा और शिकारी व्यवहार के बीच अंतर करना, झूठी सकारात्मक रिपोर्ट न उत्पन्न करना। स्टीम, अपनी खुली प्रणाली के साथ, अपने सभी गेम सर्वरों को सीधे नियंत्रित न करने के कारण अतिरिक्त कठिनाइयों का सामना करती है।

मॉडर्स का कंपनियों से अधिक सुरक्षा के लिए काम करने का विरोधाभास 🔧

जबकि बड़ी कंपनियाँ ऑस्ट्रेलिया को जवाब देने के लिए वकीलों को काम पर रख रही हैं, मॉडर्स का समुदाय वर्षों से अपने स्वयं के फ़िल्टर पैच कर रहा है। कुछ खिलाड़ियों ने माइनक्राफ्ट में संदिग्ध संदेशों को ब्लॉक करने के लिए घर में बने स्क्रिप्ट बनाए हैं, और फोर्टनाइट के ऐसे सर्वर हैं जहाँ चैट को मुफ्त प्लगइन्स के साथ मॉडरेट किया जाता है। शायद समाधान कानूनी रिपोर्टों में नहीं है, बल्कि एक यांत्रिक कीबोर्ड और खाली समय वाले किशोर को वह ठीक करने देना है जो निगम नहीं कर सकते।