أصدرت لجنة الأمان عبر الإنترنت في أستراليا أوامر قانونية ضد منصات روبلوكس، ماينكرافت، فورتنايت، وستيم. وتطالب هذه المنصات بتوضيح الإجراءات التي تتخذها لحماية القاصرين من المتطفلين الجنسيين والتطرف عبر الإنترنت. قد تواجه الشركات التي لا تلتزم بهذه التوجيهات عقوبات مالية وإجراءات مدنية، في خطوة تهدف إلى الضغط من أجل مزيد من الشفافية في مجال حماية الأطفال.
التحديات التقنية لمراقبة ملايين التفاعلات في الوقت الحقيقي 🛡️
تتضمن مراقبة المحتوى على منصات مثل روبلوكس أو فورتنايت أنظمة معقدة للتصفية بالذكاء الاصطناعي وفرق بشرية. يتطلب تحليل ملايين المحادثات الصوتية والنصية في الوقت الفعلي خوارزميات معالجة اللغة الطبيعية وكشف الأنماط. يكمن التحدي في التمييز بين اللغة البريئة والسلوكيات الافتراسية دون توليد إنذارات كاذبة تؤثر على تجربة اللعب. تواجه ستيم، بنظامها المفتوح، صعوبات إضافية لعدم سيطرتها المباشرة على جميع خوادم ألعابها.
مفارقة أن يقوم المعدلون بأكثر مما تفعله الشركات من أجل الأمان 🔧
بينما تقوم الشركات الكبرى بتعيين محامين للرد على أستراليا، فإن مجتمع المعدلين (مودرز) يقوم منذ سنوات بتصحيح فلاترهم الخاصة. فقد ابتكر بعض اللاعبين نصوصًا برمجية محلية الصنع لحجب الرسائل المشبوهة في ماينكرافت، وهناك خوادم لفورتنايت تتم فيها مراقبة الدردشة بواسطة إضافات مجانية. ربما لا يكمن الحل في التقارير القانونية، بل في ترك مراهق بلوحة مفاتيح ميكانيكية ووقت فراغ لإصلاح ما لا تستطيع الشركات إصلاحه.