Австралийская комиссия по онлайн-безопасности выдала юридические предписания Roblox, Minecraft, Fortnite и Steam. Она требует, чтобы эти платформы объяснили свои меры по защите несовершеннолетних от сексуальных хищников и онлайн-радикализации. Компании, не соблюдающие эти директивы, могут столкнуться с финансовыми санкциями и гражданскими исками, в рамках движения, направленного на давление в сторону большей прозрачности в вопросах детской безопасности.
Технические сложности модерации миллионов взаимодействий в реальном времени 🛡️
Модерация контента на таких платформах, как Roblox или Fortnite, подразумевает сложные системы фильтрации на основе ИИ и команды людей. Анализ миллионов голосовых и текстовых чатов в реальном времени требует алгоритмов обработки естественного языка и обнаружения паттернов. Задача заключается в том, чтобы отличить безобидную речь от хищнического поведения, не создавая ложных срабатываний, которые ухудшают игровой опыт. Steam со своей открытой системой сталкивается с дополнительными трудностями, поскольку не контролирует напрямую все серверы своих игр.
Ирония в том, что моддеры делают для безопасности больше, чем компании 🔧
В то время как крупные компании нанимают юристов для ответа Австралии, сообщество моддеров годами создает собственные фильтры. Некоторые игроки создали самодельные скрипты для блокировки подозрительных сообщений в Minecraft, а на некоторых серверах Fortnite чат модерируется с помощью бесплатных плагинов. Возможно, решение заключается не в юридических отчетах, а в том, чтобы позволить подростку с механической клавиатурой и свободным временем исправить то, что корпорации не могут.