オーストラリアのオンライン安全委員会は、Roblox、Minecraft、Fortnite、Steamに対して法的命令を発令しました。これらのプラットフォームに対し、未成年者を性的捕食者やオンライン上の過激化から保護するための対策を説明するよう求めています。これらのガイドラインに従わない企業は、経済的制裁や民事訴訟に直面する可能性があり、これは子どもの安全における透明性を高めるよう圧力をかける動きです。
リアルタイムで数百万のインタラクションをモデレートする技術的課題 🛡️
RobloxやFortniteのようなプラットフォームにおけるコンテンツモデレーションは、AIによる複雑なフィルタリングシステムと人間のチームを伴います。リアルタイムで数百万の音声チャットやテキストチャットを分析するには、自然言語処理アルゴリズムとパターン検出が必要です。課題は、無実の言葉と略奪的行動を区別し、ゲーム体験に影響を与える誤検出を発生させないことにあります。Steamは、そのオープンなシステムにより、すべてのゲームサーバーを直接制御できないため、さらなる困難に直面しています。
企業よりもModderがセキュリティに貢献している皮肉 🔧
大企業がオーストラリアに対応するために弁護士を雇う一方で、Modderコミュニティは長年にわたり独自のフィルターを作成してきました。一部のプレイヤーはMinecraftで不審なメッセージをブロックする自作スクリプトを作成し、Fortniteのサーバーでは無料のプラグインでチャットをモデレートしているところもあります。おそらく解決策は法的報告書にあるのではなく、メカニカルキーボードと自由時間を持つ10代の若者に、企業が解決できない問題を修正させることにあるのかもしれません。