La Commission australienne de la sécurité en ligne a émis des ordres juridiques contre Roblox, Minecraft, Fortnite et Steam. Elles exigent que ces plateformes expliquent leurs mesures pour protéger les mineurs des prédateurs sexuels et de la radicalisation en ligne. Les entreprises qui ne se conforment pas à ces directives pourraient faire face à des sanctions financières et à des actions civiles, dans un mouvement qui vise à faire pression pour une plus grande transparence en matière de sécurité des enfants.
Les défis techniques de la modération de millions d'interactions en temps réel 🛡️
La modération de contenu sur des plateformes comme Roblox ou Fortnite implique des systèmes complexes de filtrage par IA et des équipes humaines. Analyser des millions de chats vocaux et textuels en temps réel nécessite des algorithmes de traitement du langage naturel et de détection de schémas. Le défi réside dans la distinction entre un langage innocent et des comportements prédateurs sans générer de faux positifs qui affectent l'expérience de jeu. Steam, avec son système ouvert, rencontre des difficultés supplémentaires en ne contrôlant pas directement tous les serveurs de ses jeux.
L'ironie que les moddeurs fassent plus que les entreprises pour la sécurité 🔧
Pendant que les grandes entreprises engagent des avocats pour répondre à l'Australie, la communauté des moddeurs peaufine ses propres filtres depuis des années. Certains joueurs ont créé des scripts maison pour bloquer les messages suspects dans Minecraft, et il existe des serveurs Fortnite où le chat est modéré avec des plugins gratuits. Peut-être que la solution ne réside pas dans les rapports juridiques, mais dans le fait de laisser un adolescent avec un clavier mécanique et du temps libre réparer ce que les entreprises ne peuvent pas.