A senadora vitalícia Liliana Segre, sobrevivente do Holocausto, denunciou durante um ato no Memorial do Holocausto que recebe mensagens de ódio perguntando por que ela não morre. Com 96 anos, comparou essas ameaças atuais com as ligações telefônicas que recebeu em 1938 antes de sua deportação. Segre expressou seu desconforto diante da persistência do antissemitismo e destacou que o ódio foi silenciado por vários governos.
A IA também filtra o ódio, mas não o elimina 🤖
As plataformas digitais usam sistemas de inteligência artificial para detectar discursos de ódio, mas esses algoritmos enfrentam limitações. Os modelos de linguagem natural identificam padrões de violência verbal, mas não conseguem impedir a intenção humana por trás de cada mensagem. A moderação automática reduz a visibilidade do ódio, mas não erradica sua origem. Os desenvolvedores trabalham em filtros mais precisos, embora o problema de fundo continue sendo cultural e não técnico.
O ódio é viral, mas não tem patch de segurança 🛡️
Se o ódio fosse um bug, os engenheiros já teriam lançado um patch. Mas acontece que não há atualização que corrija quem gosta de assediar uma senhora de 96 anos. Enquanto a IA aprende a bloquear insultos, os humanos continuamos produzindo mensagens tão tóxicas quanto as de 1938, só que agora chegam mais rápido. Pelo menos o spam de ódio tem uma entrega melhor do que o correio postal.