O jornalista Arnaud Nemet resgatou a história de sua tia-avó Bella Ariel, uma modelo judia de sucesso nos anos 30 que foi presa após uma denúncia e assassinada em Auschwitz aos 31 anos. Seu caso é um lembrete de como o ódio e a discriminação podem interromper vidas brilhantes. A lição é clara: devemos aprender com o passado para evitar que a intolerância volte a causar tanto dano.
Como um algoritmo de denúncias pode repetir a história ⚠️
No desenvolvimento atual de sistemas de moderação automatizada, vemos paralelos inquietantes. Os modelos de linguagem e os filtros de conteúdo, treinados com dados históricos, podem replicar vieses de exclusão. Se não forem auditados com critérios éticos sólidos, uma simples denúncia anônima em uma plataforma pode desencadear uma cascata de bloqueios injustos. A tecnologia não é neutra; sem supervisão humana, o código pode se tornar um carrasco silencioso.
Denúncias anônimas: a delação 2.0 🕵️
Hoje, em vez de escrever uma carta para a Gestapo, você pode fazer uma denúncia do seu sofá com um clique. O sistema processa e, sem questionar, elimina seu rival digital. A diferença é que agora a vítima recebe uma mensagem automática: Sua conta foi suspensa por violar nossas regras. Pelo menos nos anos 30 te davam tempo para fazer as malas. Isso sim, o algoritmo não discrimina: elimina a todos por igual, sem saber se você é modelo ou encanador.