La sénatrice à vie Liliana Segre, survivante de l'Holocauste, a dénoncé lors d'un événement au Mémorial de l'Holocauste qu'elle reçoit des messages de haine lui demandant pourquoi elle ne meurt pas. À 96 ans, elle a comparé ces menaces actuelles aux appels téléphoniques qu'elle a reçus en 1938 avant sa déportation. Segre a exprimé son désarroi face à la persistance de l'antisémitisme et a souligné que la haine a été réduite au silence par plusieurs gouvernements.
L'IA filtre aussi la haine, mais ne l'élimine pas 🤖
Les plateformes numériques utilisent des systèmes d'intelligence artificielle pour détecter les discours de haine, mais ces algorithmes font face à des limitations. Les modèles de langage naturel identifient des schémas de violence verbale, mais ne peuvent pas arrêter l'intention humaine derrière chaque message. La modération automatique réduit la visibilité de la haine, mais n'éradique pas son origine. Les développeurs travaillent sur des filtres plus précis, bien que le problème de fond reste culturel et non technique.
La haine est virale, mais n'a pas de correctif de sécurité 🛡️
Si la haine était un bug, les ingénieurs auraient déjà lancé un correctif. Mais il s'avère qu'il n'y a pas de mise à jour qui corrige celui qui prend plaisir à harceler une dame de 96 ans. Pendant que l'IA apprend à bloquer les insultes, les humains continuent de produire des messages aussi toxiques qu'en 1938, seulement ils arrivent maintenant plus vite. Au moins, le spam de haine a une meilleure livraison que le courrier postal.