记者阿尔诺·内梅特(Arnaud Nemet)重新发掘了他的姨祖母贝拉·阿里尔(Bella Ariel)的故事。她是一位在20世纪30年代取得成功的犹太模特,因遭人举报被捕,并在31岁时于奥斯维辛集中营被杀害。她的案例提醒我们,仇恨与歧视如何能够扼杀璀璨的生命。教训十分明确:我们必须从过去汲取教训,防止不宽容再次造成如此巨大的伤害。
举报算法如何可能重演历史 ⚠️
在当前自动化审核系统的发展中,我们看到了令人不安的相似之处。基于历史数据训练的语言模型和内容过滤器,可能会复制排斥性偏见。如果没有严格的伦理标准进行审计,平台上一次简单的匿名举报就可能引发一连串不公正的封禁。技术并非中立;缺乏人类监督,代码可能变成沉默的刽子手。
匿名举报:升级版的告密行为 🕵️
如今,你无需像当年那样写信给盖世太保,只需坐在沙发上点击一下即可发起举报。系统处理它,不加询问,就删除你的数字对手。区别在于,现在受害者会收到一条自动消息:你的账户因违反我们的规定已被暂停。至少在上世纪30年代,他们还会给你收拾行李的时间。当然,算法不会歧视:它一视同仁地删除所有人,不管你是模特还是水管工。