ジャーナリストのアルノー・ネメ氏は、1930年代に成功したユダヤ人モデルであり、密告により逮捕され、31歳でアウシュビッツで殺害された大叔母ベラ・アリエルの物語を掘り起こした。彼女のケースは、憎悪と差別がいかに輝かしい人生を断ち切るかを思い出させるものである。教訓は明確だ。不寛容が再びこれほどの害を及ぼさないよう、過去から学ばなければならない。
通報アルゴリズムがいかに歴史を繰り返すか ⚠️
現在の自動モデレーションシステムの開発において、私たちは不気味な類似点を見ている。歴史的データで訓練された言語モデルやコンテンツフィルターは、排除のバイアスを複製する可能性がある。強固な倫理的基準で監査されなければ、プラットフォーム上の単純な匿名通報が、不当なブロックの連鎖を引き起こす可能性がある。テクノロジーは中立ではない。人間の監督なしでは、コードは静かな処刑人になり得る。
匿名通報：密告2.0 🕵️
今日では、ゲシュタポに手紙を書く代わりに、ソファからクリック一つで通報できる。システムがそれを処理し、問答無用でデジタル上の敵を消し去る。違いは、今では被害者が自動メッセージを受け取ることだ。あなたのアカウントは規約違反により停止されました。少なくとも1930年代には、荷造りをする時間は与えられた。とはいえ、アルゴリズムは差別しない。モデルであろうと配管工であろうと、すべての人を平等に排除するのだ。