Meta、InstagramとFacebookで10代の若者向けの新たな保護策を発表。不適切な投稿をフィルタリングし、過激なダイエットや強迫的な運動を制限する。素晴らしいように聞こえるが、誰がその境界線を決めるのかが問題だ。現実には、この変更は善意から生まれたものではなく、若者の精神的健康への損害を巡る巨額の訴訟リストがきっかけとなっている。
かつて限界を押し上げていたアルゴリズム 🤖
長年にわたり、Metaのアルゴリズムは、たとえそれが10代の若者に非現実的な体型や危険なダイエットを見せることを意味しても、画面表示時間を最大化するコンテンツを優先してきた。今、自動フィルターと検索制限によって、軌道修正を試みている。しかし、この変化は技術的なものではなく、法的なものだ。不安障害や摂食障害を助長したとして起こされた訴訟の圧力が、システムの再設計を余儀なくさせた。これは革新ではなく、強制された遵守である。
今になって、ユーザーのせいだったということに 😏
Metaは今、まるでこれまでスキャンダラスな話題や比較対象にビジネスチャンスを見出してこなかったかのように、デジタル救世主の衣をまとっている。そのフィルターを自社のビジネス慣行にも適用してほしいものだ。しかし、そうはならない。ビジネスが他人の不安の上に築かれてきたことを認めるより、都合の悪いアルゴリズムのせいにする方が簡単なのだ。弁護士費用の請求書が届いてからの後悔ほど、美しいものはない。