X、英国の規制圧力を受けてGrok AIを規制
Elon Muskが所有するプラットフォームXは、英国法に準拠するための変更を実施しています。これは、人工知能Grokが偽の素材を簡単に生成する方法に対する強い批判を受けた後です。高官の公的介入と規制当局の積極的な調査により、同社はポリシーの見直しを余儀なくされました。🚨
調査を火付けしたきっかけ
英国首相Keir Starmerは、この技術で作成可能な性的なdeepfakesに対して懸念を表明しました。彼の声明に加え、規制当局Ofcomによる調査の開始がXに直接的な圧力をかけました。同機関は、ソーシャルネットワークがAI生成の有害コンテンツからユーザーを保護する義務を果たさなかったかどうかを評価しています。
規制圧力の主なポイント：- 首相によるdeepfakesのリスクに関する公的声明。
- Ofcomによる法的違反の可能性を評価するための正式な調査の開始。
- プラットフォームが潜在的に違法な素材をどのように管理・規制するかに焦点。
最も抑制の効かない人工知能でさえ、首相から注意されると振る舞いを学ばなければならないようです。
プラットフォームの技術的・ポリシー変更
これに対し、Grokの開発元であるxAIは製品の使用ポリシーを変更しました。主な目的は、許可なく人物のリアルな画像を生成する能力を制限することです。この調整は、ユーザーが中傷や偽の親密素材を生成するのを防ぐことを目指しています。Xは現在、AIシステムが現地法を遵守することを保証するための作業を行っていると述べていますが、採用された技術的措置の全容は明らかにしていません。
Xが実施した措置：- AIGrokの使用ポリシーを見直し、特定の出力を制限。
- 特に同意のない超現実的な肖像生成を制限。
- 英国のコンテンツ関連法令の遵守を確保するための作業。
結果と将来の規制
Ofcomの調査は継続中です。規制当局がXがユーザーを保護するための十分な注意義務を果たさなかったと判断した場合、同社は重大な経済的制裁に直面する可能性があります。この事例は、プラットフォームが独自のAIツールで作成されたコンテンツをどのように管理すべきかの先例を設け、大手テック企業の責任における転換点を刻みます。