米国上院がDefiance法を承認、親密なディープフェイクに対抗
米国上院はLey Defianceに賛成し、両党の支持を受けたこのイニシアチブは、人工知能で作成されたdeepfakesの拡大を食い止めることを目的としています。この法律は、影響を受けた人々の許可なく合成性的素材を拡散することを具体的に罰するものです。この立法の進展は、この技術を使って個人、特に女性や公人に対して害を及ぼし、脅迫したり名誉を傷つけたりする懸念が高まる中で起こっています。法律の推進者たちは、このデジタル虐待の被害者を守るために連邦法を更新することが不可欠だと主張しています。🛡️
合成親密コンテンツの定義と処罰
Ley Defianceは、許可なく性的に露骨なコンテンツを含むdeepfakesを生成または共有することを連邦犯罪と定めています。この提案は、被害者にIA生成素材を作成または配布する者に対する民事訴訟を起こす権利を与えます。また、公式通知を受けた後でコンテンツを削除しないウェブサイトは責任を負う可能性があると定めています。この立法は、多くの州法が合成コンテンツを明確に扱っていない法的空白を埋めようとしています。
法律の主な仕組み：- 同意なしに親密なdeepfakesを作成または配布することを連邦レベルで犯罪化。
- 被害者が作成者および配布者に対して損害賠償を求めることを許可。
- 通知を受けたプラットフォームが素材を削除しない場合に責任を課す。
「私たちの法律は、技術と同じペースで進化し、人々の尊厳と安全を守る必要があります。」 – 推進議員の主張。
xAIのGrok事件がプロセスを加速
deepfakesに関する議論は、Elon Muskの企業xAIのチャットボットGrokに関する出来事の後、優先度を高めました。今年初め、一部のユーザーがGrokの安全制限を回避して性的に露骨なコンテンツを含む応答を生成させることに成功しました。会社は迅速に欠陥を修正しましたが、このエピソードは特定のAIツールを操作するのがいかに簡単かを示しました。このケースは、上院の公聴会で新法が緩和しようとするリスクの具体例として言及されました。
ケースの議論への影響：- 悪意あるpromptsに対する一部のAIシステムの脆弱性を示した。
- 具体的な例を提供