欧州連合は、デジタル虐待に対する断固たる措置を講じる準備を進めている。新たな規制により、同意のない性的ディープフェイクの禁止が拡大され、人工知能によって生成された児童性的虐待素材も明示的に含まれることになる。これは、生成時点で実際の被害者を必要とせずに違法コンテンツを作成することを可能にする技術に対して、門戸を閉ざそうとする試みである。
創作と検出のツールとしてのAI 🤖
この立法提案により、プラットフォームはこのような合成素材を識別できるモデレーションシステムを導入することが義務付けられる。実際の虐待データで訓練された生成モデルは、認識可能なパターンを再現する画像を生成する。検出には、メタデータ分析ツールやデジタル透かしが検討されている。技術的な課題は極めて大きく、AIが生成した画像と実際の写真の両方が同様のシーンを示す場合、それらを区別することである。
悪意のあるデジタルアーティストのパラドックス 🎭
今後、ディープフェイクの作成者は別の生計の立て方を模索せざるを得なくなるだろう。おそらく、粗雑なフォトショップの時代に逆戻りするかもしれない。なぜなら、そう、AI以前にも合成写真は存在したが、それには何時間もの作業と細部へのこだわりが必要だったからだ。EUはこう言っているのだ。犯罪者になるなら、せめて時間と労力をかけさせろ。美しいインターフェースにプロンプトを入力するだけでは済ませない 😈