欧州連合は、人工知能によって生成されたディープフェイク、つまり本物と偽物の区別がつかなくなるほどリアルな視覚・聴覚コンテンツの規制を準備している。問題は深刻だ。オンライン上のディープフェイクの98%は同意なく作成されたポルノであり、被害者の94%は女性である。ヌーディファイアアプリは、実在の人物をデジタル的に裸にすることで状況を悪化させている。
AIがどのように偽の親密な画像を生成するのか、そしてEUが計画していること 🤖
ヌーディファイアアプリは、何千もの裸体画像で訓練された敵対的生成ネットワークを使用して、実際の写真から衣服を除去する。その結果、被害者が許可していない超リアルな合成画像が生成される。EUは、これらのコンテンツに操作済みのラベルを付け、開発者に透明性を要求し、許可なくこのような素材を配布する者に対する制裁を創設することを提案している。この規則は、技術的な流れを断ち切ることを目指している。
最も使用されているヌーディファイア：現在は警告ラベル付き ⚠️
これらのアプリの背後にある企業は、きっと大喜びしているだろう。誰も読まない同意ボタンと、復讐目的で使用しないことに同意しますといった内容のチェックボックスを作成するのだから。なぜなら、問題はテクノロジーではなく、人々がその使い方を知らないことにあるからだ。政治家が踊っているディープフェイクや、有名人が上半身裸になっているディープフェイクに、どのようにラベルを貼るのか、見ものだ。決して存在すべきではなかったものを規制する皮肉。