欧盟正准备采取坚决措施打击数字滥用行为。新法规将扩大对未经同意的深度伪造性内容的禁令，明确将人工智能生成的儿童性虐待材料纳入其中。此举旨在堵住一项技术的漏洞，该技术无需在生成时存在真实受害者即可创建非法内容。
人工智能：既是创作工具，也是检测工具 🤖
该立法提案将强制平台实施能够识别此类合成材料的审核系统。经过真实虐待数据训练后，生成模型会产出可识别模式的图像。在检测方面，正在考虑使用元数据分析工具和数字水印。技术挑战巨大：当AI生成的图像与真实照片显示相似场景时，如何区分两者。
心怀不轨的数字艺术家的悖论 🎭
如今，深度伪造的创作者将不得不另谋生计，或许会回到粗糙的Photoshop时代。因为没错，在AI出现之前就已经存在合成图像，但那时需要耗费数小时的工作量，并且需要对细节有一定的热爱。欧盟的意思是：如果你要当罪犯，至少得让你付出时间和精力，而不是仅仅在一个漂亮的界面上输入提示词 😈