유럽연합(EU)은 인공지능으로 생성된 딥페이크(deepfake)를 규제할 준비를 하고 있습니다. 이는 너무나 사실적이어서 진짜와 가짜를 구분할 수 없게 만든 시각적 또는 청각적 콘텐츠입니다. 문제는 심각합니다: 온라인 딥페이크의 98%는 동의 없이 만들어진 포르노이며, 피해자의 94%는 여성입니다. 누디파이어(nudifier) 앱은 실제 인물을 디지털 방식으로 나체화하여 상황을 악화시킵니다.
AI가 가짜 친밀한 이미지를 생성하는 방법과 EU의 계획 🤖
누디파이어 앱은 수천 장의 나체 이미지로 훈련된 생성적 적대 신경망(GAN)을 사용하여 실제 사진에서 옷을 제거합니다. 그 결과는 피해자가 승인하지 않은 초현실적인 합성물입니다. EU는 이러한 콘텐츠를 조작된 것으로 표시하고, 개발자에게 투명성을 요구하며, 허가 없이 이 자료를 유포하는 사람들에게 제재를 가할 것을 제안합니다. 이 규정은 기술적 수단을 차단하는 것을 목표로 합니다.
가장 많이 사용되는 누디파이어: 이제 경고 라벨 부착 ⚠️
이 앱 뒤에 있는 회사들은 분명히 기뻐할 것입니다: 아무도 읽지 않을 동의 버튼, 복수를 위해 이것을 사용하지 않겠습니다라고 말하는 체크박스를 만들겠죠. 왜냐하면 문제는 기술이 아니라 사람들이 그것을 사용하는 방법을 모르기 때문입니다. 정치인이 춤추는 딥페이크나 셔츠를 입지 않은 유명인의 딥페이크에 어떻게 라벨을 붙일지 두고 봐야겠네요. 결코 존재해서는 안 되었던 것을 규제하는 아이러니입니다.