Европейский Союз готовится регулировать дипфейки, созданные искусственным интеллектом, — те визуальные или аудиоматериалы настолько реалистичные, что мы уже не отличаем подлинное от поддельного. Проблема серьезна: 98% дипфейков в интернете — это порнография, созданная без согласия, и 94% жертв — женщины. Приложения nudifier усугубляют ситуацию, цифровым образом раздевая реальных людей.
Как ИИ создает поддельные интимные изображения и что планирует ЕС 🤖
Приложения nudifier используют генеративно-состязательные сети, обученные на тысячах изображений обнаженных тел, чтобы удалить одежду с реальной фотографии. Результат — гиперреалистичный монтаж, который жертва не авторизовала. ЕС предлагает маркировать такой контент как манипулированный, требовать прозрачности от разработчиков и ввести санкции для тех, кто распространяет этот материал без разрешения. Норма направлена на то, чтобы перекрыть технический кран.
Самый используемый nudifier: теперь с предупреждающей меткой ⚠️
Компании, стоящие за этими приложениями, наверняка в восторге: они создадут кнопку согласия, которую никто не прочитает, флажок, который будет гласить что-то вроде я согласен не использовать это для мести. Потому что, конечно, проблема не в технологии, а в том, что люди не умеют ею пользоваться. Посмотрим еще, как они будут маркировать дипфейк танцующего политика или знаменитости без футболки. Ирония регулирования того, чего никогда не должно было существовать.