Европейский союз решил ограничить приложения для создания обнажённых изображений, использующие искусственный интеллект для создания дипфейков сексуального контента без согласия. Эта мера, являющаяся частью нового регулирования, направлена на защиту конфиденциальности и изображения людей перед лицом технологии, ставшей доступной каждому владельцу смартфона. Приложения, создающие такие монтажи без явного разрешения, будут запрещены на всей территории сообщества.
Как работает обнаружение этих цифровых монтажей 🛡️
Технология, лежащая в основе этих дипфейков, обычно использует генеративно-состязательные сети (GAN) для наложения лица человека на обнажённое тело. Системы модерации, в свою очередь, применяют модели компьютерного зрения, обученные на наборах данных реальных и синтетических изображений, для выявления аномалий в текстурах, освещении и краях. Новый закон обяжет платформы внедрять автоматические фильтры, блокирующие загрузку такого контента, с финансовыми санкциями для нарушителей.
Приложение для обнажённых изображений, которое теперь будет служить только для скучных селфи 😅
Оказывается, стартапы, продававшие приложение для «раздевания» одним кликом, теперь будут вынуждены переработать свой код для чего-то более полезного, например, фильтра в Instagram, который наденет на вас плащ или дешёвую дождевик. Разработчики плачут в свои клавиатуры, потому что их многообещающий бизнес виртуальных обнажённых изображений пошёл прахом. Правда, по крайней мере, юристы ЕС заверили, что никто больше не получит сексуальный дипфейк от своего свояка в группе WhatsApp.