Недавнее мошенничество в TikTok вызвало тревогу по поводу злонамеренного использования искусственного интеллекта. С помощью дипфейков изображение Тейлор Свифт используется для продвижения фальшивой программы под названием TikTok Pay, которая обещает легкие деньги за регистрацию и комментарии. Технология подменяет личность певицы, чтобы обмануть тысячи пользователей.
Как клонирование голоса и изображения обходит безопасность платформы 🎭
Мошенники используют модели генеративного ИИ для синхронизации губ Тейлор Свифт с фальшивым текстом, имитируя ее голос и жесты. Эти инструменты, становящиеся все более доступными, позволяют создавать реалистичные видео без необходимости в больших технических ресурсах. TikTok борется с таким контентом с помощью систем обнаружения, но скорость создания опережает ручную модерацию, подвергая пользователей риску фишинга и кражи данных.
Тейлор Свифт продает цифровой туман, и никто не покупает ее пластинку 🎤
Потому что, конечно, если бы певице Shake It Off действительно нужна была ваша помощь, чтобы заработать деньги, она бы точно не просила вас комментировать спонсируемые видео. Следующим шагом будет сама Тейлор, продающая курсы о том, как разбогатеть, пока поет, и с той же достоверностью. По крайней мере, у мошенничества есть ритм, хотя единственный, кто танцует под дудку ИИ, — это вы, теряя свои данные.