TikTok上最近发生的一起诈骗案，引发了人们对人工智能被恶意利用的警惕。通过深度伪造技术，泰勒·斯威夫特的形象出现在一个名为TikTok Pay的虚假计划推广中，该计划承诺通过注册和评论轻松赚钱。这项技术冒充这位艺术家，欺骗了成千上万的用户。
语音和视觉克隆如何绕过平台安全措施 🎭
诈骗者利用生成式AI模型，将泰勒·斯威夫特的嘴唇与虚假文本同步，模仿她的声音和手势。这些工具越来越容易获取，无需大量技术资源就能制作出逼真的视频。TikTok通过检测系统打击此类内容，但创作速度超过了人工审核，使用户面临网络钓鱼和数据被盗的风险。
泰勒·斯威夫特兜售数字泡沫，无人购买她的唱片 🎤
因为显然，如果这位演唱Shake It Off的歌手真的需要你帮忙赚钱，她肯定不会要求你评论赞助视频。接下来，我们可能会看到泰勒本人一边唱歌一边兜售致富课程，而且同样缺乏可信度。至少这场骗局还有节奏感，但唯一跟着AI节奏跳舞的，可能就是你——在失去数据的同时。