최근 TikTok에서 발생한 사기 사건이 인공지능의 악의적 사용에 대한 경각심을 불러일으켰습니다. 딥페이크 기술을 이용해 테일러 스위프트의 이미지가 TikTok Pay라는 가짜 계획을 홍보하는 데 사용되었으며, 이는 가입과 댓글을 대가로 쉬운 돈을 약속합니다. 이 기술은 아티스트를 사칭하여 수천 명의 사용자를 속이고 있습니다.
음성 및 시각적 복제가 플랫폼 보안을 어떻게 무너뜨리는가 🎭
사기범들은 생성형 AI 모델을 사용하여 테일러 스위프트의 입술을 가짜 텍스트와 동기화하고, 그녀의 목소리와 제스처를 모방합니다. 점점 더 접근하기 쉬워지는 이러한 도구들은 큰 기술적 자원 없이도 사실적인 비디오를 만들 수 있게 합니다. TikTok은 탐지 시스템으로 이러한 콘텐츠와 싸우고 있지만, 생성 속도가 수동 검열을 앞지르며 사용자들을 피싱 및 데이터 도난 위험에 노출시키고 있습니다.
테일러 스위프트가 디지털 허상을 팔고, 아무도 그녀의 음반을 사지 않는다 🎤
왜냐하면 당연히, Shake It Off의 가수가 정말 돈을 벌기 위해 당신의 도움이 필요하다면, 분명 후원받는 비디오에 댓글을 달라고 요청하지는 않을 것입니다. 다음에는 테일러 본인이 노래하면서 부자가 되는 방법을 가르치는 코스를 파는 모습을 보게 될지도 모르죠, 그것도 똑같은 신뢰성으로. 적어도 사기에는 리듬이 있지만, AI의 음악에 맞춰 춤추는 유일한 사람은 당신의 데이터를 잃는 당신 자신입니다.