인공지능은 비약적으로 발전하고 있지만, 단순히 예술을 창작하거나 프로세스를 개선하기 위한 것만은 아닙니다. 사이버 보안 전문가들은 아리아나 그란데(Ariana Grande)와 리한나(Rihanna)와 같은 유명인의 목소리와 이미지를 복제한 사기가 증가하고 있다고 경고합니다. 이러한 모방은 거의 완벽에 가까워 누구든 돈이나 개인 정보를 요구하는 가짜 메시지나 전화에 속을 수 있습니다.
음성 및 영상 딥페이크: 디지털 사기의 새로운 표준 🎭
이러한 사기 뒤에 숨은 기술은 Tacotron이나 WaveNet과 같은 음성 합성 모델을 사용하며, 실제 오디오 몇 초만으로 음색과 억양을 복제할 수 있습니다. 여기에 생성적 적대 신경망을 이용한 영상 생성이 더해져 입술 움직임과 얼굴 표정을 동기화합니다. 사기범들은 더 이상 대규모 서버가 필요하지 않습니다. 클라우드나 가정용 하드웨어에서도 이러한 위조를 처리하여 탐지를 끊임없는 기술적 과제로 만들고 있습니다.
우리 이모는 이미 리한나한테 WhatsApp으로 돈을 보냈어요 😱
가장 최악인 점은 이러한 위조가 더 이상 형편없는 맞춤법의 문자 메시지에 국한되지 않는다는 것입니다. 이제는 리한나가 새 향수를 위해 대출을 요청하는 영상이나, 아리아나 그란데가 신용카드를 잃어버렸다고 불평하는 영상이 도착합니다. 그리고 당연히, 많은 사람들이 이를 믿고 심지어 특별하다고 느끼기도 합니다. 다음에 좋아하는 아티스트가 돈을 요청한다면, 그들이 아마 투어 중일 가능성이 높지, 휘발유 값으로 50유로를 요구하지는 않을 것임을 기억하세요.