Ein aktueller Betrugsfall auf TikTok hat die Alarmglocken bezüglich der böswilligen Nutzung künstlicher Intelligenz schrillen lassen. Mittels Deepfakes wird das Bild von Taylor Swift genutzt, um einen falschen Plan namens TikTok Pay zu bewerben, der schnelles Geld im Austausch für Registrierungen und Kommentare verspricht. Die Technologie gibt sich als die Künstlerin aus, um Tausende von Nutzern zu täuschen.
Wie Stimm- und Bildklonen die Sicherheit der Plattform umgeht 🎭
Die Betrüger nutzen generative KI-Modelle, um die Lippen von Taylor Swift mit einem falschen Text zu synchronisieren und dabei ihre Stimme und Gesten nachzuahmen. Diese zunehmend zugänglichen Werkzeuge ermöglichen die Erstellung realistischer Videos ohne großen technischen Aufwand. TikTok bekämpft diese Inhalte mit Erkennungssystemen, aber die Erstellungsgeschwindigkeit übersteigt die manuelle Moderation, wodurch Nutzer Risiken wie Phishing und Datendiebstahl ausgesetzt sind.
Taylor Swift verkauft digitale Luft und niemand kauft ihr die Platte ab 🎤
Denn klar, wenn die Sängerin von Shake It Off wirklich deine Hilfe bräuchte, um Geld zu verdienen, würde sie das sicherlich nicht tun, indem sie dich bittet, gesponserte Videos zu kommentieren. Als nächstes sehen wir dann Taylor persönlich, wie sie Kurse verkauft, wie man reich wird, während sie singt, und mit derselben Glaubwürdigkeit. Immerhin hat der Betrug Rhythmus, auch wenn der Einzige, der nach der KI tanzt, du bist, der seine Daten verliert.