L'Unione Europea ha deciso di mettere un freno alle applicazioni di nudo che utilizzano l'intelligenza artificiale per creare deepfake di contenuti sessuali non consensuali. La misura, che fa parte di una nuova regolamentazione, mira a proteggere la privacy e l'immagine delle persone da una tecnologia diventata accessibile a chiunque abbia uno smartphone. Le app che generano questi montaggi senza permesso esplicito saranno vietate in tutto il blocco comunitario.
Come funziona il rilevamento di questi montaggi digitali 🛡️
La tecnologia alla base di questi deepfake utilizza solitamente reti generative avversarie (GAN) per mappare il volto di una persona su un corpo nudo. I sistemi di moderazione, dal canto loro, impiegano modelli di visione artificiale addestrati con dataset di immagini reali e sintetiche per identificare anomalie in texture, illuminazione e bordi. La nuova legge obbligherà le piattaforme a implementare filtri automatici che blocchino il caricamento di questi contenuti, con sanzioni economiche per chi non si adegua.
L'app di nudo che ora servirà solo per selfie noiosi 😅
Risulta che le startup che vendevano l'app per toglierti i vestiti con un clic ora dovranno riciclare il loro codice per qualcosa di più utile, come un filtro di Instagram che ti metta un impermeabile o un cerata dozzinale. Gli sviluppatori piangono sulle loro tastiere perché il loro promettente business di nudi virtuali è andato in fumo. Certo, almeno gli avvocati dell'UE hanno assicurato che nessuno riceverà più un deepfake sessuale dal proprio cognato nel gruppo WhatsApp.