L'Union européenne a décidé de mettre un terme aux applications de nudité qui utilisent l'intelligence artificielle pour créer des deepfakes de contenu sexuel non consenti. Cette mesure, qui fait partie d'une nouvelle réglementation, vise à protéger la vie privée et l'image des personnes face à une technologie devenue accessible à tous avec un smartphone. Les applications qui génèrent ces montages sans autorisation explicite seront interdites dans tout le bloc communautaire.
Comment fonctionne la détection de ces montages numériques 🛡️
La technologie derrière ces deepfakes utilise généralement des réseaux antagonistes génératifs (GANs) pour superposer le visage d'une personne sur un corps nu. Les systèmes de modération, quant à eux, emploient des modèles de vision par ordinateur entraînés sur des ensembles de données d'images réelles et synthétiques pour identifier des anomalies dans les textures, l'éclairage et les contours. La nouvelle loi obligera les plateformes à mettre en place des filtres automatiques bloquant le téléchargement de ce contenu, avec des sanctions financières pour les contrevenants.
L'application de nudité qui ne servira plus qu'à des selfies ennuyeux 😅
Il s'avère que les startups qui vendaient l'application pour vous déshabiller en un clic devront désormais recycler leur code pour quelque chose de plus utile, comme un filtre Instagram qui vous met un imperméable ou un coupe-vent ringard. Les développeurs pleurent sur leurs claviers car leur prometteuse entreprise de nudité virtuelle a fait naufrage. Cela dit, au moins les avocats de l'UE ont assuré que personne ne recevra plus de deepfake sexuel de son beau-frère dans le groupe WhatsApp.