A União Europeia decidiu coibir os aplicativos de nudez que usam inteligência artificial para criar deepfakes de conteúdo sexual não consentido. A medida, que faz parte de uma nova regulamentação, busca proteger a privacidade e a imagem das pessoas diante de uma tecnologia que se tornou acessível a qualquer pessoa com um smartphone. Os aplicativos que gerarem essas montagens sem permissão explícita serão proibidos em todo o bloco comunitário.
Como funciona a detecção dessas montagens digitais 🛡️
A tecnologia por trás desses deepfakes geralmente usa redes generativas adversárias (GANs) para mapear o rosto de uma pessoa sobre um corpo nu. Os sistemas de moderação, por sua vez, empregam modelos de visão computacional treinados com conjuntos de dados de imagens reais e sintéticas para identificar anomalias em texturas, iluminação e bordas. A nova lei obrigará as plataformas a implementar filtros automáticos que bloqueiem o upload desse conteúdo, com sanções financeiras para quem não cumprir.
O app de nudez que agora servirá apenas para selfies entediantes 😅
Acontece que as startups que vendiam o app para tirar a roupa com um clique agora terão que reciclar seu código para algo mais útil, como um filtro do Instagram que coloque uma gabardina ou uma capa de chuva brega. Os desenvolvedores choram em seus teclados porque seu promissor negócio de nudez virtual foi por água abaixo. Isso sim, pelo menos os advogados da UE garantiram que ninguém mais receberá um deepfake sexual do cunhado no grupo do WhatsApp.