A União Europeia se prepara para dar um passo firme contra o abuso digital. A nova regulamentação ampliará a proibição de deepfakes sexuais não consentidos para incluir explicitamente o material de abuso sexual infantil gerado por inteligência artificial. Isso representa uma tentativa de fechar a porta para uma tecnologia que permite criar conteúdo ilegal sem a necessidade de vítimas reais no momento da geração.
A IA como ferramenta de criação e de detecção 🤖
A proposta legislativa obrigará as plataformas a implementar sistemas de moderação capazes de identificar esse material sintético. Os modelos generativos, treinados com dados de abusos reais, produzem imagens que replicam padrões reconhecíveis. Para a detecção, são consideradas ferramentas de análise de metadados e marcas d'água digitais. O desafio técnico é imenso: distinguir uma imagem gerada por IA de uma fotografia real quando ambas mostram cenas semelhantes.
O paradoxo do artista digital com más intenções 🎭
Agora os criadores de deepfakes terão que buscar outra forma de ganhar a vida, talvez voltando aos velhos tempos do Photoshop malfeito. Porque sim, antes da IA já existiam montagens, mas exigiam horas de trabalho e certo carinho pelo detalhe. A UE vem dizer: se você vai ser um criminoso, pelo menos que te custe tempo e esforço, não apenas escrever um prompt em uma interface bonita 😈