A UE foca em Grok mas ignora os apps de nus com IA
As autoridades da União Europeia manifestaram sua alarme ante a possibilidade de que a ferramenta de inteligência artificial Grok possa fabricar imagens de pessoas nuas. No entanto, essa postura deixa de lado uma realidade tecnológica muito mais ampla e estabelecida. Enquanto se discute limitar o acesso a este editor, numerosas aplicações com funções idênticas continuam disponíveis sem obstáculos nas plataformas de distribuição mais grandes do mundo. 📱
Um ecossistema massivo nas lojas oficiais
Um estudo recente do Projeto de Transparência Tecnológica (TTP) coloca números a este fenômeno. A pesquisa identifica mais de uma centena de apps nas lojas de Google Play e Apple App Store projetadas especificamente para tirar a roupa das pessoas em fotos de forma digital. Essas ferramentas se concentram majoritariamente em retratos de mulheres, podendo mostrar os sujeitos totalmente nus, parcialmente despidos ou com pouquíssima roupa.
Dados chave do relatório TTP:- Foram detectadas 55 aplicações no Google Play e 48 na App Store da Apple.
- O conjunto dessas apps acumula mais de 705 milhões de downloads em escala global.
- Geraram receitas estimadas em cerca de 117 milhões de dólares.
O mecanismo para criar imagens sexualizadas não consensuadas está amplamente distribuído e é de fácil acesso.
A medida contra Grok é uma solução limitada
Propor restringir apenas o editor de imagens de Grok parece uma ação que toca uma pequena parte do conflito. A existência deste extenso catálogo de apps especializadas demonstra que o problema é estrutural. Focar em um único serviço, enquanto um ecossistema completo opera com impunidade e chega a centenas de milhões de usuários, questiona a eficácia real da resposta proposta. 🚨
Desafios para uma regulação efetiva:- A resposta deve envolver diretamente as lojas de aplicações, exigindo que reforcem suas políticas de revisão.
- É necessário um enfoque integral, não ações isoladas contra ferramentas individuais.
- Evidencia-se uma disparidade na aplicação das normas, onde algumas apps passam pelos filtros enquanto outras são sinalizadas.
Uma conclusão sobre dois pesos e duas medidas digitais
A situação revela uma paradoxo do ambiente digital: é tecnologicamente mais simples despir uma pessoa em uma imagem do que implementar controles consistentes e equitativos para evitá-lo. Enquanto a atenção se concentra em um ator, dezenas operam à vista de todos, o que sugere que as normas, em ocasiões, vestem dois pesos e duas medidas. A solução, se se busca que seja verdadeira, requer olhar além do objetivo imediato e atuar sobre as plataformas que distribuem essas ferramentas. ⚖️