L'UE se concentre sur Grok mais ignore les apps de nus avec IA
Les autorités de l'Union européenne ont exprimé leur alarme face à la possibilité que l'outil d'intelligence artificielle Grok puisse fabriquer des images de personnes nues. Néanmoins, cette position ignore une réalité technologique beaucoup plus large et établie. Pendant qu'on discute de limiter l'accès à cet éditeur, de nombreuses applications aux fonctions identiques restent disponibles sans obstacles sur les plus grandes plateformes de distribution au monde. 📱
Un écosystème massif dans les magasins officiels
Une étude récente du Projet de Transparence Technologique (TTP) met des chiffres sur ce phénomène. La recherche identifie plus d'une centaine d'apps dans les magasins Google Play et Apple App Store conçues spécifiquement pour retirer les vêtements des personnes sur des photos de manière numérique. Ces outils se concentrent majoritairement sur des portraits de femmes, pouvant montrer les sujets totalement nus, partiellement dévêtus ou avec très peu de vêtements.
Données clés du rapport TTP :- On a détecté 55 applications sur Google Play et 48 sur l'App Store d'Apple.
- L'ensemble de ces apps accumule plus de 705 millions de téléchargements à l'échelle mondiale.
- Elles ont généré des revenus estimés à environ 117 millions de dollars.
Le mécanisme pour créer des images sexualisées non consensuelles est largement distribué et facilement accessible.
La mesure contre Grok est une solution limitée
Proposer de restreindre uniquement l'éditeur d'images de Grok semble être une action qui touche une petite partie du conflit. L'existence de ce vaste catalogue d'apps spécialisées démontre que le problème est structurel. Se concentrer sur un seul service, tandis qu'un écosystème complet opère en toute impunité et atteint des centaines de millions d'utilisateurs, remet en question l'efficacité réelle de la réponse proposée. 🚨
Défis pour une régulation efficace :- La réponse doit impliquer directement les magasins d'applications, en exigeant qu'ils renforcent leurs politiques de révision.
- Il est nécessaire d'adopter une approche globale, pas des actions isolées contre des outils individuels.
- On observe une disparité dans l'application des normes, où certaines apps passent les filtres tandis que d'autres sont signalées.
Une conclusion sur les doubles standards numériques
La situation révèle une paradoxe de l'environnement numérique : il est technologiquement plus simple de déshabiller une personne sur une image que de mettre en place des contrôles cohérents et équitables pour l'éviter. Pendant que l'attention se concentre sur un acteur, des dizaines opèrent sous les yeux de tous, ce qui suggère que les normes, parfois, arborent un double standard. La solution, si on veut qu'elle soit véritable, nécessite de regarder au-delà de la cible immédiate et d'agir sur les plateformes qui distribuent ces outils. ⚖️