L'UE si concentra su Grok ma ignora le app di nudi con IA
Le autorità dell'Unione Europea hanno manifestato la loro allarme per la possibilità che lo strumento di intelligenza artificiale Grok possa fabbricare immagini di persone nude. Tuttavia, questa posizione trascura una realtà tecnologica molto più ampia e consolidata. Mentre si discute di limitare l'accesso a questo editor, numerose applicazioni con funzioni identiche rimangono disponibili senza ostacoli sulle piattaforme di distribuzione più grandi del mondo. 📱
Un ecosistema massiccio nei negozi ufficiali
Uno studio recente del Progetto di Trasparenza Tecnologica (TTP) fornisce cifre a questo fenomeno. La ricerca identifica più di un centinaio di app nei negozi di Google Play e Apple App Store progettate specificamente per togliere i vestiti alle persone nelle foto in modo digitale. Questi strumenti si concentrano principalmente su ritratti di donne, potendo mostrare i soggetti completamente nudi, parzialmente svestiti o con pochissimi vestiti.
Dati chiave del rapporto TTP:- Sono state rilevate 55 applicazioni su Google Play e 48 sull'App Store di Apple.
- L'insieme di queste app accumula più di 705 milioni di download a livello globale.
- Hanno generato entrate stimate intorno a 117 milioni di dollari.
Il meccanismo per creare immagini sessualizzate non consensuali è ampiamente distribuito e facilmente accessibile.
La misura contro Grok è una soluzione limitata
Proporre di restringere solo l'editor di immagini di Grok sembra un'azione che tocca una piccola parte del conflitto. L'esistenza di questo vasto catalogo di app specializzate dimostra che il problema è strutturale. Concentrarsi su un singolo servizio, mentre un ecosistema completo opera con impunità e raggiunge centinaia di milioni di utenti, mette in discussione l'efficacia reale della risposta proposta. 🚨
Sfide per una regolamentazione efficace:- La risposta deve coinvolgere direttamente i negozi di applicazioni, esigendo che rafforzino le loro politiche di revisione.
- È necessario un approccio integrale, non azioni isolate contro strumenti individuali.
- Si evidenzia una disparità nell'applicazione delle norme, dove alcune app passano i filtri mentre altre vengono segnalate.
Una conclusione sui doppi rasero digitali
La situazione rivela una paradossale del contesto digitale: risulta tecnologicamente più semplice spogliare una persona in un'immagine che implementare controlli consistenti ed equi per evitarlo. Mentre l'attenzione si concentra su un attore, decine operano alla vista di tutti, il che suggerisce che le norme, a volte, indossano un doppio rasero. La soluzione, se si vuole che sia vera, richiede di guardare oltre l'obiettivo immediato e agire sulle piattaforme che distribuiscono questi strumenti. ⚖️