L'azienda di intelligenza artificiale Anthropic ha proposto una pausa mondiale nello sviluppo di sistemi avanzati di IA. La sua argomentazione è che la società ha bisogno di tempo per adattarsi al ritmo di queste tecnologie. Per raggiungere questo obiettivo, chiedono che tutte le grandi aziende rispettino regole verificabili e pianificano di riunire governi, scienziati e concorrenti in un sistema di controllo centralizzato.
Dati interni avvertono su IA autonoma senza supervisione umana 🤖
Secondo i dati di Anthropic, gli attuali modelli di IA potrebbero raggiungere un punto in cui operano e diventano più intelligenti senza intervento umano diretto. Ciò comporta rischi di sicurezza e controllo difficili da prevedere. La proposta mira a stabilire metriche chiare e audit esterni per verificare il rispetto delle regole, cosa che finora non esiste nel settore. La fattibilità tecnica di questa pausa è discutibile.
Pausa mondiale: l'idea che piace solo a chi la propone 😅
Naturalmente, chiedere alla concorrenza di fermarsi mentre tu continui a sviluppare è un classico. Anthropic suggerisce che tutti si siedano a parlare, mentre i propri modelli continuano ad apprendere. È come chiedere al vicino di smettere di correre così tu puoi raggiungerlo. L'ironia è che, per controllare l'IA, bisognerebbe prima controllare le aziende che la creano. Missione impossibile.