Un giornalista ha sottoposto l'intelligenza artificiale a un semplice test: scrivere 30 volte lo stesso testo su Google. Il risultato è stato preoccupante. In dieci occasioni, l'IA ha offerto significati diversi da quello corretto, ed è stata inoltre incapace di mettere in relazione questi significati tra loro. Per i cittadini, questo implica che l'IA può inventare informazioni chiave, influenzando decisioni su denaro, salute o servizi di base.
Il problema tecnico della coerenza nei modelli linguistici 🤖
I modelli linguistici attuali funzionano con schemi statistici, non con una reale comprensione del contenuto. Quando viene chiesto loro di ripetere un compito, privilegiano la variazione sintattica rispetto alla precisione semantica. Questo perché il loro addestramento si basa sulla previsione della parola successiva più probabile, non sulla verifica dei fatti. Il fallimento nel mettere in relazione i significati tra loro rivela una limitazione strutturale: l'IA manca di un modello interno del mondo che le permetta di mantenere una coerenza logica attraverso risposte multiple.
L'IA e il suo talento per l'improvvisazione creativa non richiesta 🎭
Vediamo, che l'IA inventi nuovi significati ogni tre ripetizioni non è un errore, è un atto artistico. Se le chiedi di spiegarti cos'è un contratto di affitto, potrebbe sfornarti una ricetta di gazpacho con clausole legali. E attenzione, che poi ti addebitano interessi sul pomodoro. La cosa peggiore non è che sbagli, è che lo fa con una sicurezza sconcertante, come quel collega di lavoro che ha sempre ragione anche se non ha la minima idea di cosa stia parlando.