Gli assistenti di intelligenza artificiale come ChatGPT o Gemini hanno un pericoloso punto cieco: ignorano ciò che vedono. In test recenti, questi sistemi hanno persistito nei loro errori anche quando sono stati mostrati video che dimostravano il loro fallimento. Per chiunque cerchi informazioni scientifiche o mediche, questo è un chiaro avvertimento: non dare per scontato che abbiano ragione solo perché sembrano sicuri.
Cecità selettiva nel codice 🤖
Il problema tecnico risiede in come questi modelli elaborano le informazioni. Sono addestrati con dati statici e non dispongono di un meccanismo per aggiornare la loro conoscenza in tempo reale. Quando viene presentato loro un video che contraddice la loro risposta, non lo interpretano come una correzione, ma come un dato conflittuale che ignorano. Così, ripetono l'errore senza imparare. Ciò è dovuto alla loro architettura: danno priorità a schemi statistici precedenti rispetto alla nuova evidenza che ricevono.
Lo studente che non ammette mai il suo errore 🧠
È come quel compagno di classe che insiste che 2+2 fa 5, e quando gli metti quattro mele davanti, dice che le mele mentono. I chatbot sono esperti di scuse digitali: se il video mostra che si sbagliano, loro rispondono che il video è sbagliato o che non è rilevante. Almeno un umano, dopo aver visto l'evidenza, fa la faccia da stupido e si corregge. Questi programmi, no. Quindi già lo sai: se un chatbot ti dice che il cielo è verde, esci a guardare prima di comprare occhiali nuovi. 😉