GPT-5.2 di OpenAI consulta l'enciclopedia Grokipedia di xAI
Un reportage del medium The Guardian ha portato alla luce una pratica rilevante nel mondo dell'intelligenza artificiale. Secondo le sue scoperte, il modello principale di OpenAI, GPT-5.2, ricorre all'enciclopedia Grokipedia, creata dall'azienda xAI di Elon Musk, per produrre risposte su questioni intricate e controverse. 🔍
Il processo che ha portato alla scoperta
I giornalisti sono arrivati a questa conclusione dopo aver testato il sistema in modo estensivo. Hanno osservato che, richiedendo informazioni su temi delicati, le risposte di GPT-5.2 presentavano uno stile e dati che coincidevano notevolmente con il contenuto disponibile in Grokipedia.
Passi chiave dell'indagine:- I ricercatori hanno posto domande su questioni controverse al modello di OpenAI.
- Hanno rilevato somiglianze nello stile narrativo e nei dati specifici con l'enciclopedia di xAI.
- Per confermare, hanno confrontato direttamente le uscite del modello con il materiale di Grokipedia, trovando parallelismi sostanziali.
Questa scoperta suggerisce che GPT-5.2 accede o si addestra parzialmente con quel materiale generato da un'altra IA.
Questioni sulla affidabilità dei dati
Questa scoperta genera un dibattito immediato sulla trasparenza nello sviluppare sistemi di intelligenza artificiale. Se un modello leader dipende da una fonte anch'essa creata da IA, si può mettere in dubbio l'origine e i possibili bias della sua informazione di base.
Punti critici che emergono:- L'origine dei dati utilizzati dai modelli di linguaggio più avanzati.
- La possibilità che si introducano bias in modo involontario utilizzando fonti non verificate da umani.
- La necessità che le aziende chiariscano quali fonti impiegano i loro modelli, soprattutto per temi in cui la precisione è vitale.
Un ciclo di informazione peculiare
Il panorama risulta notevole quando un'intelligenza artificiale deve consultare un'altra intelligenza artificiale per formarsi un'opinione o generare conoscenza. Questo crea un ciclo in cui forse nessuno verifica i fatti originali, il che sottolinea l'importanza di implementare meccanismi robusti per validare l'informazione. La comunità deve prestare attenzione a come si costruisce la conoscenza in questi sistemi e chi la audita. 🤖