GPT-5.2 d'OpenAI consulte l'encyclopédie Grokipedia de xAI
Un reportage du média The Guardian a mis en lumière une pratique pertinente dans le monde de l'intelligence artificielle. Selon ses découvertes, le modèle principal d'OpenAI, GPT-5.2, recourt à l'encyclopédie Grokipedia, créée par l'entreprise xAI d'Elon Musk, pour produire des réponses sur des sujets complexes et controversés. 🔍
Le processus qui a mené à la découverte
Les journalistes sont arrivés à cette conclusion après avoir testé le système de manière extensive. Ils ont observé que, lors de la demande d'informations sur des thèmes sensibles, les réponses de GPT-5.2 présentaient un style et des données qui correspondaient notablement au contenu disponible dans Grokipedia.
Étapes clés de l'enquête :- Les chercheurs ont posé des questions sur des sujets controversés au modèle d'OpenAI.
- Ils ont détecté des similitudes dans le style narratif et les données spécifiques avec l'encyclopédie de xAI.
- Pour confirmer, ils ont comparé directement les sorties du modèle avec le matériel de Grokipedia, trouvant des parallèles substantiels.
Cette découverte suggère que GPT-5.2 accède ou s'entraîne partiellement avec ce matériel généré par une autre IA.
Questions sur la fiabilité des données
Cette découverte génère un débat immédiat sur la transparence lors du développement de systèmes d'intelligence artificielle. Si un modèle leader dépend d'une source également créée par IA, on peut remettre en question l'origine et les possibles biais de son information de base.
Points critiques qui émergent :- L'origine des données utilisées par les modèles de langage les plus avancés.
- La possibilité d'introduire des biais de manière involontaire en utilisant des sources non vérifiées par des humains.
- La nécessité pour les entreprises de clarifier quelles sources leurs modèles utilisent, surtout pour des thèmes où la précision est vitale.
Un cycle d'information particulier
Le panorama est frappant lorsqu'une intelligence artificielle doit consulter une autre intelligence artificielle pour se forger une opinion ou générer du savoir. Cela crée un cycle où peut-être personne ne vérifie les faits originaux, ce qui souligne l'importance de mettre en place des mécanismes robustes pour valider l'information. La communauté doit prêter attention à la manière dont le savoir est construit dans ces systèmes et qui l'audit. 🤖