Un journaliste a soumis l'intelligence artificielle à un test simple : écrire 30 fois le même texte dans Google. Le résultat était préoccupant. À dix reprises, l'IA a proposé des significations différentes de la bonne, et de plus, elle a été incapable de relier ces significations entre elles. Pour les citoyens, cela implique que l'IA peut inventer des informations clés, affectant les décisions concernant l'argent, la santé ou les services de base.
Le problème technique de la cohérence dans les modèles de langage 🤖
Les modèles de langage actuels fonctionnent avec des modèles statistiques, non avec une compréhension réelle du contenu. Lorsqu'on leur demande de répéter une tâche, ils privilégient la variation syntaxique sur la précision sémantique. Cela est dû au fait que leur entraînement repose sur la prédiction du mot suivant probable, et non sur la vérification des faits. L'échec à relier les significations entre elles révèle une limitation structurelle : l'IA manque d'un modèle interne du monde qui lui permettrait de maintenir une cohérence logique sur plusieurs réponses.
L'IA et son talent pour l'improvisation créative non sollicitée 🎭
Voyons voir, que l'IA invente de nouvelles significations toutes les trois répétitions n'est pas une erreur, c'est un acte artistique. Si vous lui demandez de vous expliquer ce qu'est un contrat de location, elle pourrait bien vous sortir une recette de gaspacho avec des clauses légales. Et attention, ensuite on vous facture des intérêts pour la tomate. Le pire n'est pas qu'elle échoue, c'est qu'elle le fait avec une assurance confondante, comme ce collègue de travail qui a toujours raison même s'il n'a aucune idée de ce dont il parle.