Les assistants d'intelligence artificielle comme ChatGPT ou Gemini ont un angle mort dangereux : ils ignorent ce qu'ils voient. Lors de tests récents, ces systèmes ont persisté dans leurs erreurs même après avoir visionné des vidéos démontrant leur échec. Pour quiconque recherche des informations scientifiques ou médicales, c'est un avertissement clair : ne supposez pas qu'ils ont raison simplement parce qu'ils semblent sûrs d'eux.
Cécité sélective dans le code 🤖
Le problème technique réside dans la manière dont ces modèles traitent l'information. Ils sont entraînés avec des données statiques et ne disposent pas d'un mécanisme pour mettre à jour leurs connaissances en temps réel. Lorsqu'on leur présente une vidéo qui contredit leur réponse, ils ne l'interprètent pas comme une correction, mais comme une donnée conflictuelle qu'ils ignorent. Ainsi, ils répètent l'erreur sans apprendre. Cela est dû à leur architecture : ils privilégient les schémas statistiques antérieurs plutôt que les nouvelles preuves qu'ils reçoivent.
L'élève qui n'admet jamais son erreur 🧠
C'est comme ce camarade de classe qui assure que 2+2 font 5, et quand tu mets quatre pommes devant lui, il dit que les pommes mentent. Les chatbots sont des experts en excuses numériques : si la vidéo montre qu'ils se trompent, ils répondent que la vidéo est erronée ou qu'elle n'est pas pertinente. Au moins un humain, après avoir vu la preuve, fait une tête d'idiot et corrige. Ces programmes, non. Alors tu sais quoi : si un chatbot te dit que le ciel est vert, sors regarder avant d'acheter de nouvelles lunettes. 😉