KI-Assistenten wie ChatGPT oder Gemini haben einen gefährlichen blinden Fleck: Sie ignorieren, was sie sehen. In aktuellen Tests beharrten diese Systeme auf ihren Fehlern, selbst wenn ihnen Videos gezeigt wurden, die ihr Versagen belegten. Für jeden, der wissenschaftliche oder medizinische Informationen sucht, ist dies eine klare Warnung: Geh nicht davon aus, dass sie recht haben, nur weil sie selbstsicher klingen.
Selektive Blindheit im Code 🤖
Das technische Problem liegt darin, wie diese Modelle Informationen verarbeiten. Sie sind mit statischen Daten trainiert und verfügen über keinen Mechanismus, um ihr Wissen in Echtzeit zu aktualisieren. Wenn ihnen ein Video präsentiert wird, das ihrer Antwort widerspricht, interpretieren sie dies nicht als Korrektur, sondern als widersprüchliche Daten, die sie ignorieren. So wiederholen sie den Fehler, ohne zu lernen. Dies liegt an ihrer Architektur: Sie priorisieren frühere statistische Muster gegenüber den neuen Beweisen, die sie erhalten.
Der Schüler, der seinen Fehler nie zugibt 🧠
Es ist wie dieser Mitschüler, der behauptet, dass 2+2=5 ist, und wenn man ihm vier Äpfel vorlegt, sagt er, die Äpfel lügen. Chatbots sind Experten für digitale Ausreden: Wenn das Video zeigt, dass sie sich irren, antworten sie, dass das Video falsch oder nicht relevant sei. Zumindest ein Mensch würde nach dem Ansehen der Beweise ein dummes Gesicht machen und sich korrigieren. Diese Programme tun das nicht. Also weißt du Bescheid: Wenn dir ein Chatbot sagt, der Himmel sei grün, geh raus und schau nach, bevor du eine neue Brille kaufst. 😉