Ein Journalist unterzog die künstliche Intelligenz einem einfachen Test: 30 Mal denselben Text in Google schreiben. Das Ergebnis war besorgniserregend. In zehn Fällen lieferte die KI andere als die korrekten Bedeutungen und war zudem nicht in der Lage, diese Bedeutungen miteinander in Beziehung zu setzen. Für die Bürgerschaft bedeutet dies, dass die KI entscheidende Informationen erfinden kann, was Entscheidungen über Geld, Gesundheit oder grundlegende Dienstleistungen beeinträchtigt.
Das technische Problem der Kohärenz in Sprachmodellen 🤖
Aktuelle Sprachmodelle arbeiten mit statistischen Mustern, nicht mit echtem Verständnis des Inhalts. Wenn man sie bittet, eine Aufgabe zu wiederholen, priorisieren sie syntaktische Variation über semantische Präzision. Dies liegt daran, dass ihr Training auf der Vorhersage des nächsten wahrscheinlichen Wortes basiert, nicht auf der Überprüfung von Fakten. Das Versagen, Bedeutungen miteinander in Beziehung zu setzen, offenbart eine strukturelle Einschränkung: Der KI fehlt ein internes Modell der Welt, das es ihr ermöglichen würde, logische Kohärenz über mehrere Antworten hinweg aufrechtzuerhalten.
Die KI und ihr Talent für unerbetene kreative Improvisation 🎭
Mal ehrlich, dass die KI alle drei Wiederholungen neue Bedeutungen erfindet, ist kein Fehler, es ist ein künstlerischer Akt. Wenn du sie bittest, dir zu erklären, was ein Mietvertrag ist, könnte sie dir durchaus ein Rezept für Gazpacho mit rechtlichen Klauseln ausspucken. Und aufgepasst, dann werden dir Zinsen für die Tomate berechnet. Das Schlimmste ist nicht, dass sie Fehler macht, sondern dass sie dies mit einer erschütternden Sicherheit tut, wie dieser Arbeitskollege, der immer recht hat, obwohl er keine Ahnung hat, wovon er spricht.