Mehr als 130 Mathematiker aus aller Welt haben die Erklärung von Leiden unterzeichnet, ein Dokument, das vor den Auswirkungen der künstlichen Intelligenz auf die Disziplin warnt. Laut den Unterzeichnern bedroht der Einsatz von KI-Werkzeugen zur Generierung von Beweisen die Autonomie des menschlichen Denkens und die Überprüfbarkeit der Ergebnisse und öffnet die Tür für schwer erkennbare Fehler.
Das Dilemma der Verifikation bei maschinell generierten Beweisen 🧠
Das zentrale Problem liegt in der Natur der von KI generierten mathematischen Beweise. Anders als eine numerische Berechnung erfordert ein formaler Beweis eine logische, Schritt für Schritt überprüfbare Struktur. Aktuelle Modelle, wie große Sprachmodelle, können Argumentationsketten produzieren, die kohärent erscheinen, aber logische Sprünge oder falsche Annahmen verbergen. Ohne eine gründliche menschliche Überprüfung verbreiten sich diese Fehler, verseuchen zukünftige Forschung und untergraben das Vertrauen in die Ergebnisse.
KI löst Gleichungen, weiß aber nicht, ob sie stimmen 🤖
Es ist, als würde man einen Papagei bitten, ein Sudoku zu lösen: Er kann die Zahlen wiederholen, versteht aber die Regeln nicht. Die KI generiert Beweise, die wie aus dem Lehrbuch aussehen, aber beim ersten logischen Fehler bricht das Kartenhaus zusammen. Während Mathematiker sich um die Strenge sorgen, kümmert sich die Maschine nur darum, überzeugend zu wirken. Zumindest versucht der Papagei nicht, in indexierten Fachzeitschriften zu veröffentlichen.