Plus de 130 mathématiciens du monde entier ont signé la Déclaration de Leyde, un document qui met en garde contre l'impact de l'intelligence artificielle sur la discipline. Selon les signataires, l'utilisation d'outils d'IA pour générer des démonstrations menace l'autonomie du raisonnement humain et la vérifiabilité des résultats, ouvrant la voie à des erreurs difficiles à détecter.
Le dilemme de la vérification dans les preuves générées par machine 🧠
Le problème central réside dans la nature des preuves mathématiques générées par l'IA. Contrairement à un calcul numérique, une démonstration formelle nécessite une structure logique vérifiable étape par étape. Les modèles actuels, comme les grands modèles de langage, peuvent produire des chaînes de raisonnement qui semblent cohérentes mais cachent des sauts logiques ou des hypothèses fausses. Sans une révision humaine exhaustive, ces défauts se propagent, contaminant les recherches futures et érodant la confiance dans les résultats.
L'IA résout des équations, mais ne sait pas si elles sont vraies 🤖
C'est comme demander à un perroquet de résoudre un sudoku : il peut répéter les chiffres, mais il ne comprend pas les règles. L'IA génère des preuves qui semblent parfaites, mais à la première erreur de logique, le château de cartes s'effondre. Pendant que les mathématiciens se soucient de la rigueur, la machine ne se soucie que de paraître convaincante. Au moins, le perroquet n'essaie pas de publier dans des revues indexées.