世界中の130人以上の数学者が「ライデン宣言」に署名しました。この文書は、人工知能が数学という学問に与える影響について警告しています。署名者によると、証明を生成するためのAIツールの使用は、人間の推論の自律性と結果の検証可能性を脅かし、発見が困難な誤りを招く可能性があるとしています。
機械が生成した証明における検証のジレンマ 🧠
中心的な問題は、AIによって生成された数学的証明の性質にあります。数値計算とは異なり、形式的な証明には、ステップごとに検証可能な論理構造が必要です。大規模言語モデルのような現在のモデルは、一貫しているように見える推論の連鎖を生成できますが、論理の飛躍や誤った仮定を隠している可能性があります。人間による徹底的なレビューがなければ、これらの欠陥は拡散し、将来の研究を汚染し、結果に対する信頼を損なうことになります。
AIは方程式を解くが、それが正しいかどうかはわからない 🤖
これは、オウムに数独を解くように頼むようなものです。数字を繰り返すことはできても、ルールを理解しているわけではありません。AIは教科書通りの証明を生成しますが、最初の論理的誤りが発生すると、その脆弱な構造は崩壊します。数学者たちが厳密性を気にしている一方で、機械は説得力があるように見えることだけを気にしています。少なくとも、オウムは査読付きジャーナルに投稿しようとはしません。