전 세계 130명 이상의 수학자들이 라이덴 선언(Declaración de Leiden)에 서명했습니다. 이 문서는 인공지능이 수학 분야에 미치는 영향에 대해 경고합니다. 서명자들에 따르면, 증명을 생성하기 위해 AI 도구를 사용하는 것은 인간 추론의 자율성과 결과의 검증 가능성을 위협하며, 감지하기 어려운 오류의 가능성을 열어줍니다.
기계가 생성한 증명의 검증 딜레마 🧠
핵심 문제는 AI가 생성한 수학적 증명의 본질에 있습니다. 수치 계산과 달리, 형식적 증명은 단계별로 검증 가능한 논리적 구조를 필요로 합니다. 대규모 언어 모델과 같은 현재의 모델은 일관성 있어 보이지만 논리적 비약이나 거짓 가정을 숨긴 추론 체인을 생성할 수 있습니다. 철저한 인간의 검토 없이는 이러한 결함이 확산되어 미래 연구를 오염시키고 결과에 대한 신뢰를 약화시킵니다.
AI는 방정식을 풀지만, 그것이 참인지는 모릅니다 🤖
앵무새에게 스도쿠를 풀라고 요청하는 것과 같습니다. 숫자를 반복할 수는 있지만 규칙을 이해하지는 못합니다. AI는 교과서에 나올 법한 증명을 생성하지만, 첫 번째 논리적 오류에서 카드로 쌓은 성은 무너집니다. 수학자들이 엄밀함에 대해 걱정하는 동안, 기계는 단지 설득력 있어 보이는 것에만 신경 씁니다. 적어도 앵무새는 등재 저널에 논문을 게재하려고 하지는 않습니다.