Mais de 130 matemáticos de todo o mundo assinaram a Declaração de Leiden, um documento que alerta sobre o impacto da inteligência artificial na disciplina. Segundo os signatários, o uso de ferramentas de IA para gerar demonstrações ameaça a autonomia do raciocínio humano e a verificabilidade dos resultados, abrindo portas para erros difíceis de detectar.
O dilema da verificação em provas geradas por máquinas 🧠
O problema central reside na natureza das provas matemáticas geradas por IA. Diferente de um cálculo numérico, uma demonstração formal requer uma estrutura lógica verificável passo a passo. Os modelos atuais, como os grandes modelos de linguagem, podem produzir cadeias de raciocínio que parecem coerentes, mas escondem saltos lógicos ou suposições falsas. Sem uma revisão humana exaustiva, essas falhas se propagam, contaminando pesquisas futuras e corroendo a confiança nos resultados.
A IA resolve equações, mas não sabe se são verdadeiras 🤖
É como pedir a um papagaio que resolva um sudoku: ele pode repetir os números, mas não entende as regras. A IA gera provas que parecem de livro, mas ao primeiro erro de lógica, o castelo de cartas desaba. Enquanto os matemáticos se preocupam com o rigor, a máquina só se preocupa em parecer convincente. Pelo menos, o papagaio não tenta publicar em revistas indexadas.