Más de 130 matemáticos de todo el mundo han firmado la Declaración de Leiden, un documento que advierte sobre el impacto de la inteligencia artificial en la disciplina. Según los firmantes, el uso de herramientas de IA para generar demostraciones amenaza la autonomía del razonamiento humano y la verificabilidad de los resultados, abriendo la puerta a errores difíciles de detectar.
El dilema de la verificación en pruebas generadas por máquinas 🧠
El problema central radica en la naturaleza de las pruebas matemáticas generadas por IA. A diferencia de un cálculo numérico, una demostración formal requiere una estructura lógica verificable paso a paso. Los modelos actuales, como los grandes modelos de lenguaje, pueden producir cadenas de razonamiento que parecen coherentes pero esconden saltos lógicos o suposiciones falsas. Sin una revisión humana exhaustiva, estas fallas se propagan, contaminando investigaciones futuras y erosionando la confianza en los resultados.
La IA resuelve ecuaciones, pero no sabe si son ciertas 🤖
Es como pedirle a un loro que resuelva un sudoku: puede repetir los números, pero no entiende las reglas. La IA genera pruebas que parecen de libro, pero al primer error de lógica, el castillo de naipes se derrumba. Mientras los matemáticos se preocupan por el rigor, la máquina solo se preocupa por parecer convincente. Al menos, el loro no intenta publicar en revistas indexadas.