Più di 130 matematici di tutto il mondo hanno firmato la Dichiarazione di Leida, un documento che mette in guardia sull'impatto dell'intelligenza artificiale nella disciplina. Secondo i firmatari, l'uso di strumenti di IA per generare dimostrazioni minaccia l'autonomia del ragionamento umano e la verificabilità dei risultati, aprendo la porta a errori difficili da individuare.
Il dilemma della verifica nelle dimostrazioni generate dalle macchine 🧠
Il problema centrale risiede nella natura delle dimostrazioni matematiche generate dall'IA. A differenza di un calcolo numerico, una dimostrazione formale richiede una struttura logica verificabile passo dopo passo. I modelli attuali, come i grandi modelli linguistici, possono produrre catene di ragionamento che sembrano coerenti ma nascondono salti logici o presupposti falsi. Senza una revisione umana approfondita, questi difetti si propagano, contaminando ricerche future ed erodendo la fiducia nei risultati.
L'IA risolve equazioni, ma non sa se sono vere 🤖
È come chiedere a un pappagallo di risolvere un sudoku: può ripetere i numeri, ma non capisce le regole. L'IA genera dimostrazioni che sembrano da manuale, ma al primo errore di logica, il castello di carte crolla. Mentre i matematici si preoccupano del rigore, la macchina si preoccupa solo di sembrare convincente. Almeno, il pappagallo non cerca di pubblicare su riviste indicizzate.