Nel campo del calcolo ad alte prestazioni, esiste una chiara divergenza tra le esigenze dell'IA e quelle della scienza tradizionale. I formati a bassa precisione come FP8, utili per addestrare reti neurali, introducono errori inaccettabili in simulazioni fisiche o climatiche. Per colmare questa lacuna, il ricercatore Laslo Hunhold sta sviluppando un formato specifico che dà priorità all'esattezza numerica senza trascurare le prestazioni e l'efficienza energetica richieste da questi calcoli.
Lo sviluppo di uno standard per il calcolo scientifico esatto ⚙️
Il lavoro di Hunhold si concentra sulla creazione di un formato a virgola mobile che ottimizzi l'uso dei bit per l'intervallo e la precisione richiesti dai modelli scientifici. A differenza dei formati per IA, che sacrificano la precisione dinamica per la velocità, questa proposta mira a garantire la stabilità numerica in iterazioni lunghe. L'obiettivo è un design che si integri in hardware specializzato, riducendo il consumo energetico dei supercomputer senza compromettere l'affidabilità dei risultati in ricerche critiche.
Quando la tua simulazione climatica preferisce non 'allucinare' risultati 😅
È comprensibile. Mentre un'IA può generare l'immagine di un gatto con sei zampe e nessuno se ne sorprende, un modello di fusione nucleare che inventasse un nuovo stato della materia potrebbe causare un certo subbuglio in laboratorio. A quanto pare, in scienza preferiscono che i loro calcoli non siano creativi, ma ostinatamente esatti. Quindi, per ora, lasciamo l'FP8 ai sogni delle reti neurali e usiamo bit veri per i problemi veri.