La nuova versione di Vulkan, la 1.4.356, integra un'estensione che adotta formati di dati dell'Open Compute Project, come MXFP4 e MXFP8. Questi formati riducono l'uso della memoria e migliorano la velocità nelle attività di machine learning. Per l'utente, ciò consente ai dispositivi con grafica Vulkan di eseguire applicazioni di IA con meno risorse e maggiore rapidità, democratizzando l'accesso a questa tecnologia su hardware comune.
Formati MXFP: meno bit, più prestazioni sulla GPU 🚀
I formati MXFP4 e MXFP8, sviluppati dall'Open Compute Project, ottimizzano l'archiviazione dei dati numerici nelle reti neurali. Utilizzando 4 o 8 bit invece dei tipici 32 bit, riducono la larghezza di banda e la memoria necessaria. Vulkan 1.4.356 espone questa capacità direttamente agli sviluppatori, consentendo agli algoritmi di IA di funzionare in modo più efficiente su GPU consumer, senza richiedere hardware specializzato. Questo è fondamentale per le applicazioni locali di intelligenza artificiale.
La tua GPU da gioco ora pensa anche, ma non aspettarti miracoli 😅
Quindi sì, la tua scheda grafica, quella che usi per giocare a Fortnite, ora potrà fare calcoli di IA con meno memoria. Ma non entusiasmarti: non eseguirai ChatGPT su una RTX 3060 dall'oggi al domani. Quello che noterai è che le applicazioni di IA locali, come editor di foto o assistenti, funzioneranno meglio. Certo, la tua GPU continuerà a lamentarsi quando le chiederai di renderizzare e fare machine learning allo stesso tempo. Ironie del progresso.