A nova versão do Vulkan, a 1.4.356, integra uma extensão que adota formatos de dados do Open Compute Project, como MXFP4 e MXFP8. Esses formatos reduzem o uso de memória e melhoram a velocidade em tarefas de machine learning. Para o usuário, isso permite que dispositivos com gráficos Vulkan executem aplicações de IA com menos recursos e maior rapidez, democratizando o acesso a essa tecnologia em hardware comum.
Formatos MXFP: menos bits, mais desempenho na GPU 🚀
Os formatos MXFP4 e MXFP8, desenvolvidos pelo Open Compute Project, otimizam o armazenamento de dados numéricos em redes neurais. Ao usar 4 ou 8 bits em vez dos 32 bits típicos, reduzem a largura de banda e a memória necessária. O Vulkan 1.4.356 expõe essa capacidade diretamente aos desenvolvedores, permitindo que algoritmos de IA rodem de forma mais eficiente em GPUs de consumo, sem exigir hardware especializado. Isso é fundamental para aplicações locais de inteligência artificial.
Sua GPU de jogos agora também pensa, mas não espere milagres 😅
Então sim, sua placa de vídeo, aquela que você usa para jogar Fortnite, agora poderá fazer cálculos de IA com menos memória. Mas não se anime: você não vai executar ChatGPT em uma RTX 3060 da noite para o dia. O que você notará é que as aplicações de IA locais, como editores de fotos ou assistentes, ficarão mais suaves. Isso sim, sua GPU continuará reclamando quando você pedir para renderizar e fazer machine learning ao mesmo tempo. Ironias do progresso.