Khronos ha rilasciato Vulkan 1.4.352, un aggiornamento minore che porta come grande novità l'estensione VK_NV_cooperative_matrix_decode_vector. Questa estensione, firmata da NVIDIA, permette di decodificare più elementi di matrice per invocazione, ampliando le capacità di VK_NV_cooperative_matrix2. Sono incluse inoltre correzioni e chiarimenti per l'API.
Decodifica vettoriale per matrici cooperative 🚀
L'estensione VK_NV_cooperative_matrix_decode_vector ottimizza il lavoro con le matrici negli shader. Mentre l'estensione precedente permetteva di decodificare un singolo elemento per invocazione, questa nuova versione elabora vettori completi, riducendo il numero di chiamate necessarie. Ciò avvantaggia carichi di lavoro come l'inferenza di reti neurali o la compressione dei dati, dove l'accesso a blocchi di dati è frequente. L'implementazione è specifica per hardware NVIDIA e richiede il supporto di driver recenti.
NVIDIA e la sua ossessione per decodificare fino all'ultimo byte 🔥
NVIDIA non si ferma: se prima decodificavi un elemento alla volta, ora puoi farlo a raffiche. Presto vedremo un'estensione per decodificare l'intera matrice in un colpo solo, e poi un'altra per far sì che la GPU ti prepari il caffè mentre aspetti. Nel frattempo, gli sviluppatori di AMD e Intel guardano di sottecchi, chiedendosi se questa sia magia o semplicemente un altro modo per vendere più schede grafiche.