I produttori di memoria HBM pianificano un cambio di concept: separare fisicamente i chip di memoria dalla GPU, posizionandoli su una scheda indipendente. Per non perdere velocità, utilizzeranno interfacce ottiche. L'obiettivo è moltiplicare la capacità disponibile per GPU, superando il limite di impilare 16-20 strati o circondare il chip di memoria, che aumenta i costi di progettazione.
Interfacce ottiche per rompere il collo di bottiglia fisico 🚀
Attualmente, la memoria HBM viene impilata verticalmente e posizionata accanto alla GPU, il che limita la capacità totale e complica il packaging. La nuova proposta disaccoppia entrambi i componenti: la memoria andrebbe su una scheda separata, collegata tramite collegamenti ottici ad alta velocità. Ciò consente di aggiungere più moduli senza aumentare l'area del silicio né il calore, e facilita il ridimensionamento della capacità per carichi di lavoro di IA e HPC.
La memoria si trasferisce su un'altra scheda: addio al sovraffollamento 😅
Quindi la memoria HBM, stufa di vivere attaccata alla GPU come un cirripede, ha deciso di trasferirsi in un appartamento tutto suo. Con la fibra ottica in mezzo, la GPU non dovrà più sopportare i suoi vicini rumorosi. Gli ingegneri, emozionati, calcolano che potranno impilare moduli finché il budget non griderà basta. Certo, il cablaggio promette di essere divertente quanto addobbare un albero di Natale con la fibra ottica.