Les fabricants de mémoire HBM prévoient un changement de concept : séparer physiquement les puces mémoire du GPU, en les plaçant sur une carte indépendante. Pour ne pas perdre en vitesse, ils utiliseront des interfaces optiques. L'objectif est de multiplier la capacité disponible par GPU, en dépassant la limite d'empiler 16 à 20 couches ou d'entourer la puce mémoire, ce qui renchérit la conception.
Interfaces optiques pour briser le goulot d'étranglement physique 🚀
Actuellement, la mémoire HBM est empilée verticalement et placée à côté du GPU, ce qui limite la capacité totale et complique l'encapsulation. La nouvelle proposition désolidarise les deux composants : la mémoire irait sur une carte séparée, connectée via des liaisons optiques à haute vitesse. Cela permet d'ajouter plus de modules sans augmenter la surface du silicium ni la chaleur, et facilite la mise à l'échelle de la capacité pour les charges de travail d'IA et de HPC.
La mémoire déménage sur une autre carte : adieu l'entassement 😅
Ainsi, la mémoire HBM, lasse de vivre collée au GPU comme une bernacle, a décidé de déménager dans son propre appartement. Avec de la fibre optique entre les deux, le GPU n'aura plus à supporter ses voisins bruyants. Les ingénieurs, ravis, calculent qu'ils pourront empiler des modules jusqu'à ce que le budget crie assez. Certes, le câblage promet d'être aussi amusant que de monter un sapin de Noël avec de la fibre optique.