HBM内存制造商计划进行概念变革：将内存芯片与GPU物理分离，放置在一块独立的基板上。为了不损失速度，他们将采用光学接口。目标是将每颗GPU的可用容量提升数倍，突破堆叠16-20层或围绕芯片布置内存的限制，后者会推高设计成本。
光学接口突破物理瓶颈 🚀
目前，HBM内存垂直堆叠并放置在GPU旁边，这限制了总容量并使封装复杂化。新方案将两者解耦：内存将移至独立基板，通过高速光学链路连接。这样可以在不增加硅面积或热量的情况下添加更多模块，并便于为AI和高性能计算工作负载扩展容量。
内存搬至另一基板：告别拥挤 😅
于是，HBM内存厌倦了像藤壶一样紧贴GPU的生活，决定搬进自己的独立空间。借助光纤，GPU不再需要忍受吵闹的邻居。工程师们兴奋地计算着，他们可以堆叠模块直到预算喊停。当然，布线过程预计会像用光纤装饰圣诞树一样有趣。