HBM 메모리 제조사들이 개념 변화를 계획하고 있습니다: 메모리 칩을 GPU에서 물리적으로 분리하여 별도의 기판에 배치하는 것입니다. 속도 저하를 막기 위해 광학 인터페이스를 사용할 예정입니다. 목표는 GPU당 사용 가능한 용량을 배가하여 16-20개 층을 쌓거나 메모리 칩을 둘러싸는 한계를 극복하는 것으로, 이는 설계 비용을 증가시킵니다.
물리적 병목 현상을 깨는 광학 인터페이스 🚀
현재 HBM 메모리는 수직으로 적층되어 GPU 옆에 배치되므로 총 용량이 제한되고 패키징이 복잡해집니다. 새로운 제안은 두 구성 요소를 분리합니다: 메모리는 별도의 기판으로 이동하여 고속 광학 링크를 통해 연결됩니다. 이를 통해 실리콘 면적이나 열을 증가시키지 않고 더 많은 모듈을 추가할 수 있으며, AI 및 HPC 워크로드에 맞춰 용량을 확장하기 쉬워집니다.
메모리가 다른 기판으로 이사합니다: 과밀 상태와의 작별 😅
그래서 HBM 메모리는 GPU에 달라붙어 사는 것에 지쳐, 이제 독립된 공간으로 이사하기로 결정했습니다. 광섬유를 매개로 GPU는 더 이상 시끄러운 이웃을 견딜 필요가 없습니다. 엔지니어들은 예산이 한계를 외칠 때까지 모듈을 쌓을 수 있을 것이라며 흥분하고 있습니다. 물론, 케이블 작업은 광섬유로 크리스마스 트리를 장식하는 것만큼 재미있을 것이라고 약속합니다.