Производители памяти HBM планируют смену концепции: физически отделить чипы памяти от GPU, разместив их на отдельной плате. Чтобы не потерять в скорости, они будут использовать оптические интерфейсы. Цель — многократно увеличить доступную емкость на один GPU, преодолев ограничение в 16-20 слоев при штабелировании или размещении вокруг чипа памяти, что удорожает конструкцию.
Оптические интерфейсы для преодоления физического узкого места 🚀
В настоящее время память HBM штабелируется вертикально и располагается рядом с GPU, что ограничивает общую емкость и усложняет упаковку. Новое предложение разъединяет оба компонента: память будет размещена на отдельной плате, соединенной высокоскоростными оптическими линиями связи. Это позволяет добавлять больше модулей без увеличения площади кремния или тепловыделения, а также упрощает масштабирование емкости для рабочих нагрузок ИИ и HPC.
Память переезжает на другую плату: прощай, теснота 😅
Итак, память HBM, уставшая жить, приклеенная к GPU, как ракушка, решила переехать в собственную квартиру. С помощью оптоволокна GPU больше не придется терпеть шумных соседей. Инженеры в восторге подсчитывают, что смогут штабелировать модули до тех пор, пока бюджет не закричит «хватит». Правда, прокладка кабелей обещает быть такой же веселой, как сборка оптоволоконной новогодней елки.