Как и в случае с DDR5, где стоимость и энергопотребление становятся все более важными факторами для серверных платформ, требования к памяти High Bandwidth Memory (HBM) тоже продолжают расти. SK Hynix представила технологию iHBM, которая может дебютировать уже вместе с HBM5. Название iHBM связано с использованием Integrated Cooling Elements (ICE) — встроенных элементов охлаждения, интегрированных непосредственно в корпусирование HBM.
Для современных ИИ-ускорителей TDP уже давно измеряется четырехзначными значениями. В этом году и AMD, и NVIDIA готовят решения с энергопотреблением до 2.000 Вт. Один стек HBM3 потребляет примерно 10–15 Вт, HBM3E — уже 12–20 Вт, а HBM4, по предварительным оценкам, выйдет на уровень 15–25 Вт на стек. Например, восемь стеков HBM3E могут потреблять до 160 Вт только для подсистемы памяти. С переходом на HBM4 и дальнейшим ростом емкости требования к охлаждению становятся еще жестче.
В iHBM компания SK Hynix использует специальный тепловой интерфейс для отвода тепла из внутренних слоев HBM. Интерфейс располагается над Die-to-Die-соединением в базовом кристалле (Base Die), где, вероятно, концентрируется значительная часть тепловыделения. По данным компании, тепловое сопротивление удалось снизить примерно на 30 % по сравнению с существующими решениями.
Для производства HBM4 и будущей HBM5 с iHBM компания применяет технологию корпусирования на уровне пластины Mass Reflow-Molded Underfill (MR-MUF), которая сочетает сразу два подхода.
Во время этапа Mass Reflow (MR) микробамп-соединения между DRAM-кристаллами одновременно нагреваются и припаиваются друг к другу. Так формируются вертикальные TSV-соединения внутри стеков HBM.
На этапе Molded Underfill (MUF) промежутки между кристаллами заполняют эпоксидным компаундом EMC (Epoxy Molding Compound). Он повышает механическую прочность стека и одновременно улучшает теплоотвод.
Появление HBM4 ожидается уже в этом году — память должны получить ускорители AMD Instinct MI400 и платформа NVIDIA Vera Rubin. Интересно и другое изменение: базовый кристалл HBM теперь в основном выпускает не производитель памяти, а TSMC. В случае с Custom HBM в Base Die также переносится контроллер памяти.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).