На данный момент ускорители ИИ оснащаются памятью HBM3. Мы подразумеваем, в первую очередь, NVIDIA H100, но также это касается AMD Radeon Instinct MI300A и MI300X. Память производят Samsung и Sk Hynix, причем обе компании южнокорейские. Как указывает источник BusinessKorea, Sk hynix подтвердила на встрече инвесторов свои намерения расширить сегмент HBM в ближайшие годы.
Память HBM занимает всего 1% от рынка по объему производства, но целых 10% по продажам. Бум искусственного интеллекта привел к тому, что ускорители разлетаются, как горячие пирожки. Поэтому и на HBM спрос значительно вырос. Сегодня дорогая HBM3 поставляется в емкостях чипов 16 Гбайт и пропускной способностью от 5,6 или 6,0 Гбит/с на контакт. Но планируется достичь пропускной способности 819 Гбайт/с на чип и емкости до 64 Гбайт. Пока неизвестно, будет ли подобная память поставляться под нынешним названием или получит суффикс E в конце (HBM3E). В любом случае, Sk Hynix указывает, что массовое производство HBM3E начнется в первой половине 2024 года.
Следующее поколение HBM4 ожидается уже в 2026 году. Для памяти по-прежнему планируется использовать технологию "hybrid bonding", которая описывает способ соединения нескольких слоев памяти друг над другом. Но Sk hynix заявляет об оптимизации технологии, что позволило добиться более высокой пропускной способности, а также большего числа слоев. Скорее всего, минимальная емкость HBM4 будет 32 Гбайт. Вице-президент Sk hynix Пак Мён Су упомянул увеличение числа слоев с 12 до 16.
HBM останется памятью для дата-центров. Все же цена этой памяти в пять-шесть раз превышает обычную DRAM. Кроме того, корпусировка тоже очень дорогая, поскольку HBM подключается к GPU или ускорителю по 1.024 линиям на каждый кристалл.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).