Память High Bandwidth Memory важна в случаях, когда интерфейс памяти приоритетен. Пропускная способность по 1.024-битному интерфейсу на чип HBM достигает 1 Тбайт/с, в то время как у GDDR6 с 384-битным интерфейсом мы получаем до 672 Гбайт/с у нынешних видеокарт для рабочих станций.
Второе поколение HBM достигло емкости 8 Гбайт на чип HBM. Используются девять слоев: подложка ввода/вывода и восемь слоев памяти (каждый на 1 Гбайт). Максимальная конфигурация на данный момент составляет четыре чипа с 1.024 битами каждый, что позволяет установить до 32 Гбайт памяти. Однако 32 Гбайт - слишком маленький уровень емкости для некоторых сценариев, поэтому JEDEC уже некоторое время работает над новыми стандартами HBM. И теперь как раз опубликован стандарт JESD235B.
JESD235B предусматривает конструкцию из 12 слоев памяти, то есть вместе с подложкой ввода/вывода мы получим 13 слоев. Емкость одного слоя увеличена до 2 Гбайт. В результате на чип HBM можно получать емкость до 24 Гбайт. Как раз об этом и говорится в пресс-релизе JEDEC. Обычно к одному GPU подключается два или четыре стека HBM. Если мы получим емкость чипа HBM до 24 Гбайт, то у решений емкость уже не будет ограничиваться 32 Гбайт, можно будет устанавливать до 96 Гбайт памяти.
Для одного чипа HBM указана пропускная способность 307,2 Гбайт/с. С четырьмя чипами можно получить до 1,2 Тбайт/с в сумме. Весьма высокий уровень для чипа памяти HBM, что даже выше стандартного уровня 256 Гбайт/с на чип у HBM2. Теперь он будет возможен для памяти с 12 слоями и емкостью 2 Тбайт на слой.
Для достижения высокой пропускной способности у памяти HBM2 был оптимизирован дизайн TSV (Through Silicon Via's). Соединения TSV используются для связи отдельных слоев памяти и подложки ввода/вывода. Каждый слой соединяется со слоем выше и ниже, используя более 5.000 TSV. В результате производство памяти HBM становится весьма сложным, особенно если чип содержит большое число слоев. Для распределения тепла между слоями используются специальные металлические контакты.
JEDEC пока не опубликовала информацию о производстве и доступности столь емкой памяти HBM. Ни один из производителей HBM пока не объявил о памяти, использующей больше восьми слоев на чип.