В течение двух дней компании Micron и Samsung независимо друг от друга объявили о скором появлении памяти HBM3E, которая обеспечит как большую емкость, так и более высокую пропускную способность. Обе компании заявляют, что являются пионерами в области технологии HBM3E, но на самом деле оба производителя более или менее равны в таких важных аспектах, как емкость и пропускная способность.
Сейчас производители укладывают 12 слоев памяти DRAM, в результате чего емкость одного чипа достигает 36 ГБ. В случае GPU H100 с шестью чипами HBM емкость может быть увеличена до 216 ГБ. Micron заявляет, что ее собственная память будет использоваться в GPU H200 от NVIDIA - правда, пока в версии на 24 ГБ. Ускоритель H200 представляет собой обновленную версию GPU H100, оснащенную более быстрой HBM3E. Напомним, что ускорители H200 и GH200 были анонсированы с объемом памяти 141 ГБ.
| GH200 | GH200 (2024) | H100 SXM | H200 SXM | |
| Производительность FP64 (GPU) | 34 TFLOPS | 34 TFLOPS | 34 TFLOPS | 34 TFLOPS |
| Производительность FP32 (GPU) | 67 TFLOPS | 67 TFLOPS | 67 TFLOPS | 67 TFLOPS |
| Производительность FP8 (GPU) | 3,958 TFLOPS | 3,958 TFLOPS | 3,958 TFLOPS | 3,958 TFLOPS |
| Производительность INT8 (GPU) | 3,958 TOPS | 3,958 TOPS | 3,958 TOPS | 3,958 TOPS |
| Память CPU | 480 GB (LPDDR5X) | 480 GB (LPDDR5X) | - | - |
| Память GPU | 96 GB (HBM3) | 141 GB (HBM3E) | 80 GB (HBM2E) | 141 GB (HBM3E) |
| Пропускная способность памяти (GPU) | 4 Тбайт/с | 4,9 Тбайт/с | 3,35 Тбайт/с | 4,8 Тбайт/с |
| TDP | от 450 до 1.000 Вт | от 450 до 1.000 Вт | до 700 Вт | до 700 Вт |
Если по максимальной емкости чипов памяти Micron и Samsung находятся на одном уровне – 36 ГБ, то по пропускной способности Samsung имеет небольшое преимущество. Здесь она составляет 1.280 ГБ/с, в то время как чипы от Micron могут предложить 1.178 ГБ/с. Однако на практике это вряд ли сыграет какую-то роль.
Sk hynix также планирует предложить более быструю и емкую HBM3E, но здесь сразу планируется до 48 ГБ на чип. Пропускная способность памяти идентична – 1.280 ГБ/с.
Оба производителя приступят к выпуску образцов немедленно. Micron в основном работает с NVIDIA; кому Samsung отправляет свои чипы, неизвестно. Samsung планирует начать массовое производство в конце первой половины года. Одной из возможных областей применения HBM3E с 36 ГБ являются ускорители B100 и GB200 от NVIDIA, которые могут быть представлены этой весной. Их появление в продаже можно ожидать во второй половине года.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).