Память с высокой пропускной способностью High Bandwidth Memory стала спасением для производителей GPU, поскольку она решает несколько проблем с подключением и производительностью видеопамяти, становившихся в последние годы всё острее. Более высокая пропускная способность памяти, большая ёмкость, меньшее энергопотребление и меньшее занимаемое пространство – всё это основные преимущества HBM. Мы уже посвятили новой памяти HBM несколько статей, и сейчас хотели бы их дополнить информацией AMD, которая поделилась некоторыми любопытными деталями.
Новой памяти HBM мы посвятили несколько материалов. Прошлым летом SK Hynix впервые официально начала говорить о HBM, а в ноябре началось массовое производство новой памяти. На GPU Technology Conference NVIDIA уделила особое внимание SK Hynix и представила больше технических подробностей. Так что за прошлый год технические подробности HBM постепенно прояснились благодаря информации от AMD, NVIDIA и SK Hynix. Недавно мы собрали всю имеющуюся информацию о HBM и опубликовали статью, в которой пояснили, почему HBM важна не только из-за увеличения пропускной способности памяти. Теперь настала очередь AMD официально рассказать об HBM и назвать причины неминуемой модернизации технологий графической памяти.
Уже давно было понятно, что память GDDR5 подходит к своему технологическому пределу, что заставило производителей памяти искать новые решения. Samsung и SK Hynix предлагают сегодня память GDDR5 с максимальной тактовой частотой 2.000 МГц. Ёмкость составляет 4, 6 и 8 Гбит на чип, то есть 512, 768 и 1.024 Мбайт. Но из-за более высокой тактовой частоты к памяти приходится прикладывать напряжение 1,5 В вместо 1,35 В, да и по технологиям производства производители подходят к пределу. Некоторые параметры памяти GDDR5 изменить не получается, и довольно скоро мы придём к ситуации, когда память перестанет быть эффективной. Баланс энергопотребления GPU и памяти будет нарушен, и видеопамять превратится в "узкое место".
Об ограниченной пропускной способности памяти сегодня не говорят ни AMD с GPU "Hawaii", ни NVIDIA с архитектурой "Maxwell" GM200. Но оба производителя нашли разные способы обхода потенциальных ограничений. AMD выбрала для чипов "Hawaii" довольно сложный интерфейс памяти, ширина которого составила 512 бит – больше, чем у других GPU. NVIDIA смогла даже уменьшить ширину с 384 до 256 бит, но реализовала технологию сжатия памяти для компенсации этого шага.
AMD: High Bandwidth Memory (HBM)
Переход с GDDR5 на HBM связан не только с пропускной способностью памяти. AMD позволяет наглядно сравнить занимаемое пространство. Чтобы получить максимально возможную пропускную способность памяти, одновременно следует адресовать как можно больше чипов. Для большого числа чипов требуется не только пространство, но и достаточное питание. Чтобы обеспечить равное время передачи сигнала до чипов памяти, производители располагают их вокруг GPU – такая раскладка не идеальна по многим критериям.
Позвольте привести фактические данные. 1-Гбайт чип памяти GDDR5 имеет размер 24 x 28 мм, то есть занимает площадь 672 мм². Благодаря стекированию четырех уровней 1 Гбайт памяти HBM занимает всего 5 x 7 мм, то есть 35 мм². То есть экономия пространства составляет 94%!
Ещё более интересные пропорции получаются при установке на современные high-end видеокарты 4, 8 или даже 12 Гбайт памяти. У видеокарты Radeon R9 290X GPU и 4 Гбайт памяти GDDR5 занимают на печатной плате площадь 9.900 мм². Тот же самый GPU вместе с памятью HBM будет занимать меньше 4.900 мм². В примере выше не учитывается подложка, но мы всё равно получаем экономию пространства порядка 50%.
AMD: High Bandwidth Memory (HBM)
Если верить AMD, DRAM или GDDR не подходит для интеграции в логические схемы – пусть даже другие производители считают по-другому. Например, Intel добавляет DRAM в одну упаковку с CPU или SoC. Например, отметим eDRAM в GPU "Crystalwell", также известном как Iris Pro Graphics. На схожий шаг производитель пошел в APU Xbox 360 и Nintendo Wii U.
Из ограничений, препятствующих дальнейшей разработке памяти GDDR5, можно назвать напряжение, которое необходимо всё сильнее повышать для более высоких тактовых частот, что приводит к увеличению энергопотребления. GDDR5 пока остаётся в разумных границах, но память вплотную подошла к этим границам.
Для интеграции HBM необходимо решить ряд технических задач. Среди них – использование подложки (Interposer), которая отвечает за передачу сигналов между CPU/GPU и памятью HBM. Interposer является электрическим интерфейсом для разных чипов, подложка также обеспечивает интерфейс для печатной платы. Подложку используют многие чипы с контактами Ball Grid Array (BGA). Из ранних примеров можно привести тот же Pentium II от Intel.
Близкое расположение HBM к GPU на положке Interposer позволяет достичь широкого интерфейса памяти. Дело в том, что дорожки в данном случае прокладываются не на печатной плате, а на самой подложке Interposer. С задержками ситуация тоже улучшается, поскольку их не требуется тонко оптимизировать под удаленное расположение памяти. Здесь HBM обеспечивает дополнительную гибкость, о чём мы уже говорили в предыдущей статье.
Но AMD пришлось прибегнуть к помощи новых партнёров и производителей, чтобы установить GPU вместе с HBM на подложку. Здесь можно отметить ASE, Amkor и UMC.
AMD на слайде показывает, как выглядит структура подложки Interposer с памятью HBM и GPU. На данном примере HBM состоит из четырёх слоев памяти, которые соединяются связями TSV (Through Silicon Vias). Для прямого соединения используются μBumps, также позволяющие отводить тепло от соседних слоев. Некоторые подробности мы опубликовали несколько дней назад.
Физический интерфейс между памятью и GPU располагается сразу под памятью. Соединение со стеками памяти тоже реализовано через TSV. Контакты проходят через подложку Interposer, после чего уходят на нижнюю подложку (Package Substrate), на которой располагается вся структура. Нижняя подложка через BGA контактирует с печатной платой. Через данные контакты обеспечивается и подача питания на HBM и GPU.
Опять же, стоит провести сравнение технических спецификаций DRAM и HBM: если GDDR5 на чип предлагает 32-битный интерфейс, то в случае HBM мы получаем уже 1.024 бита. При тактовой частоте всего 500 МГц (1.000 МГц эффективная) HBM в видеокартах AMD обеспечивает пропускную способность более 100 Гбайт/с на стек. Четыре стека дают 512 Гбайт/с для чипа HBM. GDDR5 на 1.750 МГц даёт 28 Гбайт/с на чип. Напряжение GDDR5 составляет 1,5 В, для памяти HBM требуется всего 1,3 В.
Здесь также всплывает интересная деталь о первой реализации HBM от AMD, которая раньше находилась в тени. Судя по имеющейся информации, первые видеокарты AMD с памятью HBM будут оснащаться 4 или 8 Гбайт видеопамяти. Но, по всей видимости, первое время мы получим только 4 Гбайт. Причина кроется в том, что AMD планирует установить четыре чипа HBM в первых версиях видеокарт. Четыре стека на чип HBM тоже подтверждены AMD, что приводит к максимальному объёму 4 Гбайт видеопамяти в первых версиях.
Но AMD указывает на то, что ёмкость памяти – лишь одно из нынешних ограничений. Необходимо научиться лучше использовать данную память, разработать новые механизмы. Возможно, AMD подразумевает технологию сжатия памяти. У GDDR5 потенциал ёмкости был не всегда задействован, и в случае HBM мы получаем то же самое – так что на первое время 4 Гбайт памяти должно быть более чем достаточно. Таки ли это будет на самом деле – мы увидим в первых тестах видеокарт с HBM.
Ниже приведена цитата AMD CTO Джо Макри (Joe Macri):
"На самом деле в мире памяти HBM нет ограничения по числу стеков, но с точки зрения ёмкости в первом поколении HBM используются стеки DRAM на два гигабита, так что в случае использования четырёх стеков мы ограничены четырьмя гигабайтами. Можно использовать больше или меньше стеков. Но ёмкость кадрового буфера здесь только один из критериев. Есть и другие способы, позволяющие лучше использовать данную ёмкость. Так что хотя в случае четырёх стеков мы ограничены четырьмя гигабайтами, но с точки зрения AMD данный объём не ограничивает производительность.
Если присмотреться к кадровым буферам, к эффективности их использования и к эффективности использования ёмкости на разных разрешениях, то здесь мы видим значительный потенциал для улучшений. Мы не считаем, что 4 Гбайт памяти станут "узким местом" по производительности. Нам просто нужно поработать над более эффективным использованием ёмкости. Мы даже получали ёмкость с запасом, поскольку у памяти GDDR5 для увеличения пропускной способности приходилось расширять шину памяти, что приводило к увеличению ёмкости. Будучи инженерами, мы всегда фокусируемся на "узких местах". Если у нас есть большая ёмкость памяти, то часто мы не прилагали достаточных усилий для оптимального использования данной ёмкости. 4 Гбайт будет более чем достаточно. Нам предстоит вложить некоторые ресурсы, чтобы лучше использовать кадровый буфер, но пока что мы не видим каких-либо проблем с его ёмкостью. Вы будете удивлены тому, насколько большая его часть расходуется впустую."
AMD: High Bandwidth Memory (HBM)
Промежуточное заключение по HBM
HBM обеспечивает более высокий уровень пропускной способности, но не только. Конечно, HBM даёт значительный потенциал увеличения пропускной способности памяти, и на дальнейших стадиях развития HBM мы получим ещё более высокую пропускную способность. Но HBM предлагает и другие преимущества. Среди них – меньшее занимаемое пространство, меньший уровень энергопотребления. Всё это снижает себестоимость решений, а разработчики AMD и NVIDIA смогут лучше задействовать потенциал новой памяти. Конечно, снижение энергопотребления и увеличение производительности приводит к повышению эффективности или соотношения производительности на ватт. AMD измерят эффективность в Гбайт/с на ватт, данный показатель у HBM в три раза выше, чем у GDDR5.
Впрочем, мы пока что обсуждаем теоретические преимущества, а эффект от них на практике оценить сложно. Мы с нетерпением ждём, когда нам удастся протестировать первые видеокарты с памятью HBM. AMD обещает скорый выход, видеокарты должны появиться в июне. AMD заранее раскрыла преимущества и особенности памяти HBM. Осталось дождаться аппаратных реализаций!