Мы уже неоднократно поднимали вопрос добавления вычислений в память (processing-in-memory, PIM), что можно назвать еще одним этапом эволюции. В традиционных вычислительных системах «узким местом» является связь между вычислительными блоками и памятью. Особенно для сегмента ИИ очень важны низкие задержки и высокая пропускная способность. Поэтому разработчикам приходится делать широкие и быстрые интерфейсы памяти.
На конференции VLSI Symposium SK hynix рассказала о современных разработках в данной сфере. Все большие объемы памяти приходится устанавливать все ближе к вычислительным блокам на максимально высокой пропускной способности. Именно по этой причине GPU в дата-центрах оснащаются памятью HBM2E или даже HBM3. Intel представит новое поколение Xeon под названием Sapphire Rapids с памятью HBM2E в корпусировке с ядрами CPU. Все эти шаги преследуют одну цель.
SK hynix в прошлом году анонсировала разработку GDDR6 с интегрированными вычислительными ядрами (AiM - Accelerator in Memory). Samsung работает с памятью HBM, корейская компания недавно представила память HBM2 под названием Aquabolt-XL на архитектуре Processing-in-Memory (PIM). Оба производителя утверждают, что без данного шага в будущем не обойтись. Конечно, оба подчеркивают, что их решение самое лучшее.
Но на пути обработки данных непосредственно в памяти барьеров немало.
Главной проблемой остается охлаждение. Память GDDR6 в стандартной корпусировке без дополнительных мер охлаждения нагревается до температур выше 140 °C. Специальная корпусировка позволяет снизить температуры до 120 °C, но и они слишком высокие для реализации на практике. И только использование термоинтерфейса TIM в паре с тонким распределителем тепла позволяет снизить рабочие температуры ниже планки 100 °C.
Второе препятствие – корпусировка, поскольку на данный момент вычисления к памяти можно добавить лишь через отдельный вычислительный кристалл. Здесь производители для чипов HBM, или GDDR6 опираются на технологии TSV и Cu-Cu Bonding.
Все известные производители уже представили технологии связи между кристаллами HBM и вычислительными чипами: TSMC CoWoS-R, Samsung ePLP, Intel EMIB, SPIL FoEB среди прочих.
Если у производителей памяти, таких как Samsung или SK Hynix, все получится, то до реализации на практике продут считанные месяцы. Производители процессоров пока что проявляют меньшую активность в данном направлении.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).