На конференции HotChips 32 компания Cerebras рассказала о нынешней реализации Wafer Scale Engine (WSE). Чип площадью 46.225 мм² содержит 400.000 ядер AI и 18 Гбайт SRAM. Но для оценки производительности нужна оптимизация программного обеспечения.
Также Cerebras раскрыла второе поколение Wafer Scale Engine, которое просто называется Generation 2. Но подробностей не так много, разве что Cerebras указала ключевые спецификации. Второе поколение WSE будет содержать 850.000 ядер AI, что более чем в два раза превышает нынешнюю реализацию. Число транзисторов увеличится с 1,2 трлн. до 2,6 трлн. Для сравнения, NVIDIA GA100 GPU содержит 54 млрд. транзисторов на площади 826 мм². Второе поколение WSE производится по 7-нм техпроцессу на заводах TSMC. Напомним, что для первого поколения Cerebras использует 16-нм техпроцесс TSMC.
Cerebras пока не раскрыла подробностей. Но по-прежнему чип занимает всю 300-мм подложку. Компания обошла проблемы с выходом годных кристаллов. У NVIDIA 826 мм² близки к предельным возможностям 7-нм техпроцесса при традиционном вырезании кристалла и экспонированию через маски.
По сути, в дизайне WSE чипы остаются на подложке, а не вырезаются и не устанавливаются в корпусировку. Заставить работать чип размером с подложку далеко не тривиально. Мы уже рассматривали проблемы охлаждения и питания такого чипа. Да и при размере с подложку неизбежно возникают ошибки. По этой причине Cerebras предусмотрела от 1,0% до 1,5% дополнительных ядер AI с первым поколением WSE. Соответственно, при появлении ошибки на ядре можно использовать запасное из бюджета 1-1,5%.
Дополнительная информация о втором поколении WSE ожидается на протяжении года.
Подписывайтесь на группы Hardwareluxx ВКонтакте и Facebook, а также на наш канал в Telegram (@hardwareluxxrussia).