В октябрьской презентации для инвесторов NVIDIA необычайно откровенно рассказала о своих планах по ускорителям искусственного интеллекта. В настоящее время на рынке доминирует NVIDIA, Intel пытается привлечь клиентов в основном за счет низких цен ускорителей Gaudi 2, но NVIDIA H100 разлетаются, как горячие пирожки. Причем по любым ценам.
Но превосходство NVIDIA может остаться в прошлом уже в следующем году. AMD представит ускоритель MI300, а Intel – Gaudi 3, которые по аппаратным возможностям вряд ли будут уступать. Но на стороне NVIDIA по-прежнему остается широкая программная поддержка.
Наши коллеги SemiAnalysis проанализировали презентацию для инвесторов и сделали интересные выводы.
Судя по всему, NVIDIA намерена уменьшить временной интервал между поколениями ускорителей. В следующем году в этом сегменте планируется выпустить даже два чипа.
На данный момент NVIDIA предлагает ускоритель H100 для тренировки и инференса в серверах. Уже в конце этого года и в следующем году (в несколько более быстрой версии) выйдут Grace Hopper Superchip GH200 и GH200NVL. По-видимому, также произойдет своеобразный H100 Refresh в виде ускорителя H200, который по-прежнему будет основан на архитектуре Hopper. За исключением H200, NVIDIA уже анонсировала упомянутые продукты и даже привела некоторые значения производительности для GH200.
Во второй половине 2024 года последуют ускоритель B100 (Blackwell) и следующая комбинированная корпусировка ARM+GPU Grace Blackwell Superchip. В виде NVL снова будет представлено двухчиповое решение с увеличенным объемом памяти. Для максимально быстрой передачи данных NVIDIA планирует c поколением Backwell перейти на сетевые решения InfiniBand 800 Гбит/с.
За Backwell последует поколение, которое пока обозначается как X. По всей видимости, NVIDIA не хочет раскрывать название. По аналогии с предыдущими поколениями, будет представлен как отдельный ускоритель X100, так и известные комбинации с ARM-чипом, например, GX200 или GX200NVL. Для увеличения скорости передачи данных NVIDIA планирует оснастить ускорители сетевым интерфейсом 1,6 Тбит/с.
Однако NVIDIA пока сомневается, получится ли сохранить подобный темп в 2025 году. В любом случае переходы будут становиться все более плавными – по аналогии с процессорами Xeon от Intel. Гиперскейлеры не любят полностью заменять старое оборудование новыми решениями. Обычно они добавляют все больше новых систем, а старые используют до тех пор, пока остается экономический смысл. Но многое зависит и от спроса, даже сегодня сохраняется высокий спрос на системы с ускорителями A100, поскольку купить преемника H100 очень сложно.
Здесь мы хотели бы еще раз напомнить опубликованные ранее планы, которые более-менее совпадают с новой информацией.
В связи с плохой доступностью аппаратных ускорителей ИИ NVIDIA, SemiAnalysis также указывает, что Microsoft и Amazon вскоре представят собственные ускорители в виде Athena, Trainium2 и Inferentia3 для тренировки ИИ и больших языковых моделей. Но на данный момент все козыри у NVIDIA, что наверняка отразится в отличных финансовых результатах квартала.
Обновление:
Согласно новости на южнокорейском сайте MT.co.kr, NVIDIA будет закупать HBM3E исключительно у sk hynix. Соответствующий контракт будет подписан в ближайшее время. Также упоминается, что выпуск ускорителя B100, который станет преемником нынешнего H100, будет перенесен с четвертого квартала 2024 года на второй квартал 2024 года. Такой шаг призван удовлетворить огромный спрос на ускорители ИИ, тем более что B100 должен быть значительно быстрее нынешнего H100.
Квалификационные тесты HBM3E начнутся в первом квартале 2024 года. Причем sk hynix уже проводит внутренние тесты последнего поколения HBM. NVIDIA тоже тестирует чипы B100 в фазе Post Silicon, поэтому наверняка получила ранние образцы HBM3E. Ближайшие недели и месяцы основное внимание будет уделяться устранению ошибок и повышению доли выхода годных кристаллов. Начало серийного производства HBM3E запланировано на первый квартал 2024 года, одновременно с финальным этапом квалификации.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).