В середине года Graphcore представила второе поколение чипа Intelligence Processing Unit (IPU). Colossus Mk2 GC200 IPU содержит 1.472 ядра IPU, которые могут одновременно выполнять 8.832 вычислительных потока. Процессор изготавливается на мощностях TSMC по 7-нм технологии. Он содержит 59,4 млрд. транзисторов на площади 823 мм².
Теперь компания объявила доступность вычислительных систем IPU M2000 и IPU POD64, которые используют разное количество Colossus Mk2 GC200 IPU. Вычислительный узел IPU M2000, например, содержит четыре GC200 IPU. 16 узлов IPU, каждый с четырьмя чипами GC200, могут комбинироваться в стойку под названием IPU POD64. Более крупные IPU POD могут содержать до 64.000 GC200 IPU.
Отметим наличие 900 Мбайт SRAM, которая доступна для всех ядер IPU с пропускной способностью 47,5 Тбайт/с. Интерконнект работает на скорости 8 Тбайт/с, поддерживается интерфейс PCIe 4.0. Впрочем, все подробности были раскрыты еще летом.
Теперь Graphcore опубликовала первый тест. Все же кроме технических спецификаций очень важно знать, какие преимущества дают аппаратные компоненты на практике. Graphcore опубликовала данные производительности тренировки и инференса сети глубокого обучения. Для сравнения приводятся результаты современных GPU-ускорителей A100 и систем DGX от NVIDIA.
Со следующего года Graphcore войдет в ассоциацию MLCommons, которая занимается разработкой тестов для сравнения тренировки и инференса. Graphcore будет участвовать в сравнительных тестах MLCommons с 2021 года.
Graphcore поддерживает интерфейсы, распространенные в данной сфере. Среди них - Poplar 1.4S, что дает полную поддержку PyTorch. Она сама по себе охватывает значительную часть сценариев. Но Graphcore продолжит работать над добавлением интерфейсов, чтобы охватить как можно большую сферу применения.
Системы Graphcore можно приобрести через партнеров компании.
Подписывайтесь на группы Hardwareluxx ВКонтакте и Facebook, а также на наш канал в Telegram (@hardwareluxxrussia).