Intel закрывает один из отделов разработки чипов искусственного интеллекта, который был приобретен в 2016 году в виде компании Nervana, после чего интегрирован в Intel. Разработка нейропроцессоров NNP (Neural Network Processors) прекращена, фокус смещен на разработку технологий, создаваемых Habana Labs. По крайней мере, об этом пишет Forbes.
В конце 2019 года Intel купила израильскую компанию Habana Labs за $2 млн. Массовые коммерческие продукты Nervana должны были выйти на рынок в 2020 году в виде чипов NNP-T и NNP-I, которые относятся уже к второму поколению нейропроцессоров для HPC. Первые чипы уже вышли, но, по всей видимости, революционного прорыва от них ждать не приходится.
Чипы будут по-прежнему поставляться партнерам, но дальнейших разработок ждать не приходится. Причем здесь подразумевается чип инференса NNP-I, который будет поддерживаться дольше, а решение для тренировки NNP-T полностью закрыто.
Из ранее опубликованных презентаций Intel известны основные технические спецификации чипов (см. следующий раздел новости). От Habana Labs чипы в презентациях Intel ранее не фигурировали. Однако известно, что они называются Gaudi для тренировки и Goya для инференса сетей глубокого обучения.
До сих пор Habana Labs использовала 16-нм техпроцесс TSMC. В перспективе Intel планирует производить чипы самостоятельно. Gaudi и Goya используют специальные ядра Tensor Processing Cores (TPCs), которые, как и ядра Tensor у NVIDIA, выполняют векторные и матричные вычисления, в том числе с уменьшенной точностью INT4 и INT8, а также в формате уменьшенной сложности Bflout16.
В случае Gaudi встроены 32 Гбайт скоростной памяти HBM2. Goya работает с памятью DDR4, подключенной по 128-битному интерфейсу. Чип Gaudi содержит встроенный интерфейс 100 GbE с поддержкой RDMA over Converged Ethernet (ROCE). Что позволяет интегрировать чип в интерконнект дата-центров и масштабировать решение на несколько тысяч узлов с низкими затратами. Те же чипы Mellanox NIC с ROCE стоят больше $1000 за карту.
Обзор NNP-T и NNP-I
Чип NNP-T1000 с кодовым названием Spring Crest содержит 27 млрд. транзисторов и оснащен 32 Гбайт памяти HBM2. Intel установила все эти компоненты на подложку площадью 1.200 мм². ASIC содержит 24 процессора Tensor (TPCs). Они обеспечивают вычислительную производительность 119 TOPS. SoC оснащена 60 Мбайт встроенной памяти (SRAM). Чтобы оперативная память была как можно ближе к TPCs, Intel установила четыре чипа HBM2 емкостью 8 Гбайт каждый, что дает 32 Гбайт. Также имеется интерфейс PCIe 4.0 с 16 линиями, 64 линии SerDes для памяти HBM2. NNP-T производится TSMC по техпроцессу 16 нм (CLN16FF+).
Чип NNP-I1000 с кодовым названием Spring Hill известен не так широко. Здесь Intel использует два ядра Sunny Cove, которые производятся по 10-нм техпроцессу. Соответствующие инструкции инференса ускоряются через DL-Boost. Отметим 12 блоков Inference and Compute Units (ICE). Тепловой пакет NNP-I1000 можно конфигурировать от 10 до 50 Вт. Соответственно, производительность INT8 составляет между 48 и 92 TOPS.
Объем памяти составляет 3 Мбайт в виде корпусировки Tightly-Coupled Memory (TCM) с пропускной способностью 68 Тбайт/с. Добавим 48 Мбайт SRAM с пропускной способностью 6,8 Тбайт/с. Присутствуют и 24 Мбайт кэша LLC (low latency cache) с пропускной способностью 680 Гбайт/с. Наконец, объем памяти LPDDR4 может составлять до 32 Гбайт, она подключена с пропускной способностью до 67,2 Гбайт/с.
Технические спецификации обоих чипов звучат впечатляюще, но в итоге все уперлось в поддержку соответствующим программным обеспечением. Здесь должна была сработать стратегия Intel One API. Через One API приложения должны работать на разных аппаратных платформах, будь то процессор Xeon, ускоритель GPGPU на архитектуре Xe или потребительские ПК с поддержкой DL Boost.
Подписывайтесь на группы Hardwareluxx ВКонтакте и Facebook, а также на наш канал в Telegram (@hardwareluxxrussia).
Мы рекомендуем ознакомиться с нашим руководством по выбору лучшего процессора Intel и AMD на зиму 2020. Оно поможет выбрать оптимальный CPU за свои деньги и не запутаться в ассортименте моделей на рынке.