Бизнес-дата-центров NVIDIA развивается весьма бурно. Большие языковые модели LLM (Large Language Models) накладывают весьма высокие требования на аппаратное обеспечение, им нужны быстрые GPU с большими объемами памяти. Современные модели тренируются, по большей части, на ускорителях A100, но сегодня вычислительные системы постепенно переходят на H100. Google недавно оснастила свои инстанции A3 данными ускорителями, они также используются в суперкомпьютерах A3 – в количестве 26.000 H100 GPU по всем системам.
С одной стороны, GPU-ускорители обеспечивают приличную вычислительную производительность с низкой точностью (FP8, FP16, Bfloat16), но они способны справиться и с высокой точностью (FP64). Но самый быстрый суперкомпьютер на NVIDIA GPU в списке Top500 занимает лишь четвертое место.
NVIDIA планирует все изменить с Grace Superchip. Он был представлен на прошлогодней конференции GTC, летом появились новые подробности. "Grace CPU Superchip" состоит из двух кристаллов, каждый содержит 72 ядра. Они подключены через NVLink C2C (chip to chip), скорость интерконнекта достигает 900 Гбайт/с. Чипы Grace базируются на архитектуре ARMv9 и дизайне Neoverse. Пропускная способность памяти LPDDR5X достигает 1 Тбайт/с. Емкость не указывается, но вполне вероятны 512 Гбайт (8x 32 Гбайт).
"Grace CPU Superchip" предназначен для высокопроизводительных вычислений HPC и сферы искусственного интеллекта AI. Возможно, для вычислений ИИ все же лучше подойдет "Grace Hopper Superchip".
NVIDIA анонсировала сборку суперкомпьютера Isambard 3 вместе с Бристольским университетом, он будет использовать как раз под 400 упомянутых "Grace CPU Superchips". Ожидается вычислительная производительность 2 PFLOPS с энергопотреблением всего 270 кВт. Впрочем, в лидерах списка Green500 суперкомпьютер потребляет 31 кВт для 2 PFLOPS.
MareNostrum 5 в Барселоне тоже будет оснащаться "Grace CPU Superchip". Venado на 10 EFLOPS вычислительной производительности ИИ, ALPS на 20 EFLOPS и Shasheen III на 7 EFLOPS планируются уже на "Grace Hopper Superchip".
В случае NVIDIA появляется возможность представить новый суперкомпьютер уровня экзафлопа. Но путь хорошо виден. Вместо использования процессоров AMD и Intel, NVIDIA может покрыть все аппаратные сегменты с чипами "Grace CPU Superchip" и "Grace Hopper Superchip". Покупка Mellanox добавляет NVIDIA независимость еще и по сетевой инфраструктуре. В результате позиция NVIDIA становится очень сильной, вряд ли какие-либо другие производители могут похвастаться таким же набором.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).