MLCommons сегодня опубликовала результаты теста инференса MLPerf 3.1 Inference. Особых сюрпризов нет, но «железо» весьма разнообразное: Intel, AMD, NVIDIA, Qualcomm и Google. Напомним, что даже при одинаковом «железе» очень важна оптимизация программного обеспечения.
Впервые в результатах появился Grace Hopper. Система Grace Hopper (GH200) состоит из Hopper GPU в той же конфигурации, что в ускорителе H100, и Grace CPU. Поскольку GPU идентичен, GH200 должен давать такую же...

... читать далее