Тест MLPerf постоянно дорабатывается в целях расширения совместимости, чтобы обеспечить сравнение производительности искусственного интеллекта, а именно машинного обучения. Кроме крупных разработчиков чипов Intel и NVIDIA, ARM, Google, MediaTek, Microsoft, в проекте участвуют многие другие компании, что тоже помогает расширить совместимость тестов производительности.
Некоторое время назад были опубликованы результаты тестов MLPerf Training v0.7, в которых лидирует новый чип NVIDIA A100, теперь выложены результаты MLPerf Inference v0.7. Они учитывают уже не производительность тренировки сети глубокого обучения с высокой точностью, а производительность инференса, где требуется низкая точность и высокая пропускная способность.
Пока что системы для сравнения ограничены NVIDIA T4 и A100, а также Xilinx FPGA и Intel Cooper Lake Xeon.
При сравнении результатов следует учитывать, что некоторые системы используют два, четыре восемь и больше GPU-ускорителей, но есть системы только с одним FPGA или двумя, четырьмя или восемью процессорами. Поэтому нужно внимательно смотреть на характеристики. Многое также зависит от приложения и интерфейсов.
Но, как можно видеть, GPU-ускоритель A100 более чем в 200 раз обгоняет процессор Cooper Lake Xeon. Даже младший T4, который специально разработан под инференс, показывает себя в 30 раз быстрее. С ускорителями ИИ (A100, T4 и Jetson AGX Xavier) NVIDIA оказывается в лидерах в 85% всех тестов.
Конечно, NVIDIA использует платформу MLPerf для рекламы своих чипов. AMD не участвует в проекте, например, поэтому и свои результаты не предоставляет. Поскольку NVIDIA лидирует в 85% всех тестов, компания рада представить результаты. Но и Xilinx знает, как выжать из результатов максимум, хотя здесь речь идет уже об определенных профилях.
Подписывайтесь на группы Hardwareluxx ВКонтакте и Facebook, а также на наш канал в Telegram (@hardwareluxxrussia).