MLPerf Inference 4.0: успешный дебют NVIDIA H200

[strangesergey]

https://www.hardwareluxx.de/images/cdn02/uploads/2024/Mar/swank_bool_lg/mlperf-inference-40-1_100px.pngMLCommons – консорциум различных производителей, целью которого является предоставление независимых и сопоставимых бенчмарков для оборудования центров обработки данных. Сегодня он опубликовал результаты теста Inference 4.0. В нем дебютировал ускоритель NVIDIA H200, который также основан на архитектуре Hopper и имеет ту же ступень расширения, что и ускоритель NVIDIA H200, но использует 141 ГБ HBM3E вместо 80 ГБ HBM2.
HBM3E будет использоваться во всех...

... читать далее (https://www.hardwareluxx.ru/index.php/news/software/benchmarks/55406-mlperf-inference-4-0-uspeshnyj-debyut-nvidia-h200.html)