На весенней конференции GPU Technology Conference NVIDIA представила GH100 GPU на основе архитектуры Hopper, а также соответствующий ускоритель H100. На нынешней конференции Hotchips 34 NVIDIA рассказала о проблемах, которые возникли при реализации дизайна, а также о том, как оптимально нагрузить подобный GPU с 16.896 вычислительными ядрами FP32, 528 ядрами Tensor, 50 Мбайт кэша L2 и 80 Гбайт HBM3, не говоря уже о системах, в которых сотни или даже тысячи подобных GPU будут работать вместе.
GH100 GPU производится по 4-нм...

... читать далее