nvidia-teslat4На конференции GPU Technology Conference в Японии NVIDIA представила ускоритель для инференса - обработки запросов в сеть глубокого обучения. В отличие от предыдущих ускорителей инференса, NVIDIA использовала специализированный чип, который предлагает максимум производительности для вычислений с небольшой точностью FP16, INT8 и INT4.


Если верить NVIDIA, Tesla T4 содержит 320 тензорных...

... read more