Google, Facebook, IBM, HPE и многие другие компании используют серверы с аппаратным обеспечением NVIDIA. Но по многим причинам на рынке возник новый важный сегмент высокопроизводительных вычислений HPC, который опирается на арендуемые аппаратные мощности, которые предоставляются по мере необходимости и на нужное время. Одним из таких поставщиков вычислительных услуг можно назвать Amazon is с сервисом AWS, но и Microsoft давно предлагает Azure. С лета Microsoft планирует перейти на новейшее аппаратное обеспечение NVIDIA.
С 1 декабря 2016 года пользователи Azure уже получили возможность использовать серверы с аппаратной начинкой NVIDIA. Но, как правило, в них используются старые вычислительные карты Tesla поколений Kepler и Maxwell. Поскольку поколение Pascal обеспечивает заметно более высокую производительность с большей эффективностью, вполне логичным шагом для Microsoft будет переход на соответствующие видеокарты. Также на Microsoft давят и клиенты, которые хотели бы перейти на новое аппаратное обеспечение. Сама Microsoft использует вычислительную мощность Azure для трансляций Skype, Bing и других сервисов. Поэтому и сама компания заинтересована в росте вычислительной производительности.
До сих пор Microsoft предлагала только серверы на NVIDIA K80 и M40, которые опираются на GPU предыдущих поколений, как мы отметили выше. Видеокарты Pascal позволяют существенно ускорить обработку запросов в сетях глубокого обучения (Inferencing), именно по этой причине многие клиенты хотят перейти на новые ускорители. В случае платформы Microsoft Azure будут доступны серверы с Tesla P100 для тренировки сетей глубокого обучения и серверы с Tesla P40 для запросов. Конечно, Tesla P40 тоже могут использоваться для тренировки.
В качестве API в Azure используется Cognitive Toolkits от Microsoft, но также поддерживаются Caffe2 и TensorFlow. В своих собственных тестах Microsoft указывает прирост производительности в 40 раз, хотя сравнивает два Tesla K80 с четырьмя новыми Tesla P100. Уже с лета будут доступны серверы Azure с вычислительными ускорителями Tesla P100 (от одного до четырех). К концу 2017 предложит данные серверы для всех клиентов.