Intel, а точнее её дочерняя компания Movidius, представила устройство под названием Neural Compute Stick (NCS). С выходом новинки оборудование для нейросетей и искусственного интеллекта приобрести стало гораздо проще. И даже если NCS не заменит полноценного "железа" для глубокого обучения, новинка облегчит доступ к соответствующему ПО и методологии.
В Movidius NCS используется так называемый Vision Processing Unit (VPU), который получил имя Myriad 2. Он позволяет добиться производительности до 100 GFLOPS, потребляя всего один ватт. Например, эта же Tesla V100 достигает производительности в 120 TFLOPS, но и энерговотребление этой карты выше в несколько сотен раз (до 300 Вт). NCS оперирует вычислиениями с половинной точностью, то есть FP16.
Кроме упомянутого VPU, NCS располагает 4 Гбайт памяти LPRR3. Устройство подключется через USB 3.0. Пользователь может использовать несколько таких карт, увеличивая тем самым производительность. При использовании четырех устройств производительность увеличивается почти что в равном масштабе. В настоящее время Movidius тестирует конфигурации с шестью NCS. Теоретически, ограничений по количеству карт быть не должно, но многое зависит от конкретного приложения. Габариты новинки составляют 72,5 x 27 x 14 мм. Родительская система должна управляться процессором x86-64 и ОС Ubuntu 16.04.
Movidius также предлагает отипизированную под Caffe библиотеку и другие средства разработки. Movidius Neural Compute Stick продается с 20 июля по цене 79 долларов. Intel предлагает решения для ИИ не только посредством компании Movidius: не так давно GPU компании получило новый драйвер 15.46. Подобные ускорили на GPU также позволяют решать задачи глубокого обучения.