Главным событием пленарного доклада на GPU Technology Conference была презентация новой архитектуры Volta. Но на пути к архитектуре Volta NVIDIA хотела бы поговорить о выполнении закона Мура. Все же Intel не устает упоминать этот закон.
Если верить NVIDIA, закон Мура в последние годы выполнялся только благодаря параллельной обработке. Конвейеры инструкций становились все длиннее, чтобы ускорить выполнение однопоточных приложений. К этому добавлялись и дальнейшие оптимизации в сфере инструкций, иерархия кэшей становилась все более сложной.
Новые техпроцессы позволяют создавать меньшие по размеру структуры, число транзисторов постоянно увеличивается. GPU GV100 содержит 21 млрд. транзисторов на площади 812 мм². Но за последние годы данная тенденция заметно замедлилась. Если однопоточная производительность увеличивалась практически на 50% в год для каждого поколения между 1990 и 2005, то сейчас прирост составляет 10% и меньше.
NVIDIA считает, что мы находимся на распутье. Если следовать прежнему пути, то прирост будет становиться все меньше. С другой стороны, GPU смогли обеспечить прирост производительности 50% в год с каждым новым поколением с 2005 года. И NVIDIA считает, что данный путь обеспечит такой же рост до 2025 года.
Десять лет назад NVIDIA провела перестройку своих финансовых и человеческих ресурсов. Компания выбрала направление универсальной аппаратной платформы, которая подходит и для семейства GeForce, и для профессиональных сфер. И сегодня NVIDIA пожинает плоды. Конечно, важной составляющей является программное обеспечение. Почти 7.000 сотрудников NVIDIA заняты в сфере разработки ПО. Над аппаратным обеспечением работают всего около 2.000 сотрудников.
Глубокое обучение остается в приоритетах
NVIDIA уже довольно давно говорит о сетях глубокого обучения, между тем данная технология уже влияет на многие сферы нашей жизни. Сети глубокого обучения используются в различных областях, как раз возможность таких сетей обучаться позволяет все лучше и лучше справляться с нужными задачами.
Глубокое обучение для трассировки лучей позволяет избавиться от появляющегося шума, а также ускоряет работу алгоритма трассировки. На вычисление нескольких тысяч или даже миллионов лучей требуется определенное время даже на современных аппаратных платформах. При этом побочным эффектом алгоритма трассировки лучей является шум. Чтобы быстрее рассчитать сцену и при этом устранить шумы, алгоритмы глубокого обучения предсказывают результат по частично готовым данным.