Незадолго до Рождества NVIDIA сделала себе по-настоящему дорогой подарок, приобретя специалиста по AI-инференсу Groq за 20 миллиардов долларов. Формально Groq, вероятно, сохранит статус отдельного бренда, однако фактически компания рискует остаться лишь оболочкой и торговым названием: помимо генерального директора Groq Джонатана Росса, в NVIDIA, как ожидается, перейдёт значительная часть сотрудников. До сих пор крупнейшей сделкой в истории NVIDIA считалась покупка сетевого специалиста Mellanox примерно за 7 миллиардов долларов.
Groq была основана в 2016 году бывшими сотрудниками, которые ранее руководили первыми разработками Tensor Processing Unit (TPU) в Google и Broadcom. В текущем поколении Google использует TPUv5 и TPUv6 не только для обучения собственных моделей, но прежде всего для инференса многочисленных сервисов. С выходом седьмого поколения — TPUv8AX и TPUv8X — специализированные ускорители должны составить прямую конкуренцию аппаратной платформе NVIDIA Rubin.
При этом Google, по всей видимости, не планирует оставаться единственным пользователем своей TPU-инфраструктуры. Компания Anthropic, как сообщается, рассматривает возможность использования TPU в масштабах до одного миллиона ускорителей.
Возникает логичный вопрос: приобрела ли NVIDIA Groq именно для того, чтобы за счёт её аппаратной экспертизы создать эффективного противовеса TPU-решениям Google?
Внутренним письмом генеральный директор NVIDIA Дженсен Хуанг объяснил сделку интеграцией ускорителей Groq в архитектуру NVIDIA AI Factory, а также «расширением платформы с целью охвата ещё более широкого спектра задач AI-инференса и рабочих нагрузок в реальном времени».
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).