> > > > Тест и обзор: NVIDIA DGX Spark — мини-ПК для ИИ в реальных задачах

Тест и обзор: NVIDIA DGX Spark — мини-ПК для ИИ в реальных задачах

Опубликовано:

hardwareluxx news newNVIDIA называет DGX Spark «самым маленьким ИИ-суперкомпьютером в мире». В основе лежит GB10 Superchip с Arm-процессором и GPU архитектуры Blackwell, а также 128 ГБ LPDDR5X с общей адресацией для CPU и GPU. В сочетании с форматом NVFP4 компания заявляет до 1 петафлопа ИИ-производительности, возможность дообучать модели примерно на 70 млрд параметров и запускать инференс моделей вплоть до ~200 млрд параметров локально. Мы интегрировали DGX Spark в редакционный рабочий процесс и проверили, где локальный ИИ реально дает практическую пользу.

Система особенно интересна там, где модели нужно запускать без облака — из-за требований к данным, задержек или нежелания постоянно арендовать GPU-ресурсы в ЦОД. DGX Spark поставляется с предустановленной DGX OS, библиотеками CUDA и CUDA-X, а также фирменным AI-стеком NVIDIA. Платформа ориентирована на разработчиков, исследователей и компании, которые хотят работать с LLM локально: разрабатывать, дообучать и запускать инференс на открытых моделях.

DGX Spark тянет более крупные модели, чем типичное пользовательское «железо», но уступает по скорости генерации токенов. Этот компромисс четко показывает границы применения: не везде локальный ИИ на таком мини-суперкомпьютере оправдан.

Немного истории: DGX Spark представили на GTC 2025 в марте. NVIDIA планировала начать поставки уже в начале лета, но сроки сдвинулись на конец лета и осень 2025 года — вероятно, из-за сложностей с производством GB10 (официально это не подтверждали). Подробности о SoC, разработанном вместе с MediaTek, мы вынесли в отдельный материал. Чип станет еще интереснее, если появится в ноутбуках как N1/N1X — но официального анонса пока нет.

DGX Spark продается в версии Founders Edition от NVIDIA — недавно цену подняли до 4.800 евро. OEM-партнеры, включая ASUS (Ascent GX10), Dell, Lenovo и Gigabyte, предлагают собственные варианты системы на базе GB10. Отличия сводятся к корпусу и охлаждению — производительность у всех одинаковая. Во втором поколении, скорее всего, появится больше разнообразия.

Внутри компактного корпуса (150 × 150 × 50,5 мм) NVIDIA размещает GB10, NVMe-накопитель на 4 ТБ и 128 ГБ LPDDR5X. Память здесь ключевой элемент не только из-за объема, но и благодаря 256-битной шине с пропускной способностью 273 ГБ/с. Среди ближайших конкурентов — APU AMD Strix Halo и чипы Apple серии M4/M5. У AMD пропускная способность сопоставима, у Apple — до 614 ГБ/с.

Сразу уточним: это не сравнительный тест. У нас нет полного набора сопоставимого «железа», да и сами платформы слишком специализированы — обеспечить равные условия сложно.

Возвращаясь к DGX Spark: дизайн отсылает к первым DGX-серверам — только в сильно уменьшенном формате, с лучшей энергоэффективностью. Все разъемы вынесли на заднюю панель: 4× USB Type-C, 1× RJ45 (10GbE), 2× ConnectX-7 (200GbE) и HDMI 2.1a. Там же расположена кнопка питания.

Беспроводное подключение обеспечивает Wi-Fi 7, периферию можно подключить через Bluetooth 5.4.

Важно учитывать: доступны только USB-порты, поэтому периферия должна поддерживать Type-C или потребуется переходник. При этом систему можно развернуть и в headless-режиме через сеть.

Внешний блок питания выдает 240 Вт, при этом сам SoC ограничен 140 Вт. Запаса достаточно для питания всей периферии и интерфейсов.

Первые шаги с DGX Spark

Независимо от сценария, первоначальную настройку ведет мастер: он последовательно предлагает выбрать язык и часовой пояс, принять лицензионное соглашение, создать учетную запись и настроить сеть — Wi-Fi или Ethernet.

Альтернативно DGX Spark можно развернуть как сетевое устройство. При первом запуске он поднимает собственную Wi-Fi-точку доступа: SSID, пароль и адрес веб-интерфейса указаны на комплектной карточке быстрого старта. Подключаемся к этой сети с ноутбука или ПК, открываем страницу настройки в браузере и проходим тот же мастер. После подключения к домашней или корпоративной сети временная точка доступа автоматически отключается.

После настройки DGX Spark доступен в двух режимах: как обычная настольная система с графическим интерфейсом и как удаленный узел для ИИ-задач — через SSH, удаленный рабочий стол, DGX Dashboard или приложение NVIDIA Sync в локальной сети.

Мы использовали оба сценария: как сетевой узел с доступом с рабочего ноутбука и как локальную систему с подключенными монитором, клавиатурой и мышью. Оба варианта подходят для реальных задач.

DGX Dashboard, доступный локально или по сети, позволяет отслеживать состояние системы и устанавливать обновления.

Практика с Playbooks

Не каждый пользователь — исследователь ИИ, который регулярно разворачивает такие системы. NVIDIA это учла и добавила Playbooks — наборы готовых сценариев, которые упрощают запуск типовых задач. Разберем несколько примеров.

Каждый Playbook содержит подробное описание, включая предупреждения, а также отдельную вкладку с пошаговой инструкцией. В ней перечислены все действия — вплоть до конкретных команд в терминале — чтобы довести сценарий до полностью настроенного состояния.

Основной акцент, конечно, на LLM — их уже сотни тысяч. Они сильно отличаются по размеру (от нескольких миллиардов до сотен миллиардов параметров), что напрямую влияет на требования к ресурсам, задержки, длину контекста и итоговое качество.

Различия затрагивают и данные: модели обучают на веб-данных, отобранных наборах данных или синтетике. Важна и стадия обучения — базовое обучение (pretraining) или последующая донастройка (fine-tuning, RLHF) под конкретные задачи. Часто используют параметрически эффективные методы вроде LoRA/QLoRA: базовые веса фиксируют, а обучают только компактные адаптеры на квантованных весах — это снижает требования к памяти и вычислениям. Также модели различаются по модальности (текстовые или мультимодальные), специализации (код, медицина, право) и степени открытости — от open source до проприетарных решений.

Поэтому первым делом DGX Spark нужно «заполнить» нужными LLM. После этого их можно запускать, например, через LM Studio — локально или удаленно через LMLink.

DGX Spark также поддерживает подключение через NVIDIA Sync. В этом режиме система ведет себя как локальная рабочая станция, а вычисления можно выносить на DGX Spark. Мы, например, запускали генерацию изображений через ComfyUI на macOS, при этом сам рендер выполнялся на DGX Spark.

Чтобы задействовать GB10 не только в задачах ИИ, мы протестировали и сценарий секвенирования РНК отдельных клеток (single-cell RNA-seq) — для него также есть готовый Playbook.

Тем не менее основное время мы провели с LLM. В журналистике они уже формируют новые рабочие процессы. Лучше всего это видно на рутинных и структурированных задачах: спортивные результаты, погода, биржевые данные или дорожные сводки можно автоматически превращать в тексты — то, что раньше занимало значительное время в редакции.

Модели также помогают с формулировками: предлагают варианты лидов и заголовков, адаптируют текст под разные форматы и объемы.

В работе с источниками LLM все чаще выступают как ассистенты. Они сортируют большие массивы документов, что особенно полезно при утечках или анализе архивов: находят паттерны и аномалии, которые затем проверяет журналист. Транскрибация и краткое изложение (суммаризация) уже стали стандартом — интервью и пресс-конференции автоматически превращаются в текст и сжимаются до кратких версий.

При этом редакциям приходится выстраивать правила работы с такими инструментами: какие задачи автоматизировать, как проверять результат и где нужна прозрачность для читателя.

Ключевая проблема — неопределенность. LLM могут «галлюцинировать», не указывать источники и наследовать искажения обучающих данных. Без проверки это приводит к ошибкам и дезинформации. Добавляются и юридические вопросы — авторское право и персональные данные. Поэтому LLM стоит рассматривать как инструмент, который помогает соблюдать журналистские стандарты, а не заменяет их.

Сравнение производительности
Модель DGX Spark
(токенов/с)
DGX Spark
(TTFT)
MacBook Pro M3 Pro
(токенов/с)
MacBook Pro M3 Pro
(TTFT)
LMStudio Qwen 3.5 35B (Think & Vision) 58,34 44,3 с - -
LMStudio Qwen 3.5 9B (Think & Vision) 29,44 2,2 с 14,36 6,4 с
LMStudio GPT-OSS-120B (High Reasoning) 46,82 88 с - -
LMStudio Nemotron-3-Super 17,67 48,8 с - -
LMStudio Nemotron-3-Nano 59,19 8,5 с 32,06 8,3 с
LMStudio Mistral 3 14B 21,70 14,6 с 14,75 27,1 с

Мы также сравнили производительность нескольких LLM с MacBook Pro на базе M3 Pro. Крупные модели просто не помещаются в 18 ГБ LPDDR5X у MacBook — здесь 128 ГБ DGX Spark дают явное преимущество. Кроме того, DGX Spark выдает примерно вдвое больше токенов в секунду.

Важен и показатель Time to First Token (TTFT) — время до появления первого ответа. Здесь DGX Spark также быстрее. Исключение — модель Nemotron-3-Nano, где MacBook Pro показывает сопоставимый результат.

Хайп вокруг OpenClaw

Текущий интерес к OpenClaw во многом строится на обещании: запускать мощные ИИ-модели локально, эффективно и без жесткой привязки к «железу». Такой подход заметно снижает порог входа для сложных задач. На фоне растущего недоверия к облакам OpenClaw точно попадает в тренд и выступает гибкой альтернативой для разработчиков и продвинутых пользователей, которым важен полный контроль над ИИ-инфраструктурой.

На GTC 2026 NVIDIA представила NemoClaw — референсную платформу для OpenClaw. В связке с ней работает OpenShell: инструмент, который изолирует OpenClaw и не дает ему обращаться к данным из закрытых систем. Для DGX Spark уже подготовлен соответствующий Playbook.

На практике OpenClaw раскрывается там, где важны локальные вычисления, гибкость и контроль над данными. Один из типичных сценариев — локальный код-ассистент: разработчик запускает LLM прямо на рабочей станции, анализирует, генерирует и документирует код без передачи исходников в облако. В корпоративной среде и чувствительных проектах это серьезное преимущество.

Еще один сценарий — создание контента. OpenClaw позволяет запускать модели для генерации изображений, видео и текста локально и адаптировать их под свои задачи. Например, можно дообучить генератор изображений под конкретный стиль.

Также OpenClaw подходит для edge- и офлайн-сценариев. В изолированных сетях — промышленность, выездные задачи, защищенные среды — модели работают полностью автономно. OpenClaw выступает как универсальная среда выполнения: управляет моделями и оптимизирует их под доступные ресурсы.

Практика: софт и «железо»

Развертывание системы проходит быстро благодаря подробной документации NVIDIA. В зависимости от задачи установка занимает от 10 минут до нескольких часов — в случае крупных LLM многое упирается в загрузку моделей. При этом базовые навыки работы с Linux для пользователя DGX Spark все же необходимы. Все интересующие нас Playbooks удалось запустить без проблем.

Сценарий применения DGX Spark во многом зависит от конкретной задачи. Основная аудитория — исследователи и пользователи, которые хотят запускать и дообучать крупные модели локально.

Один из вариантов — использовать DGX Spark как сетевой узел. Он подключается к сети и обрабатывает запросы от разных клиентов. Вместо обращения к облачным ИИ-сервисам ноутбук отправляет задачи на локальный DGX Spark.

К минусам можно отнести энергопотребление в простое — около 55 Вт. NVIDIA уже выпускала обновления, но полностью снизить его не удалось. В наших тестах система потребляла от 55 до 130 Вт. При этом корректнее сравнивать этот показатель с энергозатратами облачных ИИ-сервисов.

Итоговая оценка

С ростом популярности генеративных моделей все чаще возникает вопрос: останутся ли облачные сервисы оптимальным вариантом или есть смысл переходить на локальный запуск. Такие системы, как NVIDIA DGX Spark, показывают, что профессиональная ИИ-инфраструктура постепенно смещается в сторону компактных, но мощных настольных решений.

Ключевое преимущество локальных моделей — контроль над данными. В облаке конфиденциальную информацию неизбежно приходится передавать внешним сервисам, тогда как при локальном запуске она остается внутри системы. Для продвинутых пользователей — в контенте, разработке или исследованиях — это часто критично. Плюс — независимость от провайдеров: нет ограничений, затрат на API и рисков с доступностью.

С точки зрения производительности локальный подход тоже выигрывает. Сетевые задержки исчезают, что особенно важно для интерактивных задач — код-ассистентов, генерации изображений или локальных чат-ботов. При этом модели можно гибко дообучать, настраивать под свои задачи и при необходимости запускать полностью офлайн.

Еще один фактор — стоимость облачных сервисов. Базовые версии DGX Spark от партнеров начинаются примерно от 3.340 евро (с меньшим объемом SSD). ChatGPT Pro стоит 229 евро в месяц, базовый тариф — около 23 евро. Google Gemini — от 22 до 275 евро в зависимости от уровня. Если взять условные 200 евро в месяц, система окупается примерно за полтора года. При этом в расчете не учитываются преимущества локального запуска — контроль над данными и более быстрая отклик.

Локальный запуск также дает больше свободы для экспериментов. Пользователь не привязан к конкретным моделям или платформам: можно тестировать разные архитектуры, строить собственные рабочие процессы и глубже оптимизировать процессы. В условиях быстрого развития ИИ это серьезное преимущество.

Цена в 4.300 евро за DGX Spark (Founders Edition) — высокий порог входа. Без четкого сценария использования такая система просто не имеет смысла. Но при наличии задач локальный запуск ИИ действительно дает преимущества — как по производительности, так и по контролю над данными. При этом DGX Spark можно рассматривать как отправную точку: от локальной разработки и тестирования — к масштабированию на облачной инфраструктуре.

Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).