Характеристики DGX Spark и чипа GB10: что они значат на практике
DGX Spark — это чип GB10 и 128 ГБ общей памяти. Магазины перечисляют параметры списком. Здесь к каждому добавлено, что он меняет для языковых моделей, и там же сказано, чего устройство не умеет.
Таблица характеристик
| Параметр | Значение | Что это даёт |
|---|---|---|
| Чип | GB10 Grace Blackwell, 20 ядер Arm | Процессор и графический блок на одном кристалле и в одной памяти. Копировать веса между ОЗУ и видеопамятью не нужно. |
| Память | 128 ГБ unified LPDDR5x | Модель в 100+ ГБ запускается целиком. Для сравнения: у потребительской карты 32 ГБ. |
| Пропускная способность | 273 ГБ/с | Потолок скорости генерации: за каждый токен из памяти читаются веса активных параметров. |
| Сеть | ConnectX‑7, 200 Гбит/с | Два устройства соединяются кабелем: 256 ГБ суммарно, под модель ≈216 ГБ. Для четырёх нужен коммутатор. |
| Пиковые вычисления | до 1 PFLOP (FP4, со структурной разреженностью) | Пиковое значение для сжатых форматов. Влияет на обработку длинного промпта, а не на скорость генерации. |
Память: почему 128 ГБ важнее скорости
Языковую модель нельзя запустить «частично». Все веса должны лежать в памяти, и при генерации каждого токена они читаются заново. Если модель не помещается в видеопамять, её приходится выгружать в обычную память, и скорость падает в разы.
Spark этой проблемы лишён: объём 128 ГБ делят процессор и GPU. Под модель доступно около 108 ГБ: часть памяти занимают сама DGX OS и сервисы. Что в этот объём помещается, считает калькулятор.
Пропускная способность и скорость генерации
При генерации одного потока на каждый токен приходится прочитать из памяти веса активных параметров. Отсюда потолок: скорость не может превысить пропускную способность памяти, делённую на размер читаемых за токен данных.
токенов/с ≤ 273 ГБ/с ÷ (активные параметры × байт на параметр)
Это верхняя граница по формуле. Реальная скорость ниже, потому что формула не учитывает чтение KV-кэша, накладные расходы движка и неполную загрузку шины. Как мы будем мерить реальную скорость — на странице о скорости, а здесь формула показывает, почему тип модели важнее её размера.
| Модель | Тип | Формат | Активных, млрд | Читается за токен, ГБ | Потолок, ток/с |
|---|---|---|---|---|---|
| gpt-oss-120b | MoE | FP4 (MXFP4 / NVFP4) | 5,1 | 2,7 | ≈101 |
| Qwen3-30B-A3B | MoE | FP8 / INT8 | 3,3 | 3,3 | ≈83 |
| Qwen3-235B-A22B | MoE | INT4 / Q4_K_M | 22,0 | 12,5 | ≈22 |
| Qwen3-32B | dense | FP8 / INT8 | 32,8 | 32,8 | ≈8 |
| Llama 3.3 70B | dense | INT4 / Q4_K_M | 70,6 | 40,2 | ≈7 |
Вывод таблицы в одном предложении: плотная модель на 70 млрд параметров упирается в память на единицах токенов в секунду, а MoE на 120 млрд, где на токен активны 5 млрд параметров, получает потолок в десятки раз выше. Поэтому для Spark интереснее MoE-модели.
Чего Spark не умеет
- Не заменяет серверный ускоритель. У H100 SXM пропускная способность памяти около 3 350 ГБ/с, то есть в 12 раз выше. Spark медленнее H100, его сила — память за умеренные деньги.
- Рассчитан на малое число пользователей. Один поток быстрее, чем шестнадцать; как падает скорость, покажут замеры.
- Архитектура Arm. Готовые x86-пакеты не запустятся, часть инструментов придётся собирать. Контейнеры NVIDIA это сглаживают, но не полностью.
- Один GPU. Если нужна модель больше 108 ГБ, потребуется второй узел (200 Гбит/с между ними) или другая платформа.
GB10 в версиях других производителей
Чип GB10 устанавливают не только в DGX Spark. Разница между устройствами — корпус, охлаждение, накопитель и цена, а не сама платформа.
Такие устройства выпускают ASUS (Ascent GX10), Dell, Lenovo, MSI, Gigabyte, Acer и HP. Перед покупкой сверяйте конфигурацию: объём накопителя и комплект поставки у версий различаются.
Источники и даты7
- GB10 Grace Blackwell, 20 ядер ArmNVIDIA DGX Spark Hardware Overview docs.nvidia.com (10 Cortex-X925 + 10 Cortex-A725)12.10.2026
- 128 ГБ unified memory LPDDR5xNVIDIA DGX Spark Hardware Overview docs.nvidia.com12.10.2026
- 273 ГБ/сNVIDIA DGX Spark Hardware Overview docs.nvidia.com12.10.2026
- ConnectX‑7, 200 Гбит/сNVIDIA DGX Spark, страница продукта nvidia.com12.10.2026
- до 1 PFLOP (FP4, со структурной разреженностью)NVIDIA DGX Spark Hardware Overview docs.nvidia.com — «up to 1 PFLOP at FP4 precision with sparsity»12.10.2026
- 108 ГБДанные сервиса аренды SparkRent: под модель доступно 105–110 ГБ, часть памяти занимают ОС и софт12.10.2026
- 80 ГБ HBM3, 3 350 ГБ/с (SXM)NVIDIA H100 nvidia.com (SXM: 80 ГБ, 3,35 ТБ/с; NVL/PCIe: 94 ГБ, 3,9 ТБ/с)12.10.2026