Qwen на DGX Spark: какие версии помещаются и сколько памяти на контекст
Семейство Qwen выходит версиями, и «какую брать» — главный вопрос. Мы не перечисляем всю ленту: показываем, какие модели семейства помещаются в 128 ГБ, сколько памяти остаётся на контекст и чем они различаются по устройству. Рекомендации под задачу дадим после замеров скорости и качества на устройстве.
Какие версии помещаются
Для расчёта взяты три модели семейства Qwen3: две MoE и одна dense. Это не рекомендация, а репрезентативные точки: версии выходят быстро, перед публикацией замеров мы заменим их на актуальные на день теста и укажем дату.
| Модель | Тип | Формат | Веса | 8K · 1 запрос | 32K · 1 запрос | 128K · 1 запрос | 32K · 4 запроса |
|---|---|---|---|---|---|---|---|
| Qwen3-235B-A22B | MoE | INT4 / Q4_K_M | 154 | 156 · 2 узла | 160 · 2 узла | 179 · 2 узла | 179 · 2 узла |
| Qwen3-32B | dense | FP8 / INT8 | 38 | 40 | 46 | 72 | 72 |
| Qwen3-30B-A3B | MoE | FP8 / INT8 | 35 | 36 | 38 | 48 | 48 |
Что видно по таблице. Модель на 30 млрд параметров почти не нагружает память и оставляет место под 128K контекста. Плотная модель на 32 млрд в FP8 занимает больше на каждый токен контекста: у неё больше слоёв и KV-голов. Версия на 235 млрд в четырёхбитной квантизации лежит на грани: одному узлу не хватает, двум — достаточно.
Скорость
MoE-модели читают за токен только активные параметры (около 3 млрд у малой версии, около 22 млрд у большой), поэтому при той же пропускной способности памяти они должны обгонять dense-модель. Должны — значит, проверим замером на устройстве и опубликуем результат здесь.
Пересчитать память для своей комбинации можно в калькуляторе.
Источники и даты2
- 108 ГБДанные сервиса аренды SparkRent: под модель доступно 105–110 ГБ, часть памяти занимают ОС и софт12.10.2026
- 273 ГБ/сNVIDIA DGX Spark Hardware Overview docs.nvidia.com12.10.2026