О проекте и методика замеров
GB10 — независимый журнал о DGX Spark и компьютерах на этом чипе. Пока публикуем справки и расчёты со ссылками на источники и пишем, чего не знаем. Если нужно, поможем подобрать Spark — ниже сказано, как это устроено и почему не влияет на выводы.
Кто делает журнал
Журнал делает небольшая группа специалистов, увлечённых локальными нейросетями: инженеры и предприниматели, которые внедряют LLM в работу своих команд и клиентов. Редактор — Максим Соловьёв, основатель AI-студии msolo.studio, которая внедряет ИИ в компаниях. За каждый текст отвечаем вместе, а у каждой цифры есть источник и дата.
Независимость и подбор
GB10 — независимый журнал. Если нужно, поможем подобрать DGX Spark — аренду или покупку. Заявку из формы обрабатывает сервис аренды SparkRent, с которым мы работаем. Для вас подбор бесплатный; если вы арендуете через SparkRent, он платит нам комиссию.
На выводы журнала это не влияет: источники цифр и методика будущих замеров открыты, а там, где покупка выгоднее аренды, мы так и пишем — на странице о цене срок окупаемости покупки назван прямо: 11–15 месяцев. Врезки «Подбор» в статьях отделены от текста и подписаны. SparkRent раскрыт во врезках; магазины и другие продавцы названы в источниках.
Методика замеров
Собственных замеров пока нет. Когда проведём их на устройстве, будем записывать версию DGX OS и драйвера, версии vLLM и llama.cpp, прогревать модель перед замером, повторять каждый прогон и считать токены в секунду и время до первого токена по логам движка. Потребление будем снимать ваттметром.
- Нагрузка: 1, 4 и 16 одновременных запросов; промпт 512 и 4 096 токенов; вывод 256 токенов; контекст 8K и 32K.
- Публикация: скрипт запуска и сырой лог — вместе с таблицей.
- Дата и версии — рядом с каждой цифрой.
Правила
- У каждой цифры есть источник и дата — в блоке «Источники и даты» внизу страницы. Оценки и цифры из вторичных источников отмечены там отдельно.
- Мы не публикуем чужие замеры скорости: условия у них другие.
- Цены — ориентиры на дату. Магазины и другие продавцы названы в источниках.
- Юридические вопросы (персональные данные, требования регуляторов) — к юристу. Журнал не обещает соответствия закону.
Поправки
Исправления в текстах и цифрах записываем сюда с датой и причиной. С выхода первого выпуска их не было.