NVIDIA DGX Spark 128G：能跑什么模型

128G 显存 · 可用约 112.6G（Windows 口径 88%）· 273 GB/s 带宽 · Blackwell（Grace Hopper） · 全新 · 后端：cuda

128GB LPDDR5X统一内存，273GB/s带宽，适合单台机器跑100B+级MoE模型。

能装下44 / 67 个模型

最大能跑到Qwen3-235B-A22B（IQ3_K）

单流速度上限约 140 tok/s

他测汇总4 条（口径完整 1 条）

一、这张卡能装下哪些模型

能装 / 装不下是推算，不是实测；点开一行是这个模型的完整文章。带测试环境的真机数字在第三节。

Qwen3-4B4BQ8_0 Gemma 3 4B IT4B · 滑窗Q8_0 Qwen3-8B8BQ8_0 Llama 3.1 8B Instruct8BQ8_0 GLM-4-9B 04149BQ8_0 Qwen3-14B14BQ8_0 Gemma 3 12B IT12B · 滑窗Q8_0 Phi-4 14B14.7BQ8_0 GPT-OSS-20B21B · A3.6B · MoEQ8_0 Qwen3-30B-A3B30B · A3B · MoEQ8_0 Mistral Small 3.1 24B22BQ8_0 Gemma 3 27B IT27B · 滑窗Q6_K Qwen3-32B32BQ8_0 DeepSeek-R1-Distill-Qwen-32B32BQ8_0 Seed-OSS-36B-Instruct36BQ8_0 Llama 3.1 70B Instruct70BQ8_0 Qwen3-235B-A22B235B · A22B · MoEIQ3_K Qwen3.8-27B26.9BQ6_K Qwen2.5-VL-7B-Instruct7BQ8_0 Qwen3.6-35B-A3B35B · A3B · MoEQ8_0 Ornith-1.5-35B-A3B36B · A3B · MoEQ8_0 Terminal-RSI-27B27.8BQ8_0 AREX-227.4BQ8_0 MiniCPM5-2B2.5BQ8_0 Qwen3.8-Flash-Next125B · A6B · MoEQ6_K DeepSeek-V4.1-Flash552B · A8B · MoE装不下 LFM3-1.7B1.7B · 滑窗Q8_0 Muse Glimmer-30B29.8B · 滑窗Q8_0 GLM-5.3753B · A40B · MoE装不下 Kimi K32800B · A104B · MoE装不下 Ling-3.2-flash560B · A25B · MoE装不下 Ling-3.1-flash560B · A25B · MoE装不下 MiniMax-M3.1-Flash428B · A23B · MoE装不下小米 MiMo-V2.6-Flash309B · A15B · MoE装不下小米 MiMo-V2.6-Distill-Qwen-9B9BQ8_0 NVIDIA Nemotron 3 Ultra550B · A55B · MoE装不下 GLM-5.3-Flash320B · A18B · MoE装不下 NVIDIA Nemotron 3.5 Lightning 30B30B · A3B · MoEQ8_0 NVIDIA Nemotron 3.5 Bolt 74B74B · A9B · MoEQ8_0 Muse Spark Open 816B816B · A42B · MoE装不下 Beam 1.0 501B501B · A23B · MoE装不下 Qwen3.8-2.4T-A95B2400B · A95B · MoE装不下 Kolibri-178.1B · A3.46B · MoEQ8_0 小米 MiMo-V2.6-Pro-RL1020B · A42B · MoE装不下腾讯混元 Hunyuan-0.5B0.5BQ8_0 腾讯混元 Hunyuan-1.8B1.8BQ8_0 腾讯混元 Hunyuan-4B4BQ8_0 腾讯混元 Hunyuan-7B7BQ8_0 MiniCPM-V 4.7 35B-A3B35.2B · A3.5B · MoEQ8_0 MiniCPM-V 4.7 1B1.55BQ8_0 Kimi K3.1 Pro2800B · A104B · MoE装不下 Step-5-Preview600B · A27B · MoE装不下 Ling-3.0-flash124B · A5.1B · MoEQ6_K Gemma 4 12B Unified11.95B · 滑窗Q8_0 Mistral Large 41050B · A52B · MoE装不下 Inkling975B · A41B · MoE装不下 Inkling-Small276B · A12B · MoE装不下 IBM Granite 4.2 30B30BQ8_0 IBM Granite 4.2 8B8BQ8_0 IBM Granite 4.2 3B3BQ8_0 K-EXAONE 2.0750B · A37B · MoE装不下 Tencent Hy4 preview770B · A49B · MoE装不下 MiniMax-M3428B · A23B · MoE装不下 Swift-1.5-Qwen3.8-27B27.8BQ8_0 DeepSeek-V4.1-Flash-1017552B · A8B · MoE装不下 ERNIE-5.5-Flash-Base280B · A14B · MoE装不下 DeepSeek-R1-Distill-Qwen-14B14BQ8_0

二、多少 G 显存开多少 K 上下文

行是量化档，列是上下文档位，格子里是「总需显存 / 估算 tok/s」。这张表回答的是「开到 32K、40K 还剩多少」这类问题。默认展开Qwen3-235B-A22B；换别的模型看同一张卡，选一下即可。

· Qwen3-235B-A22B，模型原生上下文上限 40960 token

量化	4K	8K	16K	32K	40K	64K	128K	最多可开
Q8_0 249.7G	251.4G 混跑	252.2G 混跑	253.6G 混跑	256.6G 混跑	258G 混跑	262.4G 混跑†	274.2G 混跑†	权重已超容量
Q6_K 192.7G	194.4G 混跑	195.2G 混跑	196.6G 混跑	199.6G 混跑	201G 混跑	205.5G 混跑†	217.2G 混跑†	权重已超容量
Q5_K_M 164.5G	166.2G 混跑	167G 混跑	168.4G 混跑	171.4G 混跑	172.8G 混跑	177.3G 混跑†	189G 混跑†	权重已超容量
Q4_K_M 141G	142.7G 混跑	143.5G 混跑	144.9G 混跑	147.9G 混跑	149.3G 混跑	153.8G 混跑†	165.5G 混跑†	权重已超容量
IQ4_XS 124.8G	126.6G 混跑	127.3G 混跑	128.8G 混跑	131.7G 混跑	133.2G 混跑	137.6G 混跑†	149.3G 混跑†	权重已超容量
IQ3_K 102.8G	104.5G 15–22	105.3G 14–20	106.8G 12–17	109.7G 9–13	111.2G 8–12	115.6G 混跑†	127.3G 混跑†	40960 token（模型原生上限）
IQ3_XXS 88.7G	90.4G 18–25	91.2G 16–22	92.7G 13–19	95.6G 10–14	97.1G 9–12	101.5G 7–9†	113.2G 混跑†	40960 token（模型原生上限）

格子里上行是总需显存（权重 + 该上下文的 KV + 1G 框架开销），下行是单流 decode 估算 tok/s；「混跑」表示超出显存、要靠内存放层，速度会明显低于同容量的全显存方案。带 ^† 的列超出该模型原生上下文，属于 rope/yarn 超纲使用，质量不保证。全部为推算，非实测。

三、别人测的 NVIDIA DGX Spark 128G 速度（他测汇总）

模型	量化	上下文	框架 / 版本	他测 tok/s	本站推算	偏差	投机与并发	口径	来源
Kolibri-1	FP8（官方 shipped 权重，KV cache BF16）	0K	vLLM（作者自写 bench.ts 客户端，256-token 回复） · 0.1.dev20073+g8e685d198（torch 2.13.0+cu130，CUDA 13.0，--kv-cache-dtype auto --max-model-len 262144 --gpu-memory-utilization 0.90）	50.1	NaN–NaN	—	无投机 · 单流	他测·本站未复现	pulseandthread/kolibri-1-dgx-spark（README 实测表，0/4.9K/19.8K/79K/158K prompt 全序列） pulseandthread（GitHub 社区） · 2026-10-03
Kolibri-1	FP8（官方 shipped 权重）	未报	vLLM（llama-benchy pp2048/tg128 口径） · 0.29.0（CUDA 13.0，--kv-cache-dtype fp8 --gpu-memory-utilization 0.78 --max-model-len 131072）	20.4	—	缺 2 项口径	无投机 · 单流	口径不全·不进对比	mARTin-B78/aleph-alpha-inference-kolibri-1-dgx-spark（README 实测表 + 原始数据 benchmarks/ 目录） mARTin-B78（GitHub 社区） · 2026-10-04
NVIDIA Nemotron 3.5 Lightning 30B	NVFP4	256K	vLLM（DGX Spark 容器，spark-vllm-docker） · vllm-node-tf5 容器（tf5 构建）；speculative dspark num_speculative_tokens=8	116.84	—	缺 3 项口径	投机开（接受率未报） · 单流/并发未说明	口径不全·不进对比	Nemotron 3.5 Lightning 30B-A3B-NVFP4 — Spark Arena Benchmark（Kuscsik Zoltan，2026-08-12） Kuscsik Zoltan（spark-arena 社区，GB10 DGX Spark 开发者论坛） · 2026-08-12
Qwen3.8-Flash-Next	NVFP4	256K	SGLang（TP2，speculative NEXTN/MTP4 + CUDA graphs） · SGLang day-0 镜像 + SM121 kernel 单行补丁（2026-08-26） · 2 卡（互联未报）	50	—	缺 2 项口径	投机开（接受率 1） · 单流	口径不全·不进对比	Qwen3.8-Flash-Next — Full Fleet Deployment (Day-0)，tonyd2wild，2026-08-26 tonyd2wild（2Wild fleet / @Tech2Wild） · 2026-08-26

本卡共 4 条，其中 1 条口径完整。 “本站推算”给的是同量化、同上下文、单流口径下的公式区间，两边对不上才值得写进点评。多卡的条目按卡数把带宽线性相加再算，没扣通信开销——这个折算只会把本站推算算高、把他测显得低，所以拿它当“物理上限”看，不当预期值看。

上传实测数据 · 数据规则见数据口径

本卡行情（整卡价）

这张是统一内存平台，内存和算力焊在同一块芯片里，没有独立显卡可买，所以不存在"整卡价"这个口径——整机（Mac / 主机）价格随配置和促销波动大，本站只收可核对出处的卡价，不收录整机价，这块就空着，不写一个没法核实的数。

同档显存的其它卡

手上有 128G 卡就点自己的型号；一行一张卡，点开就是那张卡的结论页。

Apple M5 Max 128G（统一内存）128G · 614 GB/s Apple M4 Max 128G（统一内存）128G · 546 GB/s AMD Ryzen AI Max+ 395 / Strix Halo 128G（统一内存）128G · 256 GB/s

规格与数据来源

上面的显存、带宽、架构数字来自下面这些页面；口径说明逐条附后。没有可核对出处的字段，本站留空，不填一个编出来的数。

口径：规格与档位来自《显卡/闲鱼调研汇总.md》（2026-11-09 本站调研汇总，**无外链**，作者=本站调研，C 级单源待复核）；闲鱼二手价格波动大，只作量级参考，不作购买建议。官方规格外链已取得（见上方来源行），核心参数（显存/带宽/架构）以官方页为准。