NVIDIA CMP 170HX 64G（矿卡魔改）：能跑什么模型

64G 显存 · 可用约 56.3G（Windows 口径 88%）· 1490 GB/s 带宽 · Ampere GA100-105F（A100 同封装；70 SM / 4480 CUDA / 280 Tensor，CC 8.0，HBM2e 4096-bit） · 魔改/二手 · 后端：cuda

2021 年的以太坊矿卡，官方把显存锁到 8/10GB。社区 cmpunlocker 驱动补丁能把它解锁到 **64GB**（8GB 版）或 40GB（10GB 版），带宽还有 1.49 TB/s，比 RTX 3090 高一截。**单卡 64GB 塞下 27B-Q8、甚至 120B 级模型**，是它唯一值得买的理由。代价很硬：PCIe 出厂锁 Gen1 x4（软件能到 Gen2，x16 要焊电容）、没有显示输出、没有 NVLink、被动散热得自己吹风、解锁是 Linux-only 驱动补丁且每次升驱动要重打。价格早已不是当年那个数，eBay 中位约 3800 美元且多数不退不换。

能装下41 / 67 个模型

最大能跑到Kolibri-1（Q5_K_M）

单流速度上限约 200 tok/s

他测汇总1 条（口径完整 0 条）

一、这张卡能装下哪些模型

能装 / 装不下是推算，不是实测；点开一行是这个模型的完整文章。带测试环境的真机数字在第三节。

Qwen3-4B4BQ8_0 Gemma 3 4B IT4B · 滑窗Q8_0 Qwen3-8B8BQ8_0 Llama 3.1 8B Instruct8BQ8_0 GLM-4-9B 04149BQ8_0 Qwen3-14B14BQ8_0 Gemma 3 12B IT12B · 滑窗Q8_0 Phi-4 14B14.7BQ8_0 GPT-OSS-20B21B · A3.6B · MoEQ8_0 Qwen3-30B-A3B30B · A3B · MoEQ8_0 Mistral Small 3.1 24B22BQ8_0 Gemma 3 27B IT27B · 滑窗Q6_K Qwen3-32B32BQ8_0 DeepSeek-R1-Distill-Qwen-32B32BQ8_0 Seed-OSS-36B-Instruct36BQ8_0 Llama 3.1 70B Instruct70BQ5_K_M Qwen3-235B-A22B235B · A22B · MoE装不下 Qwen3.8-27B26.9BQ6_K Qwen2.5-VL-7B-Instruct7BQ8_0 Qwen3.6-35B-A3B35B · A3B · MoEQ8_0 Ornith-1.5-35B-A3B36B · A3B · MoEQ8_0 Terminal-RSI-27B27.8BQ8_0 AREX-227.4BQ8_0 MiniCPM5-2B2.5BQ8_0 Qwen3.8-Flash-Next125B · A6B · MoE装不下 DeepSeek-V4.1-Flash552B · A8B · MoE装不下 LFM3-1.7B1.7B · 滑窗Q8_0 Muse Glimmer-30B29.8B · 滑窗Q8_0 GLM-5.3753B · A40B · MoE装不下 Kimi K32800B · A104B · MoE装不下 Ling-3.2-flash560B · A25B · MoE装不下 Ling-3.1-flash560B · A25B · MoE装不下 MiniMax-M3.1-Flash428B · A23B · MoE装不下小米 MiMo-V2.6-Flash309B · A15B · MoE装不下小米 MiMo-V2.6-Distill-Qwen-9B9BQ8_0 NVIDIA Nemotron 3 Ultra550B · A55B · MoE装不下 GLM-5.3-Flash320B · A18B · MoE装不下 NVIDIA Nemotron 3.5 Lightning 30B30B · A3B · MoEQ8_0 NVIDIA Nemotron 3.5 Bolt 74B74B · A9B · MoEQ5_K_M Muse Spark Open 816B816B · A42B · MoE装不下 Beam 1.0 501B501B · A23B · MoE装不下 Qwen3.8-2.4T-A95B2400B · A95B · MoE装不下 Kolibri-178.1B · A3.46B · MoEQ5_K_M 小米 MiMo-V2.6-Pro-RL1020B · A42B · MoE装不下腾讯混元 Hunyuan-0.5B0.5BQ8_0 腾讯混元 Hunyuan-1.8B1.8BQ8_0 腾讯混元 Hunyuan-4B4BQ8_0 腾讯混元 Hunyuan-7B7BQ8_0 MiniCPM-V 4.7 35B-A3B35.2B · A3.5B · MoEQ8_0 MiniCPM-V 4.7 1B1.55BQ8_0 Kimi K3.1 Pro2800B · A104B · MoE装不下 Step-5-Preview600B · A27B · MoE装不下 Ling-3.0-flash124B · A5.1B · MoE装不下 Gemma 4 12B Unified11.95B · 滑窗Q8_0 Mistral Large 41050B · A52B · MoE装不下 Inkling975B · A41B · MoE装不下 Inkling-Small276B · A12B · MoE装不下 IBM Granite 4.2 30B30BQ8_0 IBM Granite 4.2 8B8BQ8_0 IBM Granite 4.2 3B3BQ8_0 K-EXAONE 2.0750B · A37B · MoE装不下 Tencent Hy4 preview770B · A49B · MoE装不下 MiniMax-M3428B · A23B · MoE装不下 Swift-1.5-Qwen3.8-27B27.8BQ8_0 DeepSeek-V4.1-Flash-1017552B · A8B · MoE装不下 ERNIE-5.5-Flash-Base280B · A14B · MoE装不下 DeepSeek-R1-Distill-Qwen-14B14BQ8_0

二、多少 G 显存开多少 K 上下文

行是量化档，列是上下文档位，格子里是「总需显存 / 估算 tok/s」。这张表回答的是「开到 32K、40K 还剩多少」这类问题。默认展开Qwen3-32B；换别的模型看同一张卡，选一下即可。

· Qwen3-32B，模型原生上下文上限 40960 token

量化	4K	8K	16K	32K	40K	64K	128K	最多可开
Q8_0 34G	36G 25–36	37G 24–34	39G 23–32	43G 20–28	45G 19–26	51G 16–22†	67G 混跑†	40960 token（模型原生上限）
Q6_K 26.2G	28.2G 32–46	29.2G 31–44	31.2G 28–40	35.2G 24–34	37.2G 23–31	43.2G 19–26†	59.2G 混跑†	40960 token（模型原生上限）
Q5_K_M 22.4G	24.4G 38–53	25.4G 36–50	27.4G 32–45	31.4G 27–38	33.4G 25–35	39.4G 20–28†	55.4G 14–19†	40960 token（模型原生上限）
Q4_K_M 19.2G	21.2G 44–61	22.2G 41–57	24.2G 36–51	28.2G 30–41	30.2G 27–38	36.2G 22–30†	52.2G 14–20†	40960 token（模型原生上限）
IQ4_XS 17G	19G 49–69	20G 45–64	22G 40–56	26G 32–45	28G 29–41	34G 23–32†	50G 15–20†	40960 token（模型原生上限）
IQ3_K 14G	16G 58–82	17G 54–75	19G 46–64	23G 36–50	25G 33–45	31G 25–35†	47G 16–21†	40960 token（模型原生上限）
IQ3_XXS 12.1G	14.1G 67–94	15.1G 61–85	17.1G 51–71	21.1G 39–54	23.1G 35–48	29.1G 27–36†	45.1G 16–22†	40960 token（模型原生上限）

格子里上行是总需显存（权重 + 该上下文的 KV + 1G 框架开销），下行是单流 decode 估算 tok/s；「混跑」表示超出显存、要靠内存放层，速度会明显低于同容量的全显存方案。带 ^† 的列超出该模型原生上下文，属于 rope/yarn 超纲使用，质量不保证。全部为推算，非实测。

三、别人测的 NVIDIA CMP 170HX 64G（矿卡魔改）速度（他测汇总）

模型	量化	上下文	框架 / 版本	他测 tok/s	本站推算	偏差	投机与并发	口径	来源
IBM Granite 4.2 30B	FP8（ibm-granite/granite-4.2-30b-fp8 官方量化）	未报	vLLM · 0.32.0rc1.dev249+g18305948a（morrowmake/vllm-cmp170hx 镜像，--kv-cache-dtype fp8 --max-model-len 131072）	35.4	—	缺 2 项口径	无投机 · 单流	口径不全·不进对比	granite-4.2-30b-fp8 on CMP 170HX 64GB: speed test matrix（LocalMaxxing @Sandberg，llm-inference-bench v0.8.0，全矩阵） @Sandberg（LocalMaxxing 社区） · 2026-10-31

本卡共 1 条，其中 0 条口径完整。 “本站推算”给的是同量化、同上下文、单流口径下的公式区间，两边对不上才值得写进点评。多卡的条目按卡数把带宽线性相加再算，没扣通信开销——这个折算只会把本站推算算高、把他测显得低，所以拿它当“物理上限”看，不当预期值看。

上传实测数据 · 数据规则见数据口径

本卡行情（整卡价）

本卡暂无可核对出处的整卡价快照。语料里出现过的价格必须带作者、链接、发布日期才入库，没有就空着——价格是最容易过期、也最容易被编的字段。

同档显存的其它卡

手上有 64G 卡就点自己的型号；一行一张卡，点开就是那张卡的结论页。

Apple M1 Max 64G（统一内存）64G · 400 GB/s Apple M5 Pro 64G（统一内存）64G · 307 GB/s

规格与数据来源

上面的显存、带宽、架构数字来自下面这些页面；口径说明逐条附后。没有可核对出处的字段，本站留空，不填一个编出来的数。

口径：【矿卡魔改】基座是 2021-09 发布的 NVIDIA CMP 170HX 矿卡，官方锁 8GB（PCI ID 0x20C2）或 10GB（0x2082）；**64GB 来自社区 cmpunlocker 驱动补丁解锁，不是官方规格**。规格口径（多源交叉一致，2026-11-10 核对）：GA100-105F / 70 SM / 4480 CUDA / 280 Tensor / CC 8.0 / HBM2e 4096-bit / 理论带宽约 1.49 TB/s（本站记 1490 GB/s）/ 基频 1140 MHz、加速 1410 MHz / TDP 250W（软件上限约 300W）。8GB 版解锁至 64GB，10GB 版解锁至 40GB（个别 48GB）。PCIe 物理 x16、电气锁 Gen1 x4，软件可到 Gen2，x16 需焊 24 颗 0402 电容。注册来源（4 源交叉，A 级）：Tom's Hardware 2026-08-18 报道、170th-Street 完整规格页、it-still-boots CMP 170HX 文档、RAGShelf 2026-10 评测。价格：本站未取得可核验实时价，只转述 RAGShelf 2026-11 观察「eBay 中位约 3800 美元、通常不退不换」；Tom's Hardware 标题里的「USD 250」是 2026 年中旧闻，不是今天的价，两者相差极大，一并写明。风险明示：解锁不稳可能永久损坏卡；此卡无保修；本站只收录规格，不代购、不背书。