华为昇腾 910B 32G:能跑什么模型
华为昇腾旗舰AI训练卡,32GB HBM2E显存。全新价26-36万元,二手稀缺。生态封闭但性能强劲。
一、这张卡能装下哪些模型
能装 / 装不下是推算,不是实测;点开一行是这个模型的完整文章。带测试环境的真机数字在第三节。
二、多少 G 显存开多少 K 上下文
行是量化档,列是上下文档位,格子里是「总需显存 / 估算 tok/s」。这张表回答的是「开到 32K、40K 还剩多少」这类问题。默认展开Qwen3-32B;换别的模型看同一张卡,选一下即可。
· Qwen3-32B,模型原生上下文上限 40960 token| 量化 | 4K | 8K | 16K | 32K | 40K | 64K | 128K | 最多可开 |
|---|---|---|---|---|---|---|---|---|
| Q8_0 34G | 36G 混跑 | 37G 混跑 | 39G 混跑 | 43G 混跑 | 45G 混跑 | 51G 混跑† | 67G 混跑† | 权重已超容量 |
| Q6_K 26.2G | 28.2G 混跑 | 29.2G 混跑 | 31.2G 混跑 | 35.2G 混跑 | 37.2G 混跑 | 43.2G 混跑† | 59.2G 混跑† | 3584 token(显存) |
| Q5_K_M 22.4G | 24.4G 8–11 | 25.4G 8–11 | 27.4G 7–10 | 31.4G 混跑 | 33.4G 混跑 | 39.4G 混跑† | 55.4G 混跑† | 19456 token(显存) |
| Q4_K_M 19.2G | 21.2G 9–13 | 22.2G 9–12 | 24.2G 8–11 | 28.2G 6–9 | 30.2G 混跑 | 36.2G 混跑† | 52.2G 混跑† | 32768 token(显存) |
| IQ4_XS 17G | 19G 10–15 | 20G 10–14 | 22G 9–12 | 26G 7–10 | 28G 6–9 | 34G 混跑† | 50G 混跑† | 40960 token(模型原生上限) |
| IQ3_K 14G | 16G 13–18 | 17G 12–16 | 19G 10–14 | 23G 8–11 | 25G 7–10 | 31G 混跑† | 47G 混跑† | 40960 token(模型原生上限) |
| IQ3_XXS 12.1G | 14.1G 14–20 | 15.1G 13–18 | 17.1G 11–15 | 21.1G 8–12 | 23.1G 8–10 | 29.1G 混跑† | 45.1G 混跑† | 40960 token(模型原生上限) |
格子里上行是总需显存(权重 + 该上下文的 KV + 1G 框架开销),下行是单流 decode 估算 tok/s;「混跑」表示超出显存、要靠内存放层,速度会明显低于同容量的全显存方案。带 † 的列超出该模型原生上下文,属于 rope/yarn 超纲使用,质量不保证。全部为推算,非实测。
三、别人测的 华为昇腾 910B 32G 速度(他测汇总)
本卡行情(整卡价)
本卡暂无可核对出处的整卡价快照。语料里出现过的价格必须带作者、链接、发布日期才入库, 没有就空着——价格是最容易过期、也最容易被编的字段。
同档显存的其它卡
手上有 32G 卡就点自己的型号;一行一张卡,点开就是那张卡的结论页。
规格与数据来源
上面的显存、带宽、架构数字来自下面这些页面;口径说明逐条附后。没有可核对出处的字段,本站留空,不填一个编出来的数。
这张卡暂无可自动核验的外链规格页(Intel / Cloudflare 系站点本机抓不到,或该型号无公开规格页)。 规格来自本站调研汇总,C 级单源,待复核——下面「口径」一节写明了原因。
口径:规格与档位来自《显卡/闲鱼调研汇总.md》(2026-11-09 本站调研汇总,**无外链**,作者=本站调研,C 级单源待复核);闲鱼二手价格波动大,只作量级参考,不作购买建议。官方规格外链尚未取得,取得后再升级来源分级。 无外链原因:华为官网无可直连 Spec 页(产品页需企业账号),未取得可核验外链。