NVIDIA RTX 5070 12G：能跑什么模型

12G 显存 · 可用约 10.6G（Windows 口径 88%）· 672 GB/s 带宽 · Blackwell（GB205，192-bit GDDR7） · 全新 · 后端：cuda / vulkan

Blackwell；12G 显存 / 672GB/s。12G 档新架构卡：本站 14B~30B Q4 区间主力，速度按公式推算。

能装下23 / 67 个模型

最大能跑到Mistral Small 3.1 24B（IQ3_XXS）

单流速度上限约 140 tok/s

他测汇总0 条（口径完整 0 条）

一、这张卡能装下哪些模型

能装 / 装不下是推算，不是实测；点开一行是这个模型的完整文章。带测试环境的真机数字在第三节。

Qwen3-4B4BQ8_0 Gemma 3 4B IT4B · 滑窗Q8_0 Qwen3-8B8BQ6_K Llama 3.1 8B Instruct8BQ8_0 GLM-4-9B 04149BQ6_K Qwen3-14B14BIQ4_XS Gemma 3 12B IT12B · 滑窗Q5_K_M Phi-4 14B14.7BIQ4_XS GPT-OSS-20B21B · A3.6B · MoEIQ3_XXS Qwen3-30B-A3B30B · A3B · MoE装不下 Mistral Small 3.1 24B22BIQ3_XXS Gemma 3 27B IT27B · 滑窗装不下 Qwen3-32B32B装不下 DeepSeek-R1-Distill-Qwen-32B32B装不下 Seed-OSS-36B-Instruct36B装不下 Llama 3.1 70B Instruct70B装不下 Qwen3-235B-A22B235B · A22B · MoE装不下 Qwen3.8-27B26.9B装不下 Qwen2.5-VL-7B-Instruct7BQ8_0 Qwen3.6-35B-A3B35B · A3B · MoE装不下 Ornith-1.5-35B-A3B36B · A3B · MoE装不下 Terminal-RSI-27B27.8B装不下 AREX-227.4B装不下 MiniCPM5-2B2.5BQ8_0 Qwen3.8-Flash-Next125B · A6B · MoE装不下 DeepSeek-V4.1-Flash552B · A8B · MoE装不下 LFM3-1.7B1.7B · 滑窗Q8_0 Muse Glimmer-30B29.8B · 滑窗装不下 GLM-5.3753B · A40B · MoE装不下 Kimi K32800B · A104B · MoE装不下 Ling-3.2-flash560B · A25B · MoE装不下 Ling-3.1-flash560B · A25B · MoE装不下 MiniMax-M3.1-Flash428B · A23B · MoE装不下小米 MiMo-V2.6-Flash309B · A15B · MoE装不下小米 MiMo-V2.6-Distill-Qwen-9B9BQ6_K NVIDIA Nemotron 3 Ultra550B · A55B · MoE装不下 GLM-5.3-Flash320B · A18B · MoE装不下 NVIDIA Nemotron 3.5 Lightning 30B30B · A3B · MoE装不下 NVIDIA Nemotron 3.5 Bolt 74B74B · A9B · MoE装不下 Muse Spark Open 816B816B · A42B · MoE装不下 Beam 1.0 501B501B · A23B · MoE装不下 Qwen3.8-2.4T-A95B2400B · A95B · MoE装不下 Kolibri-178.1B · A3.46B · MoE装不下小米 MiMo-V2.6-Pro-RL1020B · A42B · MoE装不下腾讯混元 Hunyuan-0.5B0.5BQ8_0 腾讯混元 Hunyuan-1.8B1.8BQ8_0 腾讯混元 Hunyuan-4B4BQ8_0 腾讯混元 Hunyuan-7B7BQ8_0 MiniCPM-V 4.7 35B-A3B35.2B · A3.5B · MoE装不下 MiniCPM-V 4.7 1B1.55BQ8_0 Kimi K3.1 Pro2800B · A104B · MoE装不下 Step-5-Preview600B · A27B · MoE装不下 Ling-3.0-flash124B · A5.1B · MoE装不下 Gemma 4 12B Unified11.95B · 滑窗Q5_K_M Mistral Large 41050B · A52B · MoE装不下 Inkling975B · A41B · MoE装不下 Inkling-Small276B · A12B · MoE装不下 IBM Granite 4.2 30B30B装不下 IBM Granite 4.2 8B8BQ6_K IBM Granite 4.2 3B3BQ8_0 K-EXAONE 2.0750B · A37B · MoE装不下 Tencent Hy4 preview770B · A49B · MoE装不下 MiniMax-M3428B · A23B · MoE装不下 Swift-1.5-Qwen3.8-27B27.8B装不下 DeepSeek-V4.1-Flash-1017552B · A8B · MoE装不下 ERNIE-5.5-Flash-Base280B · A14B · MoE装不下 DeepSeek-R1-Distill-Qwen-14B14BIQ4_XS

二、多少 G 显存开多少 K 上下文

行是量化档，列是上下文档位，格子里是「总需显存 / 估算 tok/s」。这张表回答的是「开到 32K、40K 还剩多少」这类问题。默认展开Qwen3-14B；换别的模型看同一张卡，选一下即可。

· Qwen3-14B，模型原生上下文上限 40960 token

量化	4K	8K	16K	32K	40K	64K	128K	最多可开
Q8_0 14.9G	16.5G 混跑	17.1G 混跑	18.4G 混跑	20.9G 混跑	22.1G 混跑	25.9G 混跑†	35.9G 混跑†	权重已超容量
Q6_K 11.5G	13.1G 混跑	13.7G 混跑	15G 混跑	17.5G 混跑	18.7G 混跑	22.5G 混跑†	32.5G 混跑†	权重已超容量
Q5_K_M 9.8G	11.4G 混跑	12G 混跑	13.3G 混跑	15.8G 混跑	17G 混跑	20.8G 混跑†	30.8G 混跑†	权重已超容量
Q4_K_M 8.4G	10G 44–62	10.7G 混跑	11.9G 混跑	14.4G 混跑	15.7G 混跑	19.4G 混跑†	29.4G 混跑†	7680 token（显存）
IQ4_XS 7.4G	9.1G 49–69	9.7G 44–62	10.9G 混跑	13.4G 混跑	14.7G 混跑	18.4G 混跑†	28.4G 混跑†	13824 token（显存）
IQ3_K 6.1G	7.8G 58–81	8.4G 52–72	9.6G 43–59	12.1G 混跑	13.4G 混跑	17.1G 混跑†	27.1G 混跑†	22528 token（显存）
IQ3_XXS 5.3G	6.9G 66–93	7.5G 58–81	8.8G 47–65	11.3G 混跑	12.5G 混跑	16.3G 混跑†	26.3G 混跑†	28160 token（显存）

格子里上行是总需显存（权重 + 该上下文的 KV + 1G 框架开销），下行是单流 decode 估算 tok/s；「混跑」表示超出显存、要靠内存放层，速度会明显低于同容量的全显存方案。带 ^† 的列超出该模型原生上下文，属于 rope/yarn 超纲使用，质量不保证。全部为推算，非实测。

三、别人测的 NVIDIA RTX 5070 12G 速度（他测汇总）

这张卡还没有他测数据。有 NVIDIA RTX 5070 12G 的实测？上传你的实测。

上传实测数据 · 数据规则见数据口径

本卡行情（整卡价）

本卡暂无可核对出处的整卡价快照。语料里出现过的价格必须带作者、链接、发布日期才入库，没有就空着——价格是最容易过期、也最容易被编的字段。

同档显存的其它卡

手上有 12G 卡就点自己的型号；一行一张卡，点开就是那张卡的结论页。

NVIDIA RTX 4070 12G12G · 504 GB/s NVIDIA RTX 4070 SUPER 12G12G · 504 GB/s NVIDIA RTX 4070 Ti 12G12G · 504 GB/s Intel Arc B580 12G12G · 456 GB/s AMD RX 9070 GRE 12G12G · 432 GB/s AMD RX 7700 XT 12G12G · 432 GB/s AMD RX 6700 XT 12G12G · 384 GB/s AMD RX 6750 XT 12G12G · 384 GB/s Intel Arc Pro A60 12G（工作站）12G · 384 GB/s NVIDIA RTX 3060 12G12G · 360 GB/s NVIDIA RTX 3060 12G（魔改）12G · 360 GB/s

规格与数据来源

上面的显存、带宽、架构数字来自下面这些页面；口径说明逐条附后。没有可核对出处的字段，本站留空，不填一个编出来的数。

口径：12 GB GDDR7 / 192-bit / 672 GB/s 逐字来自 NVIDIA 官方 GeForce 50 系 compare 规格表（2026-11-08 抓取，官方表直接给 Memory Bandwidth 672 GB/sec）。