关于本站

本站只回答一个问题：你的显卡能跑哪些本地大模型、能开多大上下文、跑起来多快、跑不起来怎么排查。 不做模型推荐排序、不做导购、不放购买链接。

一句话结论

全站各栏目分别回答什么，每栏一行——原先钉在每页顶部的那行结论统一收在这里（2026-11-08 起页面不再重复）。点行尾进对应栏目。

• 容量表 — 站内所有卡按显存档位分组（4G 到 512G，档位跟着真实卡走），一档一页一行一张卡，点卡看它能装下哪些模型、装完权重还能开多大上下文。
• 显卡 — 156 张卡：英伟达 / AMD / 英特尔 / 国产，一行一条，点开看它能跑哪些模型、估算多快。
• 模型 — 67 个模型分文本 / 多模态两组，可按地区（中国 / 美国 / 其他）与参数量档（十亿到万亿）筛选；层数/KV 头数对照官方 config.json 核实过的照写，没核实的按参数量近似并标明。
• 同档横评 — 同参数量档模型 × 代表卡，装得下还是装不下、估算多少 tok/s，一屏看全。
• 实测 — 第三方真机实测（总量表：框架 × 显卡，引用整理、行级带来源、全部来源文章列在页尾）+ 本站自测，逐条可溯源。
• 三大榜单 — 本站一个分都不生产：跑分榜搬运 AA 快照、民间结论榜只数条数、用量榜只呈现 OpenRouter 单平台份额，每行带数据源·日期·口径。
• 常见问题 — 给还没开始跑模型的人：显存、量化、上下文、KV、MoE 这些词一次讲清。
• 故障排查 — 按报错原文找条目；每条给原因、按顺序的处置办法和验证方法，没复现过的明确标「本站未复现」。
• 模型优化 — 推理框架 / 量化 / 微调 / 前端 / Agent 工具的人工精选，每条写清它能干什么、能为你干什么、商用许可；star 数由 GitHub API 自动同步。
• 智能管家 — 置顶一篇 Meta Muse 秘书类应用场景参考 + 本站原创系列教程（7 篇）：为什么本地 → 9B 还是 35B → MoE 反直觉 → 千元到万元装机 → 装系统跑通 → 接成管家 → 手机接入；硬件价格与站内价格快照同源，部署参数标来源。
• 开源项目推荐 — 好的开源项目（Ornith 撰写）：它是什么、许可证与商用边界（AGPL / 自定义 / 混合许可证高危置顶）、适合谁；全部单源 C 级，本站是信息分享，不构成商业或法律建议。
• 站长手记 — 站长第一人称的判断过程记录（当前 1 篇：技术平权时代「能做出来」不再值钱）。口述 + AI 辅助撰写，总编辑核数，AI 生成内容已按 GB 45438-2025 显式标识。
• 装机案例 — 真实用户投稿的实机方案：配件清单 + 整套预算 + 投稿者本机 tok/s。价格是投稿者自购实价、速度是投稿者实测，本站不背书不复现，署名 + 日期齐全。
• 站内搜索 — 认「16G 能跑什么」这类口语查询和报错原文；命中显存意图直接给容量表入口。

数据口径（三级）

• 实测 有来源链接的测试结果，标注发布者与链接。永远带链接，可回原文核对。
• 推算 由本页公式算出，页面必须写「粗略估算」。容量表、横评、显卡页里的速度全是这一级。
• 声称 尚未核验的用户提交，不计入中位速度，也不进实测排名。
• 未复现 故障排查条目专用：本站没有复现过这个报错，条目是按日志语义推导或改写整理的，不能当成已验证方案。

同一件事在两页数字不一致算 bug，欢迎按下面的方式甩过来。

显存是怎么算的

总需求 = 权重 + KV cache + 框架开销（1G）。
权重 = 参数量 × 每参数字节 ÷ 8（Q4_K_M 取 4.80 bp，Q8_0 取 8.50 bp，误差 ±10%）。
KV = 2 × 层数 × KV 头数 × 每头维度 × 精度字节 × 上下文 token；带滑窗的模型（Gemma 3、gpt-oss 等）按「全量层线性 + 滑窗层封顶窗口」混合计算。 层数与 KV 头数一律取自官方 config.json，模型详情页附抓取日期与链接。

为什么不按整卡容量算：桌面系统要占显存。Windows（WDDM + 桌面合成器）按 88%、 Linux 按 95%、macOS 统一内存按 75% 起算； 容量表可以切到「满容量」口径去和别人的数字对齐，但默认不给满容量——差的那 12% 正是「明明说能装下却 OOM」的主因之一。 另外模型自身有原生上下文上限（Phi-4 只有 16K、GLM-4-9B 32K），显存再多余量也开不过去。

速度是怎么算的

decode 速度 ≈ 带宽 × 效率系数 ÷ 每 token 要读取的权重字节，全 GPU 驻留效率取 0.60–0.85。 MoE 按激活参数算读取量（30B-A3B 每 token 只读约 3B），但显存仍要装下全部专家，所以「装得下」和「跑得快」是两条独立的线。 专家放内存、层间 offload 会串行等待，效率更低，页面会写明混跑比例。 本站对单流解码设了经验天花板（带宽 800GB/s 以下 140 tok/s、以上 200 tok/s）：纯公式算出 500 tok/s 一定是失真。 这条公式只估 decode（出字速度），不估 prefill（读提示词速度），后者通常快 10–100 倍。

站内搜索为什么不是全文检索

「24G 能跑什么」「3090 24g」「qwen32b 要多大显存」「out of memory 怎么办」是四种不同意图。 本站把查询拆成显存数字 / 型号别名 / 参数量 / 报错原文做定向匹配，命中显存意图时直接给容量表入口，再兜底加权全文搜索。 搜索结果在浏览器端渲染，爬虫读不到，所以搜索页下方另有一份服务端渲染的全站目录，llms-full.txt 给 AI 引擎读同一份事实。

内容与版权

本站的文字（常见问题、故障排查条目、模型点评、优化要点）均为本站撰写，转载请注明来源链接，不接受「洗稿式」搬运。 事实数据（参数量、层数、KV 头数、带宽、显存）属公共事实，一律注明出处：模型常数指向官方仓库的 config.json，显卡参数指向厂商规格页。 本站不复制他人论文的正文、不镜像权重、不提供下载链接、不搬运他人跑分截图；引用社区实测只写结论与原文链接。 若认为某处表述侵犯了您的权益，请附上出处联系本站，核实后当日处理。

想贡献实测 / 纠错

去实测页上传一条：显卡、模型、量化、上下文、速度（有来源链接更好），入库后会进入实测表与模型页的社区中位速度——这是本站唯一「越用越准」的部分。 数据错误请附上出处，纠错时请说明是哪一页、哪个数字、你认为正确的是什么。

当前实测记录数：14（为 0 时实测表为空，所有速度均为推算）。 已收录 156 张显卡、67 个模型、40 条常见问题、24 条故障排查。