常见问题 / 数据口径

为什么你的数字和别人测的不一样?

四个常见原因:系统水位不同、KV 精度不同、有没有留够上下文、以及 MoE 按总量还是按激活量算。本站把前三个都做成了可切换控件。

第一个最常碰到的:可用显存口径。按整卡 16G 算,和按 Windows 88%(14.1G)算,『14B 能开多大上下文』的结论会从约 21K 变成约 10.7K,差一倍。本站默认按 88%,因为这是 Windows 桌面的真实情况,但页面上可以切到满容量对比。

第二个:KV 精度。默认按 FP16 算,如果你实际用了 -ctk q8_0,同一份权重能开的上下文接近翻倍;用 q4_0 翻四倍。本站容量表顶部有 KV 精度切换,切一下所有结论重算。

第三个:算的是权重还是权重加上下文。很多『我这卡能跑 32B』的说法只验证了权重装得下,没说还能开多少上下文——19.2G 的 32B Q4 塞进 24G 卡之后只剩约 1G,4K 都勉强。本站容量表把『8K』『16K』分成两列单独判定,就是为了不让这种含糊混过去。

第四个:MoE 的速度基准。按 30B 总量算 Qwen3-30B-A3B 会得到个位数的 tok/s,按 3B 激活算会得到上限被钳住的几十。两种算法都『没错』,但描述的完全不是一件事。本站一律按激活参数,并标明是否把专家放内存。

如果你发现本站某个数字和公认数据差距很大,那不是『你测错了』,很可能是本站口径写错了或者常数取错了。这种情况请在反馈里告诉我们是哪一页哪一行,我们改,并保留修订记录。

条目性质:本站依据自身数据模型与公开架构常数撰写。 有错请直接告诉我们,见关于页。

相关问题

站里的『实测』『推算』『声称』分别是什么意思?实测=有来源链接且我们核过;推算=本站公式算出来的,误差可到 ±20%;声称=厂商或提交者自说自话。三类的可信度完全不同,看数字前先看标签。

延伸阅读

数据口径→16G 显存有哪些卡→

数据口径 · 其他条目

站里的『实测』『推算』『声称』分别是什么意思?我能怎么帮这个站补数据?站里的数据多久更新一次?价格是什么时候的?站里的数据可信度怎么分级?我该信哪一档?官方跑分(比如 AA 指数)为什么不等于本地速度?
← 站里的『实测』『推算』『声称』分别是什么意思?回到全部 40 条我能怎么帮这个站补数据? →
这条内容有帮助吗?