常见问题 / 数据口径
为什么你的数字和别人测的不一样?
四个常见原因:系统水位不同、KV 精度不同、有没有留够上下文、以及 MoE 按总量还是按激活量算。本站把前三个都做成了可切换控件。
第一个最常碰到的:可用显存口径。按整卡 16G 算,和按 Windows 88%(14.1G)算,『14B 能开多大上下文』的结论会从约 21K 变成约 10.7K,差一倍。本站默认按 88%,因为这是 Windows 桌面的真实情况,但页面上可以切到满容量对比。
第二个:KV 精度。默认按 FP16 算,如果你实际用了 -ctk q8_0,同一份权重能开的上下文接近翻倍;用 q4_0 翻四倍。本站容量表顶部有 KV 精度切换,切一下所有结论重算。
第三个:算的是权重还是权重加上下文。很多『我这卡能跑 32B』的说法只验证了权重装得下,没说还能开多少上下文——19.2G 的 32B Q4 塞进 24G 卡之后只剩约 1G,4K 都勉强。本站容量表把『8K』『16K』分成两列单独判定,就是为了不让这种含糊混过去。
第四个:MoE 的速度基准。按 30B 总量算 Qwen3-30B-A3B 会得到个位数的 tok/s,按 3B 激活算会得到上限被钳住的几十。两种算法都『没错』,但描述的完全不是一件事。本站一律按激活参数,并标明是否把专家放内存。
如果你发现本站某个数字和公认数据差距很大,那不是『你测错了』,很可能是本站口径写错了或者常数取错了。这种情况请在反馈里告诉我们是哪一页哪一行,我们改,并保留修订记录。
条目性质:本站依据自身数据模型与公开架构常数撰写。 有错请直接告诉我们,见关于页。