开了投机解码能快多少？为什么别人 40 tok/s，我只有 18？

投机解码不是稳赚：小模型先猜几个 token，大模型一次性验证，猜中才快。提升完全取决于接受率，常见是一到三成，接受率低时反而更慢——别把别人的倍数当成你的。

正常解码是一个 token 一个 token 往外吐，每吐一个就要把全部权重读一遍，所以瓶颈在带宽而不是算力。投机解码的思路是：拿一个小草稿模型连着猜后面几个 token，再让大模型一次并行把这批都验一遍。验对了就等于一次读权重出了好几个字，自然就快。

关键变量是接受率（draft acceptance rate）：草稿猜的 token 里有多少被大模型采纳。代码、模板化改写、固定套路的翻译，重复度高，接受率能到六七成，快三成很常见；开放创作、多语言混杂、推理链长且发散的文本，接受率可能只有两三成，这时大模型要不断推翻重猜，不仅不涨还可能变慢。所以『我开了投机快一倍』这句话，如果没报接受率和任务类型，等于没说。

成本也别忘了：草稿模型自己要占显存和内存带宽，两个模型之间还要来回传数据。小显存卡上，这一份开销可能就是压垮 8K 上下文的最后一根稻草；多轮长对话里 KV 已经很大，验证批次的成本也会抬高。

本站的容量表和单卡专辑里的速度一律是『未开投机』的单流口径，这样才能横向比较。你手上如果真有同一张卡、同一模型、开与不开各跑几次的数字，那就是本站最缺的东西：按排行榜页那个带七个字段的格式发过来，我们把它标成实测并且注明接受率。