故障排查 / 框架环境
ollama run 同一个 latest,今天下载的和昨天不一样
本站未复现 改写 影响:Ollama 跨版本 · Windows / Linux / macOS
现象
同一个 ollama run qwen:latest,昨天和今天加载的模型感觉不一样:体积变了、速度变了、或者输出质量变了。你以为模型坏了或更新出 bug,其实是 Ollama hub 默认量化档会变。
原因
Ollama 的 latest 标签不锁死量化档,它指向 hub 当前推荐的量化格式,会随 hub 更新与 Ollama 主版本升级而变。同是 4-bit,老式的 q4_0(遗留格式)与 q4_K_M(K-quant)在质量和体积上都有差异——同一个名字在不同时间实际指向不同文件。
按这个顺序处理
- 锁死具体 tag 而不是用 latest:ollama pull qwen:<具体量化tag> 或明确到某次版本,避免 hub 默认档变动。
- 对比文件大小和哈希:ollama show qwen 看规格,下新文件前和旧文件比字节数,不一样就是 hub 换了档。
- 理解 latest 语义:latest 指向 hub 当前推荐档,会随作者/平台更新而变,不是历史快照。
- 想复现昨天的效果就记录当时的确切 tag 或 SHA,别依赖 latest。
怎么确认解决了
ollama show <模型> 看当前 tag/量化/字节数,和你期望的版本一致;锁定具体 tag 后同一文件多次拉起结果相同。
来源与可信度
条目性质依据公开事实与社区普遍报告,用本站自己的话重写(未搬运任何他人文章段落)
是否已在本站机器复现否——请把这条当线索而不是结论
- https://github.com/ollama/ollama/issues/5425 — Ollama hub 默认量化档与 q4_0/q4_K_M 差异讨论,对应'latest 指向会变的量化档'说明
- https://www.reddit.com/r/ollama/comments/1f9mx9n/why_does_ollama_default_to_q_4_when_q4_k_m_and_q4/ — 社区:latest 标签默认量化档的疑问,对应'latest 不锁量化档'说明
相关条目
同一个模型在 Ollama 和 llama.cpp 上速度/显存差很多框架环境 · Ollama 跑得比手动 llama.cpp 慢一大截,或者显存占用更高;同一个 GGUF 两边结论不一样。llama.cpp、Ollama、LM Studio、vLLM 我该用哪个?想控制显存和参数用 llama.cpp;想一条命令搞定用 Ollama;想要图形界面用 LM Studio;想要高并发服务很多人用 vLLM。新手第一站推荐 LM Studio。量化是什么?Q4_K_M、Q8_0、IQ3 这些名字什么意思?量化就是把每个参数用更少的比特存下来,模型变小变快,质量按档位往下掉。Q8 几乎无损,Q4 是主流甜点位,Q3 已经能听出变笨。