故障排查 / 起不来
加载时报大小对不上 / missing tensor / 输出乱码
本站未复现 改写 影响:llama.cpp / Ollama / LM Studio 全版本 · Windows / Linux / macOS
报错原文
gguf_load: tensor ... data pointer out of range | llama_model_load: error loading model: invalid magic
这段字符串可以直接粘到 站内搜索 或外部搜索引擎里找。
现象
模型加载失败,或者勉强加载成功但输出完全不通顺的乱码、乱吐训练数据。
原因
文件不完整或被改名/拼接错误。下载中断、镜像仓库与官方版本不一致、网盘二次传输丢字节都会造成这个。另一种是下错了格式(把 safetensors 或某种特殊量化当成通用 GGUF 用)。
按这个顺序处理
- 核对文件大小:和仓库页面标的字节数逐一比对,差几 MB 就是断了。
- 有条件就校验 SHA256(仓库页面的 LFS SHA256 或量化作者给出的哈希)。
- 重新下载时不要用断点续传的第三方下载器拼文件,宁可重头下一次。
- 确认文件名里的量化档与模型仓库匹配(有些作者会同时放 IQ4_XS 和 Q4_K_M,两者字节数不同)。
- 换另一个量化作者的同一模型版本试一次:能加载说明原文件确实坏了。
怎么确认解决了
加载日志无 error,并且用同一提示词跑两次,输出稳定(坏文件常表现为每次乱码方式不同)。
来源与可信度
条目性质依据公开事实与社区普遍报告,用本站自己的话重写(未搬运任何他人文章段落)
是否已在本站机器复现否——请把这条当线索而不是结论
- https://huggingface.co/docs/hub/en/gguf-llamacpp — HF 官方:llama.cpp 经路径直接下载 GGUF,下载中断会导致文件不完整,对应'重新下载校验'处置
- https://github.com/ggml-org/llama.cpp/discussions/24198 — 讨论:GGUF 元数据损坏/截断导致加载失败,对应'文件损坏'判断
相关条目
输出乱码、复读、突然说另一种语言输出质量怪 · 模型输出符号乱码、同一段话反复循环、把训练里的其他内容吐出来,或者中文进去英文/日文出来。模型文件去哪下载?GGUF、safetensors、MLX 有什么区别?本地跑选 GGUF(llama.cpp/Ollama/LM Studio 通用);训练/微调选 safetensors;Mac 选 MLX。国内网络不畅用镜像站,但一定要核对文件大小和哈希。