llama.cpp、Ollama、LM Studio、vLLM 我该用哪个？

想控制显存和参数用 llama.cpp；想一条命令搞定用 Ollama；想要图形界面用 LM Studio；想要高并发服务很多人用 vLLM。新手第一站推荐 LM Studio。

llama.cpp：C++ 写的推理引擎，几乎所有本地格式的底层。优点是参数完全可控（-ngl 决定放几层到显存、-ctk 决定 KV 量化、--n-cpu-moe 决定专家放内存），速度上限最高。缺点是命令行，报错信息要自己读。本站的速度估算模型就是按它的行为建的。

Ollama：包了一层 llama.cpp，加模型仓库和 API，一条 ollama run qwen3:8b 就能跑。代价是它替你选量化档、替你分配显存，出问题不容易看清。想省心和想精细是互斥的。

LM Studio：图形界面，能下载、能调滑块、能起本地服务、自带聊天窗口。适合第一次跑的人，也适合不想记参数的人。精细度低于 llama.cpp 但高于 Ollama。

vLLM：面向高并发服务，把显存全吃满做批处理，个人单轮对话不是它的场景。你只有一个人问问题时，vLLM 反而可能比 llama.cpp 慢。

本站模型页给出的命令都以 llama.cpp / Ollama / vLLM 三种为主，其中 vLLM 直接吃 Hugging Face 仓库名（数据里的 hf_repo 字段是核实过的），Ollama 标签是本站按库内命名习惯整理的，实际以 ollama pull 结果为准。