常见问题 / 用法与提速

都是 27B 的 Qwen3.8-27B、Terminal-RSI、AREX-2,我该下哪个?

三个是同一个底座的不同微调,显存档位完全一样,差别只在训练方向:要通用对话选底座 Qwen3.8-27B,要终端 Agent / 递归自改进选 Terminal-RSI,要深度研究 / 工具调用选 AREX-2。

先说清一个前提:这三个不是三个平行的模型,是同一个底座的不同微调。站内 Qwen3.8-27B(2026-09)是底座,Terminal-RSI-27B(2026-10-21 建库,HF 标签 terminal-agent / reinforcement-learning / 递归自改进)和 AREX-2(2026-09-29 建库,HF 标签显式写了 base_model:finetune:Qwen/Qwen3.8-27B)都是在它上面训出来的。『同底座』这个判断是本站按官方 config.json 的常数完全一致(64 层 / 16 层全注意力 / 4 KV 头 / head_dim 256 / 262144 上下文)加上 HF 的 base_model 标签推出来的——是强推断、不是 100% 官方背书,所以三条模型页的 summary 里都如实写了。

因为底座一样,显存的账完全一样,这也是选它俩最容易误会的地方:Q4 权重都约 16G,KV 每 4K 都 0.25G(48 层线性注意力不存 KV),原生上下文都 262K,24G 卡装 Q4 之后能开几十 K。所以『选哪个』从来不是显存问题,是任务问题——显存上它俩和底座一模一样,没有谁更省。

按任务分:要一个什么都能聊、中文强、最稳的通用底座,下 Qwen3.8-27B;要写终端脚本、做递归自改进类的 Agent,下 Terminal-RSI-27B(HF 定位就是 terminal-agent + 强化学习);要做深度研究、大量工具调用,下 AREX-2(HF 定位是 deep-research / Agent)。三个都带视觉塔(多模态),用 llama.cpp 跑要另外配 mmproj 视觉文件。

一句诚实话:这三条站内目前都没有本站或他测的本地速度,速度一律按容量表推算 ±30%,别把任何一条的『快』当实测。到底哪个在你的任务上更快,要等本站跑分或社区的同一硬件对比日志才能定,现在谁都说不了。

条目性质:本站依据自身数据模型与公开架构常数撰写。 有错请直接告诉我们,见关于页。

相关问题

主要用中文,该选哪个模型?中文优先看 Qwen3 系列和 GLM-4-9B;要看图用 Gemma 3;只要英文推理用 Phi-4。词表对中文友好程度会直接影响同样上下文能装多少汉字。KV cache 是什么?为什么上下文那么吃显存?KV cache 是为了不重复计算而存下来的历史注意力数据,它随上下文线性增长,长对话和长文档的显存大户就是它。

延伸阅读

模型→模型详情:Qwen3.8-27B→模型详情:Terminal-RSI-27B→模型详情:AREX-2→

用法与提速 · 其他条目

主要用中文,该选哪个模型?不花钱让本地模型变快的 5 个开关文档比显存允许的上下文还长怎么办?为什么有的模型开长上下文特别便宜?开了投机解码能快多少?为什么别人 40 tok/s,我只有 18?评测里的 tok/s 是单流还是并发?为什么同一张 4090 有人报 30、有人报 400?
← 评测里的 tok/s 是单流还是并发?为什么同一张 4090 有人报 30、有人报 400?回到全部 40 条站里说『显存不够硬盘来凑』,那个 n-gram 表 / Engram 表到底是什么?能真省显存吗? →
这条内容有帮助吗?