上传实测

Seed-OSS-36B-Instruct旧代际

Seed · 36B 参数 · dense · GQA · 开源 2025-08-20 · 真 35B+ 档 / 512K 原生 / 16G 装不下

关于 Seed-OSS-36B-Instruct 的完整介绍（点开看；上面就是结论表）

补上"35B 档"这个空位：64 层 8 KV 头，KV 与 32B 同常数，但权重重 12%。IQ3_XXS 权重 13.2G，在 16G 卡的安全水位下（扣掉系统与开销）基本没有上下文余量——这一档在 16G 上是"理论可跑、实际别跑"。原生上下文 512K。

实测速度：什么卡、什么量化、多少 token

这一模型还没有实测条目。
上传实测数据

每行是一次真实测量的完整口径：哪张卡、几张卡、什么量化、多大上下文、哪个框架哪个版本、单流还是并发、开没开投机—— 缺一项就会标出来，缺项的行不参与对比与偏差计算。本站实测行没有外链，但日志路径就是原始数据所在。 想看同一张卡跑别的模型，从这个表的显卡名点进那张卡的页面。

速查：什么卡、跑多少 token

AMD R9 295X2 8G装不下（8G · 推算）
NVIDIA RTX 5070 12G装不下（12G · 推算）
AMD Radeon VII 16G装不下（16G · 推算）
NVIDIA RTX 4090 24G45–63 t/s（24G · 推算）
NVIDIA RTX 5090 32G79–112 t/s（32G · 推算）
NVIDIA RTX PRO 5000 Blackwell 48G（工作站）59–84 t/s（48G · 推算）

推算值按 IQ3_XXS、8K 上下文、单流；真实测量看下面的实测速度表。没有实测的模型这里只有推算，本站不把推算写成实测。

架构常数（已核实）

层数64
KV 头数8
每头维度128
需全量 KV 的层64 / 64
滑窗长度无（全层线性）
原生上下文上限512K
KV 每 4K（FP16）1 G
KV 每 1K token0.25 G

来源：ByteDance-Seed/Seed-OSS-36B-Instruct / config.json（抓取于 2026-11-02）。KV 公式：2 × 层数 × KV头数 × 头维 × 精度字节 × token（滑窗层按 — 封顶）。

上下文档位（按 IQ3_XXS）

上下文KV总需显存16G 水位内
4K1 G15.6 G超
8K2 G16.6 G超
32K8 G22.6 G超
128K32 G46.6 G超

* 含 1G 框架开销；可用水位按 Windows 口径 88% = 14.1G。

各显存档位能开多大

显存推荐量化8K 总需最多可开
4G装不下——
6G装不下——
8G装不下——
10G装不下——
11G装不下——
12G装不下——
16G装不下——
20GIQ3_XXS（估算）16.6G12288（约 12K）
22GIQ3_K（估算）18.8G10752（约 11K）
24GIQ3_K（估算）18.8G17408（约 17K）
32GQ5_K_M（估算）28.2G8192（约 8K）
48GQ8_0（估算）41.3G11776（约 12K）
64GQ8_0（估算）41.3G69632（约 68K）
96GQ8_0（估算）41.3G185344（约 181K）
128GQ8_0（估算）41.3G300032（约 293K）
256GQ8_0（估算）41.3G524288（约 512K）
512GQ8_0（估算）41.3G524288（约 512K）

「最多可开」已扣掉权重与 1G 开销；标注为「模型原生上限」时表示显存还有余但模型只支持这么长。净可用还要再减聊天模板与系统提示词的 250 token（估算值，未逐项核实）。量化档后带「（估算）」= 官方仓库没核到这档、按公式算的权重体积（方向保守偏高）；不带 = 核过官方仓库真实文件体积。

估算速度（IQ3_XXS · 8K）

推算 本站暂无这一模型的实测记录。

显卡状态估算 tok/s
NVIDIA RTX 5090 32G流畅79–112
NVIDIA RTX 5090 D 32G流畅79–112
NVIDIA CMP 170HX 64G（矿卡魔改）流畅66–93
NVIDIA RTX PRO 5000 Blackwell 48G（工作站）流畅59–84
AMD Instinct MI100 32G（老数据中心卡）流畅54–77
AMD Instinct MI50 32G（数据卡）流畅45–64
AMD Radeon VII 16G装不下需 offload ≈12–18
NVIDIA RTX 4090 24G能跑但紧45–63
NVIDIA RTX 3090 Ti 24G能跑但紧45–63

同一套公式也用于显卡页，两页数字必然一致。带宽按 60–85% 效率折算（offload 场景更低），并对单流解码设经验上限，因此这里的数字比纯带宽公式保守。 总需显存 = 16.6G，对比各卡可用水位。

实测数据区

暂无实测数据。
上传实测数据

推理框架命令

llama.cpp

# 1) 取 GGUF 权重（本站核实过的仓库名）
huggingface-cli download ByteDance-Seed/Seed-OSS-36B-Instruct config.json
#   GGUF 量化版通常在第三方转换仓库，搜「ByteDance-Seed/Seed-OSS-36B-Instruct GGUF」
# 2) 起服务（Linux/macOS 用 ./llama-server，Windows 用 llama-server.exe）
llama-server -m SEED-OSS-36B-Q4_K_M.gguf -ngl 99 -c 8192 --port 8080

Ollama

ollama run seed-oss:36b

标签按 Ollama 库命名习惯整理，若拉取失败请 `ollama pull` 搜同名前缀；Ollama 会自行决定量化档与显存分配。

vLLM

vLLM 直接吃 Hugging Face 仓库名，这条最可靠：
vllm serve ByteDance-Seed/Seed-OSS-36B-Instruct --max-model-len 8192 --gpu-memory-utilization 0.90

LM Studio

模型页搜「ByteDance-Seed/Seed-OSS-36B-Instruct」→ 选 IQ3_XXS 或 Q4_K_M → Load →
Chat Context Length 设 8192 → GPU Offload 拉到最大

仓库名 ByteDance-Seed/Seed-OSS-36B-Instruct 是本站核实过的（架构常数就取自它）。Ollama 标签与 GGUF 文件名会随发布方变动，本站不保证一定存在，拉取失败请搜同名前缀。

优化要点

相关

16G 显存有哪些卡看 Seed-OSS-36B-Instruct 在 16G 这一档和别的卡/模型比是什么位置装不下 / out of memory 怎么排查先确认是权重超容量还是上下文吃光了余量小模型跑 Q8、大模型跑 Q4 对不对？量化档应该由剩余显存决定，不是由参数量决定

有 Seed-OSS-36B-Instruct 的实测数据？

上传速度 → 进入实测表，并成为这一页的第一行实测。

上传实测数据
这条内容有帮助吗？