# gpuVRAM (https://gpuvram.cloud) — 显卡 × 本地大模型：显存容量、上下文与速度数据站

> 本站回答四件事：你这张显存档位有哪些卡；装得下哪些模型、还能开多大上下文；大概能跑多快；跑不起来怎么排查。
> 口径分级：实测（带可核对链接）/ 推算（公式计算）/ 声称（未核验提交）。**当前实测记录 14 条，所以站内所有 tok/s 都是推算，不是实测。**
> 显存公式：可用 = 显存 × 88%（Windows，站内固定口径）；需求 = 权重 + KV + 1GB 框架开销。
> 权重 = 参数量 × 每参数字节 ÷ 8。KV = 2 × 层数 × KV头数 × 头维 × 精度字节 × token；滑窗层按窗口封顶，因此 Gemma 3 / gpt-oss 长上下文比同级便宜。
> MoE 显存按总参数、速度按激活参数，两者混用会得出完全错误的结论。
> 速度只由带宽决定、上下文只由显存决定：同为 16G，288 GB/s 与 960 GB/s 的卡速度能差一倍以上。

## 入口
- /capacity/ 按显存档位查卡：站内 156 张卡按显存分档，一档一页，点卡看完整结论（卡页含能跑什么模型 / 量化 / 上下文 / 速度）
- /article/ 文章·组合全表：12 张热门卡 × 10 个模型共 120 张表，量化 × 4K–256K 上下文 × 框架（llama.cpp/vLLM/Ollama/LM Studio）× 投机解码 × 估算 tok/s（公式 ±30%），回答「3090 跑 27B 多少 token」类长尾问题
- /gpu/ 显卡（156 张，英伟达 / AMD / 英特尔 / 国产，一行一条，点进去是单卡结论页）
- /models/ 模型（67 个，按地区 中国/美国/其他 与参数量档 十亿/百亿/千亿/万亿 筛选，点模型看显存、上下文、量化与速度）
- /model/<slug>/ 单模型详情（各显存档位、上下文档位、框架命令、优化要点）
- /card/<slug>/ 单卡详情（模型适配表 + 量化 × 上下文矩阵 + 他测数字口径核对）
- /capacity/16/ 是被问最多的一档：16G 站内 28 张卡，代表卡最高带宽 1024 GB/s
- /compare/ 同档横评（参数量档 × 代表卡矩阵）
- /rank/ 实测（本站真机实测 tok/s，一行一个模型，点开看运行环境；含本站自跑 42 条带日志的上下文扫描 + 第三方他测 102 条）
- /faq/ 新手常见问题（40 条，给还没开始跑大模型的人）
- /tools/ 模型优化（52 个项目：推理框架 / 显存优化与量化 / 模型微调 / 前端与分发 / Agent 工具，人工精选；star 由 GitHub API 自动同步，最近 2026-11-13）
- /troubleshoot/ 故障排查（24 条，按报错原文检索；本站未复现的条目已标注）
- /homeai/ 智能管家（置顶 Meta Muse 秘书类应用场景参考 + 7 篇本站原创教程：为什么本地 / 9B 还是 35B / MoE 反直觉 / 千元到万元装机 / 装系统跑通 / 接成管家 / 手机接入；硬件价格与站内价格快照同源，部署参数标来源，未核到标 C 级单源）
- /earn/ 开源项目推荐（10 个好的开源项目：它是什么 / 许可证与商用边界 / 适合谁；全部单源 C 级，star 与活跃度以稿件核对日为准；其中 3 个许可证高危（AGPL / 自定义 / 混合），商用前必读 LICENSE 原文。本站是信息分享，不构成商业或法律建议）
- /search/ 站内搜索（支持"16G 能跑什么"这类口语查询）
- /about/ 数据口径、公式与版权说明

## 模型（67）
- Qwen3-4B (4B)
  URL: /model/qwen3-4b/
  架构: 36 层 / KV头 8 / 头维 128 / 全量KV层 36 / 滑窗 无
  KV@4K(FP16): 0.5625 G；每 1K token 约 0.14 G
  权重: Q8_0 4.25G / Q4_K_M 2.4G / IQ3_XXS 1.51G
  原生上下文上限: 40960 token
  16G 可用 14.1G 时推荐 Q8_0（权重 4.3G，8K 总需 6.4G，最多可开 40960 token，受限：模型原生上限）
  常数来源: https://huggingface.co/Qwen/Qwen3-4B/blob/main/config.json（抓取于 2026-11-02）

- Gemma 3 4B IT (4B)
  URL: /model/gemma-3-4b-it/
  架构: 34 层 / KV头 4 / 头维 256 / 全量KV层 5 / 滑窗 1024
  KV@4K(FP16): 0.1914 G；每 1K token 约 0.02 G
  权重: Q8_0 4.25G / Q4_K_M 2.4G / IQ3_XXS 1.51G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q8_0（权重 4.3G，8K 总需 5.5G，最多可开 131072 token，受限：模型原生上限）
  常数来源: https://huggingface.co/google/gemma-3-4b-it/blob/main/config.json（抓取于 2026-11-02）

- Qwen3-8B (8B)
  URL: /model/qwen3-8b/
  架构: 36 层 / KV头 8 / 头维 128 / 全量KV层 36 / 滑窗 无
  KV@4K(FP16): 0.5625 G；每 1K token 约 0.14 G
  权重: Q8_0 8.5G / Q4_K_M 4.8G / IQ3_XXS 3.02G
  原生上下文上限: 40960 token
  16G 可用 14.1G 时推荐 Q8_0（权重 8.5G，8K 总需 10.6G，最多可开 33280 token，受限：显存）
  常数来源: https://huggingface.co/Qwen/Qwen3-8B/blob/main/config.json（抓取于 2026-11-02）

- Llama 3.1 8B Instruct (8B)
  URL: /model/llama-3.1-8b-instruct/
  架构: 32 层 / KV头 8 / 头维 128 / 全量KV层 32 / 滑窗 无
  KV@4K(FP16): 0.5 G；每 1K token 约 0.13 G
  权重: Q8_0 8.5G / Q4_K_M 4.8G / IQ3_XXS 3.02G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q8_0（权重 8.5G，8K 总需 10.5G，最多可开 37376 token，受限：显存）
  常数来源: https://huggingface.co/meta-llama/Llama-3.1-8B-Instruct/blob/main/config.json（抓取于 2026-11-02）

- GLM-4-9B 0414 (9B)
  URL: /model/glm-4-9b-0414/
  架构: 40 层 / KV头 2 / 头维 128 / 全量KV层 40 / 滑窗 无
  KV@4K(FP16): 0.1563 G；每 1K token 约 0.04 G
  权重: Q8_0 9.56G / Q4_K_M 5.4G / IQ3_XXS 3.4G
  原生上下文上限: 32768 token
  16G 可用 14.1G 时推荐 Q8_0（权重 9.6G，8K 总需 10.9G，最多可开 32768 token，受限：模型原生上限）
  常数来源: https://huggingface.co/THUDM/glm-4-9b-0414/blob/main/config.json（抓取于 2026-11-02）

- Qwen3-14B (14B)
  URL: /model/qwen3-14b/
  架构: 40 层 / KV头 8 / 头维 128 / 全量KV层 40 / 滑窗 无
  KV@4K(FP16): 0.625 G；每 1K token 约 0.16 G
  权重: Q8_0 14.88G / Q4_K_M 8.4G / IQ3_XXS 5.29G
  原生上下文上限: 40960 token
  16G 可用 14.1G 时推荐 Q6_K（权重 11.5G，8K 总需 13.7G，最多可开 10240 token，受限：显存）
  常数来源: https://huggingface.co/Qwen/Qwen3-14B/blob/main/config.json（抓取于 2026-11-02）

- Gemma 3 12B IT (12B)
  URL: /model/gemma-3-12b-it/
  架构: 48 层 / KV头 8 / 头维 256 / 全量KV层 8 / 滑窗 1024
  KV@4K(FP16): 0.5625 G；每 1K token 约 0.06 G
  权重: Q8_0 12.75G / Q4_K_M 7.2G / IQ3_XXS 4.53G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q6_K（权重 9.8G，8K 总需 11.7G，最多可开 48128 token，受限：显存）
  常数来源: https://huggingface.co/google/gemma-3-12b-it/blob/main/config.json（抓取于 2026-11-02）

- Phi-4 14B (14.7B)
  URL: /model/phi-4-14b/
  架构: 40 层 / KV头 10 / 头维 128 / 全量KV层 40 / 滑窗 无
  KV@4K(FP16): 0.7813 G；每 1K token 约 0.2 G
  权重: Q8_0 15.62G / Q4_K_M 8.82G / IQ3_XXS 5.55G
  原生上下文上限: 16384 token
  16G 可用 14.1G 时推荐 Q5_K_M（权重 10.3G，8K 总需 12.9G，最多可开 14336 token，受限：显存）
  常数来源: https://huggingface.co/microsoft/phi-4/blob/main/config.json（抓取于 2026-11-02）

- GPT-OSS-20B (21B, 激活 3.6B, MoE)
  URL: /model/gpt-oss-20b/
  架构: 24 层 / KV头 8 / 头维 64 / 全量KV层 12 / 滑窗 128
  KV@4K(FP16): 0.0967 G；每 1K token 约 0.02 G
  权重: Q8_0 22.31G / Q4_K_M 12.6G / IQ3_XXS 7.93G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q4_K_M（权重 12.6G，8K 总需 13.8G，最多可开 21504 token，受限：显存）
  常数来源: https://huggingface.co/openai/gpt-oss-20b/blob/main/config.json（抓取于 2026-11-02）

- Qwen3-30B-A3B (30B, 激活 3B, MoE)
  URL: /model/qwen3-30b-a3b/
  架构: 48 层 / KV头 4 / 头维 128 / 全量KV层 48 / 滑窗 无
  KV@4K(FP16): 0.375 G；每 1K token 约 0.09 G
  权重: Q8_0 31.88G / Q4_K_M 18G / IQ3_XXS 11.33G
  原生上下文上限: 40960 token
  16G 可用 14.1G 时推荐 IQ3_XXS（权重 11.3G，8K 总需 13.1G，最多可开 18944 token，受限：显存）
  常数来源: https://huggingface.co/Qwen/Qwen3-30B-A3B/blob/main/config.json（抓取于 2026-11-02）

- Mistral Small 3.1 24B (22B)
  URL: /model/mistral-small-24b/
  架构: 40 层 / KV头 8 / 头维 128 / 全量KV层 40 / 滑窗 无
  KV@4K(FP16): 0.625 G；每 1K token 约 0.16 G
  权重: Q8_0 23.38G / Q4_K_M 13.2G / IQ3_XXS 8.31G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 IQ4_XS（权重 11.7G，8K 总需 13.9G，最多可开 9216 token，受限：显存）
  常数来源: https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503/blob/main/config.json（抓取于 2026-11-02）

- Gemma 3 27B IT (27B)
  URL: /model/gemma-3-27b-it/
  架构: 62 层 / KV头 16 / 头维 128 / 全量KV层 10 / 滑窗 1024
  KV@4K(FP16): 0.7188 G；每 1K token 约 0.08 G
  权重: Q8_0 28.69G / Q4_K_M 16.2G / IQ3_XXS 10.19G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 IQ3_K（权重 11.8G，8K 总需 13.8G，最多可开 11264 token，受限：显存）
  常数来源: https://huggingface.co/google/gemma-3-27b-it/blob/main/config.json（抓取于 2026-11-02）

- Qwen3-32B (32B)
  URL: /model/qwen3-32b/
  架构: 64 层 / KV头 8 / 头维 128 / 全量KV层 64 / 滑窗 无
  KV@4K(FP16): 1 G；每 1K token 约 0.25 G
  权重: Q8_0 34G / Q4_K_M 19.2G / IQ3_XXS 12.08G
  原生上下文上限: 40960 token
  16G 可用 14.1G 时推荐 IQ3_XXS（权重 12.1G，8K 总需 15.1G，最多可开 4096 token，受限：显存）
  常数来源: https://huggingface.co/Qwen/Qwen3-32B/blob/main/config.json（抓取于 2026-11-02）

- DeepSeek-R1-Distill-Qwen-32B (32B)
  URL: /model/deepseek-r1-distill-32b/
  架构: 64 层 / KV头 8 / 头维 128 / 全量KV层 64 / 滑窗 无
  KV@4K(FP16): 1 G；每 1K token 约 0.25 G
  权重: Q8_0 34G / Q4_K_M 19.2G / IQ3_XXS 12.08G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 IQ3_XXS（权重 12.1G，8K 总需 15.1G，最多可开 4096 token，受限：显存）
  常数来源: https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-32B/blob/main/config.json（抓取于 2026-11-02）

- Seed-OSS-36B-Instruct (36B)
  URL: /model/seed-oss-36b/
  架构: 64 层 / KV头 8 / 头维 128 / 全量KV层 64 / 滑窗 无
  KV@4K(FP16): 1 G；每 1K token 约 0.25 G
  权重: Q8_0 38.25G / Q4_K_M 21.6G / IQ3_XXS 13.59G
  原生上下文上限: 524288 token
  16G 装不下（最省的 IQ3_XXS 权重也要 13.6G），最早就 20G（IQ3_XXS）
  常数来源: https://huggingface.co/ByteDance-Seed/Seed-OSS-36B-Instruct/blob/main/config.json（抓取于 2026-11-02）

- Llama 3.1 70B Instruct (70B)
  URL: /model/llama-3.1-70b-instruct/
  架构: 80 层 / KV头 8 / 头维 128 / 全量KV层 80 / 滑窗 无
  KV@4K(FP16): 1.25 G；每 1K token 约 0.31 G
  权重: Q8_0 74.38G / Q4_K_M 42G / IQ3_XXS 26.43G
  原生上下文上限: 131072 token
  16G 装不下（最省的 IQ3_XXS 权重也要 26.4G），最早就 48G（IQ4_XS）
  常数来源: https://huggingface.co/meta-llama/Llama-3.1-70B-Instruct/blob/main/config.json（抓取于 2026-11-02）

- Qwen3-235B-A22B (235B, 激活 22B, MoE)
  URL: /model/qwen3-235b-a22b/
  架构: 94 层 / KV头 4 / 头维 128 / 全量KV层 94 / 滑窗 无
  KV@4K(FP16): 0.7344 G；每 1K token 约 0.18 G
  权重: Q8_0 249.69G / Q4_K_M 141G / IQ3_XXS 88.71G
  原生上下文上限: 40960 token
  16G 装不下（最省的 IQ3_XXS 权重也要 88.7G），最早就 128G（IQ3_K）
  常数来源: https://huggingface.co/Qwen/Qwen3-235B-A22B/blob/main/config.json（抓取于 2026-11-02）

- Qwen3.8-27B (26.9B)
  URL: /model/qwen3-8-27b/
  架构: 64 层 / KV头 4 / 头维 256 / 全量KV层 16 / 滑窗 无
  KV@4K(FP16): 0.25 G；每 1K token 约 0.06 G
  权重: Q8_0 28.58G / Q4_K_M 16.14G / IQ3_XXS 10.15G
  原生上下文上限: 262144 token
  16G 装不下（最省的 IQ4_XS 权重也要 14.3G），最早就 20G（IQ4_XS）
  常数来源: https://hf-mirror.com/Qwen/Qwen3.8-27B/raw/main/config.json（抓取于 2026-11-02）

- Qwen2.5-VL-7B-Instruct (7B)
  URL: /model/qwen2-5-vl-7b/
  架构: 28 层 / KV头 4 / 头维 128 / 全量KV层 28 / 滑窗 无
  KV@4K(FP16): 0.2188 G；每 1K token 约 0.05 G
  权重: Q8_0 7.44G / Q4_K_M 4.2G / IQ3_XXS 2.64G
  原生上下文上限: 128000 token
  16G 可用 14.1G 时推荐 Q8_0（权重 7.4G，8K 总需 8.9G，最多可开 105984 token，受限：显存）
  常数来源: https://hf-mirror.com/Qwen/Qwen2.5-VL-7B-Instruct/raw/main/config.json（抓取于 2026-11-05）

- Qwen3.6-35B-A3B (35B, 激活 3B, MoE)
  URL: /model/qwen3-6-35b-a3b/
  架构: 40 层 / KV头 2 / 头维 256 / 全量KV层 10 / 滑窗 无
  KV@4K(FP16): 0.0781 G；每 1K token 约 0.02 G
  权重: Q8_0 34.4G / Q4_K_M 20.6G / IQ3_XXS 12.3G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 GSQ-2bit（权重 11.4G，8K 总需 12.6G，最多可开 89088 token，受限：显存）
  常数来源: https://hf-mirror.com/Qwen/Qwen3.6-35B-A3B/raw/main/config.json（抓取于 2026-11-10）

- Ornith-1.5-35B-A3B (36B, 激活 3B, MoE)
  URL: /model/ornith-1-5-35b-a3b/
  架构: 40 层 / KV头 2 / 头维 256 / 全量KV层 10 / 滑窗 无
  KV@4K(FP16): 0.0781 G；每 1K token 约 0.02 G
  权重: Q8_0 35.2G / Q4_K_M 20.2G / IQ3_XXS 13.59G
  原生上下文上限: 262144 token
  16G 装不下（最省的 IQ4_XS 权重也要 19.1G），最早就 24G（IQ4_XS）
  常数来源: https://hf-mirror.com/ornith-ai/Ornith-1.5-35B-A3B/raw/main/config.json（抓取于 2026-11-06）

- Terminal-RSI-27B (27.8B)
  URL: /model/terminal-rsi-27b/
  架构: 64 层 / KV头 4 / 头维 256 / 全量KV层 16 / 滑窗 无
  KV@4K(FP16): 0.25 G；每 1K token 约 0.06 G
  权重: Q8_0 29.54G / Q4_K_M 16.68G / IQ3_XXS 10.49G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 IQ3_K（权重 12.2G，8K 总需 13.7G，最多可开 15360 token，受限：显存）
  常数来源: https://huggingface.co/Teriminal-RSI/Terminal-RSI-27B/blob/main/config.json（抓取于 2026-11-08）

- AREX-2 (27.4B)
  URL: /model/arex-2/
  架构: 64 层 / KV头 4 / 头维 256 / 全量KV层 16 / 滑窗 无
  KV@4K(FP16): 0.25 G；每 1K token 约 0.06 G
  权重: Q8_0 29.11G / Q4_K_M 16.44G / IQ3_XXS 10.34G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 IQ3_K（权重 12G，8K 总需 13.5G，最多可开 17920 token，受限：显存）
  常数来源: https://huggingface.co/BAAI/AREX-2/blob/main/config.json（抓取于 2026-11-08）

- MiniCPM5-2B (2.5B)
  URL: /model/minicpm5-2b/
  架构: 42 层 / KV头 2 / 头维 128 / 全量KV层 42 / 滑窗 无
  KV@4K(FP16): 0.1641 G；每 1K token 约 0.04 G
  权重: Q8_0 2.66G / Q4_K_M 1.5G / IQ3_XXS 0.94G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q8_0（权重 2.7G，8K 总需 4G，最多可开 131072 token，受限：模型原生上限）
  常数来源: https://huggingface.co/OpenBMB/MiniCPM5-2B/blob/main/config.json（抓取于 2026-11-08）

- Qwen3.8-Flash-Next (125B, 激活 6B, MoE)
  URL: /model/qwen3-8-flash-next/
  架构: 48 层 / KV头 2 / 头维 256 / 全量KV层 12 / 滑窗 无
  KV@4K(FP16): 0.0938 G；每 1K token 约 0.02 G
  权重: Q8_0 132.81G / Q4_K_M 75G / IQ3_XXS 47.19G
  原生上下文上限: 262144 token
  16G 装不下（最省的 IQ4_XS 权重也要 66.4G），最早就 96G（Q4_K_M）
  常数来源: https://huggingface.co/Qwen/Qwen3.8-Flash-Next/blob/main/config.json（抓取于 2026-11-08）

- DeepSeek-V4.1-Flash (552B, 激活 8B, MoE)
  URL: /model/deepseek-v4-1-flash/
  架构: 未核实
  KV@4K(官方口径，近似): 3.5 MB；每 1K token 约 0.9 MB
  权重: Q8_0 586.5G / Q4_K_M 331.2G / IQ3_XXS 208.38G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 331.2G），最早就 512G（Q5_K_M）
  常数来源: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/blob/main/config.json（抓取于 2026-11-13）

- LFM3-1.7B (1.7B)
  URL: /model/lfm3-1-7b/
  架构: 24 层 / KV头 4 / 头维 128 / 全量KV层 6 / 滑窗 256
  KV@4K(FP16): 0.0557 G；每 1K token 约 0.01 G
  权重: Q8_0 1.81G / Q4_K_M 1.02G / IQ3_XXS 0.64G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 Q8_0（权重 1.8G，8K 总需 2.9G，最多可开 262144 token，受限：模型原生上限）
  常数来源: https://huggingface.co/LiquidAI/LFM3-1.7B/blob/main/config.json（抓取于 2026-11-08）

- Muse Glimmer-30B (29.8B)
  URL: /model/muse-glimmer-30b/
  架构: 52 层 / KV头 2 / 头维 128 / 全量KV层 13 / 滑窗 2048
  KV@4K(FP16): 0.127 G；每 1K token 约 0.01 G
  权重: Q8_0 31.66G / Q4_K_M 17.88G / IQ3_XXS 11.25G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 IQ3_XXS（权重 11.2G，8K 总需 12.4G，最多可开 131072 token，受限：模型原生上限）
  常数来源: https://huggingface.co/meta-models/Muse-Glimmer-30B/blob/main/config.json（抓取于 2026-11-08）

- GLM-5.3 (753B, 激活 40B, MoE)
  URL: /model/glm-5-3/
  架构: 未核实
  KV@4K(官方口径，近似): 0.37 G；每 1K token 约 0.09 G
  权重: Q8_0 800.06G / Q4_K_M 451.8G / IQ3_XXS 284.26G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 451.8G），最早就 本站容量表覆盖不到
  常数来源: https://huggingface.co/zai-org/GLM-5.3/blob/main/config.json（抓取于 2026-11-12）

- Kimi K3 (2800B, 激活 104B, MoE)
  URL: /model/kimi-k3/
  架构: 未核实
  KV@4K(官方口径，近似): 0.11 G；每 1K token 约 0.03 G
  权重: Q8_0 2975G / Q4_K_M 1680G / IQ3_XXS 1057G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 1680G），最早就 本站容量表覆盖不到
  常数来源: https://huggingface.co/moonshotai/Kimi-K3/blob/main/config.json（抓取于 2026-11-13）

- Ling-3.2-flash (560B, 激活 25B, MoE)
  URL: /model/ling-3-2-flash/
  架构: 未核实
  KV@4K(官方口径，近似): 0.3 G；每 1K token 约 0.08 G
  权重: Q8_0 595G / Q4_K_M 336G / IQ3_XXS 211.4G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 336G），最早就 512G（Q5_K_M）
  核查记录: https://huggingface.co/api/models/inclusionAI/Ling-3.2-flash（核查于 2026-11-13）；本条架构常数未核实，KV 为保守兜底值

- Ling-3.1-flash (560B, 激活 25B, MoE)
  URL: /model/ling-3-1-flash/
  架构: 未核实
  KV@4K(官方口径，近似): 0.05 G；每 1K token 约 0.01 G
  权重: Q8_0 566.6G / Q4_K_M 333.4G / IQ3_XXS 211.4G
  原生上下文上限: 未知 token
  16G 装不下（最省的 IQ4_XS 权重也要 295.3G），最早就 512G（Q5_K_M）
  常数来源: https://hf-mirror.com/inclusionAI/Ling-3.1-flash/raw/main/config.json（抓取于 2026-11-13）

- MiniMax-M3.1-Flash (428B, 激活 23B, MoE)
  URL: /model/minimax-m3-1-flash/
  架构: 60 层 / KV头 4 / 头维 128 / 全量KV层 60 / 滑窗 无
  KV@4K(FP16): 0.4688 G；每 1K token 约 0.12 G
  权重: Q8_0 454.75G / Q4_K_M 256.8G / IQ3_XXS 161.57G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 256.8G），最早就 512G（Q6_K）
  常数来源: https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash/blob/main/config.json（抓取于 2026-11-12）

- 小米 MiMo-V2.6-Flash (309B, 激活 15B, MoE)
  URL: /model/mimo-v2-6-flash/
  架构: 48 层 / KV头 4（滑窗层 8） / 头维 192 / 全量KV层 9 / 滑窗 128
  KV@4K(FP16): 0.134 G；每 1K token 约 0.03 G
  权重: Q8_0 328.31G / Q4_K_M 185.4G / IQ3_XXS 116.65G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 185.4G），最早就 256G（Q5_K_M）
  常数来源: https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Flash-RL/blob/main/config.json（抓取于 2026-11-12）

- 小米 MiMo-V2.6-Distill-Qwen-9B (9B)
  URL: /model/mimo-v2-6-distill-qwen-9b/
  架构: 32 层 / KV头 4 / 头维 256 / 全量KV层 8 / 滑窗 无
  KV@4K(FP16): 0.125 G；每 1K token 约 0.03 G
  权重: Q8_0 9.56G / Q4_K_M 5.4G / IQ3_XXS 3.4G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 Q8_0（权重 9.6G，8K 总需 10.8G，最多可开 115712 token，受限：显存）
  常数来源: https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B/blob/main/config.json（抓取于 2026-11-08）

- NVIDIA Nemotron 3 Ultra (550B, 激活 55B, MoE)
  URL: /model/nvidia-nemotron-3-ultra/
  架构: 108 层 / KV头 2 / 头维 128 / 全量KV层 12 / 滑窗 无
  KV@4K(FP16): 0.0469 G；每 1K token 约 0.01 G
  权重: Q8_0 584.38G / Q4_K_M 330G / IQ3_XXS 207.63G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 330G），最早就 512G（Q5_K_M）
  常数来源: https://huggingface.co/nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16/blob/main/config.json（抓取于 2026-11-12）

- GLM-5.3-Flash (320B, 激活 18B, MoE)
  URL: /model/glm-5-3-flash/
  架构: 未核实
  KV@4K(官方口径，近似): 0.07 G；每 1K token 约 0.02 G
  权重: Q8_0 340G / Q4_K_M 192G / IQ3_XXS 120.8G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 192G），最早就 256G（Q5_K_M）
  常数来源: https://huggingface.co/zai-org/GLM-5.3-Flash（抓取于 2026-11-12）

- NVIDIA Nemotron 3.5 Lightning 30B (30B, 激活 3B, MoE)
  URL: /model/nvidia-nemotron-3-5-lightning-30b/
  架构: 52 层 / KV头 2 / 头维 128 / 全量KV层 6 / 滑窗 无
  KV@4K(FP16): 0.0234 G；每 1K token 约 6 MB
  权重: Q8_0 31.88G / Q4_K_M 18G / IQ3_XXS 11.33G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 18G），最早就 22G（Q4_K_M）
  常数来源: https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16（抓取于 2026-11-12）

- NVIDIA Nemotron 3.5 Bolt 74B (74B, 激活 9B, MoE)
  URL: /model/nvidia-nemotron-3-5-bolt-74b/
  架构: 88 层 / KV头 2 / 头维 128 / 全量KV层 8 / 滑窗 无
  KV@4K(FP16): 0.0313 G；每 1K token 约 8 MB
  权重: Q8_0 78.63G / Q4_K_M 44.4G / IQ3_XXS 27.94G
  原生上下文上限: 262144 token
  16G 装不下（最省的 Q4_K_M 权重也要 44.4G），最早就 64G（Q5_K_M）
  常数来源: https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB（抓取于 2026-11-12）

- Muse Spark Open 816B (816B, 激活 42B, MoE)
  URL: /model/muse-spark-open-816b/
  架构: 未核实
  KV@4K(官方口径，近似): 0.97 G；每 1K token 约 0.24 G
  权重: Q8_0 867G / Q4_K_M 489.6G / IQ3_XXS 308.04G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 489.6G），最早就 本站容量表覆盖不到
  常数来源: https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B（抓取于 2026-11-08）

- Beam 1.0 501B (501B, 激活 23B, MoE)
  URL: /model/beam-1-0-501b/
  架构: 52 层 / KV头 8 / 头维 128 / 全量KV层 9 / 滑窗 512
  KV@4K(FP16): 0.2246 G；每 1K token 约 0.04 G
  权重: Q8_0 532.31G / Q4_K_M 300.6G / IQ3_XXS 189.13G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 300.6G），最早就 512G（Q6_K）
  常数来源: https://huggingface.co/reflection/Beam-1.0-501B-A23B/blob/main/config.json（抓取于 2026-11-08）

- Qwen3.8-2.4T-A95B (2400B, 激活 95B, MoE)
  URL: /model/qwen3-8-2-4t-a95b/
  架构: 92 层 / KV头 4 / 头维 256 / 全量KV层 23 / 滑窗 无
  KV@4K(FP16): 0.3594 G；每 1K token 约 0.09 G
  权重: Q8_0 2550G / Q4_K_M 1440G / IQ3_XXS 906G
  原生上下文上限: 262144 token
  16G 装不下（最省的 Q4_K_M 权重也要 1440G），最早就 本站容量表覆盖不到
  常数来源: https://hf-mirror.com/Qwen/Qwen3.8-2.4T-A95B/resolve/main/config.json（抓取于 2026-11-09）

- Kolibri-1 (78.1B, 激活 3.46B, MoE)
  URL: /model/kolibri-1/
  架构: 50 层 / KV头 4 / 头维 128 / 全量KV层 5 / 滑窗 513
  KV@4K(FP16): 0.0831 G；每 1K token 约 10 MB
  权重: Q8_0 82.98G / Q4_K_M 46.86G / IQ3_XXS 29.48G
  原生上下文上限: 262144 token
  16G 装不下（最省的 Q4_K_M 权重也要 46.9G），最早就 64G（Q5_K_M）
  常数来源: https://hf-mirror.com/Aleph-Alpha/Kolibri-1/resolve/main/config.json（抓取于 2026-11-09）

- 小米 MiMo-V2.6-Pro-RL (1020B, 激活 42B, MoE)
  URL: /model/mimo-v2-6-pro-rl/
  架构: 70 层 / KV头 8 / 头维 192 / 全量KV层 10 / 滑窗 128
  KV@4K(FP16): 0.2783 G；每 1K token 约 0.06 G
  权重: Q8_0 1083.75G / Q4_K_M 612G / IQ3_XXS 385.05G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 612G），最早就 本站容量表覆盖不到
  常数来源: https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Pro-RL（抓取于 2026-11-12）

- 腾讯混元 Hunyuan-0.5B (0.5B)
  URL: /model/hunyuan-0-5b/
  架构: 24 层 / KV头 8 / 头维 128 / 全量KV层 24 / 滑窗 无
  KV@4K(FP16): 0.375 G；每 1K token 约 0.09 G
  权重: Q8_0 0.53G / Q4_K_M 0.3G / IQ3_XXS 0.19G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 Q8_0（权重 0.5G，8K 总需 2.3G，最多可开 137216 token，受限：显存）
  常数来源: https://huggingface.co/tencent/Hunyuan-0.5B-Instruct（抓取于 2026-11-08）

- 腾讯混元 Hunyuan-1.8B (1.8B)
  URL: /model/hunyuan-1-8b/
  架构: 32 层 / KV头 4 / 头维 128 / 全量KV层 32 / 滑窗 无
  KV@4K(FP16): 0.25 G；每 1K token 约 0.06 G
  权重: Q8_0 1.91G / Q4_K_M 1.08G / IQ3_XXS 0.68G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 Q8_0（权重 1.9G，8K 总需 3.4G，最多可开 183296 token，受限：显存）
  常数来源: https://huggingface.co/tencent/Hunyuan-1.8B-Instruct（抓取于 2026-11-08）

- 腾讯混元 Hunyuan-4B (4B)
  URL: /model/hunyuan-4b/
  架构: 36 层 / KV头 8 / 头维 128 / 全量KV层 36 / 滑窗 无
  KV@4K(FP16): 0.5625 G；每 1K token 约 0.14 G
  权重: Q8_0 4.25G / Q4_K_M 2.4G / IQ3_XXS 1.51G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 Q8_0（权重 4.3G，8K 总需 6.4G，最多可开 64000 token，受限：显存）
  常数来源: https://huggingface.co/tencent/Hunyuan-4B-Instruct（抓取于 2026-11-08）

- 腾讯混元 Hunyuan-7B (7B)
  URL: /model/hunyuan-7b/
  架构: 32 层 / KV头 8 / 头维 128 / 全量KV层 32 / 滑窗 无
  KV@4K(FP16): 0.5 G；每 1K token 约 0.13 G
  权重: Q8_0 7.44G / Q4_K_M 4.2G / IQ3_XXS 2.64G
  原生上下文上限: 32768 token
  16G 可用 14.1G 时推荐 Q8_0（权重 7.4G，8K 总需 9.4G，最多可开 32768 token，受限：模型原生上限）
  常数来源: https://huggingface.co/tencent/Hunyuan-7B-Instruct（抓取于 2026-11-08）

- MiniCPM-V 4.7 35B-A3B (35.2B, 激活 3.5B, MoE)
  URL: /model/minicpm-v-4-7-35b-a3b/
  架构: 40 层 / KV头 2 / 头维 256 / 全量KV层 10 / 滑窗 无
  KV@4K(FP16): 0.0781 G；每 1K token 约 0.02 G
  权重: Q8_0 37.4G / Q4_K_M 21.12G / IQ3_XXS 13.29G
  原生上下文上限: 262144 token
  16G 装不下（最省的 Q4_K_M 权重也要 21.1G），最早就 32G（Q5_K_M）
  常数来源: https://hf-mirror.com/openbmb/MiniCPM-V-4.7-35B-A3B/resolve/main/config.json（抓取于 2026-11-08）

- MiniCPM-V 4.7 1B (1.55B)
  URL: /model/minicpm-v-4-7-1b/
  架构: 24 层 / KV头 2 / 头维 256 / 全量KV层 6 / 滑窗 无
  KV@4K(FP16): 0.0469 G；每 1K token 约 0.01 G
  权重: Q8_0 1.65G / Q4_K_M 0.93G / IQ3_XXS 0.59G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 Q8_0（权重 1.6G，8K 总需 2.7G，最多可开 262144 token，受限：模型原生上限）
  常数来源: https://hf-mirror.com/openbmb/MiniCPM-V-4.7-1B/resolve/main/config.json（抓取于 2026-11-08）

- Kimi K3.1 Pro (2800B, 激活 104B, MoE)
  URL: /model/kimi-k3-1-pro/
  架构: 未核实
  KV@4K(官方口径，近似): 0.13 G；每 1K token 约 0.03 G
  权重: Q8_0 2975G / Q4_K_M 1680G / IQ3_XXS 1057G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 1680G），最早就 本站容量表覆盖不到
  常数来源: https://hf-mirror.com/moonshotai/Kimi-K3.1-Pro/resolve/main/config.json（抓取于 2026-11-13）

- Step-5-Preview (600B, 激活 27B, MoE)
  URL: /model/step-5-preview/
  架构: 92 层 / KV头 4 / 头维 192 / 全量KV层 23 / 滑窗 512
  KV@4K(FP16): 0.3706 G；每 1K token 约 0.07 G
  权重: Q8_0 637.5G / Q4_K_M 360G / IQ3_XXS 226.5G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 360G），最早就 512G（Q5_K_M）
  常数来源: https://hf-mirror.com/stepfun-ai/Step-5-Preview/resolve/main/config.json（抓取于 2026-11-08）

- Ling-3.0-flash (124B, 激活 5.1B, MoE)
  URL: /model/ling-3-0-flash/
  架构: 未核实
  KV@4K(官方口径，近似): 0.04 G；每 1K token 约 0.01 G
  权重: Q8_0 131.75G / Q4_K_M 74.4G / IQ3_XXS 46.81G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 74.4G），最早就 96G（Q4_K_M）
  常数来源: https://hf-mirror.com/inclusionAI/Ling-3.0-flash/resolve/main/config.json（抓取于 2026-11-13）

- Gemma 4 12B Unified (11.95B)
  URL: /model/gemma-4-12b-unified/
  架构: 48 层 / KV头 8 / 头维 256 / 全量KV层 4 / 滑窗 1024
  KV@4K(FP16): 0.4688 G；每 1K token 约 0.03 G
  权重: Q8_0 12.7G / Q4_K_M 7.17G / IQ3_XXS 4.51G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 Q6_K（权重 9.8G，8K 总需 11.4G，最多可开 96768 token，受限：显存）
  常数来源: https://huggingface.co/google/gemma-4-12B-it/blob/main/config.json（抓取于 2026-11-09）

- Mistral Large 4 (1050B, 激活 52B, MoE)
  URL: /model/mistral-large-4/
  架构: 未核实
  KV@4K(官方口径，近似): 0.32 G；每 1K token 约 0.08 G
  权重: Q8_0 1115.63G / Q4_K_M 630G / IQ3_XXS 396.38G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 630G），最早就 本站容量表覆盖不到
  常数来源: https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B/blob/main/config.json（抓取于 2026-11-12）

- Inkling (975B, 激活 41B, MoE)
  URL: /model/inkling/
  架构: 66 层 / KV头 8（滑窗层 16） / 头维 128 / 全量KV层 11 / 滑窗 512
  KV@4K(FP16): 0.3867 G；每 1K token 约 0.04 G
  权重: Q8_0 1035.94G / Q4_K_M 585G / IQ3_XXS 368.06G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 585G），最早就 本站容量表覆盖不到
  常数来源: https://huggingface.co/thinkingmachines/Inkling/blob/main/config.json（抓取于 2026-11-12）

- Inkling-Small (276B, 激活 12B, MoE)
  URL: /model/inkling-small/
  架构: 42 层 / KV头 8 / 头维 128 / 全量KV层 7 / 滑窗 512
  KV@4K(FP16): 0.1777 G；每 1K token 约 0.03 G
  权重: Q8_0 293.25G / Q4_K_M 165.6G / IQ3_XXS 104.19G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 Q4_K_M 权重也要 165.6G），最早就 256G（Q5_K_M）
  常数来源: https://huggingface.co/thinkingmachines/Inkling-Small/blob/main/config.json（抓取于 2026-11-12）

- IBM Granite 4.2 30B (30B)
  URL: /model/granite-4-2-30b/
  架构: 64 层 / KV头 8 / 头维 128 / 全量KV层 64 / 滑窗 无
  KV@4K(FP16): 1 G；每 1K token 约 0.25 G
  权重: Q8_0 31.88G / Q4_K_M 18G / IQ3_XXS 11.33G
  原生上下文上限: 131072 token
  16G 装不下（最省的 Q4_K_M 权重也要 18G），最早就 24G（Q4_K_M）
  常数来源: https://huggingface.co/ibm-granite/granite-4.2-30b/blob/main/config.json（抓取于 2026-11-09）

- IBM Granite 4.2 8B (8B)
  URL: /model/granite-4-2-8b/
  架构: 40 层 / KV头 8 / 头维 128 / 全量KV层 40 / 滑窗 无
  KV@4K(FP16): 0.625 G；每 1K token 约 0.16 G
  权重: Q8_0 8.5G / Q4_K_M 4.8G / IQ3_XXS 3.02G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q8_0（权重 8.5G，8K 总需 10.8G，最多可开 29696 token，受限：显存）
  常数来源: https://huggingface.co/ibm-granite/granite-4.2-8b/blob/main/config.json（抓取于 2026-11-09）

- IBM Granite 4.2 3B (3B)
  URL: /model/granite-4-2-3b/
  架构: 40 层 / KV头 8 / 头维 64 / 全量KV层 40 / 滑窗 无
  KV@4K(FP16): 0.3125 G；每 1K token 约 0.08 G
  权重: Q8_0 3.19G / Q4_K_M 1.8G / IQ3_XXS 1.13G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q8_0（权重 3.2G，8K 总需 4.8G，最多可开 129536 token，受限：显存）
  常数来源: https://huggingface.co/ibm-granite/granite-4.2-3b/blob/main/config.json（抓取于 2026-11-09）

- K-EXAONE 2.0 (750B, 激活 37B, MoE)
  URL: /model/k-exaone-2-0/
  架构: 78 层 / KV头 8 / 头维 128 / 全量KV层 20 / 滑窗 128
  KV@4K(FP16): 0.3408 G；每 1K token 约 0.08 G
  权重: Q8_0 796.88G / Q4_K_M 450G / IQ3_XXS 283.13G
  原生上下文上限: 262144 token
  16G 装不下（最省的 Q4_K_M 权重也要 450G），最早就 本站容量表覆盖不到
  常数来源: https://huggingface.co/LGAI-EXAONE/K-EXAONE-2.0-750B-A37B/blob/main/config.json（抓取于 2026-11-12）

- Tencent Hy4 preview (770B, 激活 49B, MoE)
  URL: /model/hy4-preview/
  架构: 未核实
  KV@4K(官方口径，近似): 0.37 G；每 1K token 约 0.09 G
  权重: Q8_0 818.13G / Q4_K_M 462G / IQ3_XXS 290.68G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 462G），最早就 本站容量表覆盖不到
  常数来源: https://hf-mirror.com/tencent/Hy4-preview/blob/main/config.json（抓取于 2026-11-13）

- MiniMax-M3 (428B, 激活 23B, MoE)
  URL: /model/minimax-m3/
  架构: 60 层 / KV头 4 / 头维 128 / 全量KV层 60 / 滑窗 无
  KV@4K(FP16): 0.4688 G；每 1K token 约 0.12 G
  权重: Q8_0 454.75G / Q4_K_M 256.8G / IQ3_XXS 161.57G
  原生上下文上限: 1048576 token
  16G 装不下（最省的 IQ4_XS 权重也要 227.4G），最早就 512G（Q6_K）
  常数来源: https://huggingface.co/MiniMaxAI/MiniMax-M3/blob/main/config.json（抓取于 2026-11-12）

- Swift-1.5-Qwen3.8-27B (27.8B)
  URL: /model/swift-1-5-qwen38-27b/
  架构: 64 层 / KV头 4 / 头维 256 / 全量KV层 16 / 滑窗 无
  KV@4K(FP16): 0.25 G；每 1K token 约 0.06 G
  权重: Q8_0 29.54G / Q4_K_M 16.68G / IQ3_XXS 10.49G
  原生上下文上限: 262144 token
  16G 可用 14.1G 时推荐 IQ3_M（权重 12G，8K 总需 13.5G，最多可开 18432 token，受限：显存）
  常数来源: https://hf-mirror.com/ukisai/Swift-1.5-Qwen3.8-27b/raw/main/config.json（抓取于 2026-11-09）

- DeepSeek-V4.1-Flash-1017 (552B, 激活 8B, MoE)
  URL: /model/deepseek-v4-1-flash-1017/
  架构: 未核实
  KV@4K(官方口径，近似): 3.5 MB；每 1K token 约 0.9 MB
  权重: Q8_0 586.5G / Q4_K_M 331.2G / IQ3_XXS 208.38G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q5_K_M 权重也要 386.4G），最早就 512G（Q5_K_M）
  常数来源: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017/blob/main/config.json（抓取于 2026-11-13）

- ERNIE-5.5-Flash-Base (280B, 激活 14B, MoE)
  URL: /model/ernie-5-5-flash-base/
  架构: 未核实
  KV@4K(官方口径，近似): 0.1 G；每 1K token 约 0.03 G
  权重: Q8_0 297.5G / Q4_K_M 168G / IQ3_XXS 105.7G
  原生上下文上限: 未知 token
  16G 装不下（最省的 Q4_K_M 权重也要 168G），最早就 256G（Q5_K_M）
  常数来源: https://hf-mirror.com/baidu/ERNIE-5.5-Flash-Base/resolve/main/config.json（抓取于 2026-11-13）

- DeepSeek-R1-Distill-Qwen-14B (14B)
  URL: /model/deepseek-r1-distill-14b/
  架构: 48 层 / KV头 8 / 头维 128 / 全量KV层 48 / 滑窗 无
  KV@4K(FP16): 0.75 G；每 1K token 约 0.19 G
  权重: Q8_0 14.88G / Q4_K_M 8.4G / IQ3_XXS 5.29G
  原生上下文上限: 131072 token
  16G 可用 14.1G 时推荐 Q6_K（权重 11.5G，8K 总需 14G，最多可开 8704 token，受限：显存）
  常数来源: https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B/blob/main/config.json（抓取于 2026-11-10）

## 显卡（156 张，逐卡结论见下，详情见 /card/<slug>/）
- Apple M5 Ultra 512G（统一内存）：512G（可用约 450.6G）/ 1200 GB/s / 共享主机 / 标签 统一内存、M5、UltraFusion → 能装下 57/67 个模型，最大跑到 Step-5-Preview → /card/apple-m5-ultra-512g/
- Apple M3 Ultra 512G（统一内存）：512G（可用约 450.6G）/ 819 GB/s / 共享主机 / 标签 统一内存、M3、UltraFusion → 能装下 57/67 个模型，最大跑到 Step-5-Preview → /card/apple-m3-ultra-512g/
- Apple M5 Ultra 256G（统一内存）：256G（可用约 225.3G）/ 1200 GB/s / 共享主机 / 标签 统一内存、M5、UltraFusion → 能装下 48/67 个模型，最大跑到 GLM-5.3-Flash → /card/apple-m5-ultra-256g/
- Apple M5 Max 128G（统一内存）：128G（可用约 112.6G）/ 614 GB/s / 共享主机 / 标签 统一内存、M5 → 能装下 44/67 个模型，最大跑到 Qwen3-235B-A22B → /card/apple-m5-max-128g/
- Apple M4 Max 128G（统一内存）：128G（可用约 112.6G）/ 546 GB/s / 共享主机 / 标签 统一内存 → 能装下 44/67 个模型，最大跑到 Qwen3-235B-A22B → /card/apple-m4-max-128g/
- NVIDIA DGX Spark 128G：128G（可用约 112.6G）/ 273 GB/s / 英伟达 / 标签 统一内存、小型主机 → 能装下 44/67 个模型，最大跑到 Qwen3-235B-A22B → /card/nvidia-dgx-spark-128g/
- AMD Ryzen AI Max+ 395 / Strix Halo 128G（统一内存）：128G（可用约 112.6G）/ 256 GB/s / 共享主机 / 标签 统一内存、热门 → 能装下 44/67 个模型，最大跑到 Qwen3-235B-A22B → /card/amd-strix-halo-395-128g/
- NVIDIA RTX Pro 6000 Blackwell 96G：96G（可用约 84.5G）/ 960 GB/s / 英伟达 / 标签 专业卡、大显存 → 能装下 43/67 个模型，最大跑到 Qwen3.8-Flash-Next → /card/nvidia-rtx-pro-6000-blackwell-96g/
- NVIDIA CMP 170HX 64G（矿卡魔改）：64G（可用约 56.3G）/ 1490 GB/s / 魔改 / 标签 魔改、矿卡、大显存 → 能装下 41/67 个模型，最大跑到 Kolibri-1 → /card/nvidia-cmp-170hx-64g/
- Apple M1 Max 64G（统一内存）：64G（可用约 56.3G）/ 400 GB/s / 共享主机 / 标签 统一内存 → 能装下 41/67 个模型，最大跑到 Kolibri-1 → /card/apple-m1-max-64g/
- Apple M5 Pro 64G（统一内存）：64G（可用约 56.3G）/ 307 GB/s / 共享主机 / 标签 统一内存、M5 → 能装下 41/67 个模型，最大跑到 Kolibri-1 → /card/apple-m5-pro-64g/
- NVIDIA RTX PRO 5000 Blackwell 48G（工作站）：48G（可用约 42.2G）/ 1344 GB/s / 英伟达 / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/nvidia-rtx-pro-5000-blackwell-48g/
- NVIDIA RTX 4090 48G（魔改）：48G（可用约 42.2G）/ 1008 GB/s / 魔改 / 标签 魔改 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-4090-48g/
- NVIDIA RTX 6000 Ada 48G（工作站）：48G（可用约 42.2G）/ 960 GB/s / 英伟达 / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-6000-ada-48g/
- AMD Radeon PRO W7900 48G（工作站）：48G（可用约 42.2G）/ 864 GB/s / AMD / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/pro-w7900-48g/
- AMD Radeon PRO W7800 48G（工作站）：48G（可用约 42.2G）/ 864 GB/s / AMD / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/pro-w7800-48g/
- 摩尔线程 MTT S4000 48G（国产·推理加速卡）：48G（可用约 42.2G）/ 768 GB/s / 国产 / 标签 国产 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/moore-threads-mtt-s4000-48g/
- NVIDIA RTX A6000 48G（工作站）：48G（可用约 42.2G）/ 768 GB/s / 英伟达 / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-a6000-48g/
- Apple M3 Max 48G（统一内存）：48G（可用约 42.2G）/ 400 GB/s / 共享主机 / 标签 统一内存 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/apple-m3-max-48g/
- Apple M4 Pro 48G（统一内存）：48G（可用约 42.2G）/ 273 GB/s / 共享主机 / 标签 统一内存 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/apple-m4-pro-48g/
- NVIDIA RTX 5090 32G：32G（可用约 28.2G）/ 1792 GB/s / 英伟达 / 标签 原厂 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-5090-32g/
- NVIDIA RTX 5090 D 32G：32G（可用约 28.2G）/ 1792 GB/s / 英伟达 / 标签 原厂、国行特供 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-5090-d-32g/
- AMD Instinct MI100 32G（老数据中心卡）：32G（可用约 28.2G）/ 1229 GB/s / AMD / 标签 数据卡、洋垃圾 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/instinct-mi100-32g/
- AMD Instinct MI50 32G（数据卡）：32G（可用约 28.2G）/ 1024 GB/s / AMD / 标签 数据卡、洋垃圾 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/instinct-mi50-32g/
- NVIDIA Tesla V100 32G（数据卡）：32G（可用约 28.2G）/ 900 GB/s / 英伟达 / 标签 数据卡、洋垃圾 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/tesla-v100-32g/
- NVIDIA RTX PRO 4500 Blackwell 32G（工作站）：32G（可用约 28.2G）/ 896 GB/s / 英伟达 / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-pro-4500-blackwell-32g/
- NVIDIA RTX 4080 32G（魔改）：32G（可用约 28.2G）/ 736 GB/s / 魔改 / 标签 魔改、大显存 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-4080-32g-modded/
- NVIDIA RTX 4080 SUPER 32G（魔改）：32G（可用约 28.2G）/ 736 GB/s / 英伟达 / 标签 魔改、大显存 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-4080-super-32g/
- AMD Radeon PRO R9700 32G（工作站）：32G（可用约 28.2G）/ 640 GB/s / AMD / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/pro-r9700-32g/
- AMD Radeon PRO W7800 32G（工作站）：32G（可用约 28.2G）/ 576 GB/s / AMD / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/pro-w7800-32g/
- NVIDIA RTX 5000 Ada 32G（工作站）：32G（可用约 28.2G）/ 512 GB/s / 英伟达 / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/rtx-5000-ada-32g/
- AMD Radeon PRO W6800 32G（工作站）：32G（可用约 28.2G）/ 512 GB/s / AMD / 标签 专业卡 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/pro-w6800-32g/
- 海光 深算 K100 32G：32G（可用约 28.2G）/ 400 GB/s / 国产 / 标签 国产、AI计算 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/hygon-k100-32g/
- 天数智芯 天垓100 32G：32G（可用约 28.2G）/ 400 GB/s / 国产 / 标签 国产、AI计算 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/tenxian-tiangai-100-32g/
- 壁仞科技 Biren BR100 32G：32G（可用约 28.2G）/ 400 GB/s / 国产 / 标签 国产、智能计算 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/biren-br100-32g/
- 沐曦集成 MetaX 32G：32G（可用约 28.2G）/ 400 GB/s / 国产 / 标签 国产、创业公司 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/matrixx-metax-32g/
- 燧原科技 训燧/infer燧 32G：32G（可用约 28.2G）/ 400 GB/s / 国产 / 标签 国产、AI训练/推理 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/suitian-suyuan-32g/
- 平头哥 玄铁/含光 32G：32G（可用约 28.2G）/ 400 GB/s / 国产 / 标签 国产、阿里系、AI芯片 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/tongyi-xuantie-32g/
- 华为昇腾 910B 32G：32G（可用约 28.2G）/ 320 GB/s / 国产 / 标签 国产、AI训练、HBM2E → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/huawei-ascend-910b-32g/
- 寒武纪 思元 MLU370-S4 32G：32G（可用约 28.2G）/ 320 GB/s / 国产 / 标签 国产、AI加速卡、HBM2 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/cambric-mlu370-s4-32g/
- Apple M6 32G（统一内存）：32G（可用约 28.2G）/ 170 GB/s / 共享主机 / 标签 统一内存、M6 → 能装下 39/67 个模型，最大跑到 Llama 3.1 70B Instruct → /card/apple-m6-32g/
- NVIDIA RTX 4090 24G：24G（可用约 21.1G）/ 1008 GB/s / 英伟达 / 标签 原厂 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-4090-24g/
- NVIDIA RTX 3090 Ti 24G：24G（可用约 21.1G）/ 1008 GB/s / 英伟达 / 标签 原厂 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-3090-ti-24g/
- NVIDIA RTX 4090D 24G：24G（可用约 21.1G）/ 1008 GB/s / 英伟达 / 标签 原厂 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-4090d-24g/
- AMD RX 7900 XTX 24G：24G（可用约 21.1G）/ 960 GB/s / AMD / 标签 原厂 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rx-7900-xtx-24g/
- NVIDIA RTX 3090 24G：24G（可用约 21.1G）/ 936 GB/s / 英伟达 / 标签 原厂、矿卡向 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-3090-24g/
- NVIDIA RTX A5000 24G：24G（可用约 21.1G）/ 560 GB/s / 英伟达 / 标签 专业卡 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-a5000-24g/
- NVIDIA Tesla P40 24G（数据卡）：24G（可用约 21.1G）/ 480 GB/s / 英伟达 / 标签 数据卡、洋垃圾 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/tesla-p40-24g/
- Intel Arc Pro B60 24G（工作站）：24G（可用约 21.1G）/ 456 GB/s / 英特尔 / 标签 专业卡 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/arc-pro-b60-24g/
- NVIDIA RTX 3060 24G（魔改）：24G（可用约 21.1G）/ 336 GB/s / 魔改 / 标签 魔改、性价比 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-3060-24g-modded/
- NVIDIA RTX Pro 4000 Blackwell SFF 24G：24G（可用约 21.1G）/ 288 GB/s / 英伟达 / 标签 专业卡、小型机 → 能装下 37/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-pro-4000-blackwell-sff-24g/
- NVIDIA RTX 2080 Ti 22G（魔改）：22G（可用约 19.4G）/ 616 GB/s / 魔改 / 标签 魔改 → 能装下 36/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-2080-ti-22g/
- AMD RX 7900 XT 20G：20G（可用约 17.6G）/ 800 GB/s / AMD / 标签 原厂 → 能装下 34/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rx-7900-xt-20g/
- NVIDIA RTX 3080 20G（魔改）：20G（可用约 17.6G）/ 760 GB/s / 魔改 / 标签 魔改 → 能装下 34/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-3080-20g/
- NVIDIA RTX 4000 SFF Ada 20G（工作站）：20G（可用约 17.6G）/ 280 GB/s / 英伟达 / 标签 专业卡 → 能装下 34/67 个模型，最大跑到 Seed-OSS-36B-Instruct → /card/rtx-4000-sff-ada-20g/
- AMD Radeon VII 16G：16G（可用约 14.1G）/ 1024 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/radeon-vii-16g/
- NVIDIA RTX 5080 16G：16G（可用约 14.1G）/ 960 GB/s / 英伟达 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-5080-16g/
- NVIDIA Tesla V100 16G（数据卡）：16G（可用约 14.1G）/ 900 GB/s / 英伟达 / 标签 数据卡、洋垃圾 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/tesla-v100-16g/
- NVIDIA RTX 4080 Super 16G：16G（可用约 14.1G）/ 736 GB/s / 英伟达 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-4080-super-16g/
- NVIDIA RTX 4080 16G：16G（可用约 14.1G）/ 736 GB/s / 英伟达 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-4080-16g/
- NVIDIA Tesla P100 16G（数据卡）：16G（可用约 14.1G）/ 732 GB/s / 英伟达 / 标签 数据卡、洋垃圾 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/tesla-p100-16g/
- NVIDIA RTX 4070 Ti SUPER 16G：16G（可用约 14.1G）/ 672 GB/s / 英伟达 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-4070-ti-super-16g/
- AMD RX 9070 16G：16G（可用约 14.1G）/ 644 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-9070-16g/
- AMD Radeon RX 6800 XT 16G：16G（可用约 14.1G）/ 640 GB/s / AMD / 标签 原厂、矿卡向 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-6800-xt-16g/
- AMD Radeon RX 7800 XT 16G：16G（可用约 14.1G）/ 624 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-7800-xt-16g/
- AMD RX 7900 GRE 16G：16G（可用约 14.1G）/ 578 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-7900-gre-16g/
- AMD RX 9070 XT 16G：16G（可用约 14.1G）/ 576 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-9070-xt-16g/
- AMD RX 6950 XT 16G：16G（可用约 14.1G）/ 576 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-6950-xt-16g/
- AMD Radeon PRO W7700 16G（工作站）：16G（可用约 14.1G）/ 576 GB/s / AMD / 标签 专业卡 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/pro-w7700-16g/
- Intel Arc A770 16G：16G（可用约 14.1G）/ 560 GB/s / 英特尔 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/arc-a770-16g/
- AMD RX 6800 16G：16G（可用约 14.1G）/ 512 GB/s / AMD / 标签 原厂、矿卡向 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-6800-16g/
- AMD RX 6900 XT 16G：16G（可用约 14.1G）/ 512 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-6900-xt-16g/
- NVIDIA RTX 5060 Ti 16G：16G（可用约 14.1G）/ 448 GB/s / 英伟达 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-5060-ti-16g/
- NVIDIA Quadro RTX A4000 16G（专业卡）：16G（可用约 14.1G）/ 448 GB/s / 英伟达 / 标签 专业卡 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/quadro-a4000-16g/
- 摩尔线程 MTT S80 16G（国产）：16G（可用约 14.1G）/ 448 GB/s / 国产 / 标签 国产 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/moore-threads-mtt-s80-16g/
- NVIDIA RTX 3070 16G（魔改）：16G（可用约 14.1G）/ 448 GB/s / 魔改 / 标签 魔改 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-3070-16g/
- NVIDIA RTX 2070 16G（魔改）：16G（可用约 14.1G）/ 448 GB/s / 英伟达 / 标签 魔改、AI计算 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-2070-16g-modded/
- NVIDIA RTX 5070 Ti 16G：16G（可用约 14.1G）/ 336 GB/s / 英伟达 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-5070-ti-16g/
- NVIDIA Tesla T4 16G（数据卡）：16G（可用约 14.1G）/ 320 GB/s / 英伟达 / 标签 数据卡、洋垃圾 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/tesla-t4-16g/
- NVIDIA RTX 4060 Ti 16G：16G（可用约 14.1G）/ 288 GB/s / 英伟达 / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rtx-4060-ti-16g/
- AMD RX 9060 XT 16G：16G（可用约 14.1G）/ 288 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-9060-xt-16g/
- AMD RX 7600 XT 16G：16G（可用约 14.1G）/ 288 GB/s / AMD / 标签 原厂 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/rx-7600-xt-16g/
- Intel Arc Pro B50 16G（工作站）：16G（可用约 14.1G）/ 224 GB/s / 英特尔 / 标签 专业卡 → 能装下 32/67 个模型，最大跑到 Qwen3.6-35B-A3B → /card/arc-pro-b50-16g/
- NVIDIA RTX 5070 12G：12G（可用约 10.6G）/ 672 GB/s / 英伟达 / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rtx-5070-12g/
- NVIDIA RTX 4070 12G：12G（可用约 10.6G）/ 504 GB/s / 英伟达 / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rtx-4070-12g/
- NVIDIA RTX 4070 SUPER 12G：12G（可用约 10.6G）/ 504 GB/s / 英伟达 / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rtx-4070-super-12g/
- NVIDIA RTX 4070 Ti 12G：12G（可用约 10.6G）/ 504 GB/s / 英伟达 / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rtx-4070-ti-12g/
- Intel Arc B580 12G：12G（可用约 10.6G）/ 456 GB/s / 英特尔 / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/arc-b580-12g/
- AMD RX 9070 GRE 12G：12G（可用约 10.6G）/ 432 GB/s / AMD / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rx-9070-gre-12g/
- AMD RX 7700 XT 12G：12G（可用约 10.6G）/ 432 GB/s / AMD / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rx-7700-xt-12g/
- AMD RX 6700 XT 12G：12G（可用约 10.6G）/ 384 GB/s / AMD / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rx-6700-xt-12g/
- AMD RX 6750 XT 12G：12G（可用约 10.6G）/ 384 GB/s / AMD / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rx-6750-xt-12g/
- Intel Arc Pro A60 12G（工作站）：12G（可用约 10.6G）/ 384 GB/s / 英特尔 / 标签 专业卡 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/arc-pro-a60-12g/
- NVIDIA RTX 3060 12G：12G（可用约 10.6G）/ 360 GB/s / 英伟达 / 标签 原厂、矿卡向 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rtx-3060-12g/
- NVIDIA RTX 3060 12G（魔改）：12G（可用约 10.6G）/ 360 GB/s / 英伟达 / 标签 魔改、AI计算 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rtx-3060-12g-modded/
- NVIDIA RTX 2080 Ti 11G（原厂）：11G（可用约 9.7G）/ 616 GB/s / 英伟达 / 标签 原厂、矿卡向 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/rtx-2080-ti-11g/
- NVIDIA GTX 1080 Ti 11G：11G（可用约 9.7G）/ 484 GB/s / 英伟达 / 标签 原厂 → 能装下 23/67 个模型，最大跑到 Mistral Small 3.1 24B → /card/gtx-1080-ti-11g/
- NVIDIA RTX 3080 10G：10G（可用约 8.8G）/ 760 GB/s / 英伟达 / 标签 原厂、矿卡向 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-3080-10g/
- AMD Radeon RX 6700 10G：10G（可用约 8.8G）/ 400 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-6700-10g/
- Intel Arc B570 10G：10G（可用约 8.8G）/ 380 GB/s / 英特尔 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/arc-b570-10g/
- AMD R9 295X2 8G：8G（可用约 7G）/ 640 GB/s / AMD / 标签 原厂、古董 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/r9-295x2-8g/
- NVIDIA RTX 3070 Ti 8G：8G（可用约 7G）/ 624 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-3070-ti-8g/
- Intel Arc A750 8G：8G（可用约 7G）/ 512 GB/s / 英特尔 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/arc-a750-8g/
- Intel Arc A580 8G：8G（可用约 7G）/ 512 GB/s / 英特尔 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/arc-a580-8g/
- Intel Arc A770 8G：8G（可用约 7G）/ 512 GB/s / 英特尔 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/arc-a770-8g/
- NVIDIA RTX 2080 SUPER 8G：8G（可用约 7G）/ 496 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-2080-super-8g/
- AMD RX Vega 64 8G：8G（可用约 7G）/ 484 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-vega-64-8g/
- NVIDIA GeForce RTX 3060 Ti 8G：8G（可用约 7G）/ 448 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-3060-ti-8g/
- NVIDIA RTX 2060 SUPER 8G：8G（可用约 7G）/ 448 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-2060-super-8g/
- NVIDIA RTX 2070 8G：8G（可用约 7G）/ 448 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-2070-8g/
- NVIDIA RTX 2070 SUPER 8G：8G（可用约 7G）/ 448 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-2070-super-8g/
- NVIDIA RTX 2080 8G：8G（可用约 7G）/ 448 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-2080-8g/
- NVIDIA RTX 3070 8G：8G（可用约 7G）/ 448 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-3070-8g/
- AMD RX 5700 8G：8G（可用约 7G）/ 448 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-5700-8g/
- AMD RX 5700 XT 8G：8G（可用约 7G）/ 448 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-5700-xt-8g/
- AMD Radeon PRO W5700 8G（工作站）：8G（可用约 7G）/ 448 GB/s / AMD / 标签 专业卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/pro-w5700-8g/
- AMD RX Vega 56 8G：8G（可用约 7G）/ 410 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-vega-56-8g/
- NVIDIA P104-100 8G（矿卡）：8G（可用约 7G）/ 320 GB/s / 英伟达 / 标签 矿卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/p104-100-8g/
- AMD RX 7600 8G：8G（可用约 7G）/ 288 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-7600-8g/
- AMD RX 9060 XT 8G：8G（可用约 7G）/ 288 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-9060-xt-8g/
- AMD RX 9060 8G：8G（可用约 7G）/ 288 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-9060-8g/
- NVIDIA RTX 4060 Ti 8G：8G（可用约 7G）/ 288 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-4060-ti-8g/
- AMD Radeon PRO W7600 8G（工作站）：8G（可用约 7G）/ 288 GB/s / AMD / 标签 专业卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/pro-w7600-8g/
- AMD RX 6650 XT 8G：8G（可用约 7G）/ 280 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-6650-xt-8g/
- NVIDIA RTX 4060 8G：8G（可用约 7G）/ 272 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-4060-8g/
- AMD RX 580 8G：8G（可用约 7G）/ 256 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-580-8g/
- AMD RX 590 8G：8G（可用约 7G）/ 256 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-590-8g/
- AMD RX 6600 XT 8G：8G（可用约 7G）/ 256 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-6600-xt-8g/
- NVIDIA RTX 3050 8G：8G（可用约 7G）/ 224 GB/s / 英伟达 / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rtx-3050-8g/
- AMD RX 6600 8G：8G（可用约 7G）/ 224 GB/s / AMD / 标签 原厂 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-6600-8g/
- AMD RX 570 8G：8G（可用约 7G）/ 224 GB/s / AMD / 标签 原厂、矿卡向 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/rx-570-8g/
- AMD Radeon PRO W6600 8G（工作站）：8G（可用约 7G）/ 224 GB/s / AMD / 标签 专业卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/pro-w6600-8g/
- AMD Radeon PRO W7500 8G（工作站）：8G（可用约 7G）/ 224 GB/s / AMD / 标签 专业卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/pro-w7500-8g/
- AMD Radeon PRO W7400 8G（工作站）：8G（可用约 7G）/ 224 GB/s / AMD / 标签 专业卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/pro-w7400-8g/
- AMD Radeon PRO W5500 8G（工作站）：8G（可用约 7G）/ 224 GB/s / AMD / 标签 专业卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/pro-w5500-8g/
- 摩尔线程 S50 8G：8G（可用约 7G）/ 200 GB/s / 国产 / 标签 国产、入门级 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/mthreads-s50-8g/
- NVIDIA T1000 8G（工作站）：8G（可用约 7G）/ 192 GB/s / 英伟达 / 标签 专业卡 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/t1000-8g/
- NVIDIA Tesla P4 8G：8G（可用约 7G）/ 112 GB/s / 英伟达 / 标签 数据卡、洋垃圾、低功耗 → 能装下 21/67 个模型，最大跑到 Phi-4 14B → /card/tesla-p4-8g/
- NVIDIA RTX 2060 6G：6G（可用约 5.3G）/ 336 GB/s / 英伟达 / 标签 原厂 → 能装下 14/67 个模型，最大跑到 GLM-4-9B 0414 → /card/rtx-2060-6g/
- NVIDIA GTX 1660 SUPER 6G：6G（可用约 5.3G）/ 336 GB/s / 英伟达 / 标签 原厂 → 能装下 14/67 个模型，最大跑到 GLM-4-9B 0414 → /card/gtx-1660-super-6g/
- NVIDIA GTX 1660 Ti 6G：6G（可用约 5.3G）/ 288 GB/s / 英伟达 / 标签 原厂 → 能装下 14/67 个模型，最大跑到 GLM-4-9B 0414 → /card/gtx-1660-ti-6g/
- AMD RX 5600 XT 6G：6G（可用约 5.3G）/ 288 GB/s / AMD / 标签 原厂 → 能装下 14/67 个模型，最大跑到 GLM-4-9B 0414 → /card/rx-5600-xt-6g/
- Intel Arc Pro A40 6G（工作站）：6G（可用约 5.3G）/ 192 GB/s / 英特尔 / 标签 专业卡 → 能装下 14/67 个模型，最大跑到 GLM-4-9B 0414 → /card/arc-pro-a40-6g/
- Intel Arc Pro A50 6G（工作站）：6G（可用约 5.3G）/ 192 GB/s / 英特尔 / 标签 专业卡 → 能装下 14/67 个模型，最大跑到 GLM-4-9B 0414 → /card/arc-pro-a50-6g/
- Intel Arc A380 6G：6G（可用约 5.3G）/ 186 GB/s / 英特尔 / 标签 原厂 → 能装下 14/67 个模型，最大跑到 GLM-4-9B 0414 → /card/intel-arc-a380-6g/
- AMD R9 290X 4G：4G（可用约 3.5G）/ 320 GB/s / AMD / 标签 原厂、古董 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/r9-290x-4g/
- AMD R9 290 4G：4G（可用约 3.5G）/ 320 GB/s / AMD / 标签 原厂、古董 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/r9-290-4g/
- AMD RX 6500 XT 4G：4G（可用约 3.5G）/ 144 GB/s / AMD / 标签 原厂 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/rx-6500-xt-4g/
- NVIDIA GTX 1650 4G：4G（可用约 3.5G）/ 128 GB/s / 英伟达 / 标签 原厂、亮机卡向 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/nvidia-gtx-1650-4g/
- AMD RX 6400 4G：4G（可用约 3.5G）/ 128 GB/s / AMD / 标签 原厂 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/amd-rx-6400-4g/
- Intel Arc A310 4G：4G（可用约 3.5G）/ 124 GB/s / 英特尔 / 标签 原厂 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/intel-arc-a310-4g/
- AMD RX 560 4G：4G（可用约 3.5G）/ 112 GB/s / AMD / 标签 原厂 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/rx-560-4g/
- AMD RX 550 4G：4G（可用约 3.5G）/ 112 GB/s / AMD / 标签 原厂 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/rx-550-4g/
- Intel Arc A370 4G：4G（可用约 3.5G）/ 112 GB/s / 英特尔 / 标签 原厂 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/arc-a370-4g/
- Intel Arc A350 4G：4G（可用约 3.5G）/ 112 GB/s / 英特尔 / 标签 原厂 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/arc-a350-4g/
- AMD Radeon PRO W6400 4G（工作站）：4G（可用约 3.5G）/ 112 GB/s / AMD / 标签 专业卡 → 能装下 9/67 个模型，最大跑到 Qwen3-4B → /card/pro-w6400-4g/

## 引用规则
- 引用本站数字时请带上：量化档位、上下文档位、卡型号、以及"推算/实测"是哪一级。
- 推算类速度请写"gpuVRAM 推算（https://gpuvram.cloud）"，实测类请转抄记录里的来源链接。
- 魔改 / 洋垃圾 / 数据卡结论必须保留"无保修、BIOS 与散热风险"提示。
- 本站不复制他人论文正文、不镜像权重、不提供下载链接、不做导购排序。