NVIDIA RTX 4090 48G(魔改):能跑什么模型

48G 显存 · 可用约 42.2G(Windows 口径 88%)· 1008 GB/s 带宽 · Ada Lovelace(魔改显存颗粒) · 魔改/二手 · 后端:cuda / vulkan

显存翻倍的 4090,带宽不变。70B Q4 全量驻留,中文圈讨论度最高的“穷人 70B 方案”。无保修,BIOS/散热/兼容性风险自负。

能装下39 / 67 个模型
最大能跑到Llama 3.1 70B Instruct(IQ4_XS)
单流速度上限约 200 tok/s
他测汇总0 条(口径完整 0 条)

一、这张卡能装下哪些模型

能装 / 装不下是推算,不是实测;点开一行是这个模型的完整文章。带测试环境的真机数字在第三节。

Qwen3-4B4BQ8_0Gemma 3 4B IT4B · 滑窗Q8_0Qwen3-8B8BQ8_0Llama 3.1 8B Instruct8BQ8_0GLM-4-9B 04149BQ8_0Qwen3-14B14BQ8_0Gemma 3 12B IT12B · 滑窗Q8_0Phi-4 14B14.7BQ8_0GPT-OSS-20B21B · A3.6B · MoEQ8_0Qwen3-30B-A3B30B · A3B · MoEQ8_0Mistral Small 3.1 24B22BQ8_0Gemma 3 27B IT27B · 滑窗Q6_KQwen3-32B32BQ8_0DeepSeek-R1-Distill-Qwen-32B32BQ8_0Seed-OSS-36B-Instruct36BQ8_0Llama 3.1 70B Instruct70BIQ4_XSQwen3-235B-A22B235B · A22B · MoE装不下Qwen3.8-27B26.9BQ6_KQwen2.5-VL-7B-Instruct7BQ8_0Qwen3.6-35B-A3B35B · A3B · MoEQ8_0Ornith-1.5-35B-A3B36B · A3B · MoEQ8_0Terminal-RSI-27B27.8BQ8_0AREX-227.4BQ8_0MiniCPM5-2B2.5BQ8_0Qwen3.8-Flash-Next125B · A6B · MoE装不下DeepSeek-V4.1-Flash552B · A8B · MoE装不下LFM3-1.7B1.7B · 滑窗Q8_0Muse Glimmer-30B29.8B · 滑窗Q8_0GLM-5.3753B · A40B · MoE装不下Kimi K32800B · A104B · MoE装不下Ling-3.2-flash560B · A25B · MoE装不下Ling-3.1-flash560B · A25B · MoE装不下MiniMax-M3.1-Flash428B · A23B · MoE装不下小米 MiMo-V2.6-Flash309B · A15B · MoE装不下小米 MiMo-V2.6-Distill-Qwen-9B9BQ8_0NVIDIA Nemotron 3 Ultra550B · A55B · MoE装不下GLM-5.3-Flash320B · A18B · MoE装不下NVIDIA Nemotron 3.5 Lightning 30B30B · A3B · MoEQ8_0NVIDIA Nemotron 3.5 Bolt 74B74B · A9B · MoE装不下Muse Spark Open 816B816B · A42B · MoE装不下Beam 1.0 501B501B · A23B · MoE装不下Qwen3.8-2.4T-A95B2400B · A95B · MoE装不下Kolibri-178.1B · A3.46B · MoE装不下小米 MiMo-V2.6-Pro-RL1020B · A42B · MoE装不下腾讯混元 Hunyuan-0.5B0.5BQ8_0腾讯混元 Hunyuan-1.8B1.8BQ8_0腾讯混元 Hunyuan-4B4BQ8_0腾讯混元 Hunyuan-7B7BQ8_0MiniCPM-V 4.7 35B-A3B35.2B · A3.5B · MoEQ8_0MiniCPM-V 4.7 1B1.55BQ8_0Kimi K3.1 Pro2800B · A104B · MoE装不下Step-5-Preview600B · A27B · MoE装不下Ling-3.0-flash124B · A5.1B · MoE装不下Gemma 4 12B Unified11.95B · 滑窗Q8_0Mistral Large 41050B · A52B · MoE装不下Inkling975B · A41B · MoE装不下Inkling-Small276B · A12B · MoE装不下IBM Granite 4.2 30B30BQ8_0IBM Granite 4.2 8B8BQ8_0IBM Granite 4.2 3B3BQ8_0K-EXAONE 2.0750B · A37B · MoE装不下Tencent Hy4 preview770B · A49B · MoE装不下MiniMax-M3428B · A23B · MoE装不下Swift-1.5-Qwen3.8-27B27.8BQ8_0DeepSeek-V4.1-Flash-1017552B · A8B · MoE装不下ERNIE-5.5-Flash-Base280B · A14B · MoE装不下DeepSeek-R1-Distill-Qwen-14B14BQ8_0
二、多少 G 显存开多少 K 上下文

行是量化档,列是上下文档位,格子里是「总需显存 / 估算 tok/s」。这张表回答的是「开到 32K、40K 还剩多少」这类问题。默认展开Qwen3-32B;换别的模型看同一张卡,选一下即可。

· Qwen3-32B,模型原生上下文上限 40960 token
量化4K8K16K32K40K64K128K最多可开
Q8_0 34G36G 17–2437G 16–2339G 15–2243G 混跑45G 混跑51G 混跑†67G 混跑†29184 token(显存)
Q6_K 26.2G28.2G 22–3129.2G 21–2931.2G 19–2735.2G 16–2337.2G 15–2143.2G 混跑†59.2G 混跑†40960 token(模型原生上限)
Q5_K_M 22.4G24.4G 25–3625.4G 24–3427.4G 22–3131.4G 18–2533.4G 17–2339.4G 14–19†55.4G 混跑†40960 token(模型原生上限)
Q4_K_M 19.2G21.2G 29–4222.2G 28–3924.2G 25–3428.2G 20–2830.2G 19–2636.2G 15–20†52.2G 混跑†40960 token(模型原生上限)
IQ4_XS 17G19G 33–4720G 31–4322G 27–3826G 22–3028G 20–2734G 16–22†50G 混跑†40960 token(模型原生上限)
IQ3_K 14G16G 39–5617G 36–5119G 31–4423G 25–3425G 22–3031G 17–23†47G 混跑†40960 token(模型原生上限)
IQ3_XXS 12.1G14.1G 45–6315.1G 41–5717.1G 35–4821.1G 27–3723.1G 24–3329.1G 18–25†45.1G 混跑†40960 token(模型原生上限)

格子里上行是总需显存(权重 + 该上下文的 KV + 1G 框架开销),下行是单流 decode 估算 tok/s;「混跑」表示超出显存、要靠内存放层,速度会明显低于同容量的全显存方案。带 † 的列超出该模型原生上下文,属于 rope/yarn 超纲使用,质量不保证。全部为推算,非实测。

三、别人测的 NVIDIA RTX 4090 48G(魔改) 速度(他测汇总)

这张卡还没有他测数据。有 NVIDIA RTX 4090 48G(魔改) 的实测?上传你的实测。

上传实测数据 · 数据规则见 数据口径

本卡行情(整卡价)

读者问得最多的第二问:多少钱。下面是能核对出处的整卡价快照——2 条,来自 2 篇不同的文章(2 条合起来的跨度 25000–33800 元)。 日期不同、地区不同、全新二手不同,所以不合并、不取平均,照实各存一条,趋势你自己看。

最新快照:全新 ¥33,800(2026-11-05);二手 ¥25,000(2026-08-23)——各口径的日期可能不同,下表按时间全列。

来源日期类型报价(元)出处
2026-11-05全新33800RTX 4090 48G 涡轮 全新 行情(算力之光)(全芯联储(行情聚合,来源标注:算力之光))
2026-08-23二手25000魔改4090 48G被炒到2.5万,闲鱼开始流「全新货」:拿它跑本地大模型之前,先看四类买家的真实下场(什么值得买)

报价是来源文章发布时的行情,不是今日实时价;同一张表里不同月份的数字对不上是正常现象,那是行情本身在变。 本站不接购物链接、不导购——要买去哪买、值不值,拿上面的区间对着本站的速度推算自己算。

同档显存的其它卡

手上有 48G 卡就点自己的型号;一行一张卡,点开就是那张卡的结论页。

NVIDIA RTX PRO 5000 Blackwell 48G(工作站)48G · 1344 GB/sNVIDIA RTX 6000 Ada 48G(工作站)48G · 960 GB/sAMD Radeon PRO W7900 48G(工作站)48G · 864 GB/sAMD Radeon PRO W7800 48G(工作站)48G · 864 GB/s摩尔线程 MTT S4000 48G(国产·推理加速卡)48G · 768 GB/sNVIDIA RTX A6000 48G(工作站)48G · 768 GB/sApple M3 Max 48G(统一内存)48G · 400 GB/sApple M4 Pro 48G(统一内存)48G · 273 GB/s

规格与数据来源

上面的显存、带宽、架构数字来自下面这些页面;口径说明逐条附后。没有可核对出处的字段,本站留空,不填一个编出来的数。

这张卡暂无可自动核验的外链规格页(Intel / Cloudflare 系站点本机抓不到,或该型号无公开规格页)。 规格来自本站调研汇总,C 级单源,待复核——下面「口径」一节写明了原因。

口径:规格与档位来自《显卡/闲鱼调研汇总.md》(2026-11-09 本站调研汇总,**无外链**,作者=本站调研,C 级单源待复核);闲鱼二手价格波动大,只作量级参考,不作购买建议。官方规格外链尚未取得,取得后再升级来源分级。 无外链原因:魔改卡无官方规格定义( unofficial ),规格按改造口径记录。

这条内容有帮助吗?