常见问题 / 选卡与预算

笔记本能外接显卡跑大模型吗?值得买显卡坞吗?

能跑,瓶颈在接口不在显存:TB3 外接 12G 卡实测 25 tok/s(单源)。适合已有大显存的旧卡 + 轻薄本;想要速度和 24G 以上,外接坞给不了。

结论先行:外接坞的瓶颈在 PCIe 通道与坞本身,显存还是那张卡的显存。常见外接卡是 12G–16G 档(3060 12G、4060 Ti 16G、3080 10G),跟桌面同卡容量完全一样;速度会被接口带宽压住。

站内唯一一条 eGPU 实测(第三方单源,C 级):一台 i5-7260U + 8GB 内存的笔记本,经雷电 3 外接 NVIDIA RTX 3060 12G,Ollama 跑 Q4_K_M 全层上卡,单流 25 tok/s(6 类 prompt 各 200 token,范围 23.5-27.1),显存峰值 7843MB(占 12G 的 64%),首字延迟热态中位 2.5 秒、冷启动 35.2 秒。原文自己标注了「TB3 外接,PCIe 通道降宽可能压低绝对值」。

跟桌面同卡对照:站内同一基准库里 NVIDIA RTX 3090 24G 单卡 Q4_K_M 是 46.9 tok/s(ctx 32K),而 3060 的卡带宽 360GB/s 对 936GB/s——外接那台的绝对值低,主要来自 PCIe 通道宽度和宿主内存(8GB),不是模型本身。

价格账:站内 2026-09-15 那条快照里有一份现成的「迷你主机 + 显卡坞」方案——二手零刻 SER6 Pro 不到 1500 元 + 天钡 EG02 显卡坞一千出头 + 二手 3090 四千到五千,落在 7000–8000 元。外接坞的溢价主要买的是「不占桌面、能换卡」,不是性能。

什么情况值得买:① 已经有 3060 / 3080 / 4070 这类卡,别让它吃灰;② 轻薄本需要偶尔跑个 7B–14B;③ 临时验证一个模型要不要上这台机器。什么情况别买:想要 24G 以上显存(外接坞里几乎没有 24G 的卡)、想要 30+ tok/s 的日常体验、或者机器内存小于 16GB(权重放内存那套玩法直接卡死)。

条目性质:本站依据自身数据模型与公开架构常数撰写。 有错请直接告诉我们,见关于页。

相关问题

能不能跑一个模型,到底只看显存吗?看三样:显存决定装不装得下,内存决定装不下时能不能凑合,算力决定跑得多快。显存是唯一没有替代品的。我该配多大的显存?给一条按容量而不是按型号的阶梯8G 只能玩 4B–8B 且上下文紧;16G 是本地第一台最省事的容量点;24G 能认真用 32B;48G 起才谈得上 70B。别买 8G 新卡。我内存大(64G/128G),是不是就能跑大模型?能跑,但会很慢。内存带宽只有显存的 1/10 到 1/15,稠密模型 offload 之后普遍掉到 1–5 tok/s。大内存的正确用法是给 MoE 放专家。站里的数据多久更新一次?价格是什么时候的?价格是带日期的快照不是现价;架构常数随官方 config 核过就算准。页面上每个数都能点到出处和日期。

选卡与预算 · 其他条目

我该配多大的显存?给一条按容量而不是按型号的阶梯16G 显存到底能干什么?(最常被问的一档)『小模型跑 Q8、大模型跑 Q4、再大跑 Q3』这个说法对不对?Mac(M 系列统一内存)能不能跑本地大模型?站里那些『魔改卡』『共享主机』是什么?能买吗?AMD 的 RX 卡能跑本地大模型吗?比 N 卡差在哪?
← AMD 的 RX 卡能跑本地大模型吗?比 N 卡差在哪?回到全部 40 条二手卡还是全新卡?本地跑大模型怎么选? →
这条内容有帮助吗?