常见问题 / 装与跑
Windows 还是 Linux?差别有多大?
同样硬件下 Linux 大约能多用 10% 显存(没有桌面合成器吃那块),驱动/权限要额外折腾。新手建议先 Windows 跑通,再决定值不值得换。
本站容量表默认按 Windows 口径:16G 可用约 14.1G(88%)。原因是 WDDM 显示模型下,桌面合成器和浏览器会长期占住 0.5–1.5GB 显存,模型拿不到。Linux 桌面大约占 5–10%,无头(不接显示器)能到 95%。
这 10% 的差别在临界点上会翻盘:14B Q6_K 在 Windows 16G 上剩 1.6G ≈ 10.7K 上下文,在 Linux 上剩 2.8G ≈ 19K。所以同一张卡、同样量化,两个系统的『能开多大上下文』结论不同。切换页面顶部的系统口径就能看到重算结果。
Linux 的额外好处:显存占用能用 nvidia-smi 看得很清楚、容器化方便、没有自动更新重启打断长任务。代价:驱动安装、权限组、ROCm 的坑、以及和 Windows 软件生态的兼容成本。
别忽略第三种:Windows + WSL2。显存 overhead 和原生 Windows 接近(不会帮你找回那 10%),但命令行体验接近 Linux,适合『想在 Windows 上用 Linux 工具链』的人。
条目性质:本站依据自身数据模型与公开架构常数撰写。 有错请直接告诉我们,见关于页。