Apple M5 Ultra 512G(统一内存):能跑什么模型
M5 Ultra 36 核 CPU + 80 核 GPU + 512G 统一内存(Mac Studio 2026,约 $22,299 起):个人桌面机 512G 内存档,可跑 400B+ 参数模型的 Q4 量化全量。
一、这张卡能装下哪些模型
能装 / 装不下是推算,不是实测;点开一行是这个模型的完整文章。带测试环境的真机数字在第三节。
二、多少 G 显存开多少 K 上下文
行是量化档,列是上下文档位,格子里是「总需显存 / 估算 tok/s」。这张表回答的是「开到 32K、40K 还剩多少」这类问题。默认展开Qwen3-235B-A22B;换别的模型看同一张卡,选一下即可。
· Qwen3-235B-A22B,模型原生上下文上限 40960 token| 量化 | 4K | 8K | 16K | 32K | 40K | 64K | 128K | 最多可开 |
|---|---|---|---|---|---|---|---|---|
| Q8_0 249.7G | 251.4G 30–42 | 252.2G 28–40 | 253.6G 26–37 | 256.6G 23–32 | 258G 22–30 | 262.4G 18–25† | 274.2G 13–18† | 40960 token(模型原生上限) |
| Q6_K 192.7G | 194.4G 38–53 | 195.2G 36–51 | 196.6G 33–46 | 199.6G 28–39 | 201G 26–36 | 205.5G 21–29† | 217.2G 15–20† | 40960 token(模型原生上限) |
| Q5_K_M 164.5G | 166.2G 44–62 | 167G 41–58 | 168.4G 37–52 | 171.4G 31–43 | 172.8G 29–40 | 177.3G 23–32† | 189G 15–21† | 40960 token(模型原生上限) |
| Q4_K_M 141G | 142.7G 51–72 | 143.5G 47–67 | 144.9G 42–59 | 147.9G 34–47 | 149.3G 31–43 | 153.8G 25–34† | 165.5G 16–22† | 40960 token(模型原生上限) |
| IQ4_XS 124.8G | 126.6G 57–80 | 127.3G 53–74 | 128.8G 46–64 | 131.7G 37–51 | 133.2G 34–46 | 137.6G 26–36† | 149.3G 17–23† | 40960 token(模型原生上限) |
| IQ3_K 102.8G | 104.5G 68–96 | 105.3G 62–87 | 106.8G 53–74 | 109.7G 41–57 | 111.2G 37–51 | 115.6G 28–39† | 127.3G 18–24† | 40960 token(模型原生上限) |
| IQ3_XXS 88.7G | 90.4G 78–109 | 91.2G 70–98 | 92.7G 59–82 | 95.6G 45–61 | 97.1G 40–55 | 101.5G 30–41† | 113.2G 18–25† | 40960 token(模型原生上限) |
格子里上行是总需显存(权重 + 该上下文的 KV + 1G 框架开销),下行是单流 decode 估算 tok/s;「混跑」表示超出显存、要靠内存放层,速度会明显低于同容量的全显存方案。带 † 的列超出该模型原生上下文,属于 rope/yarn 超纲使用,质量不保证。全部为推算,非实测。
三、别人测的 Apple M5 Ultra 512G(统一内存) 速度(他测汇总)
本卡行情(整卡价)
这张是统一内存平台,内存和算力焊在同一块芯片里,没有独立显卡可买,所以不存在"整卡价"这个口径——整机(Mac / 主机)价格随配置和促销波动大,本站只收可核对出处的卡价,不收录整机价,这块就空着,不写一个没法核实的数。
同档显存的其它卡
手上有 512G 卡就点自己的型号;一行一张卡,点开就是那张卡的结论页。
规格与数据来源
上面的显存、带宽、架构数字来自下面这些页面;口径说明逐条附后。没有可核对出处的字段,本站留空,不填一个编出来的数。
口径:512G 档与 1.2TB/s 带宽出自 Apple newsroom 2026-08-25;开卖时间(2026 年 10 月底)与整机价 $22,299(需 80 核 GPU 顶配 + $15,500 内存升级)出自 TechRadar 2026-11-03(Apple 官网可配,B 级转述);notebookcheck 2026-10 报道同口径。A 级(官方 spec 一手)+ 价格 B 级(转述)。