千元本地智能管家：洋垃圾 P100 / P40 攒一台家庭 AI 大脑
投稿人：站长（投稿者）｜投稿日 2026-11-10
以前总觉得智能管家、本地 AI 那套东西离普通人特别远：要么买成品几千上万，要么各种云端会员年年掏钱，数据还全跑在别人的服务器上，心里不踏实。
后来我一直在琢磨：家里想有一台能听懂人话、管全屋设备、断网也能用的本地管家，为什么不直接捡洋垃圾自己攒？不追求全新配件，优先堆显存，够用就行。
前后算了两套配置，全部闲鱼、拼多多淘二手，账目实打实算，不虚标，大家可以直接照着抄。
两套配置跑的都是一台 35B 量化 MoE 模型——具体型号与推理框架投稿未指明，按站内规矩不猜、不映射到站内模型库。以下 tok/s 全部是投稿者本人机器跑出的实测值（投稿实测），非本站实测，本站未复现。
第一套：入门版（P100 16G）
预算紧，先把整套系统跑通、把家庭管家搭起来。
| 配件（闲鱼 / 拼多多二手） | 价格（元） |
|---|---|
| X99 DDR3 主板 | 200 |
| 洋垃圾 E5 处理器 | 100 |
| 32G DDR3 REG ECC 内存 | 250 |
| 2011 接口风冷 | 50 |
| 特斯拉 P100 16G 显卡 | 500 多，600 元不到 |
| GT710 亮机卡（P100 无视频输出，画面要另插亮机卡） | 70 左右（20 买不到） |
| 二手 500W 电源 + 机箱风扇 | 180 左右（投稿者未核实，为价格区间） |
| 硬盘 | 沿用家里旧固态，无额外开销 |
| 整套合计 | 约 1400（1350–1450，配件价加总） |
这套跑 35B 量化 MoE 模型没问题，但要有一部分权重卸载到内存里，短上下文大约 20 tok/s。日常控制灯光、窗帘、简单场景联动完全够用——先实现「家里有个本地脑子」。
▸ 编辑注：投稿原稿整套「1200 出头」，与单件价格加总（约 1300）不一致；作者随后修正两处价格（亮机卡 20→70 左右、P100「500 左右」→「500 多，600 元不到」），按配件加总重算为本口径。
第二套：进阶版（P40 24G）
想把体验再往上提一档，显卡直接换 P40。
| 配件（闲鱼 / 拼多多二手） | 价格（元） |
|---|---|
| X99 主板 | 200 |
| E5 处理器 | 100 |
| 32G DDR3 内存（想更充裕，加 150 上 64G） | 250（64G 为 400） |
| 风冷 | 50 |
| 亮机卡 | 70 左右 |
| 特斯拉 P40 24G（闲鱼，改好散热导风罩的成色较好的） | 1100 左右 |
| 二手 600W 电源 | 100 |
| 机箱风扇 | 100 |
| 整套合计 | 32G 版约 1970（约 2000）；64G 版约 2120（两千出头） |
24G 显存的优势出来了：35B 模型完整塞进显存，不用往内存里卸。短上下文基础 29 tok/s；开投机解码峰值能摸到 50 tok/s，对话流畅很多，还能开长上下文——机器记得你之前说的话。
提醒：P40 是被动散热矿卡，买回来一定要搞好风道（加风扇/换导风罩），不然分分钟降频。
▸ 编辑补充（已核实）：Tesla P40 没有任何视频输出口——HDMI、DP、DVI 全都没有（NVIDIA 官方产品规格书），所以亮机卡是画面输出的必备项，不是闲钱项；P100 同样无输出口。
▸ 编辑注：投稿原稿 32G 版「整套差不多 1920」是修正前总价；按亮机卡 70 左右重算为约 1970，本口径。
速度（投稿实测）
| 配置 | tok/s |
|---|---|
| 第一套 P100 16G | 约 20 tok/s（部分权重卸载到内存，短上下文） |
| 第二套 P40 24G | 29 tok/s（完整驻留显存，短上下文）；开投机解码 50 tok/s（投稿者实测峰值）；还能开长上下文 |
tok/s 为投稿者本机实测（投稿口径），非本站实测；不同量化档 / 上下文长度 / 框架下数字会变，这里只记录投稿给出的条件。
这台管家能干什么
一、随便说话，不用死记指令
不用生硬喊「打开客厅灯」，可以说「有点闷」「准备睡觉了」「客厅别太亮」——模型自己理解意图，再去控制灯光、空调、窗帘。
二、主动照顾家里人
搭配人体、门窗传感器，实现无感智能：晚上起夜自动亮微弱地脚灯，出门忘关门窗主动语音提醒，老人长时间没活动及时告警。漏水、烟雾这类险情本地直接响应，不等云服务器转发。
三、纯本地的家庭备忘录
买菜清单、吃药提醒、第二天日程，全存在自己机器上。聊完一轮还能让它复述一遍，所有隐私数据不上传到任何厂家。
四、打通新老家电
米家、Zigbee 设备，还是老式红外空调、老电视，统一一个管家调度，不用挨个 APP 切换。
五、断网不受影响
网线拔掉也能用：语音唤醒、灯光自动化、安防告警，所有核心功能本地运行，不会云端一断就摆烂。
六、进阶版 P40 顺带当私人 AI 工具
不控制家电的时候，还能拿它写文案、给孩子出题、总结长文档。把家电说明书、家里资料做成知识库，直接问就有答案。以后预算够了再加一块 P40，显存叠到 48G，还能跑更大的模型。
搭建顺序建议（投稿者原话整理）
- 别一上来就囤一堆传感器：先点亮主机，装好 Home Assistant。
- 接入一盏灯、一个人体传感器，把语音 + 大模型全链路跑通，确认指令能正常执行。
- 确认无误后再慢慢添加各类设备，一步步扩充。