模型优化 / 前端与分发
text-gen-webui (textgen) oobabooga/textgen
GitHub 原仓库 ↗· star 47,739(2026-11-13 同步) · fork 5,974 · 主语言 Python· 许可 可商用(有条件)(AGPL-3.0)AGPL-3.0(GitHub API 2026-11-10 实时值):自用/内部可;提供网络服务或分发修改版需开源。对纯本地使用基本无影响。
能干什么
一个历史很久的本地 LLM 桌面/Web 应用:从最早一批「本地跑 ChatGPT 替代品」做到现在,功能覆盖文本对话、视觉(看图)、工具调用,并起 OpenAI/Anthropic 兼容 API 给别的应用用。主打 100% 私有、本地跑。对喜欢「一个带界面的本地全家桶」的老用户熟悉度高。
怎么干
- 按官方 README 装(Python 环境)
- 下载/指向一个本地模型
- 开 WebUI 聊天,或起 OpenAI 兼容端口给其他应用用
本站怎么用
它是「本地全家桶」里的老资历——和 Jan/GPT4All 同类但更偏 WebUI/极客向。读者想要「带界面 + 能起 API 给别的应用当后端」的本地方案时这是一个选项。显存按所接模型 /capacity/ 档位。
显存口径
显存 = 所接本地模型(按 /capacity/ 档位)+ 开销;起兼容 API 不额外吃显存。视觉(看图)会额外占一点。
条目性质:本站原创撰写(能干什么 / 本站怎么用均为本站编辑判断),未搬运原 README 原文。star/fork 由 tools/sync-github-stars.mjs 从 GitHub API 实时同步(检索日快照 2026-11-10,直查 api.github.com/repos/oobabooga/textgen:created 2022-12-21、pushed 2026-08-17),非手写死数。功能/显存描述按项目 README 与官方口径转述,本站未复现、未背书其性能。说明为本站原创撰写,未搬运原 README。