返回 AI 工具目录
privateGPT
AI 应用人工精选最近核验 2026年7月23日
PrivateGPT 是一个开源 API 层,把本地推理服务器(Ollama、llama.cpp、vLLM 等)封装成可用于生产的 AI 应用后端。它对外提供标准的 Messages 消息接口与 OpenAI 兼容端点,内置流式与异步、令牌计数、文件与文档摄取、带引用的 RAG 与 Agentic RAG,以及网页搜索、网页抓取、代码执行、数据库与 CSV 查询、MCP 连接器等工具,并附带用于调试演示的 Workbench UI。它的定位是开发者基础设施而非终端产品,让团队在数据不出本地环境的前提下,复用一套后端能力构建私有 AI 应用。采用 Apache-2.0 许可,主要用 Python 实现,可经 Homebrew、pip 或 Docker 部署。
定价开源部署自托管、本地运行、API 接入国内可达国内可达许可Apache-2.0
解决什么问题
- 把本地模型封装成生产可用的应用后端
- 提供统一消息接口与流式、异步、令牌计数
- 内置带引用的 RAG 与 Agentic RAG
- 集成网页搜索、代码执行、数据库/CSV、MCP 工具
- 数据不出本地环境即可构建私有 AI 应用
适合
- 需在本地或私有环境搭建 AI 应用后端的团队
- 已运行 Ollama、vLLM 等推理服务器
- 对数据不出域有合规要求的场景
- 希望复用 RAG 与工具调用而非自研后端
不适合
- 想要开箱即用终端产品的非技术用户不适用
- 无本地推理服务器时需自行准备算力
- 属后端基础设施,前端与业务逻辑仍需自建
- 生产可用性依赖自行运维、监控与压测
如何接入
- 对接 Ollama、llama.cpp、vLLM 等 OpenAI 兼容推理服务器
- 提供 Messages 与 OpenAI 兼容 HTTP 端点
- 支持 MCP 连接器接入外部工具与数据
- 可经 Homebrew、pip 或 Docker 部署
- 附 Workbench UI 用于调试与演示
已知限制
- 需自备本地推理服务器,不含模型
- 私有部署性能取决于本地硬件
- 工具与 RAG 质量受底层模型能力限制
- 文档以英文为主,中文资料较少
接入与使用事实
- 部署方式
- 自托管、本地运行、API 接入
- 实现语言
- Python
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- Apache-2.0
- 国内可达性
- 国内可达
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。