返回 AI 工具目录

Private GPT

开发框架人工精选最近核验 2026年7月23日

PrivateGPT 是由 Zylon AI 维护的开源项目(作者 Iván Martínez),定位为把本地模型变成生产级 AI 应用的开源 API 层。它本身不运行模型,而是通过 OPENAI_API_BASE 对接任意 OpenAI 兼容的推理服务(如 Ollama、llama.cpp、vLLM、LocalAI),在其之上提供统一能力:带流式与 token 计数的消息 API、带引用溯源的文档摄取与检索、内置工具(联网搜索、网页抓取、代码执行)、自定义工具与 MCP 连接器,以及数据库/CSV 访问、嵌入与编排。核心诉求是完全本地、私有运行,数据不离开自有环境,适合数据不出域的场景。项目以 Python 为主、Apache 2.0 开源。注意与境外同名商业站点 privategpt.io 并非同一产品。

定价开源部署自托管、本地运行、API 接入国内可达国内可达许可Apache-2.0

解决什么问题

  • 在本地/私有环境搭建生产级 AI 应用,数据不出自有环境
  • 统一封装本地推理服务,提供消息 API 与编排能力
  • 文档摄取与检索带引用溯源
  • 内置联网搜索、网页抓取、代码执行等工具
  • 支持自定义工具与 MCP 连接器扩展

适合

  • 对数据不出域、隐私合规要求高的团队
  • 已有或计划自建 OpenAI 兼容推理服务(Ollama/vLLM 等)
  • 需要带引用溯源的文档问答
  • 想要一层稳定 API 来对接多种本地模型

不适合

  • 不自建推理服务时,需另行准备兼容后端
  • 追求零运维托管服务的团队不适用
  • 需要成熟商业支持与 SLA 时需另作评估
  • Python 与自托管运维能力是使用前提

如何接入

  • 通过 OPENAI_API_BASE 对接 Ollama、llama.cpp、vLLM、LocalAI 等
  • 对外提供 OpenAI 兼容的消息与嵌入 API
  • 支持 MCP 连接器与自定义工具
  • 可访问数据库与 CSV 数据
  • 以自托管方式集成进内部系统

已知限制

  • 自身不含模型,需另行部署推理后端
  • 生产可靠性、监控与扩缩容需自建
  • 文档以英文为主,中文效果取决于所接模型
  • 名称与境外同名商业产品(privategpt.io)易混淆,注意甄别
  • 内置联网类工具在国内可用性需自行验证

接入与使用事实

部署方式
自托管、本地运行、API 接入
实现语言
Python
中文界面
待确认
中文文档
待确认
定价方式
开源
许可证
Apache-2.0
国内可达性
国内可达
可达性观察
待补充

权限、依赖与维护信号

这些字段记录公开可见信号,不等同于安全审计结论。

权限信号

暂无公开信号。

依赖信号

暂无公开信号。

维护信号

暂无公开信号。

公开来源与证据

暂无可公开的来源链接。

访问官网