返回 AI 工具目录
Local GPT
开发框架人工精选最近核验 2026年7月23日
LocalGPT 是一个完全本地、私有化的文档智能平台,让用户在本机与文档对话、提问、摘要与抽取要点,数据不出本地设备。它内置混合检索引擎,结合语义相似度、关键词匹配与 Late Chunking,并用智能路由在 RAG 检索与直接调用大模型间自动选择;支持 PDF、DOCX、TXT、Markdown 等格式、批量处理、会话历史与 RESTful API。后端用 Python、前端用 TypeScript/React,向量库用 LanceDB,本地推理经 Ollama,嵌入用 HuggingFace 模型(如 Qwen),重排基于 ColBERT,可用 Docker 部署,支持 CUDA、CPU、MPS 等后端。采用 MIT 许可。
定价开源部署本地运行、自托管国内可达国内可达许可MIT
解决什么问题
- 在本地私密地与文档问答、摘要与抽取信息
- 混合语义与关键词检索提升召回准确度
- 智能路由在检索与直接回答间自动切换
- 数据全程留在本机,规避外传风险
适合
- 对数据隐私敏感、需离线文档问答的场景
- 希望自建本地知识库而不依赖外部云
- 已有 GPU 或愿用 CPU/MPS 本地推理的团队
- 需要通过 API 集成到自有系统的场景
不适合
- 本地推理对硬件有要求,低配设备体验有限
- 大规模并发检索需自行评估性能与扩展
- 首次需拉取模型与依赖,离线环境要预置
- 面向文档问答,非通用业务系统开箱方案
如何接入
- 可用 Docker 或本地开发方式部署
- 提供 RESTful API 供外部系统调用
- 经 Ollama 加载本地模型,嵌入用 HuggingFace 模型
- 向量库用 LanceDB,重排基于 ColBERT
已知限制
- 本地推理质量与速度取决于硬件与所选模型
- 首次拉取模型与嵌入需要网络
- 检索效果依赖分块与嵌入模型的适配
- 面向文档场景,复杂业务需二次开发
接入与使用事实
- 部署方式
- 本地运行、自托管
- 实现语言
- Python、TypeScript
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- MIT
- 国内可达性
- 国内可达
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
- 代码仓库仅作事实索引