返回 AI 工具目录

Llmware

开发框架人工精选最近核验 2026年7月23日

llmware 是一个面向企业 RAG 的统一开源框架,主打用小型专用模型在本地或边缘设备上低成本运行。它覆盖文档解析、切分、向量化与语义检索的完整链路,内置数百个模型,包括 SLIM、BLING、DRAGON 等专用小模型,并通过 Library 体系组织与索引大规模文档。开发者用 ModelCatalog 载入模型、建 Library 摄取文档,再对知识库查询。采用 Apache-2.0 许可,面向 AI PC、本地笔记本、边缘与自托管部署,集成 Milvus、PGVector、Qdrant 等多种向量库。

定价开源部署本地运行、自托管国内可达国内可达许可Apache-2.0

解决什么问题

  • 提供从文档解析到检索的完整 RAG 链路
  • 用小型专用模型降低算力与部署成本
  • 支持在本地、边缘与自托管环境离线运行
  • 以 Library 体系组织大规模文档知识库

适合

  • 在受限算力或私有环境搭建 RAG
  • 偏好小模型而非重型云端大模型
  • 需要对接多种向量库与文档格式
  • 以 Python 构建企业知识问答与抽取

不适合

  • 需 Python 3.10 及以上与平台相关依赖
  • OCR 依赖 Tesseract、Poppler 等外部组件
  • 专用小模型的通用能力上限低于前沿大模型
  • 生产可用性需自行验证与调优

如何接入

  • 向量库支持 Milvus、PGVector、Qdrant、FAISS 等
  • 模型格式支持 GGUF、OpenVINO、ONNX、HuggingFace
  • 可接 OpenAI、Anthropic、Google 等 API
  • 文本库支持 MongoDB、Postgres、SQLite

已知限制

  • 依赖较多外部组件与特定版本
  • 专用小模型的通用能力有限
  • 权重多在 HuggingFace(境外),下载或需镜像
  • 企业级效果需针对场景调优

接入与使用事实

部署方式
本地运行、自托管
实现语言
Python
中文界面
待确认
中文文档
待确认
定价方式
开源
许可证
Apache-2.0
国内可达性
国内可达
可达性观察
待补充
查看代码仓库

权限、依赖与维护信号

这些字段记录公开可见信号，不等同于安全审计结论。

权限信号

暂无公开信号。

依赖信号

暂无公开信号。

维护信号

暂无公开信号。

公开来源与证据

暂无可公开的来源链接。

访问官网