返回 AI 工具目录

LLM App

开发框架人工精选最近核验 2026年7月23日

LLM App 是 Pathway 官方维护的一组开箱即用应用模板,在 Pathway 实时数据框架(Python 接口加 Rust 引擎)之上搭建 RAG 与 AI 数据管道。特点是实时:数据源新增、删除、更新会被自动捕获并同步进索引,无需手动重建。仓库含多种模板:问答型 RAG、实时文档索引、GPT-4o 多模态 RAG、非结构化转 SQL、自适应 RAG、Mistral/Ollama 私有 RAG、视频 RAG 等。数据源支持文件系统、Google Drive、SharePoint、S3、Kafka、PostgreSQL 等;索引用 usearch 做向量、Tantivy 做全文的混合检索。部署为 Docker 容器加 HTTP API,可选 Streamlit 界面测试。以 MIT 开源。

定价开源部署自托管、API 接入国内可达国内可达许可MIT

解决什么问题

  • 用现成模板快速搭建 RAG 与 AI 数据管道
  • 数据源增删改自动同步进索引,无需手动重建
  • 覆盖问答、多模态、非结构化转 SQL、视频等多种场景
  • 支持向量加全文的混合检索
  • 可用本地模型(Mistral/Ollama)搭私有 RAG

适合

  • 数据频繁更新、需要检索结果实时跟随的场景
  • 团队用 Python、愿意基于框架做二次开发
  • 需要对接 S3、Kafka、SharePoint 等企业数据源
  • 想以模板起步再按需改造,而非从零写管线

不适合

  • 不熟悉 Python 或数据管道时上手成本较高
  • 只需一个简单文档问答时,该框架偏重
  • 默认示例常用海外模型 API,私有化需自行改本地模型
  • 生产级运维与扩缩容需自行搭建

如何接入

  • 以 Docker 容器部署,对外暴露 HTTP API
  • 数据源接文件系统、Google Drive、SharePoint、S3、Kafka、PostgreSQL
  • 索引用 usearch(向量)加 Tantivy(全文)
  • 模型可选云端或本地 Mistral/Ollama
  • 可选 Streamlit 界面做快速验证

已知限制

  • 需要 Python 与数据工程能力,非低代码
  • 模板默认多依赖海外模型 API,有数据出域与延迟
  • 文档与示例以英文为主
  • 复杂业务需在模板基础上大量改造
  • 生产可靠性与监控需自建配套

接入与使用事实

部署方式
自托管、API 接入
实现语言
Python
中文界面
待确认
中文文档
待确认
定价方式
开源
许可证
MIT
国内可达性
国内可达
可达性观察
待补充
查看代码仓库

权限、依赖与维护信号

这些字段记录公开可见信号，不等同于安全审计结论。

权限信号

暂无公开信号。

依赖信号

暂无公开信号。

维护信号

暂无公开信号。

公开来源与证据

暂无可公开的来源链接。

访问官网