返回 AI 工具目录

Chroma

自托管组件人工精选最近核验 2026年7月23日

Chroma 是一款开源(Apache 2.0)的向量数据库与检索基础设施,定位「面向 AI 的搜索基础设施」。核心能力是把文档做分词、嵌入、索引后用向量相似度检索,并支持元数据过滤(where)、全文过滤(where_document)与集合(collection)管理;官方还提供 BM25/SPLADE 稀疏检索、正则与 trigram 全文匹配。部署形态灵活:可进程内内存态用于原型、本地持久化、客户端-服务器模式、Docker,也有托管的 Chroma Cloud(serverless,含向量、混合与全文检索)。客户端支持 Python(chromadb)与 JavaScript/TypeScript,以轻量、易上手著称,常作为 RAG 应用的检索层。

定价开源部署本地运行、自托管、SaaS 云服务国内可达国内可达许可Apache-2.0

解决什么问题

  • 解决「给 LLM 应用快速接一个能存嵌入、能按相似度和过滤条件检索」的问题,把分词、嵌入、索引这些步骤封装起来,开发者不必自己拼装检索管线
  • 相比重型分布式向量库,Chroma 更强调开发体验:几行代码即可在本地起一个持久化的向量库,做文档问答、知识库检索、语义搜索的原型与中小规模生产
  • 支持元数据过滤与全文过滤组合查询,便于把「语义相似 + 业务字段约束」放在一起表达
  • 对需要在笔记本或单机上快速验证 RAG 思路、或把检索层嵌入到 Python/Node 应用进程内的团队,降低了起步成本
  • 随着数据与并发增长,可从内存态、本地持久化平滑过渡到客户端-服务器或 Docker 部署,再到 Chroma Cloud 托管

适合

  • 适合 RAG 与 LLM 应用的原型及中小规模生产:需要一个轻量、易集成、能自托管的向量检索层,团队以 Python 或 JS/TS 为主
  • 适合把向量库直接嵌入应用进程(内存态或本地持久化)以简化架构,或用客户端-服务器、Docker 做小规模共享部署
  • 适合数据量在数十万到数百万级、对运维复杂度敏感、希望快速迭代的团队,例如内部文档问答、客服知识检索、个人或团队知识库
  • 对数据出域敏感的中国企业,可选择完全自托管、把数据留在自有环境
  • 集合版本化(forking)对做 A/B 与灰度检索有帮助;若已在用 LangChain、LlamaIndex 等框架,Chroma 是常见的默认或可选检索后端,接入成本低

不适合

  • 不适合超大规模、超高并发或需要复杂分布式治理的场景:成熟的分布式向量库(如 Weaviate、Milvus)在多租户、复制、分片、RBAC 等生产特性上更完备
  • 若企业已有 Postgres 且数据量不大,pgvector 可能更省一套组件
  • 本身是检索与存储层,不包含文档切分策略、抽取、Agent 编排、权限体系等上层能力,期待它做完整 RAG 平台会有落差
  • Chroma Cloud 位于境外,对必须数据留境的场景不适用;默认嵌入函数多指向境外模型,生产前需替换
  • 官方公布的延迟基准(如某配置下 p50 约 20ms)是特定维度与数据量下的厂商数据,不能直接外推到自有负载;企业级 BYOC 与多区域复制属于其商业形态,开源自托管的高可用需自行搭建

如何接入

  • 接入以两种客户端为主:Python(pip 安装 chromadb)与 JavaScript/TypeScript(npm)
  • 部署形态从轻到重可选:进程内内存态(适合原型)、本地持久化目录、客户端-服务器模式(chroma run --path)、Docker 容器,以及托管的 Chroma Cloud(serverless)
  • 嵌入生成可用内置或可插拔的 embedding function 对接不同模型,生产上建议把默认的境外模型替换为境内或自托管嵌入服务
  • 生态上常作为 LangChain、LlamaIndex 等 RAG 框架的向量后端接入;落地路径通常是本地持久化验证,再用 Docker 或客户端-服务器做小规模共享,视规模决定是否上托管或迁移到更重的分布式方案
  • 开源自托管时数据可完全留在自有环境;pip/npm 包与 Docker 镜像来自海外仓库,国内建议配置镜像加速

已知限制

  • 定位轻量,在超大规模、强分布式治理(分片、复制、多租户、RBAC)方面不如重型向量库完备,开源自托管的高可用需自行搭建
  • 它是检索与存储层,不覆盖切分、抽取、编排等上层环节
  • 官方给出的延迟基准为特定维度(如 384 维、10 万条)下的厂商测试,应以自有数据压测为准,不宜当作通用承诺;默认嵌入函数常指向 OpenAI 等境外模型,需替换
  • 国内可达性:开源版可完全自托管、数据留在境内,可达性好;但 Chroma Cloud 托管服务及企业 BYOC 面向境外云,使用托管即涉及数据出域与跨境延迟
  • pip/npm 与 Docker 镜像来自海外源,拉取可能较慢,需配镜像;当作自托管的轻量检索层时国内落地障碍小,依赖其云或默认境外模型时需评估合规与稳定性

接入与使用事实

部署方式
本地运行、自托管、SaaS 云服务
实现语言
Python、JavaScript/TypeScript
中文界面
待确认
中文文档
待确认
定价方式
开源
许可证
Apache-2.0
国内可达性
国内可达
可达性观察
待补充
查看代码仓库

权限、依赖与维护信号

这些字段记录公开可见信号，不等同于安全审计结论。

权限信号

暂无公开信号。

依赖信号

暂无公开信号。

维护信号

暂无公开信号。

公开来源与证据

  1. 代码仓库仅作事实索引
    查看来源

访问官网