返回 AI 工具目录
OpenLLMetry
开发框架人工精选最近核验 2026年7月23日
OpenLLMetry 是 Traceloop 开源的 LLM 应用可观测性框架,基于 OpenTelemetry 标准构建。它以 SDK 形式对 LLM 调用、向量数据库操作和常见框架交互做自动埋点,采集提示、响应、延迟、Token、成本等指标与分布式链路,帮助监控、追踪和调试 GenAI 应用,且不绑定特定后端。内置对 OpenAI、Anthropic、Gemini 等十多家模型,以及 Chroma、Pinecone 等向量库和 LangChain、LlamaIndex、CrewAI 等框架的埋点;数据可导出到 Datadog、Honeycomb、New Relic 等二十多种观测平台,其语义约定已并入 OpenTelemetry 官方规范。此仓库为 Python 版,另有独立的 JS/TS SDK。
定价开源部署自托管、SaaS 云服务国内可达国内可达性待核验许可Apache-2.0
解决什么问题
- 为 GenAI 与 LLM 应用提供端到端可观测性
- 自动埋点 LLM、向量库与框架调用
- 采集 Token、成本、延迟与完整链路
- 基于 OpenTelemetry,避免后端锁定
- 支持导出到主流观测平台排障
适合
- 生产环境运行的 LLM 或 Agent 应用
- 已用 OpenTelemetry 的可观测性栈
- 需要追踪 Token 成本与完整调用链
- 使用 LangChain、LlamaIndex 等框架
- 希望自选后端、不被平台锁定
不适合
- 非 LLM 的普通应用无需专用埋点
- 深度分析仍需搭配观测后端,自建或 Traceloop
- Python 仓库外需改用独立的 JS/TS SDK
- 自动埋点覆盖范围随所依赖库版本变化
- 高吞吐下追踪采样与开销需评估
如何接入
- pip 安装 SDK,初始化后即自动埋点
- 通过标准 OTLP 导出到既有观测后端
- 可单独使用某一个 instrumentation
- 对接 Datadog、Honeycomb 等平台
- 可上报 Traceloop 托管平台做分析
已知限制
- 仅负责采集遥测,分析依赖外部后端
- 自动埋点覆盖随所依赖库版本变化
- 此仓库为 Python,JS/TS 为独立 SDK
- 高并发场景需评估追踪开销与采样
- Traceloop 托管平台为付费增值
接入与使用事实
- 部署方式
- 自托管、SaaS 云服务
- 实现语言
- Python
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- Apache-2.0
- 国内可达性
- 国内可达性待核验
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
暂无可公开的来源链接。