返回 AI 工具目录
OpenLIT
开发框架人工精选最近核验 2026年7月23日
OpenLIT 是一个开源的 LLMOps 与可观测性平台,面向构建生成式 AI 应用的工程团队,把实验、Prompt 管理、密钥保管和全栈观测收拢到一处。它提供基于 OpenTelemetry 的 Python、TypeScript、Go SDK 做厂商中立的埋点,配套分析看板跟踪性能、成本与调用,内置十余种评测(含幻觉、偏见检测)、Prompt Hub 版本管理、密钥 Vault、GPU 监控,以及可配置规则的实时护栏,官方称覆盖 50+ 模型与框架。通过 Docker/Kubernetes 自建部署,采用 Apache-2.0。
定价开源部署自托管国内可达国内可达许可Apache-2.0
解决什么问题
- 用 OpenTelemetry 统一采集 LLM 应用埋点
- 跟踪调用性能、成本与 token 消耗
- 对输出做幻觉、偏见等多类评测
- 集中管理 Prompt 版本与 API 密钥
适合
- 需要 LLM 应用可观测性与成本核算的团队
- 已用或愿采用 OpenTelemetry 标准
- 想自建、数据留在自有环境
- 需要 Prompt 版本管理与线上护栏
不适合
- 需自建并运维 Docker/K8s 部署
- 评测为通用指标,业务判定需自定义
- 护栏规则需人工配置,非开箱即用
- 托管场景之外的合规要求需自评
如何接入
- 接入 OpenTelemetry SDK(Python/TS/Go)
- Docker Compose 或 K8s 自建后端
- 对接多家模型与框架的埋点
- 看板、Prompt Hub、Vault 同一平台
已知限制
- 自建部署需一定运维投入
- 评测与护栏效果依赖配置与阈值
- GPU 监控等能力依赖对应环境
- 文档以英文为主
接入与使用事实
- 部署方式
- 自托管
- 实现语言
- TypeScript、Python、Go
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- Apache-2.0
- 国内可达性
- 国内可达
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
- 代码仓库仅作事实索引