返回 AI 工具目录
Seldon-core
基础设施人工精选最近核验 2026年7月23日
Seldon Core 是用于在 Kubernetes 上部署、管理与扩展 AI 系统的 MLOps/LLMOps 框架。它把从单个模型到复杂模块化系统打包成标准化的 Kubernetes 部署,支持基于 Kafka 的实时数据流水线、模型自动扩缩容、多模型共享推理服务器、超额装载,以及在候选模型与流水线间做 A/B 与影子实验;还能以插件方式接入漂移检测、异常检测与大模型组件。当前主线为 v2,核心以 Go 与 Kotlin 实现。需注意:v2 采用 Business Source License(源码可见但非 OSI 开源),生产化通常对接 Seldon 商业版。
定价免费增值部署自托管国内可达国内可达
解决什么问题
- 在 Kubernetes 上标准化部署与管理大量模型
- 用推理图把多个模型与组件编排成流水线
- 多模型共享推理服务器并支持超额装载
- 内置 A/B、影子实验做模型灰度与对比
- 可插入漂移检测、异常检测与 LLM 组件
适合
- 已用 Kubernetes、要规模化上线模型的平台团队
- 需要模型编排、灰度与自动扩缩容的生产场景
- 同时服务传统模型与大模型的 MLOps 体系
- 希望自建可控推理平台而非纯托管服务
不适合
- 仅支持 Kubernetes,无集群则无法使用
- v2 为 Business Source License,非 OSI 开源
- 生产或商用扩展通常需 Seldon 商业版授权
- 运维门槛较高,小团队投入成本大
如何接入
- 以 CRD 形式声明式部署在 Kubernetes 集群
- 通过 Kafka 构建实时推理数据流水线
- 兼容常见模型服务器与自定义推理组件
- 可对接监控、漂移与异常检测等外部模块
已知限制
- 许可证已从开源转为 Business Source License
- 强依赖 Kubernetes,学习与运维曲线陡
- 镜像与文档在海外,拉取可能需代理
- 完整企业能力与支持需商业授权
接入与使用事实
- 部署方式
- 自托管
- 实现语言
- Go、Kotlin、Python
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 免费增值
- 许可证
- 待确认
- 国内可达性
- 国内可达
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
暂无可公开的来源链接。