返回 AI 工具目录
ONNX-MLIR
开发框架人工精选最近核验 2026年7月23日
ONNX-MLIR 是一个把 ONNX 模型图编译为可执行代码的开源编译器项目,基于 LLVM/MLIR 编译基础设施,目标是以最少的运行时依赖实现模型推理。它贡献了可被其他项目集成的 ONNX Dialect,提供把 ONNX 图下降为 MLIR 文件、LLVM 字节码、C 与 Java 库的编译接口,以及 onnx-mlir 驱动与 Python/C/C++/Java 运行时。当前面向通用 CPU 与 IBM Telum 集成 AI 加速器提供算子代码生成支持,可在 Linux、macOS、Windows 上原生运行。项目隶属 ONNX 社区(LF AI & Data),采用 Apache-2.0。
定价开源部署本地运行、自托管国内可达国内可达
解决什么问题
- 把 ONNX 模型编译成低运行时依赖的可执行代码
- 将模型下降为 LLVM 字节码或 C/Java 库
- 提供可复用的 ONNX Dialect 供其他项目集成
- 面向 CPU 与 IBM Telum 加速器生成算子代码
适合
- 需要将 ONNX 模型编译部署到自有环境
- 希望减少推理时的运行时与框架依赖
- 在 s390x、x86 等平台或 Telum 上部署推理
- 从事编译器或 MLIR 相关研发
不适合
- 是推理侧编译器,不做模型训练
- 从源码构建需 LLVM/MLIR 等重型依赖与较长编译
- ONNX 算子支持并非全覆盖,需查支持列表
- 面向工程与研究,非开箱即用的推理服务
如何接入
- 提供 onnx-mlir 驱动执行图的下降与编译
- 输出 MLIR、LLVM 字节码或 C/Java 库
- 提供 Python/C/C++/Java 运行时环境
- 推荐用官方 Docker 镜像与容器构建
- ONNX Dialect 可集成进其他 MLIR 项目
已知限制
- 构建依赖 clang、protobuf、cmake 等,门槛较高
- 算子代码生成覆盖有限,需对照支持文档
- 主要面向 CPU 与 Telum,GPU 路径非重点
- 偏底层工具链,需编译器相关经验
接入与使用事实
- 部署方式
- 本地运行、自托管
- 实现语言
- C++
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- 待确认
- 国内可达性
- 国内可达
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
- 代码仓库仅作事实索引