返回 AI 工具目录
Gateway
开发框架人工精选最近核验 2026年7月23日
Gateway 是 Portkey 开源的大模型网关,用一个 OpenAI 兼容接口接入众多模型提供商,统一路由请求。它内置自动重试与指数退避、提供商故障转移、多密钥负载均衡与超时控制,支持简单缓存与语义缓存以降本;并集成数十种输入/输出护栏(Guardrails)做校验与合规。体积小、延迟低,可自托管(Docker、Node.js、Cloudflare Workers)或使用其托管云,采用 MIT 许可。适合作为多模型接入与治理的统一入口。
定价开源部署自托管、SaaS 云服务、API 接入国内可达国内可达许可MIT
解决什么问题
- 用一个 OpenAI 兼容接口统一接入众多模型提供商
- 自动重试、故障转移与多密钥负载均衡提升可用性
- 简单缓存与语义缓存降低调用成本
- 内置护栏对输入输出做校验与合规控制
- 提供用量、成本与请求级监控
适合
- 需要在多家大模型间统一路由与切换
- 希望集中做重试、降级、缓存与限流治理
- 要对模型输入输出加护栏与访问控制
- 作为自托管的统一模型接入层
不适合
- 它是网关而非模型本身,推理仍依赖各家提供商
- 仅用单一模型且无治理需求时属过度设计
- 托管云与部分提供商在海外,合规需自行评估
- 护栏覆盖有限,复杂审核仍需专门方案
如何接入
- 暴露 OpenAI 兼容 API,应用改基址即可接入
- 可自托管于 Docker、Node.js、Cloudflare Workers
- 支持 Portkey Cloud 及 AWS、Azure、GCP 部署
- 通过配置声明路由、重试、缓存与护栏策略
已知限制
- 官方对提供商数量口径不一,以实际支持列表为准
- 企业级功能与托管云为付费,开源版为核心网关
- 所路由的海外模型 API 国内访问需自备网络
- 护栏与缓存效果依赖具体配置与场景
接入与使用事实
- 部署方式
- 自托管、SaaS 云服务、API 接入
- 实现语言
- TypeScript
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- MIT
- 国内可达性
- 国内可达
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
暂无可公开的来源链接。