返回 AI 工具目录
ReLLM
开发框架人工精选最近核验 2026年7月23日
ReLLM 是一个用正则表达式约束语言模型输出的 Python 库,目标是让生成结果稳定符合指定格式,而不是寄希望于模型自觉产出合法的 JSON、XML 等结构。它的做法是在生成前对候选 token 做过滤:对每个 token,拿所有可能的补全去和一个「部分正则」匹配,把不符合模式的补全对应的 logits 掩掉,使模型不会生成它们。因此可用于约束语法结构(JSON、XML)、语义约束(日期、数字)以及模板化输出。它可配合任意 HuggingFace transformer 模型使用,采用 MIT 许可;官方另有基于 Thiggle 的托管正则补全 API。
定价开源部署本地运行、API 接入国内可达国内可达
解决什么问题
- 强制 LLM 输出符合指定正则,避免格式跑偏
- 生成前过滤 token,从源头约束而非事后修补
- 可约束 JSON、XML 等语法与日期、数字等语义
- 支持模板化输出,便于下游程序解析
适合
- 需要模型稳定产出结构化数据的抽取/解析场景
- 使用 HuggingFace 本地 transformer 模型的团队
- 希望在生成阶段就保证格式合法的流程
不适合
- 仅约束到正则可表达的结构,复杂语义难覆盖
- 依赖可访问 logits 的本地模型,纯闭源 API 不适用
- 逐 token 匹配会带来额外生成开销
- 只保证格式合规,不负责内容正确性
如何接入
- pip install rellm,在 Python 生成流程中调用
- 传入正则模式与 HuggingFace 模型即可约束输出
- 通过掩码 logits 干预解码,无需改模型
- 也可改用 Thiggle 托管正则补全 API
已知限制
- 需要能访问 logits 的本地模型,不支持黑盒 API
- 逐 token 校验增加推理耗时
- 正则难以表达的复杂结构不适用
接入与使用事实
- 部署方式
- 本地运行、API 接入
- 实现语言
- Python
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- 待确认
- 国内可达性
- 国内可达
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号，不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
暂无可公开的来源链接。