返回 AI 工具目录
peft
开发框架人工精选最近核验 2026年7月23日
PEFT(Parameter-Efficient Fine-Tuning,参数高效微调)是 Hugging Face 维护的开源 Python 库,用于在不训练全部权重的前提下低成本适配大模型。它只微调少量额外参数,显著降低算力与存储开销,官方称新一代方法效果可接近全量微调。内置 LoRA、Adapter、软提示(Prompt/Prefix Tuning)、IA3 等多种方法,并与 Transformers、Diffusers、Accelerate、TRL 等深度集成,可用于语言与扩散模型的领域适配。库以 Python 编写,采用 Apache-2.0 许可,持续活跃更新。
定价开源部署本地运行、自托管国内可达国内可达性待核验许可Apache-2.0
解决什么问题
- 用少量可训练参数适配大模型,降低显存、算力与存储成本
- 统一封装 LoRA、Adapter、软提示、IA3 等多种微调方法
- 产出小体积适配器权重,便于多任务切换与分发
- 与 Transformers、Diffusers、TRL 等生态无缝衔接
适合
- 在有限 GPU 上对大模型做领域或任务微调
- 需要为同一基座维护多个轻量适配器的场景
- 已使用 Hugging Face 生态、希望快速接入微调的团队
- 研究与工程中对比不同参数高效方法
不适合
- 仅是微调库,不含数据标注与训练编排,需自行准备数据与流程
- 多数流程默认从 Hugging Face Hub 拉取基座,境内需镜像或本地权重
- 极端追求全量微调上限效果时,PEFT 未必最优
- 需具备 PyTorch 与深度学习基础方能上手
如何接入
- pip 安装后用 get_peft_model 包装 Transformers 模型即可训练
- 适配器权重可单独保存、加载与合并回基座
- 配合 Accelerate、DeepSpeed 做多卡与大规模训练
- 可与 TRL 结合做 RLHF/DPO 等对齐训练
已知限制
- 底模下载依赖 Hugging Face Hub,境内访问慢,需 hf-mirror 或 ModelScope
- 效果依方法、超参与数据而定,需自行调优
- 不同基座对各方法支持程度不一
- 仅覆盖微调环节,部署推理需另配工具
接入与使用事实
- 部署方式
- 本地运行、自托管
- 实现语言
- Python
- 中文界面
- 待确认
- 中文文档
- 待确认
- 定价方式
- 开源
- 许可证
- Apache-2.0
- 国内可达性
- 国内可达性待核验
- 可达性观察
- 待补充
权限、依赖与维护信号
这些字段记录公开可见信号,不等同于安全审计结论。
权限信号
暂无公开信号。
依赖信号
暂无公开信号。
维护信号
暂无公开信号。
公开来源与证据
- 代码仓库仅作事实索引
