返回 AI 工具目录

peft

开发框架人工精选最近核验 2026年7月23日

PEFT(Parameter-Efficient Fine-Tuning,参数高效微调)是 Hugging Face 维护的开源 Python 库,用于在不训练全部权重的前提下低成本适配大模型。它只微调少量额外参数,显著降低算力与存储开销,官方称新一代方法效果可接近全量微调。内置 LoRA、Adapter、软提示(Prompt/Prefix Tuning)、IA3 等多种方法,并与 Transformers、Diffusers、Accelerate、TRL 等深度集成,可用于语言与扩散模型的领域适配。库以 Python 编写,采用 Apache-2.0 许可,持续活跃更新。

定价开源部署本地运行、自托管国内可达国内可达性待核验许可Apache-2.0

解决什么问题

  • 用少量可训练参数适配大模型,降低显存、算力与存储成本
  • 统一封装 LoRA、Adapter、软提示、IA3 等多种微调方法
  • 产出小体积适配器权重,便于多任务切换与分发
  • 与 Transformers、Diffusers、TRL 等生态无缝衔接

适合

  • 在有限 GPU 上对大模型做领域或任务微调
  • 需要为同一基座维护多个轻量适配器的场景
  • 已使用 Hugging Face 生态、希望快速接入微调的团队
  • 研究与工程中对比不同参数高效方法

不适合

  • 仅是微调库,不含数据标注与训练编排,需自行准备数据与流程
  • 多数流程默认从 Hugging Face Hub 拉取基座,境内需镜像或本地权重
  • 极端追求全量微调上限效果时,PEFT 未必最优
  • 需具备 PyTorch 与深度学习基础方能上手

如何接入

  • pip 安装后用 get_peft_model 包装 Transformers 模型即可训练
  • 适配器权重可单独保存、加载与合并回基座
  • 配合 Accelerate、DeepSpeed 做多卡与大规模训练
  • 可与 TRL 结合做 RLHF/DPO 等对齐训练

已知限制

  • 底模下载依赖 Hugging Face Hub,境内访问慢,需 hf-mirror 或 ModelScope
  • 效果依方法、超参与数据而定,需自行调优
  • 不同基座对各方法支持程度不一
  • 仅覆盖微调环节,部署推理需另配工具

接入与使用事实

部署方式
本地运行、自托管
实现语言
Python
中文界面
待确认
中文文档
待确认
定价方式
开源
许可证
Apache-2.0
国内可达性
国内可达性待核验
可达性观察
待补充

权限、依赖与维护信号

这些字段记录公开可见信号,不等同于安全审计结论。

权限信号

暂无公开信号。

依赖信号

暂无公开信号。

维护信号

暂无公开信号。

公开来源与证据

  1. 代码仓库仅作事实索引

访问官网