
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
大模型微调综述:PEFT
摘要 本文综述了基础模型(FMs)的参数高效微调(PEFT)技术。PEFT通过选择性微调、添加适配模块、提示学习、权重重参数化和混合策略,在降低计算成本的同时保持模型性能。FMs涵盖语言(LLM)、视觉(VFM)、视觉语言(VLM)、视觉生成(VGM)和多模态(MFM)模型。PEFT方法中,选择性PEFT仅微调部分参数(如BitFit);附加式PEFT插入轻量适配器(如Adapter);提示式PE

到底了







