LLM 微调与参数高效训练

面向大模型训练与微调的参数高效技术科普：@_avichawla 基于 3 年以上 LLM 微调经验，用可视化方式解释 5 种参数高效微调（PEFT）技术，指出传统全参数微调对数十亿参数、上百 GB 的 LLM 不现实，PEFT 多通过寻找低秩适配矩阵近似原信息——LoRA（在权重矩阵旁加两个低秩可训练矩阵 A、B，内存仅几 MB）、LoRA-FA（冻结 A 只更新 B，因低秩更新需大量激活内存）、VeRA（A、B 冻结、随机且跨层共享，改为学习层特定缩放向量 b 和 d）、Delta-LoRA（也调 W，把连续两步 A×B 乘积之差加到 W 上）、LoRA+（对矩阵 B 设更高学习率以获得更好收敛）。