ARTICLE / ai
模型微调技术全景:LoRA、QLoRA、全参数微调与实战选型指南
大语言模型(LLM)的预训练已经形成了"少数巨头训练基座模型、大量开发者微调适配任务"的生态格局。然而,全参数微调一个 7B 模型就需要 100-120GB 显存——这意味着你需要至少 2 张 H100 80GB 才能跑起来一次训练。对于绝大多数团队来说,这不是一个可以随意承担的成本。
好消息是,Parameter-Efficient Fine-Tuning(PEFT)技术的成熟彻底改变了这个局面。LoRA 让你在单张 RTX 4090 上就能微调 7B 模型,QLoRA 更进一步——同一张卡可以微调 30B 甚至 70B 的模型。这些技术将显存需求降低了 10-20 倍,同时保留了全参数微调 90-95% 的效果。
本文不讨论"什么是微调"这类入门概念,而是以工程实践视角系统梳理当前主流的微调方法——从全参数微调到 LoRA、QLoRA,再到 DoRA、AdaLoRA 等前沿变体,帮助你在资源约束下做出最优的微调策略选择。
1. 微调方法全景:为什么要区分这么多方案
1.1 微调的本质:在预训练知识上叠加任务能力
预训练模型在海量语料上学习了通用的语言理解和生成能力,但它并不知道你的具体任务格式、领域术语或输出偏好。微调的核心目标是:用少量领域数据,在不破坏预训练知识的前提下,让模型适配特定任务。
不同方法的本质区别在于"改什么"和"改多少":
| 维度 | 全参数微调 | LoRA 系列 | Adapter / Prefix |
|---|---|---|---|
| 改动范围 | 所有参数 | 低秩适配矩阵 | 插入层 / 虚拟 token |
| 可训练参数占比 | ~100% | 0.5-5% | 1-10% |
| 显存需求(7B) | 100-120GB | 16-24GB | 20-30GB |
| 推理延迟增加 | 无 | 无(可合并) | 有 |
| 任务切换成本 | 需保存完整模型 | 仅保存适配器 | 仅保存模块 |
| 质量上限 | 最高 | 接近全参数 | 因方法而异 |
1.2 选型决策树
2. 全参数微调:基准线与天花板
全参数微调(Full Fine-Tuning)是最直接的方法:更新预训练模型的所有参数。它提供了质量上限,但也代表了资源消耗的上限。
2.1 工作原理
全参数微调的数学表达非常简单:
其中 W 是预训练权重矩阵,∇L(W) 是损失函数对所有参数的梯度,η 是学习率。每一个参数都参与梯度计算和更新。
2.2 显存开销分析
全参数微调的显存由四部分构成:
| 组件 | 7B 模型 (bf16) | 70B 模型 (bf16) |
|---|---|---|
| 模型参数 | 14GB | 140GB |
| 优化器状态(AdamW) | 28GB | 280GB |
| 梯度 | 14GB | 140GB |
| 激活值(gradient checkpointing) | ~8-16GB | ~80-160GB |
| 总计 | ~64-72GB | ~640-720GB |
AdamW 优化器为每个参数维护两个状态(一阶矩和二阶矩),因此优化器状态的显存占用是模型参数的 2 倍。
2.3 适用场景
全参数微调在以下场景中仍然是最佳选择:
- 预训练续训(Continual Pre-Training):需要注入大量新知识(如领域语料),低秩适配的容量不够
- 模型合并(Model Merging):需要将多个任务的能力融合到一个模型中
- 安全关键任务:不允许任何精度损失的场景
- 数据量极大:当训练数据量超过 10 万条时,全参数微调的过拟合风险反而低于 LoRA
3. LoRA:低秩适配的工程革命
3.1 核心思想:学习变化量,而非权重本身
LoRA(Low-Rank Adaptation)由微软在 2022 年提出,其核心洞察是:微调过程中的权重更新矩阵 ΔW 具有低秩特性。也就是说,虽然权重矩阵可能有数千行数千列,但有意义的变化通常集中在一个低维子空间中。
基于这个洞察,LoRA 不直接更新原始权重 W,而是学习两个小矩阵 A 和 B,使得:
关键优势:训练时只更新 A 和 B,参数量仅为 2 × d × r。以 rank=16、d=4096 为例,可训练参数仅 131K,不到原始参数 16.8M 的 0.8%。
3.2 推理零开销的秘密
LoRA 最精妙的工程设计是:训练结束后,适配器可以合并到原始权重中。
合并后的模型在推理时没有任何额外延迟,这是 LoRA 相比 Adapter 等方法的核心优势。
3.3 实战代码:使用 Hugging Face PEFT 训练 LoRA
产物只有几百 MB 的适配器,部署时可以按需热切换、多任务共用一个基座——这是全参数微调给不了的灵活性。
4. QLoRA:4-bit 基座 + LoRA
QLoRA = NF4 量化 + 双重量化 + paged optimizer 三件套:基座以 4-bit 冻结加载,梯度穿过量化权重更新 fp16 适配器。Dettmers 等人(2023)证明这比 bf16 全参微调掉的能力更少而不是更多,65B 模型得以在单张 48GB 卡上微调。经验法则:显存 30GB 以下且模型不小于 13B,直接用 QLoRA 起步。
5. 实战选型指南
| 条件 | 推荐方案 |
|---|---|
| 数据 < 1k 条,只改格式/风格 | LoRA(r=8~16) |
| 数据 1k-100k,注入领域知识 | LoRA/QLoRA(r=16~64) |
| 数据 > 100k 且追求能力上限 | 全参数微调 |
| 显存紧张 / 多任务共享基座 | QLoRA + 适配器热切换 |
| 需要多 LoRA 服务化部署 | vLLM/Predibase 类多适配器推理 |
两个常见误区:其一,把全参微调当"效果更好的默认项"——小数据上它常输给 LoRA,因为后者更贴近"学习变化量"的归纳偏置;其二,把 LoRA rank 无脑拉高——r 超过任务内在维度后只有成本,没有收益。
6. 总结
三种方法不是相互替代,而是一条成本-能力权衡线:全参微调买上限,LoRA 买工程效率,QLoRA 买可及性。对多数团队的正确姿势是:先用 LoRA 建基线 → 用评估找瓶颈 → 先加数据、再提 rank、最后才考虑全参微调。微调决策的每个环节都该有评估数字背书,而不是"听说隔壁全参了"。 (数据来源:LoRA(Hu et al., 2021)与 QLoRA(Dettmers et al., 2023)论文、Hugging Face PEFT/TRL 官方文档,整理截至 2026-10。) 本文面向授权安全研究与防御建设,未经授权对任何系统实施文中技术属违法行为。