结论：绝大多数场景用LoRA或QLoRA就够了，显存占用小、训练快、效果不差。只有需要彻底改变模型能力时，才考虑全量微调。选错方式，多花的钱和时间都不少。
两种方式的差别
全量微调要更新模型所有参数，显存占用大、训练慢；LoRA只训练少量低秩矩阵，显存省一大截，单卡就能跑，效果在多数垂直任务上够用。
怎么选
| 需求 | 推荐 |
|---|---|
| 垂直问答、风格适配 | LoRA |
| 彻底改造模型能力 | 全量微调 |
| 显存有限 | QLoRA |
在 gpu.topyun.vip 上，先用LoRA在单卡跑通，效果不够再考虑全量。别一上来就上全量，浪费显存和时间。
一句话
能用LoRA解决的，别上全量。
常见疑问
问：LoRA效果差怎么办？答：先调数据和学习率，多数情况是数据问题，不是方法问题。
问：QLoRA和LoRA差多少？答：QLoRA更省显存，效果在很多任务上接近，显存紧张优先QLoRA。
