微调是个人和小团队上车大模型性价比最高的方式，但坑也最密集。很多人租了大卡、烧了几天钱，最后效果还不如开箱即用的开源模型。本文总结五个高频踩坑点，帮你把有限的GPU预算花在刀刃上。
坑一：基座模型选太大，白烧显存
很多人一上来就选七十B全量微调，结果单卡二十四G显存连加载都困难，OOM报错频繁，反复中断重启。实际上绝大多数垂直场景用七B到十四B做LoRA或QLoRA就够了，单张四十系游戏卡即可跑通，效果往往也不差。
坑二：数据没清洗就开跑
“垃圾进、垃圾出”在微调里尤其致命。几百条质量参差的数据，不如几十条精标样本。务必先做格式统一、去重、去毒、长度过滤，并按任务类型保持指令、输入、输出三段结构一致，否则模型学到的是格式混乱。
坑三：学习率和轮数乱调
- 全量微调学习率通常在1e-5到5e-5；
- LoRA学习率可高到1e-4到2e-4；
- 轮数一般两到五轮即可，过多会过拟合、灾难性遗忘。
坑四：忘了评估，凭感觉验收
微调后必须建一个小评测集，对比微调前后在同样prompt上的输出。没有量化指标，调参就是玄学，你以为”变聪明了”可能只是口吻更像了。建议保留基线模型输出做并排对照，一眼就能看出真实差异。
坑五：只租不看，空跑一整天
微调任务常因显存碎片、数据路径错误卡死，而GPU还在计费。建议用后台任务跑，配合日志和显存监控，发现问题立刻释放实例。在 gpu.topyun.vip 上按量计费，随时开机、随时释放，正是为这种”调一下试一下”的反复迭代场景设计的。
一句话建议
先用小模型加小数据在单卡上把数据格式、训练脚本、评测流程全跑通，再换大卡放大，是最省钱的微调姿势。别一上来就上最大的卡，先把流程跑顺。
常见误解
有人以为”微调效果和数据量成正比，越多越好”，其实数据质量比数量重要得多；也有人以为换更大的基座就一定更好，很多场景下小基座微调后反而更听话、推理成本更低。先把数据和流程打磨好，再谈模型规模。
