选GPU最纠结的就是显存：24GB够不够？要不要上48GB？其实按模型和任务对号入座即可。本文给一张对照表，帮你一次选对。
一、显存决定什么
显存决定了能跑多大的模型、开多大batch、能否放下高分辨率输入。显存不够会直接内存溢出中断，反复重跑更浪费；显存过剩则多花钱，利用率低。
二、显存选择对照表
| 任务 | 显存建议 | 说明 |
|---|---|---|
| 图像分类检测 | 24GB | 常规模型 |
| 7B模型微调 | 48GB | batch可调 |
| 高分辨率/三维 | 48至96GB | 切块后也可24 |
三、省钱技巧
- 混合精度训练省一半显存。
- 梯度累积模拟大batch。
- 量化后推理显存大降。
拿不准选多大显存，先上云试：24GB跑不通再临时升48GB，不用一步到位。可参考GPU云实例，按实际任务选显存。
实际选卡时，与其纠结显存，不如先学会省显存的技巧：混合精度能省一半，梯度累积能小显存开大效果，梯度检查点再换时间省显存。把这些技巧用上，24GB卡也能跑过去要48GB的任务。实在不够再临时升配，云GPU按任务调整最灵活，不用为偶尔的大任务常驻大显存卡。
四、选卡小结
先把省显存技巧用足，不够再临时升配，比一步到位买大显存更省钱。
拿不准就先小卡试，跑不通再升配，云GPU灵活调整不浪费。
显存不够时还有个办法：把大模型量化后再跑，7B模型量化到四级精度，显存占用直接减半，多数任务精度损失可接受，是省显存的利器。
总之，用足省显存技巧，不够再临时升配，比一步到位买大卡更划算。
量化是省显存最实用的一招，先试再说。
先把省显存技巧用足，不够再升配。
显存不够先试量化和梯度检查点，多数任务能省一半。
实际经验是，七成以上的深度学习任务24GB显存加混合精度就能跑通，真正需要48GB以上的并不多。拿不准就先小卡试，跑不通再升配，云GPU调整灵活，不为偶尔的大任务常驻大显存卡，长期算下来最省钱。
常见问题
问：显存越大越好吗？答：不是，按任务选，小任务上大显存纯属浪费钱。
