结论先行：选GPU实例规格前，先回答以下10个问题，从任务类型、显存需求、并发量、预算四个维度缩小范围，比看参数表高效得多。
一、10个必问问题
①你的任务是训练还是推理？②模型参数量多大？③训练精度用FP16还是FP32？④需要几张卡？⑤是否需要NVLink多卡互联？⑥并发量预估多少？⑦序列长度多长？⑧预算范围多少？⑨预计跑多久？⑩数据放本地还是对象存储？
二、按答案快速定位
训练7B到13B微调：单卡4090即可。训练70B：4到8卡A100。推理70B INT4：单卡L40S或4090。千亿模型：H100多机集群。
三、容易忽略的问题
数据盘够不够？公网带宽够不够？有没有快照？CPU核数够不够喂数据？很多人选了顶配GPU，结果CPU太弱数据加载跟不上，GPU利用率上不去。
四、建议流程
先用最小规格按量跑通，记录GPU利用率和显存占用，再按实际需求升级。不要一上来就选最大规格，浪费钱。
五、规格升级路径
初期：单卡4090按量，月成本约几百元。验证产品后：升级到4卡A100包月，月成本几千元。规模化后：多机H100集群，按需预约。每一步升级都要有数据支撑，不要凭感觉。
最后提醒：实例规格不是越大越好，GPU利用率才是关键。选大了GPU利用率不到30%就是浪费。跑一周后看监控，利用率低就降配，利用率满了再升配。
不确定怎么选规格，可在GPU算力平台按任务类型推荐合适的GPU实例。
