结论先行：显卡型号只是基础，真正决定体验的是显存带宽、互联方式、驱动版本、网络质量、存储IOPS。只看型号选卡，经常买回来才发现跑不动。
一、型号之外的关键参数
显存带宽决定推理速度，同样80GB显存，HBM3比GDDR6快3倍。NVLink决定多卡训练效率，没有NVLink的多卡等于几块独立卡。数据盘IOPS决定数据加载速度，IOPS低GPU会等数据。
二、实际案例
同样是4090，A平台PCIe 4.0 x16，B平台PCIe 3.0 x8，训练速度差20%。同样是A100，有的平台8卡全NVLink，有的平台4卡NVLink加4卡PCIe，效率差很多。
三、怎么看隐藏参数
问客服要网卡拓扑图、存储类型、PCIe版本。自己跑benchmark测实际带宽和延迟。不要只信官网宣传页。
四、建议
选平台时，除了比显卡型号，还要测实际性能。同样卡型，不同平台的实际体验可能差30%以上。
补充：一个实用技巧：租实例后第一时间跑nvidia-smi看GPU信息，跑bandwidthTest测带宽，跑all_reduce_perf测多卡通信。三分钟就能判断这台实例值不值得继续用。
想测不同GPU实例的实际性能，可在GPU算力平台按小时试跑benchmark。
