GPU服务器的数据进出流量费经常被低估，一次模型下载可能产生上百元流量费，理解南北向流量的计费逻辑是控制隐性成本的关键。
一、什么是南北向流量
在云计算中，流量分为两类：
- 南北向流量：在GPU实例和外部互联网之间传输的数据。这部分通常收费；
- 东西向流量：在同一区域内GPU实例之间或实例与对象存储之间传输的数据。这部分通常免费或费用很低。
二、流量费的计费方式
| 计费方式 | 价格参考 | 适合场景 | 预估月费 |
|---|---|---|---|
| 按固定带宽包月 | ~80元/Mbps/月 | 持续稳定流量 | ~800元（10Mbps） |
| 按使用流量计费 | ~0.5~0.8元/GB | 突发/间歇性流量 | ~300元（500GB） |
| 阶梯定价 | 前100GB免费，超出0.6元/GB | 轻度使用 | ~120元（300GB） |
三、哪些操作会产生高额流量费
1. 从公网下载大数据集
从HuggingFace、Kaggle或其他公网地址下载数据集到GPU服务器，产生的是入方向流量。大部分平台入方向流量免费，但出方向流量收费。
关键：确认你的平台是否对入方向流量收费！部分小众平台进出都收费。
2. 训练结果回传本地
训练完成后将模型checkpoint和结果下载到本地，这是出方向流量，按0.5~0.8元/GB收费。下载一个100GB的70B模型花费50~80元。
3. 频繁SSH上传下载文件
开发调试过程中频繁通过scp/sftp上传下载文件，每次看似不多，但累积起来月流量可能达到数百GB。
4. 跨区域同步数据
在不同区域的GPU实例之间同步数据集，跨区域流量费通常0.6~1.0元/GB，比同区域内网贵很多。
四、流量费优化的五个方法
- 使用内网传输：GPU实例和对象存储走同区域内网，流量费为0；
- CDN加速下载：从公网下载公开数据集时，通过国内CDN镜像站下载，速度更快且部分平台CDN流量费更低；
- 批量传输：将多个小文件打包成一个大文件传输，减少连接建立开销；
- 压缩后传输：文本数据集用gzip压缩，可减少60%~80%的传输量；
- 监控流量告警：设置月度流量告警阈值，超过50%时提醒，避免月底超量。
五、一个真实案例
某团队每月在GPU服务器上做模型训练，之前没注意流量费，每月出方向流量约2TB，按0.6元/GB计算，每月流量费1200元。优化后：
- 数据集提前上传到对象存储，训练时走内网加载；
- 模型结果压缩后再下载；
- 开发文件通过Git同步，不再用scp频繁传输；
- 月流量费降至约200元，节省83%。
想了解不同平台的流量费政策和省钱技巧，可以对比GPU流量费对比中各家的带宽和计费规则。
六、总结
流量费是GPU账单里最隐蔽的成本项。理解南北向流量的计费逻辑，善用内网传输和压缩，每月可以省下数百到数千元。
