结论先行:国产显卡生态在快速完善,但迁移到国产卡仍需改代码。短期继续用NVIDIA GPU,长期关注国产卡进展。
一、兼容性现状
主流国产卡支持CUDA的子集,PyTorch可以跑,但某些自定义算子和最新特性可能不支持。迁移前先跑一遍现有代码。
二、迁移成本
纯PyTorch API的代码迁移成本低,改几行import即可。有自定义CUDA Kernel的代码需要重写。TensorRT/FlashAttention等加速库支持不完整。
三、建议
新项目保持代码与硬件解耦,用抽象层封装GPU调用。未来需要迁移时成本可控。
二、主要国产卡型
华为昇腾910B、寒武纪思思5、摩尔线程等。各家生态不同,迁移前先确认你的模型框架是否支持。
三、短期建议
生产环境继续用NVIDIA GPU稳定可靠。国产卡作为备选方案,关注其生态成熟度。等国产卡跑通你的业务后再切换不迟。
当前主流NVIDIA GPU实例可在GPU算力平台选择。




