结论先行:驱动版本决定支持的最高CUDA版本,CUDA Toolkit版本决定PyTorch能调用的运行时。两者向下兼容,新手记住驱动535以上配CUDA 11.8或12.1基本不会错。
一、版本对应关系表
| 驱动版本 | 最高支持CUDA | 推荐PyTorch |
|---|---|---|
| 470 | 11.4 | 1.12 |
| 525 | 12.0 | 2.0 |
| 535 | 12.2 | 2.1 |
| 550 | 12.4 | 2.3 |
二、三个容易混淆的概念
nvidia-smi显示的CUDA Version是驱动支持的最高版本,不是你实际安装的版本。nvcc -V显示的是系统CUDA Toolkit版本。torch.version.cuda显示的是PyTorch自带的CUDA运行时。三者不必完全一致,但驱动必须够新。
三、常见报错与解决
报CUDA driver version is insufficient:驱动太旧,升级驱动即可。报no kernel image available:GPU架构太老,PyTorch版本不支持。报CUDA error: out of memory:显存不够,不是版本问题。
四、推荐做法
新手直接用平台预装镜像,版本已经调好。自己装环境时,先装驱动,再装CUDA Toolkit,最后装PyTorch。不要用apt装nvidia驱动,容易和系统内核冲突。
五、版本选择实操
实际选择时,先看你要用的PyTorch版本,再反推需要的CUDA版本,最后确认驱动够不够新。例如要用PyTorch 2.4,需要CUDA 12.1以上,驱动545以上。如果平台镜像只提供CUDA 11.8,那就降级到PyTorch 2.1。不要反过来为了新PyTorch去折腾驱动。另外,conda装的PyTorch自带CUDA,不需要系统装CUDA Toolkit,只装驱动即可。
常见组合推荐:稳定生产用驱动535+CUDA11.8+PyTorch2.1;尝新用驱动550+CUDA12.4+PyTorch2.4。不要跨大版本混搭,例如CUDA12.4配PyTorch1.12必崩。
想省去版本匹配的麻烦,可在GPU算力平台选择预装驱动和CUDA的镜像,开机即用。




