结论先行:GPU实例远程连接90%的问题出在安全组、密钥与网络三要素。按端口放行、密钥配对、网络排查三步走,绝大多数连接失败都能解决。
一、标准连接流程
Linux/macOS本地
将私钥文件权限设为600,然后执行ssh加私钥路径加root加公网IP。权限过严或过宽都会导致OpenSSH拒绝使用密钥。
Windows本地
PowerShell自带ssh,用法同上;也可用MobaXterm、Tabby、Windows Terminal等图形客户端,导入私钥即可。密钥格式需为OpenSSH,若从pem转换可用puttygen。
二、常见问题排查
| 现象 | 原因 | 解决 |
|---|---|---|
| Connection refused | 22端口未放行 | 安全组入方向加TCP 22 |
| Permission denied | 密钥不对或权限过宽 | 私钥权限600,确认对应实例 |
| 连接超时 | 无公网IP或安全组全拒 | 绑定弹性公网IP |
| 频繁掉线 | 网络抖动/空闲断连 | 加ServerAliveInterval保活参数 |
三、进阶技巧
- 用SSH隧道访问Jupyter,不暴露端口;
- 用tmux/screen保持训练会话不断,断线后重连即可恢复;
- 文件传输用scp或rsync,比SFTP图形端稳定,大文件建议rsync断点续传;
- 配置ssh config别名,免记IP与密钥路径。
四、无公网IP怎么办
若实例是内网VPC无公网IP,可绑定弹性公网IP,或通过跳板机跳转。不要为了方便把22端口暴露给所有IP后还设弱密码。
五、安全建议
不要把SSH密码设成简单字符串,优先用密钥对并关闭密码登录。22端口不要对0.0.0.0全开,可限制为公司固定出口IP。训练过程中用tmux保持会话,即使SSH断线训练也不会中断。定期备份私钥到安全位置,丢失密钥将无法登录实例。
五、总结
SSH连接问题排查就三件事:端口通不通、密钥对不对、网络通不通。把这三项逐项排除,绝大多数连接失败都能解决。养成用tmux和SSH密钥的好习惯,后续会省很多事。
补充:如果SSH连接后发现慢,先用ping测延迟,再用mtr看哪一跳丢包。跨地域实例延迟高是正常的,建议选离自己最近的可用区,或通过CDN加速静态资源。
若实例暂无公网IP,可在GPU算力平台购买弹性公网IP并绑定,即可远程连接GPU实例。




