文章目录镜像部署容器部署环境配置背景介绍由于远程服务器禁止连接外网因此我在个人服务器上下载了镜像 pytorch/pytorch 然后传到服务器上进行部署。远程服务器已预装 Docker、CUDA 本教程将在此基础上进行。镜像部署在远程服务器上输入nvidia-smi检查CUDA版本然后进入Docker Hub搜索相应版本的镜像注意安装devel后缀的版本例如docker pull pytorch/pytorch:2.13.0-cuda13.2-cudnn9-devel使用docker images检查是否拉取成功保存镜像docker save pytorch/pytorch:2.13.0-cuda13.2-cudnn9-devel pytorch.tar将镜像传至远程服务器scp ./pytorch.tar [user][ip]。这种方式比较简单但是由于文件较大约20G且scp没有断点续传导致重传了很多次后续了解到可以使用FileZilla工具进入远程服务器加载镜像docker load ./pytorch.tar使用docker images检查是否加载成功容器部署创建容器docker run -d -it -p 80:80 --name me-pytorch --gpus all -v ~/workspace:/root/workspace pytorch/pytorch:2.13.0-cuda13.2-cudnn9-devel检查容器是否创建/启动成功docker ps如果未启动使用docker start me-pytorch启动容器进入容器docker exec -it me-pytorch /bin/bash环境配置备份配置文件cp /etc/apt/sources.list /etc/apt/sources.list.bak清空原有文件并写入镜像阿里源cat/etc/apt/sources.listEOF deb http://mirrors.aliyun.com/ubuntu/ noble main restricted universe multiverse deb http://mirrors.aliyun.com/ubuntu/ noble-security main restricted universe multiverse deb http://mirrors.aliyun.com/ubuntu/ noble-updates main restricted universe multiverse deb http://mirrors.aliyun.com/ubuntu/ noble-backports main restricted universe multiverse EOF更新源apt update并安装VIMapt install vim配置ubuntu和cuda镜像源## ubuntuvim/etc/apt/sources.list.d/ubuntu.sources## 替换URIs两处替换URIs: http://mirrors.aliyun.com/ubuntu## cudavim/etc/apt/sources.list.d/cuda.list## 替换注意手动修改版本号deb http://developer.download.nvidia.cn/compute/cuda/repos/ubuntu2404/x86_64 /更新源apt update如果报重复源错误configured multiple times删除ubuntu.sourcesmv/etc/apt/sources.list.d/ubuntu.sources /etc/apt/sources.list.d/ubuntu.sources.bak如果出现警告Key is stored in legacy trusted.gpg keyring (/etc/apt/trusted.gpg)可以忽略或者执行cp /etc/apt/trusted.gpg /etc/apt/trusted.gpg.d验证源更新apt update apt upgrade验证 PyTorch 和 CUDA 的可用性# 进入python后importtorchprint(torch.__version__)# 打印 PyTorch 版本print(torch.cuda.is_available())# 检查 CUDA 是否可用print(torch.version.cuda)# 打印 CUDA 版本