linux cuda cudnn配置

环境

本次环境为 cuda12.1+cudnn8.9.7 可运行onnxruntime-cuda12-1.18.0

系统采用wsl ubuntu22.04 进行演示，其他系统同理

cuda 下载地址 https://developer.nvidia.com/cuda-12-1-0-download-archive

# cuda_12.1.0_530.30.02_linux.run为下载出来的文件，推荐直接选择runfile

sudo chmod 777 cuda_12.1.0_530.30.02_linux.run
sudo sh ./cuda_12.1.0_530.30.02_linux.run
# 输入accept,保持默认，按下到install

cudnn 下载地址 https://developer.nvidia.com/rdp/cudnn-archive
选择对应版本的cudnn

方案1：deb方式安装（仅限于对应系统）

下载完成后执行

# 文件名改为自己下载的文件
sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.7.29_1.0-1_amd64.deb

安装完成后会显示一条命令

# 执行显示的命令
sudo cp /var/cudnn-local-repo-ubuntu2204-8.9.7.29/cudnn-local-08A7D361-keyring.gpg /usr/share/keyrings/
# 更新cudnn源
sudo apt update -y
# 寻找更新出来的cudnn
sudo apt search libcudnn

# 安装cudnn，后面的提示cuda12.2不需要管，是通用版
sudo apt install libcudnn8-dev

方案2 压缩包安装

下载tar.gz或tar.xz文件

# 解压 tar.xz
xz -d xxx.tar.xz
tar -xvf xxx.tar
# 解压 tar.gx
tar -zxvf xxx.tar.gz

# 复制lib和include到系统目录,改为自己的目录
cd cudnn-linux-x86_64-8.9.7.29_cuda12-archive
cp -r lib/* /usr/lib/x86_64-linux-gnu
cp -r include/* /usr/include/x86_64-linux-gnu

sudo ldconfig

后置操作

# 更新链接库
sudo ldconfig

# 检查cuda是否配置成功，如果没有输出则配置失败
ldconfig -p | grep cuda
# 配置失败操作
vim /etc/ld.so.conf.d/cuda.conf
# 按i进入编辑模式，输入/usr/local/cuda/lib或/usr/local/cuda/lib64
# 按esc退出编辑模式，输入:wq保存退出
sudo ldconfig

#检查cudnn是否配置成功，如果没有输出则配置失败
ldconfig -p | grep cudnn
#配置失败操作
#参考cudnn方案2配置

# 环境变量加入 /usr/local/cuda/bin
# 在~/.zshrc 或者 ~/.bashrc 或者 /etc/profile 里面添加 export PATH=$PATH:/usr/local/cuda/bin
# 检查环境变量
nvidia-smi
nvcc -V