安装配置►NVIDIA

安装NVIDIA驱动和CUDA

背景

Linux环境跑模型项目需要安装CUDA依赖

环境

  • Debain12
  • 3070

安装cuda和驱动

官方链接：https://developer.nvidia.com/cuda-downloads

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
wget https://developer.download.nvidia.com/compute/cuda/repos/debian12/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo add-apt-repository contrib
sudo apt-get update

# cuda工具包
sudo apt-get -y install cuda-toolkit-12-6
# 驱动
sudo apt-get install -y cuda-drivers

# 改下环境变量
nano ~/.bashrc
# 加入下面内容
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

# 改完应用一下
source ~/.bashrc

# 查看是否安装成功
nvidia-smi

# 查看驱动编译器是否安装成功
nvcc --version

安装cuDNN

安装完上面的驱动后，cuDNN需要单独安装，官方链接(https://developer.nvidia.com/cudnn-downloads)

1
2
# 安装cuda12
sudo apt-get -y install cudnn-cuda-12