Loading... ## 基础知识 - NVIDIA 驱动:显卡驱动,安装后可以使用 nvidia-smi 命令。 - CUDA: CUDA 是一个并行计算平台和编程模型,能够使得使用GPU进行通用计算变得简单和优雅。可以看作编程语言,也可以看作 API。运行CUDA应用程序要求系统至少具有一个具有CUDA功能的GPU和与CUDA Toolkit兼容的驱动程序。 - CUDA Toolkit (NVIDIA): CUDA 完整的工具安装包,其中提供了 Nvidia 驱动程序、开发 CUDA 程序相关的开发工具包等可供安装的选项。包括 CUDA 程序的编译器、IDE、调试器等,CUDA 程序所对应的各式库文件以及它们的头文件。 - CUDA Toolkit 有的会包含显卡驱动。 - CUDA Toolkit (Pytorch): CUDA 不完整的工具安装包,其主要包含在使用 CUDA 相关的功能时所依赖的动态链接库。不会安装驱动程序。只能运行编译好的 CUDA 程序。 - NVCC:CUDA 的编译器,只是 CUDA Toolkit 中的一部分。 - cuDNN:为深度学习计算设计的软件库。是 NVIDIA 专门针对深度神经网络中的基础操作而设计基于 GPU 的加速库。cuDNN 为深度神经网络中的标准流程提供了高度优化的实现方式,例如convolution、pooling、normalization以及activation layers的前向以及后向过程。 [显卡型号与 cuda 驱动](https://arnon.dk/matching-sm-architectures-arch-and-gencode-for-various-nvidia-cards/) ## 1 安装驱动 ### 1.1 方法一 去 [NVIDIA 官网下载](https://www.nvidia.cn/Download/index.aspx?lang=cn)驱动,如果方法二下载速度慢可用方法一 ```bash nvidia-smi # 检查是否安装成功 ``` ### 1.2 方法二 推荐 从 apt 安装,首先我们需要添加源 ```sh sudo add-apt-repository ppa:graphics-drivers/ppa sudo apt update ``` 检测显卡版本及推荐的驱动 ```sh ubuntu-drivers devices ``` 直接安装推荐的驱动或者别的版本 *他会自动安装 cuda toolkit* ```sh sudo apt install nvidia-driver-XXX ``` 最后,重启 Ubuntu 系统,输入 `nvidia-smi` 查看驱动信息。 ```sh nvidia-smi ``` ## 安装 `CUDA Toolkit` 下载 [deb 版本](https://developer.nvidia.com/cuda-toolkit-archive) ```bash vim ~/.bashrc # need to be modified export CUDA_HOME=/usr/local/cuda export LD_LIBRARY_PATH=${CUDA_HOME}/lib64 export PATH=${CUDA_HOME}/bin:${PATH} source ~/.bashrc nvcc -V # check CUDA ``` ## 安装 `cuDNN` | 可选 [https://developer.nvidia.com/cudnn](https://developer.nvidia.com/cudnn) 选择合适的版本下载(cuDNN Library for Linux) 然后解压,并进入到相应目录,运行以下命令: ```sh sudo cp cuda/include/cudnn.h /usr/local/cuda-10.1/include sudo cp cuda/lib64/libcudnn* /usr/local/cuda-10.1/lib64 sudo chmod a+r /usr/local/cuda-10.1/include/cudnn.h sudo chmod a+r /usr/local/cuda-10.1/lib64/libcudnn* ``` ## 安装 `nvidia-docker` | 可选 [ubuntu22.04下安装nvidia-docker](https://www.cnblogs.com/devilmaycry812839668/p/17269217.html) 要求先安装 \[\[docker\]\] ```bash distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \ && curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \ && curl -s -L https://nvidia.github.io/libnvidia-container/$distribution/libnvidia-container.list | \ sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \ sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list sudo apt-get update \ && sudo apt-get install -y nvidia-container-toolkit \ && sudo nvidia-ctk runtime configure --runtime=docker \ && sudo systemctl restart docker # Test sudo docker run --rm --runtime=nvidia --gpus all nvidia/cuda:11.7.1-base-ubuntu22.04 nvidia-smi ``` 最后修改:2024 年 03 月 18 日 11 : 19 PM © 允许规范转载 赞赏 如果觉得我的文章对你有用,请随意赞赏 赞赏作者 支付宝微信