1. 为什么Ubuntu装CUDA翻车率这么高先把版本矩阵搞清楚我先说一个结论在Ubuntu上装CUDA90%的翻车都不是因为操作复杂而是因为版本没对齐。很多人拿到NVIDIA官网的安装命令就复制粘贴结果要么驱动起不来要么nvcc --version显示的还是旧版本要么装完之后PyTorch直接报CUDA driver version is insufficient。这些问题大概率不是你的操作问题而是Ubuntu版本、显卡驱动版本、CUDA Toolkit版本三者之间的兼容关系没理清。先说清楚一个最基本的概念CUDA不是一个单独的东西它分两层。底层是NVIDIA显卡驱动driver驱动里面带着运行库runtime library上层是CUDA Toolkit里面是编译器nvcc、开发库如cudart、cublas和各种工具。你写代码用到的nvcc是Toolkit提供的但程序真正跑起来使用的是驱动里带的运行时接口。这两者的版本关系是CUDA Toolkit的版本号不能高于驱动支持的最高CUDA版本号。打个比方驱动是操作系统Toolkit是安装在系统里的软件你的软件再新也不能跑在一个不认它的系统上。1.1 五个维度之间的依赖关系简化一下安装CUDA之前你要确认四件事维度关键问题常见翻车点Ubuntu版本内核版本能否被NVIDIA驱动支持太新的内核配旧驱动直接装不上GPU型号显卡的算力Compute Capability老显卡跑不了新CUDA新显卡用旧驱动也识别不了驱动版本驱动支持的最高CUDA号nvidia-smi右上角显示的CUDA版本就是驱动的上限Toolkit版本项目所需的最小CUDA版本PyTorch、TensorFlow构建时对CUDA版本有硬性要求编译环境gcc版本与CUDA的兼容范围Ubuntu 22.04默认gcc 11而CUDA 11.8最高只支持gcc 9先说GPU算力。NVIDIA从2016年至今的显卡基本都能装CUDA但新CUDA版本对老显卡的支持是随时间递减的。如果你用的是GTX 10系Pascal架构算力是6.x装CUDA 12.x虽然驱动能装上但很多新版库已经不做针对性优化了如果你用的是RTX 40系Ada架构算力是8.9倒着装CUDA 11.8这种老版本虽然也能跑但不能享受到新版本对新一代硬件的调度优化。实操层面显卡最小能装什么版本的CUDA不是关键问题关键是驱动版本不能太老——驱动够新旧Toolkit也能跑。再说Ubuntu版本。这里有一个极容易踩的坑Ubuntu 24.04的内核是6.8如果你装的是NVIDIA 470或更早的驱动编译DKMS模块时大概率报错。我的建议是不要在这上面硬刚直接装470以上的NVIDIA驱动或者干脆用runfile方式装新驱动。反过来如果你用的是Ubuntu 20.04内核5.4/5.15装CUDA 12.3配套的545驱动也没问题因为驱动向后兼容内核的能力一般好于向前兼容。记住这个口诀老系统配新驱动问题不大新系统配老驱动必炸。1.2 公开驱动版驱动源与CUDA版本上限估算NVIDIA官方公开的Linux驱动有两条线一条是stable-dkms会定期更新另一条是latest-dkms对应最新的功能分支。你可以先跑一条命令确认当前驱动支持的最高CUDA版本nvidia-smi看右上角会显示类似CUDA Version: 12.4的字样。这个数字不是说你已经装了CUDA 12.4而是说你的驱动最多只能支持CUDA 12.4。如果这个数字比你想装的Toolkit版本低那你的驱动就必须更新如果比它高那随便装。另外一个反直觉的点NVIDIA官网下载页面默认给你的是最新Toolkit那并不一定适合你。比如你准备跑PyTorch当前稳定版PyTorch在写这篇文章时要求CUDA最低是11.8那你装12.4虽然能用但很多第三方库的预编译wheel不一定适配。说到底Payload决定Toolkit版本Toolkit版本决定驱动版本。先查你的深度学习框架需要什么CUDA再决定装什么这个顺序最好不要反。2. 显卡驱动安装前先学会卸载很多人一上来就装CUDA Toolkit结果装完发现根本跑不了然后才回过头来弄驱动。这个顺序我建议颠倒过来先让nvidia-smi正常输出再折腾Toolkit。因为驱动是地基地基不稳上面盖再漂亮的楼都是白搭。2.1 卸载旧驱动的完整链路如果你是一台新机器跳过这一节如果你之前在系统里装过NVIDIA驱动不管是用apt装的还是用runfile装的先清理干净。最常见的驱动卸载不掉问题本质是卸载不彻底或者卸载顺序不对。先分清你之前是用什么装的用apt install nvidia-driver-xxx装的用apt卸sudo apt purge nvidia-* sudo apt autoremovepurge比remove干净之处在于它会连配置文件一起删除。这一步不能省因为残留的配置文件和模块会干扰新驱动的编译。用runfile.run文件装的用NVIDIA卸载脚本sudo /usr/bin/nvidia-uninstall如果这个脚本已经不存在了可以到你当时存放runfile的目录再执行一次带--uninstall参数的安装文件sudo ./NVIDIA-Linux-x86_64-*.run --uninstall关键的一步是卸载之后要确认内核模块真的没了lsmod | grep nvidia如果这个命令还有输出说明模块还残留在内核里手动移除sudo rmmod nvidia_drm nvidia_modeset nvidia_uvm nvidia注意顺序rmmod必须先卸载依赖它的上层模块最后才能卸nvidia主模块。如果提示Module is in use那是X server还在用显示器输出你需要先切到文本终端CtrlAltF2再操作。2.2 关闭nouveau不关这一步装什么都白搭Nouveau是Linux内核自带的开源NVIDIA驱动它和NVIDIA官方驱动水火不容。如果你不屏蔽nouveau直接装官方驱动装的过程中往往不会报错但重启之后大概率黑屏或者还是加载的nouveau。具体屏蔽方式sudo bash -c echo blacklist nouveau /etc/modprobe.d/blacklist-nvidia-nouveau.conf sudo bash -c echo options nouveau modeset0 /etc/modprobe.d/blacklist-nvidia-nouveau.conf sudo update-initramfs -u然后重启。重启后确认一下lsmod | grep nouveau没有输出就说明屏蔽生效了。我见过太多人忽略这一步。他们直接跑NVIDIA官网给的apt命令装的时候看着一切正常重启后一运行nvidia-smi就报NVIDIA-SMI has failed because it couldnt communicate with the NVIDIA driver。这不是驱动坏了是nouveau抢占了设备。新装驱动的第一步永远是屏蔽开源驱动而不是执行安装命令。2.3 安装驱动的两条路径选择一条是通过Ubuntu的apt仓库装sudo apt update sudo apt install nvidia-driver-545这条路的优点是省心驱动版本跟着系统源走内核更新之后DKMS会自动重编译驱动模块。缺点是版本往往不是最新的而且Ubuntu仓库里的驱动版本号和你nvidia-smi看到的CUDA版本上限不一定匹配。另一条是用NVIDIA官网的runfilechmod x NVIDIA-Linux-x86_64-550.xx.run sudo ./NVIDIA-Linux-x86_64-550.xx.run这条路的好处是版本完全可控想装哪个装哪个卸载也方便坏处是需要自己处理编译依赖而且每次内核升级都得手动重装或者依赖DKMS注册。我的建议是如果你只是普通用户用apt装即可如果你要做CUDA开发、需要在多个驱动版本间切换、或者用的是特别新的显卡用runfile。apt版的好处是如果你装CUDA Toolkit时选错了版本apt会自动降级驱动这个自动有时候就是你翻车的来源。3. CUDA Toolkit安装runfile和deb的选择与静默模式驱动装好之后nvidia-smi能正常输出接下来才是真正的CUDA Toolkit安装。这里有个常见的误区直接在NVIDIA官网复制那段wget apt命令。那段命令本身没问题但适合的是我要装在标准Ubuntu环境里、不折腾的人。如果你想要更干净的控制权runfile方式永远是首选。3.1 为什么runfile比deb更适合开发机deb方式又称network repository方式会把CUDA拆成几十个包装进系统好处是后续用apt能统一管理版本坏处是卸载麻烦而且升级的时候经常出现包冲突。我帮人排查过几次CUDA装了一半apt upgrade把驱动给换了的情况全是deb方式引入的。runfile方式的逻辑是一个安装包搞定Toolkit、Samples、NSight工具链指定安装目录默认/usr/local/cuda-版本号卸载时跑一遍apt卸载命令或者删目录就行逻辑干净得多。对开发和测试机器来说runfile的这个独立性很重要。你可以在同一台机器上安装CUDA 11.8和12.3两个版本靠环境变量切换这在deb方式下非常痛苦在runfile方式下就是一个软链接的事。3.2 静默安装的完整命令序列下载好对应版本的runfile后不要直接双击执行先用--help看一眼参数。实际安装我建议这样sudo sh cuda_12.4.0_550.54.15_linux.run --toolkit --silent --override拆开看这几个参数的含义--toolkit只装Toolkit部分不装驱动。理由很简单驱动你已经装好了如果这里再装一遍驱动很可能把系统的X server搞挂或者覆盖成新驱动导致nvidia-smi版本号跳变。--silent静默模式不需要交互确认直接装。--override跳过gcc版本检查。如果报gcc版本过高可以在命令里直接带上这个参数而不是去卸载高版本gcc。安装完成后Toolkit会默认安装到/usr/local/cuda-12.4然后生成一个/usr/local/cuda软链接指向它。没有生成软链接的话手动补一下sudo ln -sf /usr/local/cuda-12.4 /usr/local/cuda至于CUDA Samples官方示例代码runfile安装时会问你要不要装。我建议装后面的编译验证需要用到。它在默认情况下会放到/usr/local/cuda-12.4/samples或者~/NVIDIA_CUDA-12.4_Samples。3.3 deb方式安装的一种适用场景runfile不是万能的有一种情况建议用deb你使用的是官方支持范围里的标准环境比如Ubuntu 20.04 CUDA 11.8而且不需要多版本切换。那直接用官网给的两条命令wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-keyring_1.1-1_all.deb sudo dpkg -i cuda-keyring_1.1-1_all.deb sudo apt update sudo apt install cuda这里有个小技巧sudo apt install cuda默认装的永远是最新大版本如果你想装指定版本搜一下可用版本列表再指定。比如apt list -a cuda-toolkit-11-8 sudo apt install cuda-toolkit-11-8不加版本号的话你的系统源里有什么就装什么很可能装出来的和你项目需要的不匹配。4. 环境变量、nvcc校验与多版本切换安装完成之后真正容易出问题的不是安装过程而是环境变量。我见过不少人装完CUDA一开终端执行nvcc就报command not found于是怀疑自己安装失败。其实CUDA已经装好了只是系统还不知道去哪里找它的命令。4.1 环境变量配置的正确写法和常见错误打开~/.bashrc在文件末尾加上export PATH/usr/local/cuda/bin:$PATH export LD_LIBRARY_PATH/usr/local/cuda/lib64:$LD_LIBRARY_PATH export CUDA_HOME/usr/local/cuda然后执行source ~/.bashrc让它生效。这里提醒一句CUDA_HOME这个变量在CUDA 11及以后版本里不是必需的nvcc不读它但很多第三方构建工具比如cmake的FindCUDA会用到加上更稳妥。三个坑先说清$PATH和$LD_LIBRARY_PATH的顺序。要把/usr/local/cuda/bin放在前面而不是后面。放在后面意味着系统会先搜索其他目录如果其他目录有老版本的nvcc那就永远调用不到新版本。不要在/etc/profile里写除非你希望全局生效且了解后果。写在这里会在每次登录时对所有用户生效但将来切换版本会变得异常痛苦。不要把LD_LIBRARY_PATH设置成/usr/local/cuda/lib那是旧版32位库路径新版本统一是lib64。设置错了虽然大概率不报错但程序运行时动态库解析可能会出问题。4.2 多版本共存与切换多版本切换是runfile方式最大的优势。假设你之前装了CUDA 11.8现在要装12.4按下述步骤操作下载12.4的runfile执行同样的--toolkit --silent安装。这时候/usr/local下会有cuda-11.8和cuda-12.4两个目录。软链接/usr/local/cuda指向哪个当前生效的就是哪个。切换版本本质上就是切换软链接sudo rm /usr/local/cuda sudo ln -s /usr/local/cuda-12.4 /usr/local/cuda这样PATH不用变因为PATH里写的是/usr/local/cuda/bin它跟着软链接走。nvcc --version会立刻显示新版本。但这里有个隐藏的大坑驱动的版本上限。如果CUDATookit 12.4需要的驱动比你当前装的驱动高那么nvcc可以正常编译但程序一运行就会报CUDA driver version is insufficient。因为你在用12.4的nvcc编译生成的二进制文件调用了12.4的运行时接口而驱动只支持到12.1。这种报错最容易出现在老驱动配新Toolkit的场景下遇到就先升级驱动。切换完版本之后建议用一条命令检查动态链接是否正常ldconfig -p | grep cuda如果输出里混有多个不同版本的libcudart.so那说明系统的动态库缓存里有残留。跑一下sudo ldconfig刷新缓存避免运行时加载到旧库。4.3 关于环境变量配置错误导致系统异常的补充网上有很多人问Ubuntu环境变量配置错误导致连终端都打不开怎么办。这种情况通常是因为在~/.bashrc里写错了语法比如少了一个引号或者往PATH里加了一个不存在的路径。此时可以按住CtrlAltF2切到虚拟终端登录后执行vi ~/.bashrc把出错的那行删掉或改对然后source ~/.bashrc恢复。如果实在改不回来就用备份还原cp ~/.bashrc.bak ~/.bashrc所以改环境变量前先备份是经验之谈。cp ~/.bashrc ~/.bashrc.bak这个动作永远不亏。5. CUDA Samples编译验证别让安装停留在看起来成功装完CUDA之后nvcc --version显示版本号只是第一步真正的验证是编译运行官方示例。很多教程在这里直接跳过了导致读者跑深度学习框架时报错才发现CUDA有问题。5.1 Samples目录找不到的排查runfile方式安装后在示例目录找不到最常见的三种情况安装时没有选择安装Samples。打开安装包的安装列表在Samples前按空格勾选或者直接用命令行参数--samples安装。安装目录确实在但在/usr/local/cuda-12.4/samples很多人习惯去~/NVIDIA_CUDA-12.4_Samples找。两处都是合法的后者是旧版默认位置。权限问题。/usr/local/cuda/samples属于root普通用户访问时提示Permission denied。可以拷贝到自己目录再编译cp -r /usr/local/cuda-12.4/samples ~/cuda-samples这个拷贝是个好习惯因为编译Samples的时候会生成大量build文件放在自己的目录里管理起来更自由。5.2 make编译与模拟运行验证进入示例目录先编译全部示例cd ~/cuda-samples make -j$(nproc)-j$(nproc)的意思是并行编译进程数等于你的CPU核心数。这一步编译可能需要5到15分钟依赖机器性能。很多人这里会报错最常见的原因是缺少g和makesudo apt install build-essential编译完成后最核心的验证命令是./bin/x86_64/linux/release/deviceQuery正常输出末尾会有Detected 1 CUDA Capable device(s) Device 0: NVIDIA GeForce RTX 4060 Ti CUDA Capability Major/Minor version number: 8.9如果报错cudaGetDeviceCount returned 38之类的错误不是你的安装问题是驱动和Toolkit的接口不匹配。检查驱动版本升级后重新加载驱动模块就能解决。另外可以顺手跑一个带宽测试./bin/x86_64/linux/release/bandwidthTest这个测试验证显存和GPU之间的数据传输是否正常如果它报错说明驱动层面的设备访问就有问题先搞定驱动再往下走。5.3 cuda malloc disabled问题的本质这是个比较冷门但很有效的信号。cudaMalloc报cudaErrorMallocFailed或者网上流传的cuda malloc disabled本质上不是CUDA被禁用了而是显存或虚拟内存分配失败。常见原因有显存确实不够这个最好排查nvidia-smi看一眼使用率。系统IOMMU开启了限制了GPU访问内存的DMA范围。可以尝试在BIOS里关闭IOMMU或者内核启动参数里加iommusoft。驱动和Toolkit版本不匹配导致运行时库里无法正常发起显存分配请求。遇到这个报错先跑nvidia-smi确认驱动正常再跑bandwidthTest确认数据通路正常最后才考虑是不是显存不够。排错顺序永远是驱动 → 数据通路 → 应用层。6. WSL2场景和每日使用中的经典坑现在很多人在Windows上用WSL2做开发毕竟Windows桌面、Linux跑训练的方式太方便了。WSL2里的CUDA安装和原生Ubuntu有本质区别如果拿着原生系统的步骤硬套会走很多弯路。6.1 WSL2里不需要装Linux驱动这一点最重要也最反直觉WSL2里的CUDA不需要安装NVIDIA Linux驱动也不需要屏蔽nouveau。微软和NVIDIA做了GPU直通GPU-PVLinux侧直接使用Windows侧已安装的驱动。你在WSL2里跑nvidia-smi显示的驱动版本其实来自Windows。所以在WSL2里安装流程大大简化Windows侧装好NVIDIA驱动和原生Windows驱动通用。WSL2内部只装CUDA Toolkit使用wsl-ubuntu版本的deb仓库或者runfile。注意选择带WSL-Ubuntu标识的版本它不会包含Linux驱动文件。确认命令nvidia-smi nvcc --version如果nvidia-smi能用但nvcc报命令找不到那就是Toolkit没装或者环境变量没配回到第4节的操作。6.2 WSL2里特有的CUDA版本限制WSL2里的驱动版本由Windows侧决定。如果你的Windows驱动是网吧里老版本那种比如465那么即使WSL2里装最新的12.x Toolkit运行时也会报驱动不支持。先看Windows侧nvidia-smi右上角的CUDA版本再决定WSL2里装什么Toolkit。另外WSL2里如果装CUDA Toolkit时不带--no-opengl-files之类参数可能会导致OpenGL库冲突。我的建议是WSL2里一律使用官网提供的WSL专用包不要装ubuntu通用包。6.3 4060 Ti用户的驱动版本选择现在很多人的显卡是RTX 4060 TiAda架构算力8.9。这个卡比较新要特别注意老驱动不一定认这个卡。如果你装的是470或520这种老驱动nvidia-smi很可能直接显示No devices were found。解决思路是直接上最新稳定驱动我实测535及之后的驱动对这个卡的支持都正常。4060 Ti是8GB显存版还是16GB显存版影响的不只是容量还有你能跑多大的模型。8GB版本跑7B参数的大模型会很紧绷16GB版本能稍微宽松一些。如果预算允许选16GB版本能让后续调试模型的体验好不少。6.4 日常使用中的三个高频问题第一个是内核升级后驱动失效。Ubuntu隔几个月会升级内核然后你发现nvidia-smi打不开了。这是因为驱动模块是针对旧内核编译的新内核下无法加载。如果你用apt装的驱动跑一遍sudo apt install --reinstall nvidia-driver-545它会触发DKMS针对新内核重新编译模块。如果你用的是runfile方式那就要重新执行runfile安装一遍或者注册DKMS让它自动跟踪内核。第二个是PyTorch与CUDA的版本匹配。PyTorch的wheel是按CUDA版本区分的比如cu118、cu121、cu124装错版本会在import时直接报libcudart.so找不到。注意这和驱动无关纯粹是wheel缺少运行时库。解决方法是按需安装对应版本pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121第三是nvidia-smi和nvcc版本不一致的误解。nvidia-smi显示的是驱动支持的最大CUDA版本号nvcc --version显示的是Toolkit版本两个数字不一致非常正常不表示装错了。只有当程序运行时报告驱动版本不够才需要处理。7. 题外话新显卡付运前的另一条备选路如果你购买的显卡尚未发货或者你正在犹豫要不要为了装CUDA换新硬件有一个值得考虑的动作先把现有硬件的兼容矩阵列出来对着自己准备跑的深度学习框架查一遍官方支持表再下单显卡。不同架构的GPU在同一个CUDA版本的性能差异可能很大不要只看显存大小。还有一个容易忽略的问题电源供电。新显卡峰值功耗可能远超旧卡很多人在跑CUDA压力测试时黑屏重启不是因为软件问题而是电源不够或者供电线没插对。这个虽然不属于安装教程范畴但我见过太多人在排查了两天驱动之后发现是供电问题的情况。安装指南说到底是一个确认环境 - 安装驱动 - 安装Toolkit - 验证 - 使用中维护的闭环。版本对齐是第一步关闭nouveau是防炸的关键环境变量决定了CLI工具能不能用Samples验证则是给整个安装过程画上句号。把这四步都走稳了CUDA基本不会再出什么问题。根据我的经验只要你严格按照先驱动后Toolkit先验证后跑模型的顺序来不跳过任何一步验证翻车的概率会大幅度降低。如果哪天你的nvidia-smi报错而周围人没有类似问题第一反应应该是回忆自己是不是换了内核或者动了系统源而不是怀疑CUDA安装本身。最后再分享一个小技巧装完CUDA后把nvidia-smi的输出和nvcc --version的输出截图或记到本地笔记里标上日期。这个习惯在将来排查为什么环境跑不了新版库的时候非常有用相当于给你自己的环境做了个基线快照。
1. 为什么Ubuntu装CUDA翻车率这么高先把版本矩阵搞清楚我先说一个结论在Ubuntu上装CUDA90%的翻车都不是因为操作复杂而是因为版本没对齐。很多人拿到NVIDIA官网的安装命令就复制粘贴结果要么驱动起不来要么nvcc --version显示的还是旧版本要么装完之后PyTorch直接报CUDA driver version is insufficient。这些问题大概率不是你的操作问题而是Ubuntu版本、显卡驱动版本、CUDA Toolkit版本三者之间的兼容关系没理清。先说清楚一个最基本的概念CUDA不是一个单独的东西它分两层。底层是NVIDIA显卡驱动driver驱动里面带着运行库runtime library上层是CUDA Toolkit里面是编译器nvcc、开发库如cudart、cublas和各种工具。你写代码用到的nvcc是Toolkit提供的但程序真正跑起来使用的是驱动里带的运行时接口。这两者的版本关系是CUDA Toolkit的版本号不能高于驱动支持的最高CUDA版本号。打个比方驱动是操作系统Toolkit是安装在系统里的软件你的软件再新也不能跑在一个不认它的系统上。1.1 五个维度之间的依赖关系简化一下安装CUDA之前你要确认四件事维度关键问题常见翻车点Ubuntu版本内核版本能否被NVIDIA驱动支持太新的内核配旧驱动直接装不上GPU型号显卡的算力Compute Capability老显卡跑不了新CUDA新显卡用旧驱动也识别不了驱动版本驱动支持的最高CUDA号nvidia-smi右上角显示的CUDA版本就是驱动的上限Toolkit版本项目所需的最小CUDA版本PyTorch、TensorFlow构建时对CUDA版本有硬性要求编译环境gcc版本与CUDA的兼容范围Ubuntu 22.04默认gcc 11而CUDA 11.8最高只支持gcc 9先说GPU算力。NVIDIA从2016年至今的显卡基本都能装CUDA但新CUDA版本对老显卡的支持是随时间递减的。如果你用的是GTX 10系Pascal架构算力是6.x装CUDA 12.x虽然驱动能装上但很多新版库已经不做针对性优化了如果你用的是RTX 40系Ada架构算力是8.9倒着装CUDA 11.8这种老版本虽然也能跑但不能享受到新版本对新一代硬件的调度优化。实操层面显卡最小能装什么版本的CUDA不是关键问题关键是驱动版本不能太老——驱动够新旧Toolkit也能跑。再说Ubuntu版本。这里有一个极容易踩的坑Ubuntu 24.04的内核是6.8如果你装的是NVIDIA 470或更早的驱动编译DKMS模块时大概率报错。我的建议是不要在这上面硬刚直接装470以上的NVIDIA驱动或者干脆用runfile方式装新驱动。反过来如果你用的是Ubuntu 20.04内核5.4/5.15装CUDA 12.3配套的545驱动也没问题因为驱动向后兼容内核的能力一般好于向前兼容。记住这个口诀老系统配新驱动问题不大新系统配老驱动必炸。1.2 公开驱动版驱动源与CUDA版本上限估算NVIDIA官方公开的Linux驱动有两条线一条是stable-dkms会定期更新另一条是latest-dkms对应最新的功能分支。你可以先跑一条命令确认当前驱动支持的最高CUDA版本nvidia-smi看右上角会显示类似CUDA Version: 12.4的字样。这个数字不是说你已经装了CUDA 12.4而是说你的驱动最多只能支持CUDA 12.4。如果这个数字比你想装的Toolkit版本低那你的驱动就必须更新如果比它高那随便装。另外一个反直觉的点NVIDIA官网下载页面默认给你的是最新Toolkit那并不一定适合你。比如你准备跑PyTorch当前稳定版PyTorch在写这篇文章时要求CUDA最低是11.8那你装12.4虽然能用但很多第三方库的预编译wheel不一定适配。说到底Payload决定Toolkit版本Toolkit版本决定驱动版本。先查你的深度学习框架需要什么CUDA再决定装什么这个顺序最好不要反。2. 显卡驱动安装前先学会卸载很多人一上来就装CUDA Toolkit结果装完发现根本跑不了然后才回过头来弄驱动。这个顺序我建议颠倒过来先让nvidia-smi正常输出再折腾Toolkit。因为驱动是地基地基不稳上面盖再漂亮的楼都是白搭。2.1 卸载旧驱动的完整链路如果你是一台新机器跳过这一节如果你之前在系统里装过NVIDIA驱动不管是用apt装的还是用runfile装的先清理干净。最常见的驱动卸载不掉问题本质是卸载不彻底或者卸载顺序不对。先分清你之前是用什么装的用apt install nvidia-driver-xxx装的用apt卸sudo apt purge nvidia-* sudo apt autoremovepurge比remove干净之处在于它会连配置文件一起删除。这一步不能省因为残留的配置文件和模块会干扰新驱动的编译。用runfile.run文件装的用NVIDIA卸载脚本sudo /usr/bin/nvidia-uninstall如果这个脚本已经不存在了可以到你当时存放runfile的目录再执行一次带--uninstall参数的安装文件sudo ./NVIDIA-Linux-x86_64-*.run --uninstall关键的一步是卸载之后要确认内核模块真的没了lsmod | grep nvidia如果这个命令还有输出说明模块还残留在内核里手动移除sudo rmmod nvidia_drm nvidia_modeset nvidia_uvm nvidia注意顺序rmmod必须先卸载依赖它的上层模块最后才能卸nvidia主模块。如果提示Module is in use那是X server还在用显示器输出你需要先切到文本终端CtrlAltF2再操作。2.2 关闭nouveau不关这一步装什么都白搭Nouveau是Linux内核自带的开源NVIDIA驱动它和NVIDIA官方驱动水火不容。如果你不屏蔽nouveau直接装官方驱动装的过程中往往不会报错但重启之后大概率黑屏或者还是加载的nouveau。具体屏蔽方式sudo bash -c echo blacklist nouveau /etc/modprobe.d/blacklist-nvidia-nouveau.conf sudo bash -c echo options nouveau modeset0 /etc/modprobe.d/blacklist-nvidia-nouveau.conf sudo update-initramfs -u然后重启。重启后确认一下lsmod | grep nouveau没有输出就说明屏蔽生效了。我见过太多人忽略这一步。他们直接跑NVIDIA官网给的apt命令装的时候看着一切正常重启后一运行nvidia-smi就报NVIDIA-SMI has failed because it couldnt communicate with the NVIDIA driver。这不是驱动坏了是nouveau抢占了设备。新装驱动的第一步永远是屏蔽开源驱动而不是执行安装命令。2.3 安装驱动的两条路径选择一条是通过Ubuntu的apt仓库装sudo apt update sudo apt install nvidia-driver-545这条路的优点是省心驱动版本跟着系统源走内核更新之后DKMS会自动重编译驱动模块。缺点是版本往往不是最新的而且Ubuntu仓库里的驱动版本号和你nvidia-smi看到的CUDA版本上限不一定匹配。另一条是用NVIDIA官网的runfilechmod x NVIDIA-Linux-x86_64-550.xx.run sudo ./NVIDIA-Linux-x86_64-550.xx.run这条路的好处是版本完全可控想装哪个装哪个卸载也方便坏处是需要自己处理编译依赖而且每次内核升级都得手动重装或者依赖DKMS注册。我的建议是如果你只是普通用户用apt装即可如果你要做CUDA开发、需要在多个驱动版本间切换、或者用的是特别新的显卡用runfile。apt版的好处是如果你装CUDA Toolkit时选错了版本apt会自动降级驱动这个自动有时候就是你翻车的来源。3. CUDA Toolkit安装runfile和deb的选择与静默模式驱动装好之后nvidia-smi能正常输出接下来才是真正的CUDA Toolkit安装。这里有个常见的误区直接在NVIDIA官网复制那段wget apt命令。那段命令本身没问题但适合的是我要装在标准Ubuntu环境里、不折腾的人。如果你想要更干净的控制权runfile方式永远是首选。3.1 为什么runfile比deb更适合开发机deb方式又称network repository方式会把CUDA拆成几十个包装进系统好处是后续用apt能统一管理版本坏处是卸载麻烦而且升级的时候经常出现包冲突。我帮人排查过几次CUDA装了一半apt upgrade把驱动给换了的情况全是deb方式引入的。runfile方式的逻辑是一个安装包搞定Toolkit、Samples、NSight工具链指定安装目录默认/usr/local/cuda-版本号卸载时跑一遍apt卸载命令或者删目录就行逻辑干净得多。对开发和测试机器来说runfile的这个独立性很重要。你可以在同一台机器上安装CUDA 11.8和12.3两个版本靠环境变量切换这在deb方式下非常痛苦在runfile方式下就是一个软链接的事。3.2 静默安装的完整命令序列下载好对应版本的runfile后不要直接双击执行先用--help看一眼参数。实际安装我建议这样sudo sh cuda_12.4.0_550.54.15_linux.run --toolkit --silent --override拆开看这几个参数的含义--toolkit只装Toolkit部分不装驱动。理由很简单驱动你已经装好了如果这里再装一遍驱动很可能把系统的X server搞挂或者覆盖成新驱动导致nvidia-smi版本号跳变。--silent静默模式不需要交互确认直接装。--override跳过gcc版本检查。如果报gcc版本过高可以在命令里直接带上这个参数而不是去卸载高版本gcc。安装完成后Toolkit会默认安装到/usr/local/cuda-12.4然后生成一个/usr/local/cuda软链接指向它。没有生成软链接的话手动补一下sudo ln -sf /usr/local/cuda-12.4 /usr/local/cuda至于CUDA Samples官方示例代码runfile安装时会问你要不要装。我建议装后面的编译验证需要用到。它在默认情况下会放到/usr/local/cuda-12.4/samples或者~/NVIDIA_CUDA-12.4_Samples。3.3 deb方式安装的一种适用场景runfile不是万能的有一种情况建议用deb你使用的是官方支持范围里的标准环境比如Ubuntu 20.04 CUDA 11.8而且不需要多版本切换。那直接用官网给的两条命令wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-keyring_1.1-1_all.deb sudo dpkg -i cuda-keyring_1.1-1_all.deb sudo apt update sudo apt install cuda这里有个小技巧sudo apt install cuda默认装的永远是最新大版本如果你想装指定版本搜一下可用版本列表再指定。比如apt list -a cuda-toolkit-11-8 sudo apt install cuda-toolkit-11-8不加版本号的话你的系统源里有什么就装什么很可能装出来的和你项目需要的不匹配。4. 环境变量、nvcc校验与多版本切换安装完成之后真正容易出问题的不是安装过程而是环境变量。我见过不少人装完CUDA一开终端执行nvcc就报command not found于是怀疑自己安装失败。其实CUDA已经装好了只是系统还不知道去哪里找它的命令。4.1 环境变量配置的正确写法和常见错误打开~/.bashrc在文件末尾加上export PATH/usr/local/cuda/bin:$PATH export LD_LIBRARY_PATH/usr/local/cuda/lib64:$LD_LIBRARY_PATH export CUDA_HOME/usr/local/cuda然后执行source ~/.bashrc让它生效。这里提醒一句CUDA_HOME这个变量在CUDA 11及以后版本里不是必需的nvcc不读它但很多第三方构建工具比如cmake的FindCUDA会用到加上更稳妥。三个坑先说清$PATH和$LD_LIBRARY_PATH的顺序。要把/usr/local/cuda/bin放在前面而不是后面。放在后面意味着系统会先搜索其他目录如果其他目录有老版本的nvcc那就永远调用不到新版本。不要在/etc/profile里写除非你希望全局生效且了解后果。写在这里会在每次登录时对所有用户生效但将来切换版本会变得异常痛苦。不要把LD_LIBRARY_PATH设置成/usr/local/cuda/lib那是旧版32位库路径新版本统一是lib64。设置错了虽然大概率不报错但程序运行时动态库解析可能会出问题。4.2 多版本共存与切换多版本切换是runfile方式最大的优势。假设你之前装了CUDA 11.8现在要装12.4按下述步骤操作下载12.4的runfile执行同样的--toolkit --silent安装。这时候/usr/local下会有cuda-11.8和cuda-12.4两个目录。软链接/usr/local/cuda指向哪个当前生效的就是哪个。切换版本本质上就是切换软链接sudo rm /usr/local/cuda sudo ln -s /usr/local/cuda-12.4 /usr/local/cuda这样PATH不用变因为PATH里写的是/usr/local/cuda/bin它跟着软链接走。nvcc --version会立刻显示新版本。但这里有个隐藏的大坑驱动的版本上限。如果CUDATookit 12.4需要的驱动比你当前装的驱动高那么nvcc可以正常编译但程序一运行就会报CUDA driver version is insufficient。因为你在用12.4的nvcc编译生成的二进制文件调用了12.4的运行时接口而驱动只支持到12.1。这种报错最容易出现在老驱动配新Toolkit的场景下遇到就先升级驱动。切换完版本之后建议用一条命令检查动态链接是否正常ldconfig -p | grep cuda如果输出里混有多个不同版本的libcudart.so那说明系统的动态库缓存里有残留。跑一下sudo ldconfig刷新缓存避免运行时加载到旧库。4.3 关于环境变量配置错误导致系统异常的补充网上有很多人问Ubuntu环境变量配置错误导致连终端都打不开怎么办。这种情况通常是因为在~/.bashrc里写错了语法比如少了一个引号或者往PATH里加了一个不存在的路径。此时可以按住CtrlAltF2切到虚拟终端登录后执行vi ~/.bashrc把出错的那行删掉或改对然后source ~/.bashrc恢复。如果实在改不回来就用备份还原cp ~/.bashrc.bak ~/.bashrc所以改环境变量前先备份是经验之谈。cp ~/.bashrc ~/.bashrc.bak这个动作永远不亏。5. CUDA Samples编译验证别让安装停留在看起来成功装完CUDA之后nvcc --version显示版本号只是第一步真正的验证是编译运行官方示例。很多教程在这里直接跳过了导致读者跑深度学习框架时报错才发现CUDA有问题。5.1 Samples目录找不到的排查runfile方式安装后在示例目录找不到最常见的三种情况安装时没有选择安装Samples。打开安装包的安装列表在Samples前按空格勾选或者直接用命令行参数--samples安装。安装目录确实在但在/usr/local/cuda-12.4/samples很多人习惯去~/NVIDIA_CUDA-12.4_Samples找。两处都是合法的后者是旧版默认位置。权限问题。/usr/local/cuda/samples属于root普通用户访问时提示Permission denied。可以拷贝到自己目录再编译cp -r /usr/local/cuda-12.4/samples ~/cuda-samples这个拷贝是个好习惯因为编译Samples的时候会生成大量build文件放在自己的目录里管理起来更自由。5.2 make编译与模拟运行验证进入示例目录先编译全部示例cd ~/cuda-samples make -j$(nproc)-j$(nproc)的意思是并行编译进程数等于你的CPU核心数。这一步编译可能需要5到15分钟依赖机器性能。很多人这里会报错最常见的原因是缺少g和makesudo apt install build-essential编译完成后最核心的验证命令是./bin/x86_64/linux/release/deviceQuery正常输出末尾会有Detected 1 CUDA Capable device(s) Device 0: NVIDIA GeForce RTX 4060 Ti CUDA Capability Major/Minor version number: 8.9如果报错cudaGetDeviceCount returned 38之类的错误不是你的安装问题是驱动和Toolkit的接口不匹配。检查驱动版本升级后重新加载驱动模块就能解决。另外可以顺手跑一个带宽测试./bin/x86_64/linux/release/bandwidthTest这个测试验证显存和GPU之间的数据传输是否正常如果它报错说明驱动层面的设备访问就有问题先搞定驱动再往下走。5.3 cuda malloc disabled问题的本质这是个比较冷门但很有效的信号。cudaMalloc报cudaErrorMallocFailed或者网上流传的cuda malloc disabled本质上不是CUDA被禁用了而是显存或虚拟内存分配失败。常见原因有显存确实不够这个最好排查nvidia-smi看一眼使用率。系统IOMMU开启了限制了GPU访问内存的DMA范围。可以尝试在BIOS里关闭IOMMU或者内核启动参数里加iommusoft。驱动和Toolkit版本不匹配导致运行时库里无法正常发起显存分配请求。遇到这个报错先跑nvidia-smi确认驱动正常再跑bandwidthTest确认数据通路正常最后才考虑是不是显存不够。排错顺序永远是驱动 → 数据通路 → 应用层。6. WSL2场景和每日使用中的经典坑现在很多人在Windows上用WSL2做开发毕竟Windows桌面、Linux跑训练的方式太方便了。WSL2里的CUDA安装和原生Ubuntu有本质区别如果拿着原生系统的步骤硬套会走很多弯路。6.1 WSL2里不需要装Linux驱动这一点最重要也最反直觉WSL2里的CUDA不需要安装NVIDIA Linux驱动也不需要屏蔽nouveau。微软和NVIDIA做了GPU直通GPU-PVLinux侧直接使用Windows侧已安装的驱动。你在WSL2里跑nvidia-smi显示的驱动版本其实来自Windows。所以在WSL2里安装流程大大简化Windows侧装好NVIDIA驱动和原生Windows驱动通用。WSL2内部只装CUDA Toolkit使用wsl-ubuntu版本的deb仓库或者runfile。注意选择带WSL-Ubuntu标识的版本它不会包含Linux驱动文件。确认命令nvidia-smi nvcc --version如果nvidia-smi能用但nvcc报命令找不到那就是Toolkit没装或者环境变量没配回到第4节的操作。6.2 WSL2里特有的CUDA版本限制WSL2里的驱动版本由Windows侧决定。如果你的Windows驱动是网吧里老版本那种比如465那么即使WSL2里装最新的12.x Toolkit运行时也会报驱动不支持。先看Windows侧nvidia-smi右上角的CUDA版本再决定WSL2里装什么Toolkit。另外WSL2里如果装CUDA Toolkit时不带--no-opengl-files之类参数可能会导致OpenGL库冲突。我的建议是WSL2里一律使用官网提供的WSL专用包不要装ubuntu通用包。6.3 4060 Ti用户的驱动版本选择现在很多人的显卡是RTX 4060 TiAda架构算力8.9。这个卡比较新要特别注意老驱动不一定认这个卡。如果你装的是470或520这种老驱动nvidia-smi很可能直接显示No devices were found。解决思路是直接上最新稳定驱动我实测535及之后的驱动对这个卡的支持都正常。4060 Ti是8GB显存版还是16GB显存版影响的不只是容量还有你能跑多大的模型。8GB版本跑7B参数的大模型会很紧绷16GB版本能稍微宽松一些。如果预算允许选16GB版本能让后续调试模型的体验好不少。6.4 日常使用中的三个高频问题第一个是内核升级后驱动失效。Ubuntu隔几个月会升级内核然后你发现nvidia-smi打不开了。这是因为驱动模块是针对旧内核编译的新内核下无法加载。如果你用apt装的驱动跑一遍sudo apt install --reinstall nvidia-driver-545它会触发DKMS针对新内核重新编译模块。如果你用的是runfile方式那就要重新执行runfile安装一遍或者注册DKMS让它自动跟踪内核。第二个是PyTorch与CUDA的版本匹配。PyTorch的wheel是按CUDA版本区分的比如cu118、cu121、cu124装错版本会在import时直接报libcudart.so找不到。注意这和驱动无关纯粹是wheel缺少运行时库。解决方法是按需安装对应版本pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121第三是nvidia-smi和nvcc版本不一致的误解。nvidia-smi显示的是驱动支持的最大CUDA版本号nvcc --version显示的是Toolkit版本两个数字不一致非常正常不表示装错了。只有当程序运行时报告驱动版本不够才需要处理。7. 题外话新显卡付运前的另一条备选路如果你购买的显卡尚未发货或者你正在犹豫要不要为了装CUDA换新硬件有一个值得考虑的动作先把现有硬件的兼容矩阵列出来对着自己准备跑的深度学习框架查一遍官方支持表再下单显卡。不同架构的GPU在同一个CUDA版本的性能差异可能很大不要只看显存大小。还有一个容易忽略的问题电源供电。新显卡峰值功耗可能远超旧卡很多人在跑CUDA压力测试时黑屏重启不是因为软件问题而是电源不够或者供电线没插对。这个虽然不属于安装教程范畴但我见过太多人在排查了两天驱动之后发现是供电问题的情况。安装指南说到底是一个确认环境 - 安装驱动 - 安装Toolkit - 验证 - 使用中维护的闭环。版本对齐是第一步关闭nouveau是防炸的关键环境变量决定了CLI工具能不能用Samples验证则是给整个安装过程画上句号。把这四步都走稳了CUDA基本不会再出什么问题。根据我的经验只要你严格按照先驱动后Toolkit先验证后跑模型的顺序来不跳过任何一步验证翻车的概率会大幅度降低。如果哪天你的nvidia-smi报错而周围人没有类似问题第一反应应该是回忆自己是不是换了内核或者动了系统源而不是怀疑CUDA安装本身。最后再分享一个小技巧装完CUDA后把nvidia-smi的输出和nvcc --version的输出截图或记到本地笔记里标上日期。这个习惯在将来排查为什么环境跑不了新版库的时候非常有用相当于给你自己的环境做了个基线快照。
