怎么理解 nvidia-smi 的输出#

例如，nvidia-smi 显示的 Driver Version 595.84，表示本次 Ubuntu 启动后实际加载的 Linux 驱动版本。

其中的 CUDA Version 13.2，表示该驱动最高支持的 CUDA Driver API 版本，并不代表系统已经安装 CUDA Toolkit，更不意味着 nvcc 一定存在。

这几个概念可以分成三层：

• 显卡固件与 VBIOS：保存在显卡上，负责硬件初始化等底层工作。
• NVIDIA 驱动：安装在操作系统中，Windows 与 Linux 各有一套。
• CUDA Toolkit：包含 nvcc、头文件和开发库，主要用于编译 CUDA 程序。

因此，“驱动支持 CUDA 13.2”和“系统安装了 CUDA Toolkit 13.2”是两回事。

每次开机都要加载吗？#

是的，操作系统每次启动时都需要加载对应的 NVIDIA 驱动，但一般不需要用户手工操作。驱动包会通过内核模块、systemd 和 udev 等机制，在开机阶段或首次使用 GPU 时自动完成加载。

显卡厂商有时也会提供 VBIOS 更新，但它与日常安装的 NVIDIA 操作系统驱动属于完全不同的东西。