本教程详细介绍如何在Debian系统上完全离线环境下安装NVIDIA容器工具套件(nvidia-container-toolkit)版本v1.12.0,适合无外网或受限网络环境使用。
### 介绍
官方发布的nvidia-container-toolkit部署包版本为v1.12.0。
### 包含内容
该安装包包含了用于安装nvidia-container-toolkit所需的全部4个deb文件。
### 应用场景及实测结果
在启动使用GPU的Docker容器时,仅拥有显卡驱动和CUDA是不够的,还需要安装nvidia-container-toolkit。经过测试,在ESXI7.0.3+Ubuntu22.04(直通RTX3090)+NVIDIA GPU驱动545.29.06+CUDA12.1+Docker版本26.1.4以及docker-compose 2.27.1的环境下,以GPU模式启动m3e-large-api容器是可行且有效的。
### 安装方法(Linux系统)
1. 将安装包复制到系统的任意位置。
2. 按照以下顺序执行命令进行安装:
- 执行 `sudo dpkg -i 文件名称.deb`
具体步骤如下:
- 首先,安装`nvidia-container-toolkit-base`
- 然后是`libnvidia-container1`
- 接下来是`libnvidia-container-tools`
- 最终安装`nvidia-container-toolkit`