PodmanでNVIDIA Container Toolkitを動かす
スポンサーリンク
CUDAが正常に動いているUbuntu 24.04.2 LTSで以下の手順でセットアップした.
必要なパッケージのインストール
NVIDIA公式サイトの手順通りに作業を行う.
$ sudo apt update $ sudo apt install --no-install-recommends curl gnupg2
リポジトリの追加
$ curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
パッケージリスト更新
$ sudo apt update
パッケージのインストール
$ export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.1-1
$ sudo apt-get install -y \
nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}
Container Device Interface (CDI)の設定
$ nvidia-ctk cdi list INFO[0000] Found 0 CDI devices
nvidia-cdi-refreshサービスが自動的に/var/run/cdi/nvidia.yamlを生成してくれるようなので,PCを再起動.sudo systemctl restart nvidia-cdi-refresh.serviceでサービスを再起動して自動生成(参考).
でもCDIデバイスが見つからない状態だったため,NVIDIA公式ページにかかれている通り,直接コマンドを実行して生成.
$ sudo nvidia-ctk cdi generate --output=/var/run/cdi/nvidia.yaml
すると接続しているGPU2台分見つかった.
$ nvidia-ctk cdi list INFO[0000] Found 5 CDI devices nvidia.com/gpu=0 nvidia.com/gpu=1 nvidia.com/gpu=GPU-258fe8fe-2cd4-ad3d-221a-948ba4d376e3 nvidia.com/gpu=GPU-e6101b02-b410-8a5a-84e9-8cfca6ec344d nvidia.com/gpu=all
Podmanコンテナの実行テスト
$ podman run --rm --device nvidia.com/gpu=all docker.io/nvidia/cuda:12.9.1-cudnn-runtime-ubuntu24.04 nvidia-smi