プログラミングとかLinuxとかの備忘録

プログラミング、Linuxでハマった箇所や環境構築のメモ

PodmanでNVIDIA Container Toolkitを動かす

スポンサーリンク

CUDAが正常に動いているUbuntu 24.04.2 LTSで以下の手順でセットアップした.

必要なパッケージのインストール

NVIDIA公式サイトの手順通りに作業を行う.

$ sudo apt update
$ sudo apt install --no-install-recommends curl gnupg2

リポジトリの追加

$ curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

パッケージリスト更新

$ sudo apt update

パッケージのインストール

$ export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.1-1
$ sudo apt-get install -y \
      nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
      nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
      libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
      libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

Container Device Interface (CDI)の設定

$ nvidia-ctk cdi list
INFO[0000] Found 0 CDI devices

となり,CDIデバイスが見つからなかった.

  • nvidia-cdi-refreshサービスが自動的に/var/run/cdi/nvidia.yamlを生成してくれるようなので,PCを再起動.
  • sudo systemctl restart nvidia-cdi-refresh.serviceでサービスを再起動して自動生成(参考).

でもCDIデバイスが見つからない状態だったため,NVIDIA公式ページにかかれている通り,直接コマンドを実行して生成.

$ sudo nvidia-ctk cdi generate --output=/var/run/cdi/nvidia.yaml

すると接続しているGPU2台分見つかった.

$ nvidia-ctk cdi list
INFO[0000] Found 5 CDI devices
nvidia.com/gpu=0
nvidia.com/gpu=1
nvidia.com/gpu=GPU-258fe8fe-2cd4-ad3d-221a-948ba4d376e3
nvidia.com/gpu=GPU-e6101b02-b410-8a5a-84e9-8cfca6ec344d
nvidia.com/gpu=all

Podmanコンテナの実行テスト

$ podman run --rm --device nvidia.com/gpu=all docker.io/nvidia/cuda:12.9.1-cudnn-runtime-ubuntu24.04 nvidia-smi