コンテナで画像処理装置(GPU)リソースを有効にして管理できます。たとえば、GPU 環境で AI と ML のノートブックを実行することを希望する場合があります。GPU コンテナ ワークロードを実行するには、GPU デバイスをサポートする Kubernetes クラスタが必要です。GPU マシンがプロビジョニングされている Kubernetes クラスタでは、GPU サポートはデフォルトで有効になっています。
このドキュメントは、組織のアプリケーション ワークロードの作成を担当するアプリケーション オペレーター グループ内のアプリケーション デベロッパーを対象としています。詳細については、GDC エアギャップ ドキュメントの対象読者をご覧ください。
始める前に
このドキュメントのタスクを完了するには、必要な権限をリクエストして環境を準備する必要があります。
IAM ロールをリクエストする
コンテナに GPU をデプロイするために必要な権限を取得するには、特定のロールが必要です。必要なロールは、組織スコープの共有クラスタとプロジェクト スコープの標準クラスタのどちらで作業しているかによって異なります。詳細については、Kubernetes クラスタの構成をご覧ください。
共有クラスタロール
GPU 対応ノードプールを確認し、共有クラスタに GPU ワークロードをデプロイするには、実行するタスクに基づいて次のロールをリクエストします。
- ユーザー クラスタ管理者(
user-cluster-admin): Management API サーバーでホストされている共有クラスタのリソースを作成、削除、編集、表示します。このロールを使用すると、共有クラスタ内の GPU を確認できます。このロールはプロジェクト Namespace にバインドされていません。 - Namespace 管理者(
namespace-admin): プロジェクトでホストされている共有クラスタのリソースを作成、削除、編集、表示します。このロールを使用すると、GPU ワークロードを共有クラスタにデプロイできます。このロールはプロジェクト Namespace にバインドされます。
標準のクラスタロール
GPU 対応ノードプールを確認し、GPU ワークロードを標準クラスタにデプロイするには、IAM プロジェクト管理者に次のロールを付与するよう依頼します。
- Standard クラスタ管理者(
standard-cluster-admin): Management API サーバーでホストされている Standard クラスタのリソースを作成、削除、編集、表示します。このロールを使用すると、標準クラスタの GPU を確認できます。このロールはプロジェクトの Namespace にバインドされています。 - クラスタ デベロッパー(
cluster-developer): 標準クラスタの作成、削除、編集、表示。このロールを使用すると、Standard クラスタ内でホストされているデータプレーン API へのアクセス権を付与することで、GPU ワークロードを Standard クラスタにデプロイできます。このロールはプロジェクトの名前空間にバインドされます。
環境を準備する
GPU リソースを使用するようにコンテナを構成するには、次のリソースがあることを確認します。
GPU マシンタイプを使用する Kubernetes クラスタ:
- 共有クラスタ: すべてのリリースで GPU ノードプールをサポートします。
- Standard クラスタ: リリース 1.16.2 hotfix 1 以降で GPU ノードプールを公式にサポートしています。Standard クラスタの GPU ノードプールは、以前のリリースではサポートされていません。使用可能なマシンタイプと GPU モデルの詳細については、クラスタノードのマシンタイプをご覧ください。
Kubernetes クラスタ名を確認するか、プラットフォーム管理者グループのメンバーにクラスタ名を確認します。
Kubernetes クラスタの kubeconfig ファイルにログインして生成します。
Kubernetes クラスタの kubeconfig パスを使用して、これらの手順の
KUBERNETES_CLUSTER_KUBECONFIGを置き換えます。Kubernetes クラスタをホストするゾーン管理 API サーバーの kubeconfig ファイルにログインして生成します。この手順では、このパスを使用して
MANAGEMENT_API_SERVERを置き換えます。GPU をホストするゾーンの組織インフラストラクチャ クラスタの kubeconfig ファイルにログインして生成します。
GPU リソースを使用するようにコンテナを構成する
コンテナでこれらの GPU を使用するには、次の操作を行います。
Kubernetes クラスタに GPU をサポートするノードプールがあることを確認します。
kubectl describe clusters.cluster.gdc.goog/KUBERNETES_CLUSTER_NAME \ -n KUBERNETES_CLUSTER_NAMESPACE \ --kubeconfig MANAGEMENT_API_SERVER次のように置き換えます。
KUBERNETES_CLUSTER_NAME: クラスタの名前。KUBERNETES_CLUSTER_NAMESPACE: クラスタの Namespace。共有クラスタの場合は、platformNamespace を使用します。標準クラスタの場合は、クラスタのプロジェクト Namespace を使用します。MANAGEMENT_API_SERVER: Kubernetes クラスタがホストされているゾーン API サーバーの kubeconfig パス。ターゲット ゾーンの API サーバーの kubeconfig ファイルをまだ生成していない場合は、ログインをご覧ください。
関連する出力は、次のスニペットのようになります。
# Several lines of code are omitted here. spec: nodePools: - machineTypeName: a2-ultragpu-1g-gdc nodeCount: 2 # Several lines of code are omitted here.サポートされている GPU マシンタイプとマルチインスタンス GPU(MIG)プロファイルの完全なリストについては、クラスタノードのマシンタイプをご覧ください。
.containers.resources.requestsフィールドと.containers.resources.limitsフィールドをコンテナ仕様に追加します。GDC では、GPU リソースは Kubernetes で次のように公開されます。
- GPU リソース全体:
nvidia.com/gpu-pod-GPU_MODEL形式。完全な物理 GPU をリクエストする場合は、これらのリソース名を使用します。標準クラスタと、マルチインスタンス GPU(MIG)パーティショニングのない共有クラスタでは、GPU 全体が必要です。 - MIG パーティション リソース:
nvidia.com/mig-SLICE-GPU_MODELの形式。これらのリソース名は、MIG パーティショニング スキームで構成された共有クラスタでパーティション分割された GPU スライスをリクエストするときに使用します。
サポートされている各 GPU マシンタイプに割り当て可能な Kubernetes リソース名については、GPU リソース名をご覧ください。アクティブなノードで GPU リソースの割り当てを確認して、割り当て可能なリソースを確認することもできます。
次のコンテナ仕様では、
a2-ultragpu-1g-gdcノードまたはa2-ultragpu-2g-gdcノードから 1 つの A100 80 GB GPU 全体をリクエストします。# Several lines of code are omitted here. containers: - name: my-container image: "my-image" resources: requests: nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE: 1 limits: nvidia.com/gpu-pod-NVIDIA_A100_80GB_PCIE: 1 # Several lines of code are omitted here.また、MIG で構成された共有クラスタを使用している場合、次のコンテナ仕様は
a2-ultragpu-1g-gdcノードから GPU の 3 つのパーティションをリクエストします。# Several lines of code are omitted here. containers: - name: my-container image: "my-image" resources: requests: nvidia.com/mig-1g.10gb-NVIDIA_A100_80GB_PCIE: 3 limits: nvidia.com/mig-1g.10gb-NVIDIA_A100_80GB_PCIE: 3 # Several lines of code are omitted here.- GPU リソース全体:
コンテナが GPU にアクセスするには、追加の権限も必要です。GPU をリクエストするコンテナごとに、次の権限をコンテナ仕様に追加します。
# Several lines of code are omitted here. securityContext: seLinuxOptions: type: unconfined_t # Several lines of code are omitted here.コンテナ マニフェスト ファイルを適用します。
kubectl apply -f CONTAINER_MANIFEST_FILE \ -n KUBERNETES_CLUSTER_NAMESPACE \ --kubeconfig KUBERNETES_CLUSTER_KUBECONFIG次のように置き換えます。
CONTAINER_MANIFEST_FILE: コンテナ ワークロードの YAML マニフェスト ファイル。KUBERNETES_CLUSTER_NAMESPACE: クラスタの Namespace。共有クラスタの場合は、platformNamespace を使用します。標準クラスタの場合は、クラスタのプロジェクト Namespace を使用します。KUBERNETES_CLUSTER_KUBECONFIG: クラスタの kubeconfig パス。
GPU リソースの割り当てを確認する
GPU リソースの割り当てを確認するには、次のコマンドを使用します。
kubectl describe nodes NODE_NAME --kubeconfig KUBERNETES_CLUSTER_KUBECONFIG次のように置き換えます。
NODE_NAME: 検査する GPU を管理するノード。KUBERNETES_CLUSTER_KUBECONFIG: クラスタの kubeconfig パス。
関連する出力は、次のスニペットのようになります。
# Several lines of code are omitted here. Capacity: nvidia.com/mig-1g.10gb-NVIDIA_A100_80GB_PCIE: 7 Allocatable: nvidia.com/mig-1g.10gb-NVIDIA_A100_80GB_PCIE: 7 # Several lines of code are omitted here.
GPU のリソース名をメモします。GPU リソースを使用するようにコンテナを構成するときに、この名前を指定する必要があります。