Google は AI 技術を使用して、コンテンツをご希望の言語に翻訳しています。AI 翻訳には誤りが含まれる場合があります。

AI 最適化 A4X Max MIG を作成する

このドキュメントでは、A4X Max アクセラレータ最適化マシンタイプを使用するマネージドインスタンスグループ（MIG）を作成する方法について説明します。コンピューティングインスタンスとクラスタの作成オプションについては、デプロイオプションの概要ページをご覧ください。

A4X Max インスタンスタイプ

Compute Engine インスタンス（コンピューティングインスタンス）は、Google のインフラストラクチャでホストされるコンピューティングリソースです。仮想マシン（VM）またはベアメタルインスタンスのいずれかです。A4X Max インスタンスはベアメタルインスタンスとして利用できます。これは、基盤となる物理ハードウェアに仮想化されていない直接アクセスを提供する点で VM インスタンスとは異なります。A4X Max マシンタイプの詳細については、Compute Engine ドキュメントの A4X Max シリーズをご覧ください。

複数の A4X Max インスタンスを単一のエンティティとして管理する場合は、MIG を作成します。MIG の詳細については、Compute Engine ドキュメントのマネージドインスタンスグループをご覧ください。

制限事項

A4X Max マシンタイプを使用して MIG を作成する場合、次の制限が適用されます。

RDMA ネットワーキングを使用するリージョン MIG を作成すると、MIG は RDMA のネットワークプロファイルを構成したゾーンにのみ A4X Max インスタンスを作成できます。
MIG でインスタンスの柔軟性を構成することはできません。

ワークロードポリシーの制限事項を確認します。

予約にバインドされたプロビジョニングモデルを使用する必要があります。他のプロビジョニングモデルはサポートされていません。
サイズ変更リクエストを使用して A4X Max インスタンスを MIG に追加することはできません。インスタンスを追加するには、MIG のターゲットサイズを設定する必要があります。

始める前に

MIG を作成する前に、次の手順を完了します（まだ完了していない場合）。

使用オプションを選択する: 選択した使用オプションによって、GPU リソースの取得方法と使用方法が決まります。詳細については、使用オプションを選択するをご覧ください。
容量を取得する: 容量を取得するプロセスは、使用オプションごとに異なります。選択した使用オプションの容量を取得するプロセスについては、容量の概要をご覧ください。
注: A4X Max または A4X の容量をリクエストすると、すべての容量モードで容量が取得されます。このモードは、A4X Max または A4X マシンタイプでサポートされている唯一の予約オペレーションモードです。All Capacity モードの詳細については、予約の運用モードをご覧ください。
Google API サービスエージェントの権限を確認する: MIG に VM を作成すると、Compute Engine はプロジェクトの Google API サービスエージェント（PROJECT_NUMBER@cloudservices.）を使用します。インスタンステンプレートが別のプロジェクトのリソースを使用している場合は、このサービスエージェントに必要な権限があることを確認します。
- 共有 VPC: VM が共有 VPC ネットワークを使用している場合は、サービスプロジェクトの Google API サービスエージェントに、ホストプロジェクトまたは共有サブネットに対する Compute ネットワークユーザー（roles/compute.networkUser）ロールを付与します。詳細については、サービスプロジェクト管理者としての Google API サービスアカウントをご覧ください。
- 他のプロジェクトのイメージ: VM が他のプロジェクトのイメージを使用する場合は、プロジェクトの Google API サービスエージェントに、イメージまたはイメージを所有するプロジェクトに対する Compute イメージユーザー（roles/compute.imageUser）ロールを付与します。詳細については、マネージドインスタンスグループにイメージへのアクセス権を付与するをご覧ください。

必要なロール

MIG の作成に必要な権限を取得するには、プロジェクトに対する Compute インスタンス管理者（v1）（roles/compute.instanceAdmin.v1）IAM ロールを付与するよう管理者に依頼してください。ロールの付与については、プロジェクト、フォルダ、組織に対するアクセス権の管理をご覧ください。

この事前定義ロールには、MIG の作成に必要な権限が含まれています。必要とされる正確な権限については、「必要な権限」セクションを開いてご確認ください。

必要な権限

MIG を作成するには、次の権限が必要です。

MIG を作成する: プロジェクトに対する compute.instanceGroupManagers.create

カスタムロールや他の事前定義ロールを使用して、これらの権限を取得することもできます。

A4X Max の基本

A4X Max クラスタは、大規模な非ブロッキングネットワークパフォーマンスを促進するために、ブロックとサブブロックの階層に編成されています。このトポロジを理解することは、容量を予約してワークロードをデプロイする際に重要です。

A4X Max インスタンス: A4X Max インスタンスは、4 個の GPU が接続された単一の A4X Max マシンタイプです。
サブブロック: サブブロックは、A4X Max 容量の基本単位です。A4X Max の場合、サブブロックは 18 個の A4X Max インスタンス（72 個の GPU）で構成されます。これらのインスタンスは NVLink ドメインを形成し、マルチノード NVLink システムを使用して接続されます。A4X Max サブブロックを作成するには、1x72 トポロジを指定するワークロードポリシーを適用します。
ブロック: A4X Max ブロックは 25 個のサブブロック（NVLink ドメイン）で構成され、最大 450 個の A4X Max インスタンス（1,800 個の GPU）を搭載できます。サブブロックは、効率的なスケーリングのためにレール整列型です。各サブブロックには MIG が必要です。したがって、1 つの A4X Max ブロックに 25 個の MIG を作成できます。

次の表に、A4X Max インスタンスでサポートされているトポロジオプションを示します。

トポロジ（`acceleratorTopology`）	GPU の数	インスタンス数
`1x72`	72	18

概要

A4X Max マシンタイプを使用して MIG を作成する手順は次のとおりです。

VPC ネットワークを作成する。
ワークロードポリシーを作成する
インスタンステンプレートの作成
MIG を作成する
GPU ドライバをインストールする

VPC ネットワークを作成する

ヒント: 簡単なテストを設定する場合は、この手順をスキップして、代わりに単一の NIC --network-interface=nic-type=IDPF を指定できます。

A4X Max マシンタイプのネットワークを設定するには、次のネットワークインターフェース用に 3 つの VPC ネットワークを作成します。

IDPF ネットワークインターフェース（NIC）用の 2 つの標準 VPC ネットワーク。NIC は、これらの VPC ネットワークをホスト間通信に使用します。
複数の A4X Max サブブロックを作成する場合は、 RoCE メタルネットワークプロファイルを持つ 1 つの VPC ネットワーク（CX-8 NIC 用）。ベアメタルインスタンスの RoCE VPC ネットワークは、8 つの CX-8 NIC すべてに対して default-subnet-1-RDMA_NAME_PREFIX-net という名前の単一のサブネットを自動的に作成します。これらの NIC は RDMA over Converged Ethernet（RoCE）を使用し、複数の A4X Max サブブロックへのスケールアウトに不可欠な高帯域幅で低レイテンシの通信を提供します。

NIC の配置の詳細については、ネットワーク帯域幅と NIC の配置を確認するをご覧ください。

手順ガイドに沿って、手動または自動（提供されたスクリプト）でネットワークを作成します。

手順ガイド

ネットワークを作成するには、次の操作を行います。

IDPF ネットワークインターフェースの標準 VPC ネットワークを作成するには、Virtual Private Cloud ネットワークの作成と管理をご覧ください。
ベアメタルインスタンス（roce-metal）用の RoCE VPC ネットワークを作成するには、RDMA NIC 用の Virtual Private Cloud ネットワークを作成するをご覧ください。

これらの VPC ネットワークでは、最大伝送単位（MTU）をより大きい値に設定します。A4X Max マシンタイプの場合、推奨される MTU は 8896 バイトです。他の GPU マシンタイプの推奨 MTU 設定を確認するには、GPU マシンタイプの MTU 設定をご覧ください。

スクリプト

ネットワークを作成する手順は次のとおりです。

次のスクリプトを使用して、IDPF NIC の通常の VPC ネットワークを作成します。



    #!/bin/bash

    # Create regular VPC network for the IDPF NICs
    gcloud compute networks create IDPF_NETWORK_PREFIX-net \
        --subnet-mode=custom \
        --mtu=8896 \
        --enable-ula-internal-ipv6

    # Create subnets for the IDPF NICs
    for N in $(seq 0 1); do
      gcloud compute networks subnets create IDPF_NETWORK_PREFIX-$N \
        --network=IDPF_NETWORK_PREFIX-net \
        --region=REGION \
        --stack-type=IPV6_ONLY \
        --ipv6-access-type=INTERNAL
    done

    gcloud compute firewall-rules create IDPF_NETWORK_PREFIX-internal \
      --network=IDPF_NETWORK_PREFIX-net \
        --action=ALLOW \
        --rules=tcp:0-65535,udp:0-65535,58 \
        --source-ranges=IP_RANGE

複数の A4X Max サブブロックが必要な場合は、次のスクリプトを使用して、ベアメタルインスタンス用の RoCE VPC ネットワーク（roce-metal）を作成し、各 A4X Max インスタンスの 8 つの CX-8 NIC に自動的に作成されたサブネットを使用します。



    #!/bin/bash

    # List and make sure network profiles exist in the machine type's zone
    gcloud compute network-profiles list --filter "location.name=ZONE"

    # Create RoCE VPC network for bare metal instances (roce-metal)
    gcloud compute networks create RDMA_NAME_PREFIX-net \
      --network-profile=ZONE-vpc-roce-metal \
      --subnet-mode custom \
      --mtu=8896

    # For RoCE VPC networks for bare metal instances, a single subnet named
    # default-subnet-1-RDMA_NAME_PREFIX-net is automatically provided.
    # For more details, see https://cloud.google.com/vpc/docs/rdma-network-profiles.

次のように置き換えます。

IDPF_NETWORK_PREFIX: IDPF NIC の標準 VPC ネットワークとサブネットに使用するカスタム名の接頭辞。
RDMA_NAME_PREFIX: CX-8 NIC のベアメタルインスタンス（roce-metal）の RoCE VPC ネットワークに使用するカスタム名の接頭辞。
ZONE: 使用するマシンタイプが使用可能なゾーン（us-central1-a など）を指定します。リージョンの詳細については、リージョンおよびゾーン別の GPU の可用性をご覧ください。
REGION: サブネットを作成するリージョン。このリージョンは、指定したゾーンに対応している必要があります。たとえば、ゾーンが us-central1-a の場合、リージョンは us-central1 です。
IP_RANGE: SSH ファイアウォールルールに使用する IP 範囲。

省略可: VPC ネットワークリソースが正常に作成されたことを確認するには、 Google Cloud コンソールでネットワーク設定を確認します。
1. Google Cloud コンソールで、[VPC ネットワーク] ページに移動します。
  [VPC ネットワーク] に移動
2. リストで、前の手順で作成したネットワークを検索します。
3. サブネット、ファイアウォールルール、その他のネットワーク設定を表示するには、ネットワークの名前をクリックします。

ワークロードポリシーの作成

テスト用に MIG に単一の A4X Max インスタンスを作成する場合は、この手順をスキップします。それ以外の場合は、ワークロードポリシーを作成して、A4X Max インスタンスを含む MIG を作成する必要があります。

ワークロードポリシーを作成するには、次のいずれかのオプションを選択します。

gcloud

ワークロードポリシーを作成するには、gcloud compute resource-policies create workload-policy コマンドを使用します。

アクセラレータ間ネットワーク構成の場合は、コマンドで --accelerator-topology フラグを指定します。

A4X Max マシンタイプには、次のコマンドを使用します。1x72 のアクセラレータトポロジは、ブロック内で 72 個の GPU が NVLink を介して接続されていることを示します。

gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
    --type=high-throughput \
    --accelerator-topology=1x72 \
    --region=REGION

次のように置き換えます。

WORKLOAD_POLICY_NAME: ワークロードポリシーの名前。
REGION: ワークロードポリシーを作成するリージョン。使用するマシンタイプが利用可能で、MIG を作成するリージョンを指定します。リージョンの詳細については、リージョンおよびゾーン別の GPU の可用性をご覧ください。

REST

ワークロードポリシーを作成するには、resourcePolicies.insert メソッドに POST リクエストを送信します。

アクセラレータ間ネットワーク構成の場合は、リクエストに acceleratorTopology フィールドを指定します。

A4X Max マシンタイプに対して次のリクエストを送信します。1x72 のアクセラレータトポロジは、72 個の GPU がブロック内の NVLink を介して接続されていることを示します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "WORKLOAD_POLICY_NAME"
    "workloadPolicy": {
      "type": "HIGH_THROUGHPUT",
      "acceleratorTopology": "1x72"
    }
  }

次のように置き換えます。

PROJECT_ID: プロジェクト ID
REGION: ワークロードポリシーを作成するリージョン。使用するマシンタイプが利用可能で、MIG を作成するリージョンを指定します。リージョンの詳細については、リージョンおよびゾーン別の GPU の可用性をご覧ください。
WORKLOAD_POLICY_NAME: ワークロードポリシーの名前。

インスタンステンプレートの作成

インスタンステンプレートを作成して、MIG のインスタンスプロパティを指定します。

インスタンステンプレートを作成するには、次のいずれかのオプションを選択します。

次のコマンドは、インスタンスのアクセススコープも設定します。権限管理を簡素化するには、インスタンスのアクセススコープを cloud-platform アクセスに設定し、IAM ロールを使用してインスタンスがアクセスできるサービスを定義することをおすすめします。詳細については、スコープのベストプラクティスをご覧ください。

gcloud

リージョンインスタンステンプレートを作成するには、gcloud compute instance-templates create コマンドを使用します。

A4X Max インスタンスは、次の予約タイプをサポートしています。

容量ブロックの将来の予約
カレンダーモードの将来の予約

これらのタイプの予約を使用するには、インスタンスが予約にバインドされたプロビジョニングモデルを使用する必要があります。たとえば、次の作成パラメータを使用します。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=a4x-maxgpu-4g-metal \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=IDPF,network=IDPF_NETWORK_PREFIX-net,stack-type=IPV6_ONLY,subnet=IDPF_NETWORK_PREFIX-sub-0 \
    --network-interface=nic-type=IDPF,network=IDPF_NETWORK_PREFIX-net,stack-type=IPV6_ONLY,subnet=IDPF_NETWORK_PREFIX-sub-1,no-address \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

次のように置き換えます。

INSTANCE_TEMPLATE_NAME: インスタンステンプレートの名前。
IMAGE_FAMILY: 使用する OS イメージのイメージファミリー。サポートされているすべてのオペレーティングシステムの一覧については、サポートされているオペレーティングシステムをご覧ください。
ヒント: AI に最適化されたワークロードには、アクセラレータ OS イメージを使用することをおすすめします。独自の GPU ドライバ要件がない限り、これらのイメージは必要なすべての GPU ドライバを自動的にインストールします。GPU ドライバの要件の詳細については、このドキュメントの GPU ドライバをインストールするをご覧ください。
IMAGE_PROJECT: OS イメージのプロジェクト ID。
REGION: インスタンステンプレートを作成するリージョン。使用するマシンタイプが利用可能なリージョンを指定します。リージョンの詳細については、リージョンおよびゾーン別の GPU の可用性をご覧ください。
DISK_SIZE: ブートディスクのサイズ（GB）。詳細については、ディスクの種類に応じて Google Cloud Hyperdisk のサイズ上限または Persistent Disk のサイズ上限をご覧ください。
IDPF_NETWORK_PREFIX: IDPF NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
RDMA_NAME_PREFIX: RDMA NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
RESERVATION: 予約名、ブロック、または予約内のサブブロック。予約名または使用可能なブロックを取得するには、予約容量を表示するをご覧ください。インスタンスの配置の要件に基づいて、次のいずれかを選択します。
- 任意の単一ブロックに A4X Max インスタンスを作成するには:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
    
```
- 特定のブロックに A4X Max インスタンスを作成するには:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
    
```
- 特定のサブブロックに A4X Max インスタンスを作成するには:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME/reservationSubBlocks/RESERVATION_SUBBLOCK_NAME
    
```
ヒント: 予約が現在のプロジェクトに存在する場合は、RESERVATION 値の projects/RESERVATION_OWNER_PROJECT_ID/reservations/ を省略できます。

REST

リージョンインスタンステンプレートを作成するには、regionInstanceTemplates.insert メソッドに POST リクエストを送信します。

A4X Max インスタンスは、次の予約タイプをサポートしています。

容量ブロックの将来の予約
カレンダーモードの将来の予約

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "a4x-maxgpu-4g-metal",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/IDPF_NETWORK_PREFIX-net",
      "nicType": "IDPF",
      "stackType": "IPV6_ONLY",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/IDPF_NETWORK_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/IDPF_NETWORK_PREFIX-net",
      "nicType": "IDPF",
      "stackType": "IPV6_ONLY",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/IDPF_NETWORK_PREFIX-sub-1"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    }
  ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

次のように置き換えます。

INSTANCE_TEMPLATE_NAME: インスタンステンプレートの名前。
IMAGE_FAMILY: 使用する OS イメージのイメージファミリー。サポートされているすべてのオペレーティングシステムの一覧については、サポートされているオペレーティングシステムをご覧ください。
ヒント: AI に最適化されたワークロードには、アクセラレータ OS イメージを使用することをおすすめします。独自の GPU ドライバ要件がない限り、これらのイメージは必要なすべての GPU ドライバを自動的にインストールします。GPU ドライバの要件の詳細については、このドキュメントの GPU ドライバをインストールするをご覧ください。
IMAGE_PROJECT: OS イメージのプロジェクト ID。
REGION: インスタンステンプレートを作成するリージョン。使用するマシンタイプが利用可能なリージョンを指定します。リージョンの詳細については、リージョンおよびゾーン別の GPU の可用性をご覧ください。
DISK_SIZE: ブートディスクのサイズ（GB）。詳細については、ディスクの種類に応じて Google Cloud Hyperdisk のサイズ上限または Persistent Disk のサイズ上限をご覧ください。
NETWORK_PROJECT_ID: ネットワークのプロジェクト ID。
IDPF_NETWORK_PREFIX: IDPF NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
REGION: サブネットワークのリージョン。
RDMA_NAME_PREFIX: RDMA NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
RESERVATION: 予約名、ブロック、または予約内のサブブロック。予約名または使用可能なブロックを取得するには、予約容量を表示するをご覧ください。インスタンスの配置の要件に基づいて、次のいずれかを選択します。
- 任意の単一ブロックに A4X Max インスタンスを作成するには:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
    
```
- 特定のブロックに A4X Max インスタンスを作成するには:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
    
```
- 特定のサブブロックに A4X Max インスタンスを作成するには:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME/reservationSubBlocks/RESERVATION_SUBBLOCK_NAME
    
```
ヒント: 予約が現在のプロジェクトに存在する場合は、RESERVATION 値の projects/RESERVATION_OWNER_PROJECT_ID/reservations/ を省略できます。

MIG を作成する

A4X Max マシンタイプを使用して MIG を作成する場合は、MIG のターゲットサイズを使用してインスタンス数を指定します。MIG の作成時に、ターゲットサイズを必要なインスタンス数に設定することも、ゼロから始めて後で増やすこともできます。サイズ変更リクエストを使用して A4X Max MIG にインスタンスを追加することはできません。

1x72 の GPU トポロジを取得するには、18 個の A4X Max インスタンスを含む MIG を作成します。MIG を作成するときに、acceleratorTopology フィールドを指定するワークロードポリシーを適用します。このポリシーを適用すると、Compute Engine は 18 個の A4X Max インスタンスをすべて 1 つのサブブロックに作成し、NVLink ドメインを使用します。サブブロックに 18 個のインスタンスすべてを収容する容量がない場合、すぐに作成できないマネージドインスタンスは、容量が利用可能になるまで CREATING 状態のままになります。これらのマネージドインスタンスは、容量があるときに MIG が作成するコンピューティングインスタンスを表します。

acceleratorTopology フィールドを 1x72 に設定してワークロードポリシーを適用すると、MIG に 18 個を超える A4X Max インスタンスを作成できません。18 個を超えるインスタンスを指定すると、MIG の作成に失敗します。複数の NVLink ドメインを作成するには、ドメインごとに個別の MIG を作成し、各 MIG に同じワークロードポリシーを適用します。

MIG を作成するには、次のいずれかのオプションを選択します。

gcloud

指定したターゲットサイズで MIG を作成するには、instance-groups managed create コマンドを使用します。

重要: インスタンステンプレートで Flex Start VM を指定する場合は、コマンドに --default-action-on-vm-failure=do-nothing フラグを追加して修復をオフにする必要があります。

ゾーン MIG またはリージョン MIG を次のように作成します。

ゾーン MIG を作成するには、次のコマンドを使用します。

gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --workload-policy=WORKLOAD_POLICY_URL \
  --zone=ZONE

リージョン MIG を作成するには、次のコマンドを使用します。

gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --workload-policy=WORKLOAD_POLICY_URL \
    --region=REGION

次のように置き換えます。

MIG_NAME: MIG の名前。
INSTANCE_TEMPLATE_URL: MIG でインスタンスの作成に使用するインスタンステンプレートの URL。この URL には、インスタンステンプレートの ID または名前を含めることができます。次のいずれかの値を指定します。
- リージョンインスタンステンプレートの場合: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- グローバルインスタンステンプレートの場合: INSTANCE_TEMPLATE_ID
TARGET_SIZE: MIG に含めるインスタンスの数。1x72 のアクセラレータトポロジの場合、目標サイズを 18 に設定します。
WORKLOAD_POLICY_URL: ワークロードポリシーの URL（例: projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy）。
ZONE: MIG を作成するゾーン。ワークロードポリシーのリージョン内のゾーンを指定します。
REGION: MIG を作成するリージョン。ワークロードポリシーと同じリージョンを指定します。リージョン MIG の場合は、リージョンの代わりに、--zones フラグを使用してそのリージョンのゾーンを指定できます。

REST

指定したターゲットサイズで MIG を作成するには、POST リクエストを送信します。

重要: インスタンステンプレートで Flex Start VM を指定する場合は、リクエストに "defaultActionOnFailure": "DO_NOTHING" フィールドを追加して、修復をオフにする必要があります。

ゾーン MIG またはリージョン MIG を次のように作成します。

ゾーン MIG を作成するには、instanceGroupManagers.insert メソッドに POST リクエストを送信します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

リージョン MIG を作成するには、regionInstanceGroupManagers.insert メソッドに POST リクエストを送信します。

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE,
    "resourcePolicies": {
      "workloadPolicy": "WORKLOAD_POLICY_URL"
    }
  }

次のように置き換えます。

PROJECT_ID: プロジェクト ID。
ZONE: MIG を作成するゾーン。ワークロードポリシーのリージョン内のゾーンを指定します。
REGION: MIG を作成するリージョン。ワークロードポリシーと同じリージョンを指定します。
INSTANCE_TEMPLATE_URL: MIG でインスタンスの作成に使用するインスタンステンプレートの URL。この URL には、インスタンステンプレートの ID または名前を含めることができます。次のいずれかの値を指定します。
- リージョンインスタンステンプレートの場合: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- グローバルインスタンステンプレートの場合: INSTANCE_TEMPLATE_ID
MIG_NAME: MIG の名前。
TARGET_SIZE: MIG に含めるインスタンスの数。1x72 のアクセラレータトポロジの場合、目標サイズを 18 に設定します。
WORKLOAD_POLICY_URL: ワークロードポリシーの URL（例: projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy）。

GPU ドライバをインストールする

インスタンスを作成した後、適切な GPU ドライバがインストールされていないと、インスタンスは GPU を使用できません。GPU ドライバを含む OS イメージを指定しなかった場合は、Compute Engine ドキュメントの GPU ドライバをインストールするをご覧ください。

AI 最適化 A4X Max MIG を作成する コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

A4X Max インスタンス タイプ

制限事項

始める前に

必要なロール

必要な権限

A4X Max の基本

概要

VPC ネットワークを作成する

手順ガイド

スクリプト

ワークロード ポリシーの作成

gcloud

REST

インスタンス テンプレートの作成

gcloud

REST

MIG を作成する

gcloud

REST

GPU ドライバをインストールする

次のステップ

AI 最適化 A4X Max MIG を作成する

A4X Max インスタンスタイプ

ワークロードポリシーの作成

インスタンステンプレートの作成