Membuat MIG A3 High atau A3 Mega yang dioptimalkan untuk AI

GPU ter-cluster

Dokumen ini menjelaskan cara membuat grup instance terkelola (MIG) yang menggunakan jenis mesin yang dioptimalkan akselerator A3 High atau A3 Mega. Untuk mempelajari lebih lanjut jenis mesin, lihat Tentang akselerator GPU.

Dengan membuat MIG, Anda dapat mengelola beberapa virtual machine (VM) sebagai satu entity. Setiap VM dalam MIG didasarkan pada template instance. Dengan mengelola VM dalam grup secara otomatis, MIG menawarkan ketersediaan tinggi dan skalabilitas. Untuk mempelajari MIG lebih lanjut, lihat Grup instance terkelola dalam dokumentasi Compute Engine.

Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.

Batasan

Saat Anda membuat MIG dengan VM A3 Mega atau A3 High, pertimbangkan batasan untuk jenis mesin dan MIG.

Batasan untuk VM A3 Mega atau A3 High

Bergantung pada seri mesin yang digunakan VM di MIG Anda, batasan berikut berlaku:

A3 Mega

• Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 Mega.
• Anda hanya dapat menggunakan jenis mesin A3 Mega di region dan zona tertentu.
• Anda tidak dapat menggunakan Persistent Disk regional pada instance yang menggunakan jenis mesin A3 Mega.
• Jenis mesin A3 Mega hanya tersedia di platform CPU Sapphire Rapids.
• Perubahan jenis mesin tidak didukung untuk jenis mesin A3 Mega. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
• Anda tidak dapat menjalankan sistem operasi Windows di jenis mesin A3 Mega.

A3 High

• Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 High.
• Anda hanya dapat menggunakan jenis mesin A3 High di region dan zona tertentu.
• Anda tidak dapat menggunakan Persistent Disk regional pada instance yang menggunakan jenis mesin A3 High.
• Jenis mesin A3 High hanya tersedia di platform CPU Sapphire Rapids.
• Perubahan jenis mesin tidak didukung untuk jenis mesin A3 High. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
• Anda tidak dapat menjalankan sistem operasi Windows di jenis mesin A3 High.
• Untuk jenis mesin a3-highgpu-1g, a3-highgpu-2g, dana3-highgpu-4g, Anda harus membuat instance menggunakan Spot VM atau Flex-start VM. Untuk mengetahui petunjuk mendetail tentang opsi ini, tinjau referensi berikut:
  • Untuk membuat Spot VM, tetapkan model penyediaan ke SPOT saat Anda membuat VM yang dioptimalkan akselerator.
  • Untuk membuat VM Flex-start, Anda dapat menggunakan salah satu metode berikut:
    • Buat VM mandiri dan tetapkan model penyediaan ke FLEX_START saat Anda membuat VM yang dioptimalkan akselerator.
    • Membuat permintaan ubah ukuran di grup instance terkelola (MIG). Untuk mengetahui petunjuknya, lihat Membuat MIG dengan VM GPU.
• Anda hanya dapat menggunakan Confidential VM dengan jenis mesin a3-highgpu-1g di region dan zona terbatas, dan semua batasan untuk Confidential VM yang berjalan di jenis mesin A3 High berlaku.

Batasan untuk MIG

Saat Anda membuat MIG dengan VM A3 Mega atau A3 High, batasan berikut berlaku:

• Anda harus menonaktifkan perbaikan di MIG, seperti yang dijelaskan dalam dokumen ini.

• Jika Anda membuat MIG regional yang menggunakan jaringan RDMA, MIG tersebut hanya dapat membuat instance A3 Mega atau A3 High di zona tempat Anda mengonfigurasi profil jaringan untuk RDMA.

• Anda tidak dapat mengonfigurasi fleksibilitas instance di MIG.

• Jika Anda ingin MIG menggunakan kebijakan workload, tinjau batasan untuk kebijakan workload.

Batasan untuk permintaan pengubahan ukuran MIG

Untuk permintaan pengubahan ukuran MIG, batasan berikut berlaku:

• Di MIG regional, Anda hanya dapat menggunakan bentuk distribusi target ANY_SINGLE_ZONE.

• Anda hanya dapat menetapkan mode standby pool MIG ke manual (default).

• Anda tidak dapat menetapkan penskalaan otomatis.

• Jika MIG berisi permintaan ubah ukuran yang diterima, Anda tidak dapat mengubah ukuran target MIG.

• Anda tidak dapat menghapus atau meninggalkan instance terkelola dalam status CREATING yang dibuat MIG untuk permintaan ubah ukuran. Untuk menghapus instance terkelola tersebut, Anda harus membatalkan permintaan ubah ukuran.

Untuk mengetahui informasi selengkapnya, lihat semua batasan untuk permintaan ubah ukuran.

Sebelum memulai

Sebelum membuat MIG, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

1. Pilih opsi pemakaian: pilihan opsi pemakaian Anda menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi konsumsi.
2. Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi konsumsi. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.
3. Memverifikasi izin Agen Layanan Google API: saat Anda membuat VM dalam MIG, Compute Engine menggunakan Agen Layanan Google API (PROJECT_NUMBER@cloudservices.) dalam project Anda. Jika template instance Anda menggunakan resource dari project lain, pastikan agen layanan ini memiliki izin yang diperlukan:
   • VPC Bersama: jika VM menggunakan jaringan VPC Bersama, berikan peran Compute Network User (roles/compute.networkUser) kepada Agen Layanan Google API di project layanan pada project host atau subnet bersama. Untuk informasi selengkapnya, lihat Akun layanan Google API sebagai Admin Project Layanan.
   • Image dari project lain: jika VM menggunakan image dari project lain, berikan peran Compute Image User (roles/compute.imageUser) kepada Agen Layanan Google API di project Anda pada image atau project yang memiliki image tersebut. Untuk mengetahui informasi selengkapnya, lihat Memberikan akses grup instance terkelola ke image.

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan untuk membuat MIG, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) pada project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat MIG. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat MIG:

• Untuk membuat MIG: compute.instanceGroupManagers.create pada project

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Pembuatan MIG dengan jenis mesin A3 Mega atau A3 High (8 GPU) mencakup langkah-langkah berikut:

1. Membuat jaringan VPC
2. Opsional: Membuat kebijakan workload
3. Membuat template instance
4. Membuat MIG
5. Menginstal driver GPU
6. Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Membuat jaringan VPC

Untuk mengaktifkan komunikasi yang efisien bagi VM GPU, Anda perlu membuat jaringan pengelolaan dan satu atau beberapa jaringan data. Jaringan pengelolaan digunakan untuk akses eksternal, misalnya SSH, dan untuk sebagian besar komunikasi jaringan umum. Jaringan data digunakan untuk komunikasi berperforma tinggi antara GPU di VM yang berbeda, misalnya, untuk traffic Remote Direct Memory Access (RDMA).

Untuk jaringan VPC ini, sebaiknya tetapkan unit transmisi maksimum (MTU) ke nilai yang lebih besar. Nilai MTU yang lebih tinggi akan menambah ukuran paket dan mengurangi overhead header paket, sehingga meningkatkan throughput data payload. Untuk mengetahui informasi selengkapnya tentang cara membuat jaringan VPC, lihat Membuat dan memverifikasi jaringan MTU frame jumbo.

Membuat jaringan pengelolaan, subnet, dan aturan firewall

Selesaikan langkah-langkah berikut untuk menyiapkan jaringan pengelolaan:

1. Buat jaringan pengelolaan menggunakan perintah networks create:

   gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
       --project=PROJECT_ID \
       --subnet-mode=custom \
       --mtu=8244
   

2. Buat subnet pengelolaan menggunakan perintah networks subnets create:

   gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
       --project=PROJECT_ID \
       --network=NETWORK_NAME_PREFIX-mgmt-net \
       --region=REGION \
       --range=192.168.0.0/24
   

3. Buat aturan firewall menggunakan perintah firewall-rules create.

   1. Buat aturan firewall untuk jaringan pengelolaan.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:0-65535,udp:0-65535,icmp \
          --source-ranges=192.168.0.0/16
      

   2. Buat aturan firewall tcp:22 untuk membatasi alamat IP sumber yang dapat terhubung ke VM Anda menggunakan SSH.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:22 \
          --source-ranges=SSH_SOURCE_IP_RANGE
      

   3. Buat aturan firewall icmp yang dapat digunakan untuk memeriksa masalah transmisi data dalam jaringan.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=icmp \
          --source-ranges=0.0.0.0/0
      

Ganti kode berikut:

• NETWORK_NAME_PREFIX: awalan nama yang akan digunakan untuk jaringan dan subnet VPC.
• PROJECT_ID: Project ID Anda.
• REGION: region tempat Anda ingin membuat jaringan.
• SSH_SOURCE_IP_RANGE: Rentang IP dalam format CIDR. Tindakan ini menentukan alamat IP sumber yang dapat terhubung ke VM Anda menggunakan SSH.

Membuat jaringan data, subnet, dan aturan firewall

Jumlah jaringan data bervariasi bergantung pada jenis mesin GPU yang Anda buat.

A3 Mega

A3 Mega memerlukan delapan jaringan data. Untuk membuat delapan jaringan data, masing-masing dengan subnet dan aturan firewall, gunakan perintah berikut.

for N in $(seq 1 8); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

A3 High

A3 High memerlukan empat jaringan data. Gunakan perintah berikut untuk membuat empat jaringan data, masing-masing dengan subnet dan aturan firewall.

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

Opsional: Membuat kebijakan workload

Jika Anda ingin VM ditempatkan dalam satu atau beberapa blok yang berdekatan, tentukan penempatan VM dengan membuat kebijakan workload. Namun, jika Anda ingin Compute Engine menempatkan VM Anda di blok tertentu, lewati langkah ini dan berikan nama blok dalam afinitas pemesanan saat Anda membuat template instance.

Untuk membuat kebijakan workload, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan workload, gunakan perintah gcloud compute resource-policies create workload-policy.

• Untuk penempatan VM dengan upaya terbaik, tentukan flag --type=high-throughput dalam perintah:

  gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
      --type=high-throughput \
      --region=REGION
  

• Untuk kolokasi VM yang ketat, tentukan flag --max-topology-distance dan --type=high-throughput dalam perintah:

  gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
      --type=high-throughput \
      --max-topology-distance=TOPOLOGY_DISTANCE \
      --region=REGION
  

Ganti kode berikut:

• WORKLOAD_POLICY_NAME: nama kebijakan workload.
• TOPOLOGY_DISTANCE: jarak topologi maksimum. Tentukan salah satu nilai berikut:
  • Untuk menempatkan VM di blok yang sama: BLOCK
  • Untuk menempatkan VM di cluster yang sama: CLUSTER
  Catatan: Jarak maksimum yang lebih pendek dapat mengurangi kemungkinan ketersediaan VM. Untuk mengetahui informasi selengkapnya, lihat Properti jarak topologi maksimum.
• REGION: region tempat Anda ingin membuat kebijakan workload. Tentukan region tempat Anda ingin membuat MIG dan jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.

REST

Untuk membuat kebijakan workload, buat permintaan POST ke metode resourcePolicies.insert.

• Untuk penempatan VM dengan upaya terbaik, tentukan kolom type dalam permintaan sebagai berikut:

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
    {
      "name": "WORKLOAD_POLICY_NAME"
      "workloadPolicy": {
        "type": "HIGH_THROUGHPUT"
      }
    }
  

• Untuk kolokasi VM yang ketat, tentukan kolom maxTopologyDistance dan type dalam permintaan sebagai berikut:

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
    {
      "name": "WORKLOAD_POLICY_NAME"
      "workloadPolicy": {
        "type": "HIGH_THROUGHPUT",
        "maxTopologyDistance": "TOPOLOGY_DISTANCE"
      }
    }
  

Ganti kode berikut:

• PROJECT_ID: project ID Anda
• REGION: region tempat Anda ingin membuat kebijakan workload. Tentukan region tempat Anda ingin membuat MIG dan jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• WORKLOAD_POLICY_NAME: nama kebijakan workload.
• TOPOLOGY_DISTANCE: jarak topologi maksimum. Tentukan salah satu nilai berikut:
  • Untuk menempatkan VM di blok yang sama: BLOCK
  • Untuk menempatkan VM di cluster yang sama: CLUSTER
  Catatan: Jarak maksimum yang lebih pendek dapat mengurangi probabilitas ketersediaan VM. Untuk mengetahui informasi selengkapnya, lihat Properti jarak topologi maksimum.

Membuat template instance

Tentukan properti VM untuk MIG dengan membuat template instance.

Untuk membuat template instance, pilih salah satu opsi berikut:

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses oleh instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

A3 Mega

Untuk membuat template instance untuk VM A3 Mega, Anda harus menentukan delapan antarmuka jaringan tambahan untuk traffic GPUDirect-TCPXO. Jika belum melakukannya, pastikan Anda telah membuat delapan jaringan VPC seperti yang dijelaskan dalam Membuat jaringan VPC.

gcloud

Untuk membuat template instance regional, gunakan perintah gcloud compute instance-templates create.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk pemesanan. Pilih tab yang sesuai dengan jenis pemesanan yang ingin Anda gunakan.

• Gunakan parameter Reservation-bound, yang menentukan model penyediaan terikat pemesanan, untuk hal berikut:

  • Pemesanan untuk masa mendatang untuk blok kapasitas
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Pemesanan standar, yang menentukan model penyediaan standar, untuk hal berikut:

  • Pemesanan on-demand
  • Pemesanan standar untuk masa mendatang

Terikat reservasi

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• RESERVATION: nama pemesanan atau blok tertentu dalam pemesanan. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan Anda untuk penempatan instance, pilih salah satu opsi berikut:

  • Untuk membuat instance di seluruh blok atau di satu blok:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    Selain itu, untuk satu blok, buat MIG dengan menerapkan kebijakan workload yang menentukan kolokasi blok (maxTopologyDistance=BLOCK) . Compute Engine kemudian menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.

  • Untuk membuat instance di blok tertentu:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

Reservasi standar

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • INSTANCE_TEMPLATE_NAME: nama template instance.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
     Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
   • IMAGE_PROJECT: project ID dari OS image.
   • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

     Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi konsumsi.

     • specific (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.

   • RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

     • Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.

     • Jika Anda menentukan specific, ganti RESERVATION dengan kode berikut:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Ganti kode berikut:

       • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
       Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
       • RESERVATION_NAME: nama pemesanan.

2. Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:

   --no-restart-on-failure

3. Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • INSTANCE_TEMPLATE_NAME: nama template instance.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
     Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
   • IMAGE_PROJECT: project ID dari OS image.
   • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

     Catatan: Jika Anda ingin menggunakan kapasitas pemesanan sebagai wajib, ikuti langkah-langkah Pemesanan.

     • none (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.

2. Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:

   --no-restart-on-failure

3. Jalankan perintah.

Flex-start

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s. Misalnya, tentukan 30m selama 30 menit atau 1d2h3m4s untuk satu hari, dua jam, tiga menit, dan empat detik. Nilai harus antara 10 menit dan tujuh hari.

Spot

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.

• TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  Penting: Pastikan aplikasi Anda dapat menangani preemption. Misalnya, tangani preemption dengan menentukan skrip shutdown selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.

REST

Untuk membuat template instance regional, buat permintaan POST ke metode regionInstanceTemplates.insert.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk pemesanan. Pilih tab yang sesuai dengan jenis pemesanan yang ingin Anda gunakan.

• Gunakan parameter Reservation-bound, yang menentukan model penyediaan terikat pemesanan, untuk hal berikut:

  • Pemesanan untuk masa mendatang untuk blok kapasitas
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Pemesanan standar, yang menentukan model penyediaan standar, untuk hal berikut:

  • Pemesanan on-demand
  • Pemesanan standar untuk masa mendatang

Terikat reservasi

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.
• RESERVATION: nama pemesanan atau blok tertentu dalam pemesanan. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan Anda untuk penempatan instance, pilih salah satu opsi berikut:

  • Untuk membuat instance di seluruh blok atau di satu blok:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    Selain itu, untuk satu blok, buat MIG dengan menerapkan kebijakan workload yang menentukan kolokasi blok (maxTopologyDistance=BLOCK) . Compute Engine kemudian menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.

  • Untuk membuat instance di blok tertentu:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

Reservasi standar

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.

• AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

• RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

  • ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

  Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi konsumsi.

  • SPECIFIC_RESERVATION (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.

• RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

  • Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya menjadi string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.

  • Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan kode berikut:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    Ganti kode berikut:

    • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
    Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
    • RESERVATION_NAME: nama pemesanan.

Sesuai permintaan

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.

• AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

• RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

  • ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

  Catatan: Jika Anda ingin menggunakan kapasitas pemesanan sebagai wajib, ikuti langkah-langkah Pemesanan.

  • NO_RESERVATION (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.

Flex-start

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.
• RUN_DURATION: durasi, dalam detik, yang Anda inginkan untuk menjalankan VM yang diminta. Nilainya harus antara 600, yaitu 600 detik (10 menit), dan 604800, yaitu 604.800 detik (tujuh hari).

Spot

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.

• TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  Penting: Pastikan aplikasi Anda dapat menangani preemption. Misalnya, tangani preemption dengan menentukan skrip shutdown selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.

A3 High

Untuk membuat template instance untuk VM A3 High, Anda harus menentukan empat antarmuka jaringan tambahan untuk traffic GPUDirect-TCPX. Jika belum melakukannya, pastikan Anda telah membuat empat jaringan VPC seperti yang dijelaskan dalam Membuat jaringan VPC.

gcloud

Untuk membuat template instance regional, gunakan perintah gcloud compute instance-templates create.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk pemesanan. Pilih tab yang sesuai dengan jenis pemesanan yang ingin Anda gunakan.

• Gunakan parameter Reservation-bound, yang menentukan model penyediaan terikat pemesanan, untuk hal berikut:

  • Pemesanan untuk masa mendatang untuk blok kapasitas
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Pemesanan standar, yang menentukan model penyediaan standar, untuk hal berikut:

  • Pemesanan on-demand
  • Pemesanan standar untuk masa mendatang

Terikat reservasi

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• RESERVATION: nama pemesanan atau blok tertentu dalam pemesanan. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan Anda untuk penempatan instance, pilih salah satu opsi berikut:

  • Untuk membuat instance di seluruh blok atau di satu blok:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    Selain itu, untuk satu blok, buat MIG dengan menerapkan kebijakan workload yang menentukan kolokasi blok (maxTopologyDistance=BLOCK) . Compute Engine kemudian menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.

  • Untuk membuat instance di blok tertentu:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

Reservasi standar

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • INSTANCE_TEMPLATE_NAME: nama template instance.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
     Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
   • IMAGE_PROJECT: project ID dari OS image.
   • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

     Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi konsumsi.

     • specific (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.

   • RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

     • Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.

     • Jika Anda menentukan specific, ganti RESERVATION dengan kode berikut:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Ganti kode berikut:

       • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
       Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
       • RESERVATION_NAME: nama pemesanan.

2. Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:

   --no-restart-on-failure

3. Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • INSTANCE_TEMPLATE_NAME: nama template instance.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
     Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
   • IMAGE_PROJECT: project ID dari OS image.
   • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

     Catatan: Jika Anda ingin menggunakan kapasitas pemesanan sebagai wajib, ikuti langkah-langkah Pemesanan.

     • none (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.

2. Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:

   --no-restart-on-failure

3. Jalankan perintah.

Flex-start

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s. Misalnya, tentukan 30m selama 30 menit atau 1d2h3m4s untuk satu hari, dua jam, tiga menit, dan empat detik. Nilai harus antara 10 menit dan tujuh hari.

Spot

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.

• TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  Penting: Pastikan aplikasi Anda dapat menangani preemption. Misalnya, tangani preemption dengan menentukan skrip shutdown selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.

REST

Untuk membuat template instance regional, buat permintaan POST ke metode regionInstanceTemplates.insert.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk pemesanan. Pilih tab yang sesuai dengan jenis pemesanan yang ingin Anda gunakan.

• Gunakan parameter Reservation-bound, yang menentukan model penyediaan terikat pemesanan, untuk hal berikut:

  • Pemesanan untuk masa mendatang untuk blok kapasitas
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Pemesanan standar, yang menentukan model penyediaan standar, untuk hal berikut:

  • Pemesanan on-demand
  • Pemesanan standar untuk masa mendatang

Terikat reservasi

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.
• RESERVATION: nama pemesanan atau blok tertentu dalam pemesanan. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan Anda untuk penempatan instance, pilih salah satu opsi berikut:

  • Untuk membuat instance di seluruh blok atau di satu blok:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    Selain itu, untuk satu blok, buat MIG dengan menerapkan kebijakan workload yang menentukan kolokasi blok (maxTopologyDistance=BLOCK) . Compute Engine kemudian menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.

  • Untuk membuat instance di blok tertentu:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

Reservasi standar

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.

• AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

• RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

  • ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

  Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi konsumsi.

  • SPECIFIC_RESERVATION (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.

• RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

  • Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya menjadi string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.

  • Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan kode berikut:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    Ganti kode berikut:

    • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
    Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
    • RESERVATION_NAME: nama pemesanan.

Sesuai permintaan

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.

• AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

• RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

  • ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

  Catatan: Jika Anda ingin menggunakan kapasitas pemesanan sebagai wajib, ikuti langkah-langkah Pemesanan.

  • NO_RESERVATION (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.

Flex-start

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.
• RUN_DURATION: durasi, dalam detik, yang Anda inginkan untuk menjalankan VM yang diminta. Nilainya harus antara 600, yaitu 600 detik (10 menit), dan 604800, yaitu 604.800 detik (tujuh hari).

Spot

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama template instance.
• MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
• IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan OS image akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
• IMAGE_PROJECT: project ID dari OS image.
• REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
• DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
• NETWORK_PROJECT_ID: project ID jaringan.
• GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.
• REGION: region subnetwork.

• TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  Penting: Pastikan aplikasi Anda dapat menangani preemption. Misalnya, tangani preemption dengan menentukan skrip shutdown selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.

Setelah membuat template instance, Anda dapat melihatnya untuk melihat ID-nya dan meninjau properti instance-nya.

Membuat MIG

Setelah menyelesaikan semua langkah sebelumnya, buat MIG berdasarkan skenario Anda sebagai berikut:

Skenario	Metode untuk membuat MIG dan VM di dalamnya	Contoh
Anda memiliki beberapa tugas atau tugas paralel yang dapat dimulai dengan jumlah VM berapa pun.	Buat MIG dan gunakan ukuran target untuk menentukan jumlah VM yang Anda inginkan dalam grup. Lihat Membuat MIG dengan ukuran target.	Tugas inferensi ML
Anda memiliki tugas yang memerlukan distribusi di sejumlah VM yang tepat.	Buat MIG tanpa VM di dalamnya, lalu buat permintaan ubah ukuran di MIG. Permintaan ubah ukuran membantu Anda mendapatkan VM sekaligus. Lihat Membuat MIG dan permintaan ubah ukuran.	Tugas pelatihan dan fine-tuning ML terdistribusi

Membuat MIG dengan ukuran target

Jika Anda dapat memulai tugas tanpa membuat semua VM sekaligus, buat MIG dengan ukuran target. Ukuran target menentukan jumlah VM di MIG. MIG mulai membuat VM berdasarkan ketersediaan resource saat ini. Jika ada resource yang tidak tersedia untuk sementara, MIG akan terus mencoba membuat VM untuk memenuhi ukuran target.

Untuk membuat MIG dengan ukuran target, pilih salah satu opsi berikut:

gcloud

Untuk membuat MIG dengan ukuran target yang ditentukan, gunakan perintah instance-groups managed create.

Penting: Jika template instance menentukan VM Flex-start, Anda juga harus menonaktifkan perbaikan dengan menambahkan flag --default-action-on-vm-failure=do-nothing ke perintah.

Perintah yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.

Buat MIG zona atau regional sebagai berikut:

• Untuk membuat MIG zona, gunakan perintah berikut:

  gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
  

• Untuk membuat MIG regional, gunakan perintah berikut:

  gcloud compute instance-groups managed create MIG_NAME \
      --template=INSTANCE_TEMPLATE_URL \
      --size=TARGET_SIZE \
      --workload-policy=WORKLOAD_POLICY_URL \
      --region=REGION
  

Ganti kode berikut:

• MIG_NAME: nama MIG.
• INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
  • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • Untuk template instance global: INSTANCE_TEMPLATE_ID
• TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
• WORKLOAD_POLICY_URL: Opsional. URL kebijakan workload—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.
• ZONE: zona tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan zona dalam region kebijakan.
• REGION: region tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan region yang sama dengan kebijakan tersebut. Untuk MIG regional, Anda dapat menentukan zona di region tersebut, bukan region, menggunakan flag --zones.

REST

Untuk membuat MIG dengan ukuran target yang ditentukan, buat permintaan POST.

Penting: Jika template instance menentukan VM Flex-start, Anda juga harus menonaktifkan perbaikan dengan menambahkan kolom "defaultActionOnFailure": "DO_NOTHING" ke permintaan.

Permintaan yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Buat MIG zona atau regional sebagai berikut:

• Untuk membuat MIG zona, buat permintaan POST ke metode instanceGroupManagers.insert.

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
  {
    "versions": [
      {
        "instanceTemplate": "INSTANCE_TEMPLATE_URL"
      }
    ],
    "name": "MIG_NAME",
    "targetSize": TARGET_SIZE,
    "resourcePolicies": {
      "workloadPolicy": "WORKLOAD_POLICY_URL"
    }
  }
  

• Untuk membuat MIG regional, buat permintaan POST ke metode regionInstanceGroupManagers.insert.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
    {
      "name": "MIG_NAME",
      "instanceTemplate": "INSTANCE_TEMPLATE_URL",
      "targetSize": TARGET_SIZE,
      "resourcePolicies": {
        "workloadPolicy": "WORKLOAD_POLICY_URL"
      }
    }
  

Ganti kode berikut:

• PROJECT_ID: project ID.
• ZONE: zona tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan zona dalam region kebijakan.
• REGION: region tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan region yang sama dengan kebijakan tersebut.
• INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
  • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • Untuk template instance global: INSTANCE_TEMPLATE_ID
• MIG_NAME: nama MIG.
• TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
• WORKLOAD_POLICY_URL: Opsional. URL kebijakan workload—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Membuat MIG dan permintaan ubah ukuran

Pratinjau — Pembuatan permintaan ubah ukuran dengan menentukan nama VM

Fitur ini tunduk pada "Persyaratan Penawaran Pra-GA" di bagian Persyaratan Layanan Umum dari Persyaratan Khusus Layanan. Fitur pra-GA tersedia "sebagaimana adanya" dan mungkin memiliki dukungan terbatas. Untuk mengetahui informasi selengkapnya, lihat deskripsi tahap peluncuran.

Jika Anda memerlukan beberapa VM sekaligus untuk memulai tugas, buat MIG, dan buat permintaan ubah ukuran di MIG seperti yang dijelaskan di bagian ini.

Untuk membuat permintaan ubah ukuran di MIG, pilih salah satu opsi berikut:

gcloud

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Reservasi

Perintah yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. Buat permintaan ubah ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zones=ZONE \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none
       

  2. Buat permintaan ubah ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

Sesuai permintaan

Perintah yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. Buat permintaan ubah ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zones=ZONE \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none
       

  2. Buat permintaan ubah ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

Flex-start

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --default-action-on-vm-failure=do-nothing \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. Buat permintaan ubah ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --default-action-on-vm-failure=do-nothing \
     
         --workload-policy=WORKLOAD_POLICY_URL \
     
         --region=REGION \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none \
         --workload-policy=WORKLOAD_POLICY_URL
       

  2. Buat permintaan ubah ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

Spot

Perintah yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. Buat permintaan ubah ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

  1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zones=ZONE \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none
       

  2. Buat permintaan ubah ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

Ganti kode berikut:

• MIG_NAME: nama MIG.
• INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
  • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • Untuk template instance global: INSTANCE_TEMPLATE_ID
• WORKLOAD_POLICY_URL: Opsional. URL kebijakan workload—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.
• ZONE: zona tempat Anda ingin membuat MIG. Untuk MIG regional, Anda juga harus menentukan zona. Zona ini harus berupa zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin tersedia. Untuk informasi selengkapnya, lihat Batasan.
• RESIZE_REQUEST_NAME: nama permintaan ubah ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
• COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus.
• REGION: region tempat Anda ingin membuat MIG.

Membuat permintaan ubah ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan ubah ukuran dengan nama VM tertentu di MIG, gunakan perintah gcloud compute instance-groups managed resize-requests create beta dengan flag --instances:

• Di MIG zona, jalankan perintah berikut:

  gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
      --resize-request=RESIZE_REQUEST_NAME \
      --instances=INSTANCE_NAMES \
      --zone=ZONE
  

• Di MIG regional, jalankan perintah berikut:

  gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
      --resize-request=RESIZE_REQUEST_NAME \
      --instances=INSTANCE_NAMES \
      --region=REGION
  

Ganti INSTANCE_NAMES dengan daftar nama VM yang dipisahkan koma. Contoh, instance-1,instance-2,instance-3.

REST

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Reservasi

Permintaan yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

Sesuai permintaan

Permintaan yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

Flex-start

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "instanceLifecyclePolicy": {
         "defaultActionOnFailure": "DO_NOTHING"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "instanceLifecyclePolicy": {
         "defaultActionOnFailure": "DO_NOTHING"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

Spot

Permintaan yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

• Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
  1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

Ganti kode berikut:

• PROJECT_ID: project ID.
• ZONE: zona tempat Anda ingin membuat MIG. Zona ini harus sama dengan zona yang berisi profil untuk jaringan VPC Anda dan harus merupakan zona tempat jenis mesin yang Anda pilih tersedia. Untuk informasi selengkapnya, lihat Batasan.
• REGION: region tempat Anda ingin membuat MIG. Region ini harus sama dengan region yang berisi profil untuk jaringan VPC Anda dan harus berisi zona tempat jenis mesin yang Anda pilih tersedia. Untuk informasi selengkapnya, lihat Batasan.
• INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
  • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • Untuk template instance global: INSTANCE_TEMPLATE_ID
• MIG_NAME: nama MIG.
• WORKLOAD_POLICY_URL: Opsional. URL kebijakan workload—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.
• RESIZE_REQUEST_NAME: nama permintaan ubah ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
• COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus

Membuat permintaan ubah ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan ubah ukuran dengan nama VM tertentu di MIG, gunakan salah satu metode berikut:

• Di MIG zona, kirim permintaan POST menggunakan metode beta.instanceGroupManagerResizeRequests.insert:

  POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
  

• Di MIG regional, kirim permintaan POST menggunakan metode beta.regionInstanceGroupManagerResizeRequests.insert:

  POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
  

Misalnya, untuk menentukan dua nama VM, sertakan hal berikut dalam isi permintaan:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

Ganti INSTANCE_NAME_1, INSTANCE_NAME_2 dengan nama untuk VM.

Menginstal driver GPU

Setelah Anda membuat instance, instance tersebut tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Jika Anda tidak menentukan OS image yang menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.

Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Catatan: Di bagian ini, MIG mengacu pada Multi-Instance GPU dari NVIDIA, bukan grup instance terkelola.

Mode Multi-Instance GPU (MIG) adalah fitur yang dapat Anda aktifkan untuk GPU NVIDIA yang didukung. Setelah membuat instance, Anda dapat mengaktifkan mode MIG pada satu GPU yang terpasang ke mesin Anda. Dengan mengaktifkan mode MIG, satu GPU dipartisi menjadi hingga tujuh instance GPU independen. Setiap instance berjalan secara bersamaan, masing-masing dengan memori, cache, dan multiprosesor streaming sendiri. Kemudian, Anda dapat menjalankan berbagai workload di instance GPU ini secara paralel. Untuk mengetahui informasi selengkapnya tentang penggunaan mode MIG, lihat Panduan Pengguna Multi-Instance GPU (MIG) dalam dokumentasi NVIDIA.

Apa langkah selanjutnya?

• Memverifikasi pemakaian pemesanan
• Melihat topologi instance komputasi
• Memantau VM
• Melaporkan host yang rusak
• Melihat, membatalkan, atau menghapus permintaan ubah ukuran
• Memecahkan masalah pemakaian pemesanan