Dokumen ini menjelaskan cara membuat grup instance terkelola (MIG) yang menggunakan seri A2, yang mencakup jenis mesin A2 Ultra dan A2 Standard. Untuk mempelajari lebih lanjut jenis mesin yang dioptimalkan untuk akselerator ini, lihat Seri A2.
Dengan membuat MIG, Anda dapat mengelola beberapa virtual machine (VM) sebagai satu entitas. Setiap VM dalam MIG didasarkan pada template instance. Dengan mengelola VM dalam grup secara otomatis, MIG menawarkan ketersediaan tinggi dan skalabilitas. Untuk mempelajari MIG lebih lanjut, lihat Grup instance terkelola dalam dokumentasi Compute Engine.
Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.
Batasan
Saat membuat MIG dengan VM A2, pertimbangkan batasan untuk jenis mesin dan MIG.
Batasan untuk VM A2
Saat Anda membuat VM A2 Ultra atau A2 Standard secara massal, batasan berikut berlaku:
A2 Ultra
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk instance yang menggunakan jenis mesin A2 Ultra.
- Anda hanya dapat menggunakan jenis mesin A2 Ultra di region dan zona tertentu.
- Jenis mesin A2 Ultra hanya tersedia di platform Cascade Lake.
- Jika instance Anda menggunakan jenis mesin A2 Ultra, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin Ultra A2 yang berbeda, atau jenis mesin lainnya, Anda harus membuat instance baru.
- Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin A2 Ultra. Jika Anda memerlukan instance yang menggunakan jenis mesin A2 Ultra, Anda harus membuat instance baru.
- Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di instance Windows yang menggunakan jenis mesin
Ultra A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan
format fs=ntfs label=tmpfs.
A2 Standard
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk instance yang menggunakan jenis mesin Standar A2.
- Anda hanya dapat menggunakan jenis mesin Standar A2 di region dan zona tertentu.
- Jenis mesin Standar A2 hanya tersedia di platform Cascade Lake.
- Jika instance Anda menggunakan jenis mesin Standar A2, Anda hanya dapat beralih dari satu jenis mesin Standar A2 ke jenis mesin Standar A2 lainnya. Anda tidak dapat mengubah ke jenis mesin lainnya. Untuk mengetahui informasi selengkapnya, lihat Mengubah instance yang dioptimalkan untuk akselerator.
- Anda tidak dapat menggunakan sistem operasi Windows dengan jenis mesin
a2-megagpu-16g. Saat menggunakan sistem operasi Windows, pilih jenis mesin Standar A2 yang berbeda. - Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di instance Windows yang menggunakan jenis mesin Standar A2.
Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan
format fs=ntfs label=tmpfs.
Batasan untuk MIG
Anda tidak dapat menggunakan kebijakan penempatan dan permintaan pengubahan ukuran secara bersamaan. Untuk setiap MIG, pilih apakah Anda ingin menggunakan salah satu atau tidak satu pun dari fitur berikut:
- Jika Anda ingin mengurangi latensi dengan mengelompokkan VM, gunakan kebijakan penempatan rapat di template instance.
- Jika Anda ingin membuat semua VM sekaligus, menginginkan probabilitas ketersediaan yang lebih tinggi, dan memilih opsi penggunaan yang didukung, gunakan permintaan perubahan ukuran untuk MIG.
- Jika Anda ingin menggunakan kebijakan penempatan ringkas, tinjau batasan untuk kebijakan penempatan.
- Jika Anda ingin menggunakan permintaan perubahan ukuran, tinjau batasan untuk permintaan perubahan ukuran.
Sebelum memulai
Sebelum membuat MIG, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:
- Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
- Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.
Peran yang diperlukan
Untuk mendapatkan izin yang Anda perlukan untuk membuat MIG, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project.
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.
Peran bawaan ini berisi izin yang diperlukan untuk membuat MIG. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:
Izin yang diperlukan
Izin berikut diperlukan untuk membuat MIG:
-
Untuk membuat MIG:
compute.instanceGroupManagers.createpada project
Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.
Ringkasan
Membuat MIG dengan jenis mesin A2 mencakup langkah-langkah berikut:
- Opsional: Buat kebijakan penempatan rapat
- Membuat template instance
- Buat MIG.
- Menginstal driver GPU
- Opsional: Aktifkan mode GPU Multi-Instance NVIDIA
Untuk setiap MIG, Anda harus memilih apakah Anda ingin menggunakan kebijakan penempatan ringkas, menggunakan permintaan pengubahan ukuran, atau tidak keduanya. Untuk mengetahui informasi selengkapnya tentang kapan harus menggunakan setiap opsi, lihat Batasan untuk MIG dalam dokumen ini.
Opsional: Buat kebijakan penempatan rapat
Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan berupaya sebaik mungkin untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan
kepadatan maksimum, tentukan kolom maxDistance
(Pratinjau) saat Anda membuat
kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak dapat dibuat.
gcloud
Untuk membuat kebijakan penempatan rapat, gunakan
perintah gcloud beta compute resource-policies create group-placement:
gcloud beta compute resource-policies create group-placement POLICY_NAME \
--collocation=collocated \
--max-distance=MAX_DISTANCE \
--region=REGION
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan rapat.MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (menghapus tanda--max-distance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:- Untuk menempatkan VM di sub-blok yang sama:
1 - Untuk menempatkan VM dalam blok yang sama:
2 - Untuk menempatkan VM di blok yang berdekatan:
3
- Untuk menempatkan VM di sub-blok yang sama:
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
REST
Untuk membuat kebijakan penempatan ringkas, buat permintaan POST ke
metode beta
resourcePolicies.insert.
Dalam isi permintaan, sertakan
kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.
POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
{
"name": "POLICY_NAME",
"groupPlacementPolicy": {
"collocation": "COLLOCATED",
"maxDistance": MAX_DISTANCE
}
}
Ganti kode berikut:
PROJECT_ID: project ID Anda.POLICY_NAME: nama kebijakan penempatan rapat.MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolommaxDistance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:- Untuk menempatkan VM di sub-blok yang sama:
1 - Untuk menempatkan VM dalam blok yang sama:
2 - Untuk menempatkan VM di blok yang berdekatan:
3
- Untuk menempatkan VM di sub-blok yang sama:
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
Membuat template instance
Tentukan properti VM untuk MIG dengan membuat template instance.
Untuk membuat template instance, pilih salah satu opsi berikut:
Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke aksescloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat
Praktik terbaik cakupan.
gcloud
Untuk membuat template instance regional, gunakan
perintah gcloud compute instance-templates create.
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.
Reservasi
Instance A2 mendukung jenis reservasi berikut:
- Reservasi sesuai permintaan
- Pemesanan standar untuk masa mendatang
Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY \
--reservation=RESERVATION
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:any(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.specific(Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.
RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untukRESERVATION_AFFINITY:- Jika Anda menentukan
any, gantiRESERVATIONdengan string kosong (""). Atau, Anda dapat menghapus flag--reservationsepenuhnya. Jika Anda menentukan
specific, gantiRESERVATIONdengan yang berikut:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
Ganti kode berikut:
RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.RESERVATION_NAME: nama pemesanan.
- Jika Anda menentukan
Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:
--no-restart-on-failure
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan rapat.
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan tanda
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
Sesuai permintaan
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:any(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.none(Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.
Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:
--no-restart-on-failure
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan rapat.
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan tanda
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
Flex-start
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--reservation-affinity=none \
--instance-termination-action=DELETE \
--max-run-duration=RUN_DURATION \
--maintenance-policy=TERMINATE \
--provisioning-model=FLEX_START
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengand,h,m, dans. Misalnya, tentukan30mselama 30 menit atau1d2h3m4suntuk satu hari, dua jam, tiga menit, dan empat detik. Nilai harus antara 10 menit dan tujuh hari.
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan tanda
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
Spot
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=SPOT \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--no-restart-on-failure
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baikSTOP(default) atauDELETE.
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan rapat.
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan tanda
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
REST
Untuk membuat template instance regional, buat permintaan POST ke
regionInstanceTemplates.insert method.
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.
Reservasi
Instance A2 mendukung jenis reservasi berikut:
- Reservasi sesuai permintaan
- Pemesanan standar untuk masa mendatang
Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY",
"key": "compute.googleapis.com/reservation-name",
"values": [
"RESERVATION"
]
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukantrueuntuk mengaktifkan mulai ulang otomatis (default) ataufalseuntuk menonaktifkan mulai ulang otomatis.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:ANY_RESERVATION(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.SPECIFIC_RESERVATION(Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.
RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untukRESERVATION_AFFINITY:- Jika Anda menentukan
ANY_RESERVATION, hapusRESERVATIONsehingga nilainya berupa string kosong (""). Atau, Anda dapat menghapus kolomkeydanvaluessepenuhnya. Jika Anda menentukan
SPECIFIC_RESERVATION, gantiRESERVATIONdengan yang berikut:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
Ganti kode berikut:
RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.RESERVATION_NAME: nama pemesanan.
- Jika Anda menentukan
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang
instancePropertiesberikut ke isi permintaan:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]Ganti kode berikut:
PROJECT_ID: project ID kebijakan penempatan ringkas.REGION: region kebijakan penempatan rapat.POLICY_NAME: nama kebijakan penempatan rapat.
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Sesuai permintaan
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY"
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukantrueuntuk mengaktifkan mulai ulang otomatis (default) ataufalseuntuk menonaktifkan mulai ulang otomatis.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:ANY_RESERVATION(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.NO_RESERVATION(Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang
instancePropertiesberikut ke isi permintaan:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]Ganti kode berikut:
PROJECT_ID: project ID kebijakan penempatan ringkas.REGION: region kebijakan penempatan rapat.POLICY_NAME: nama kebijakan penempatan rapat.
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Flex-start
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"reservationAffinity": {
"consumeReservationType": "NO_RESERVATION"
},
"scheduling": {
"instanceTerminationAction": "DELETE",
"maxRunDuration": {
"seconds": RUN_DURATION
},
"onHostMaintenance": "TERMINATE",
"provisioningModel": "FLEX_START"
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.RUN_DURATION: durasi, dalam detik, yang Anda inginkan untuk VM yang diminta agar dapat berjalan. Nilai harus antara600, yaitu 600 detik (10 menit), dan604800, yaitu 604.800 detik (tujuh hari).
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Spot
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling":
{
"provisioningModel": "SPOT",
"instanceTerminationAction": "TERMINATION_ACTION",
"onHostMaintenance": "TERMINATE",
"automaticRestart": false
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baikSTOP(default) atauDELETE.
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang
instancePropertiesberikut ke isi permintaan:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]Ganti kode berikut:
PROJECT_ID: project ID kebijakan penempatan ringkas.REGION: region kebijakan penempatan rapat.POLICY_NAME: nama kebijakan penempatan rapat.
-
Opsional: Jika Anda menentukan jenis mesin Standar A2 dan ingin memasang disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Setelah membuat template instance, Anda dapat melihatnya untuk melihat ID-nya dan meninjau properti instance-nya.
Membuat MIG
Setelah menyelesaikan semua langkah sebelumnya, buat MIG berdasarkan skenario Anda sebagai berikut:
| Skenario | Metode untuk membuat MIG dan VM di dalamnya | Contoh |
|---|---|---|
| Anda memiliki beberapa tugas atau tugas paralel yang dapat dimulai dengan sejumlah VM. | Buat MIG dan gunakan ukuran target untuk menentukan jumlah VM yang Anda inginkan dalam grup. |
Tugas inferensi ML |
| Anda memiliki tugas yang memerlukan distribusi di sejumlah VM yang tepat. | Buat MIG tanpa VM apa pun di dalamnya, lalu buat permintaan perubahan ukuran di MIG.
Permintaan pengubahan ukuran membantu Anda mendapatkan VM sekaligus. |
Tugas pelatihan dan penyesuaian ML terdistribusi |
Membuat MIG dengan ukuran target
Jika Anda dapat memulai tugas tanpa membuat semua VM sekaligus, buat MIG dengan ukuran target. Ukuran target menentukan jumlah VM dalam MIG. MIG mulai membuat VM berdasarkan ketersediaan resource saat ini. Jika ada resource yang tidak tersedia untuk sementara, MIG akan terus mencoba membuat VM untuk memenuhi ukuran target.
Untuk membuat MIG dengan ukuran target, pilih salah satu opsi berikut:
gcloud
Untuk membuat MIG dengan ukuran target yang ditentukan, gunakan
perintah instance-groups managed
create.
Buat MIG zona atau regional sebagai berikut:
- Untuk membuat MIG zona, gunakan perintah berikut:
gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=TARGET_SIZE \ --zone=ZONE
- Untuk membuat MIG regional, gunakan perintah berikut:
gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=TARGET_SIZE \ --region=REGION
MIG_NAME: nama MIG.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.ZONE: zona tempat Anda ingin membuat MIG.REGION: region tempat Anda ingin membuat MIG. Untuk MIG regional, alih-alih region, Anda dapat menentukan zona di region tersebut menggunakan tanda--zones.
REST
Untuk membuat MIG dengan ukuran target yang ditentukan, buat permintaan POST.
Buat MIG zona atau regional sebagai berikut:
- Untuk membuat MIG zona, buat permintaan
POSTke metodeinstanceGroupManagers.insert.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": TARGET_SIZE } - Untuk membuat MIG regional, buat permintaan
POSTke metoderegionInstanceGroupManagers.insert.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "name": "MIG_NAME", "instanceTemplate": "INSTANCE_TEMPLATE_URL", "targetSize": TARGET_SIZE }
PROJECT_ID: project ID.ZONE: zona tempat Anda ingin membuat MIG.REGION: region tempat Anda ingin membuat MIG.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
MIG_NAME: nama MIG.TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
Membuat MIG dan permintaan perubahan ukuran
Jika Anda memerlukan beberapa VM sekaligus untuk memulai tugas, buat MIG, lalu buat permintaan pengubahan ukuran di MIG seperti yang dijelaskan di bagian ini.
Untuk membuat permintaan perubahan ukuran di MIG, pilih salah satu opsi berikut:
gcloud
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.
Reservasi
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zones=ZONE \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
Sesuai permintaan
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zones=ZONE \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
Flex-start
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --default-action-on-vm-failure=do-nothing \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --default-action-on-vm-failure=do-nothing \ --region=REGION \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
Spot
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zones=ZONE \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
MIG_NAME: nama MIG.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
ZONE: zona tempat Anda ingin membuat MIG. Untuk MIG regional, Anda juga harus menentukan zona. Zona ini harus berupa zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.RESIZE_REQUEST_NAME: nama permintaan pengubahan ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus.REGION: region tempat Anda ingin membuat MIG.
Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM
Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.
Untuk membuat permintaan pengubahan ukuran dengan nama VM tertentu di MIG, gunakan
perintah gcloud compute instance-groups managed resize-requests create beta
dengan flag --instances:
-
Di MIG zona, jalankan perintah berikut:
gcloud beta compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --instances=INSTANCE_NAMES \ --zone=ZONE -
Di MIG regional, jalankan perintah berikut:
gcloud beta compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --instances=INSTANCE_NAMES \ --region=REGION
INSTANCE_NAMES dengan daftar nama VM yang dipisahkan koma. Contoh, instance-1,instance-2,instance-3.
REST
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.
Reservasi
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0 } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
Sesuai permintaan
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0 } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
Flex-start
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "instanceLifecyclePolicy": { "defaultActionOnFailure": "DO_NOTHING" } } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" }, "instanceLifecyclePolicy": { "defaultActionOnFailure": "DO_NOTHING" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
Spot
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0 } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
PROJECT_ID: project ID.ZONE: zona tempat Anda ingin membuat MIG. Zona ini harus sama dengan zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin yang Anda pilih tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.REGION: region tempat Anda ingin membuat MIG. Region ini harus merupakan region yang sama dengan yang berisi profil untuk jaringan VPC Anda dan harus berisi zona tempat jenis mesin yang Anda pilih tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
MIG_NAME: nama MIG.RESIZE_REQUEST_NAME: nama permintaan pengubahan ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus
Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM
Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.
Untuk membuat permintaan pengubahan ukuran dengan nama VM tertentu di MIG, gunakan salah satu metode berikut:
-
Di MIG zona, kirim permintaan
POSTmenggunakan metodebeta.instanceGroupManagerResizeRequests.insert:POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
-
Di MIG regional, kirim permintaan
POSTmenggunakan metodebeta.regionInstanceGroupManagerResizeRequests.insert:POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
Misalnya, untuk menentukan dua nama VM, sertakan kode berikut dalam isi permintaan:
{
"name": "RESIZE_REQUEST_NAME",
"instances": [
{
"name": "INSTANCE_NAME_1"
},
{
"name": "INSTANCE_NAME_2"
}
]
}
Ganti
INSTANCE_NAME_1, INSTANCE_NAME_2 dengan nama untuk VM.
Menginstal driver GPU
Setelah Anda membuat instance, instance tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Jika Anda tidak menentukan image OS yang menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.