Dokumen ini menjelaskan cara membuat instance virtual machine (VM) secara massal yang menggunakan jenis mesin A4 atau A3 Ultra. Untuk mempelajari lebih lanjut jenis mesin yang dioptimalkan untuk akselerator ini, lihat A4 atau A3 Ultra.
Untuk mengetahui informasi selengkapnya tentang cara membuat VM secara massal, lihat Tentang pembuatan VM secara massal dalam dokumentasi Compute Engine.
Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.
Batasan
Saat Anda membuat VM A4 atau A3 Ultra secara massal, batasan berikut berlaku:
A4
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A4.
- Anda hanya dapat menggunakan jenis mesin A4 di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk (regional atau zonal). Anda hanya dapat menggunakan Google Cloud Hyperdisk.
- Jenis mesin A4 hanya tersedia di platform CPU Emerald Rapids.
- Anda tidak dapat mengubah jenis mesin instance menjadi atau dari jenis mesin A4. Anda harus membuat instance baru dengan jenis mesin ini.
- Jenis mesin A4 tidak mendukung tenancy tunggal.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A4.
- Untuk instance A4, saat Anda menggunakan
ethtool -Suntuk memantau jaringan GPU, penghitung port fisik yang diakhiri dengan_phytidak akan diupdate. Ini adalah perilaku yang diharapkan untuk instance yang menggunakan arsitektur Fungsi Virtual (VF) MRDMA. Untuk mengetahui informasi selengkapnya, lihat Fungsi MRDMA dan alat pemantauan jaringan. - Anda tidak dapat memasang disk Hyperdisk ML yang dibuat sebelum 4 Februari 2026 ke jenis mesin A4.
A3 Ultra
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 Ultra.
- Anda hanya dapat menggunakan jenis mesin A3 Ultra di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk (regional atau zonal). Anda hanya dapat menggunakan Google Cloud Hyperdisk.
- Jenis mesin A3 Ultra hanya tersedia di platform CPU Emerald Rapids.
- Perubahan jenis mesin tidak didukung untuk jenis mesin A3 Ultra. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Ultra.
- Jenis mesin A3 Ultra tidak mendukung Sole-tenancy.
- Untuk instance A3 Ultra, saat Anda menggunakan
ethtool -Suntuk memantau jaringan GPU, penghitung port fisik yang diakhiri dengan_phytidak akan diupdate. Ini adalah perilaku yang diharapkan untuk instance yang menggunakan arsitektur Fungsi Virtual (VF) MRDMA. Untuk mengetahui informasi selengkapnya, lihat Fungsi MRDMA dan alat pemantauan jaringan.
Sebelum memulai
Sebelum membuat VM secara massal, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:
- Pilih opsi pemakaian: pilihan opsi pemakaian Anda menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi konsumsi.
- Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi konsumsi. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.
Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:
Konsol
Saat menggunakan konsol Google Cloud untuk mengakses layanan dan API Google Cloud , Anda tidak perlu menyiapkan autentikasi.
gcloud
Instal Google Cloud CLI, lalu login ke gcloud CLI dengan identitas gabungan Anda. Setelah login, lakukan inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:
gcloud initREST
Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.
Instal Google Cloud CLI, lalu login ke gcloud CLI dengan identitas gabungan Anda.
Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .
Peran yang diperlukan
Untuk mendapatkan izin yang diperlukan untuk membuat VM secara massal, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project.
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.
Peran bawaan ini berisi izin yang diperlukan untuk membuat VM secara massal. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:
Izin yang diperlukan
Izin berikut diperlukan untuk membuat VM secara massal:
-
compute.instances.createpada project -
Untuk menggunakan image kustom guna membuat VM:
compute.images.useReadOnlypada image -
Untuk menggunakan snapshot guna membuat VM:
compute.snapshots.useReadOnlypada snapshot -
Untuk menggunakan template instance guna membuat VM:
compute.instanceTemplates.useReadOnlypada template instance -
Untuk menentukan subnet bagi VM Anda:
compute.subnetworks.usepada project atau pada subnet yang dipilih -
Untuk menentukan alamat IP statis bagi VM:
compute.addresses.usepada project -
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC:
compute.subnetworks.useExternalIppada project atau pada subnet yang dipilih -
Untuk menetapkan jaringan lama ke VM:
compute.networks.usepada project -
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama:
compute.networks.useExternalIppada project -
Untuk menetapkan metadata instance VM untuk VM:
compute.instances.setMetadatapada project -
Untuk menetapkan tag bagi VM:
compute.instances.setTagspada VM -
Untuk menetapkan label bagi VM:
compute.instances.setLabelspada VM -
Untuk menetapkan akun layanan yang akan digunakan VM:
compute.instances.setServiceAccountpada VM -
Untuk membuat disk baru bagi VM:
compute.disks.createpada project -
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis:
compute.disks.usepada disk -
Untuk memasang disk yang ada dalam mode hanya baca:
compute.disks.useReadOnlypada disk
Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.
Ringkasan
Membuat instance secara massal dengan jenis mesin A4 atau A3 Ultra mencakup langkah-langkah berikut:
- Membuat jaringan VPC
- Opsional: Membuat kebijakan penempatan rapat
- Membuat instance secara massal
- Menginstal driver GPU
- Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA
Membuat jaringan VPC
Untuk menyiapkan jaringan bagi jenis mesin A4 atau A3 Ultra, buat tiga jaringan VPC untuk antarmuka jaringan berikut:
- Dua jaringan VPC reguler untuk antarmuka jaringan (NIC) gVNIC. NIC kemudian menggunakan jaringan VPC ini untuk komunikasi host-ke-host.
- Satu jaringan VPC dengan profil jaringan RoCE untuk NIC CX-7. Jaringan VPC RoCE untuk instance VM harus memiliki 8 subnet, satu subnet untuk setiap NIC CX-7. NIC ini menggunakan RDMA over Converged Ethernet (RoCE), yang menyediakan komunikasi ber-bandwidth tinggi dan berlatensi rendah yang penting untuk komunikasi GPU-ke-GPU.
Untuk mengetahui informasi selengkapnya tentang pengaturan NIC, lihat Meninjau bandwidth jaringan dan pengaturan NIC.
Buat jaringan secara manual dengan mengikuti panduan petunjuk atau secara otomatis menggunakan skrip yang disediakan.
Panduan petunjuk
Untuk membuat jaringan, Anda dapat menggunakan petunjuk berikut:
- Untuk membuat jaringan VPC reguler untuk antarmuka jaringan gVNIC, lihat Membuat dan mengelola jaringan Virtual Private Cloud.
- Untuk membuat jaringan VPC RoCE untuk instance VM (
roce), lihat Membuat jaringan Virtual Private Cloud untuk NIC RDMA.
Untuk jaringan VPC ini, tetapkan
unit transmisi maksimum (MTU) ke nilai yang lebih besar.
Untuk jenis mesin A4 atau A3 Ultra, MTU yang direkomendasikan adalah
8896 byte.
Untuk meninjau setelan MTU yang direkomendasikan untuk jenis mesin GPU lainnya, lihat
Setelan MTU untuk jenis mesin GPU.
Skrip
Untuk membuat jaringan, ikuti langkah-langkah berikut.
Untuk jaringan VPC ini, tetapkan
unit transmisi maksimum (MTU) ke nilai yang lebih besar.
Untuk jenis mesin A4 atau A3 Ultra, MTU yang direkomendasikan adalah
8896 byte.
Untuk meninjau setelan MTU yang direkomendasikan untuk jenis mesin GPU lainnya, lihat
Setelan MTU untuk jenis mesin GPU.
Gunakan skrip berikut untuk membuat jaringan VPC untuk gVNIC dan NIC CX-7.
#!/bin/bash # Create regular VPC networks and subnets for the gVNICs for N in $(seq 0 1); do gcloud compute networks create GVNIC_NAME_PREFIX-net-$N \ --subnet-mode=custom \ --mtu=8896 gcloud compute networks subnets create GVNIC_NAME_PREFIX-sub-$N \ --network=GVNIC_NAME_PREFIX-net-$N \ --region=REGION \ --range=10.$N.0.0/16 gcloud compute firewall-rules create GVNIC_NAME_PREFIX-internal-$N \ --network=GVNIC_NAME_PREFIX-net-$N \ --action=ALLOW \ --rules=tcp:0-65535,udp:0-65535,icmp \ --source-ranges=10.0.0.0/8 done # Create SSH firewall rules gcloud compute firewall-rules create GVNIC_NAME_PREFIX-ssh \ --network=GVNIC_NAME_PREFIX-net-0 \ --action=ALLOW \ --rules=tcp:22 \ --source-ranges=IP_RANGE # Assumes that an external IP is only created for vNIC 0 gcloud compute firewall-rules create GVNIC_NAME_PREFIX-allow-ping-net-0 \ --network=GVNIC_NAME_PREFIX-net-0 \ --action=ALLOW \ --rules=icmp \ --source-ranges=IP_RANGE #!/bin/bash # List and make sure network profiles exist in the machine type's zone gcloud compute network-profiles list --filter "location.name=ZONE" # Create network for RDMA NICs gcloud compute networks create RDMA_NAME_PREFIX-mrdma \ --network-profile=ZONE-vpc-roce \ --subnet-mode custom \ --mtu=8896 # Create subnets for N in $(seq 0 7); do gcloud compute networks subnets create RDMA_NAME_PREFIX-mrdma-sub-$N \ --network=RDMA_NAME_PREFIX-mrdma \ --region=REGION \ --range=10.$((N+2)).0.0/16 # offset to avoid overlap with gVNICs doneGanti kode berikut:
GVNIC_NAME_PREFIX: awalan nama kustom yang akan digunakan untuk jaringan VPC reguler dan subnet untuk gVNIC.-
RDMA_NAME_PREFIX: awalan nama kustom yang akan digunakan untuk jaringan VPC RoCE untuk instance VM (roce) dan subnet untuk NIC CX-7. ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia, sepertius-central1-a. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.REGION: region tempat Anda ingin membuat subnet. Region ini harus sesuai dengan zona yang ditentukan. Misalnya, jika zona Anda adalahus-central1-a, maka region Anda adalahus-central1.IP_RANGE: rentang IP yang akan digunakan untuk aturan firewall SSH.
- Opsional: Untuk memverifikasi bahwa resource jaringan VPC berhasil dibuat, periksa setelan jaringan di konsol Google Cloud :
- Di konsol Google Cloud , buka halaman Jaringan VPC.
- Telusuri daftar untuk menemukan jaringan yang Anda buat di langkah sebelumnya.
- Untuk melihat subnet, aturan firewall, dan setelan jaringan lainnya, klik nama jaringan.
Opsional: Membuat kebijakan penempatan rapat
Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan melakukan upaya terbaik untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan
kepadatan maksimum, tentukan kolom maxDistance
(Pratinjau) saat Anda membuat
kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih dekat, tetapi
juga meningkatkan kemungkinan beberapa VM tidak akan dibuat.
gcloud
Untuk membuat kebijakan penempatan rapat, gunakan
perintah gcloud compute resource-policies create group-placement:
gcloud compute resource-policies create group-placement POLICY_NAME \
--collocation=collocated \
--max-distance=MAX_DISTANCE \
--region=REGION
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan rapat.MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus flag--max-distance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:- Untuk menempatkan VM di sub-blok yang sama:
1 - Untuk menempatkan VM di blok yang sama:
2 - Untuk menempatkan VM di blok yang berdekatan:
3
- Untuk menempatkan VM di sub-blok yang sama:
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
REST
Untuk membuat kebijakan penempatan rapat, buat permintaan POST ke
metode resourcePolicies.insert.
Dalam isi permintaan, sertakan
kolom collocation yang ditetapkan ke COLLOCATED, dan kolom
maxDistance.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
{
"name": "POLICY_NAME",
"groupPlacementPolicy": {
"collocation": "COLLOCATED",
"maxDistance": MAX_DISTANCE
}
}
Ganti kode berikut:
PROJECT_ID: project ID Anda.POLICY_NAME: nama kebijakan penempatan rapat.MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolommaxDistance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:- Untuk menempatkan VM di sub-blok yang sama:
1 - Untuk menempatkan VM di blok yang sama:
2 - Untuk menempatkan VM di blok yang berdekatan:
3
- Untuk menempatkan VM di sub-blok yang sama:
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
Membuat VM A3 Ultra atau A4 secara massal
Untuk membuat VM A3 Ultra atau A4 secara massal, gunakan salah satu metode berikut.
Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke aksescloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses oleh instance. Untuk mengetahui informasi selengkapnya, lihat
Praktik terbaik cakupan.
gcloud
Untuk membuat
instance secara
massal, gunakan
perintah gcloud compute instances bulk create.
Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.
Reservasi
Instance A4 atau A3 Ultra mendukung jenis pemesanan berikut:
- Pemesanan untuk masa mendatang untuk blok kapasitas
- Pemesanan untuk masa mendatang dalam mode Calendar
Untuk menggunakan jenis pemesanan ini, instance harus menggunakan model penyediaan terikat pemesanan. Misalnya, gunakan parameter pembuatan berikut.
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instances bulk create \
--name-pattern=NAME_PATTERN \
--count=COUNT \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--region=REGION \
--boot-disk-type=hyperdisk-balanced \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
--reservation-affinity=specific \
--reservation=RESERVATION \
--provisioning-model=RESERVATION_BOUND \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--restart-on-failure
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakaninstance-#untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama sepertiinstance-1daninstance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh--count.COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID dari OS image.REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet yang menggunakan NIC RDMA.-
RESERVATION: nama pemesanan atau blok tertentu dalam pemesanan. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan Anda untuk penempatan instance, pilih salah satu opsi berikut:Untuk membuat instance di beberapa blok atau di satu blok:
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
Selain itu, untuk satu blok, terapkan kebijakan penempatan rapat yang menentukan kolokasi blok (
maxDistance=2) . Compute Engine kemudian menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.Untuk membuat instance pada blok tertentu:
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A4 atau A3 Ultra di akhir periode pemesanan.
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut ke perintah:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan rapat.
- Jalankan perintah.
Spot
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instances bulk create \
--name-pattern=NAME_PATTERN \
--count=COUNT \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--region=REGION \
--boot-disk-type=hyperdisk-balanced \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
--provisioning-model=SPOT \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--no-restart-on-failure
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakaninstance-#untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama sepertiinstance-1daninstance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh--count.COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID dari OS image.REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet yang menggunakan NIC RDMA.TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baikSTOP(default) atauDELETE.
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut ke perintah:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan rapat.
- Jalankan perintah.
REST
Untuk membuat
instance secara
massal, buat permintaan POST ke
metode instances.bulkInsert.
Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.
Reservasi
Instance A4 atau A3 Ultra mendukung jenis pemesanan berikut:
- Pemesanan untuk masa mendatang untuk blok kapasitas
- Pemesanan untuk masa mendatang dalam mode Calendar
Untuk menggunakan jenis pemesanan ini, instance harus menggunakan model penyediaan terikat pemesanan. Misalnya, gunakan parameter pembuatan berikut.
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
"namePattern": "NAME_PATTERN",
"count": "COUNT",
"instanceProperties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "hyperdisk-balanced",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"networkInterfaces": [
{
"accessConfigs": [
{
"name": "external-nat",
"type": "ONE_TO_ONE_NAT"
}
],
"network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
"nicType": "GVNIC",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
"nicType": "GVNIC",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
}
],
"reservationAffinity": {
"consumeReservationType": "SPECIFIC_RESERVATION",
"key": "compute.googleapis.com/reservation-name",
"values": [
"RESERVATION"
]
},
"scheduling": {
"provisioningModel": "RESERVATION_BOUND",
"instanceTerminationAction": "DELETE",
"onHostMaintenance": "TERMINATE",
"automaticRestart": true
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
PROJECT_ID: project ID dari project tempat Anda ingin membuat instance A4 atau A3 Ultra.ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakaninstance-#untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama sepertiinstance-1daninstance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh--count.COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.IMAGE_PROJECT: project ID dari OS image.IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.NETWORK_PROJECT_ID: project ID jaringan.GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.REGION: region subnetwork.RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet yang menggunakan NIC RDMA.-
RESERVATION: nama pemesanan atau blok tertentu dalam pemesanan. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan Anda untuk penempatan instance, pilih salah satu opsi berikut:Untuk membuat instance di beberapa blok atau di satu blok:
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
Selain itu, untuk satu blok, terapkan kebijakan penempatan rapat yang menentukan kolokasi blok (
maxDistance=2) . Compute Engine kemudian menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.Untuk membuat instance pada blok tertentu:
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A4 atau A3 Ultra di akhir periode pemesanan.
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan subkolom
instancePropertiesberikut ke isi permintaan:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]Ganti kode berikut:
PROJECT_ID: project ID dari kebijakan penempatan rapat.REGION: region kebijakan penempatan rapat.POLICY_NAME: nama kebijakan penempatan rapat.
- Kirim permintaan.
Spot
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
"namePattern": "NAME_PATTERN",
"count": "COUNT",
"instanceProperties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "hyperdisk-balanced",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"networkInterfaces": [
{
"accessConfigs": [
{
"name": "external-nat",
"type": "ONE_TO_ONE_NAT"
}
],
"network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
"nicType": "GVNIC",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
"nicType": "GVNIC",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
},
{
"network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
"nicType": "MRDMA",
"subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
}
],
"scheduling":
{
"provisioningModel": "SPOT",
"instanceTerminationAction": "TERMINATION_ACTION",
"onHostMaintenance": "TERMINATE",
"automaticRestart": false
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
PROJECT_ID: project ID dari project tempat Anda ingin membuat instance A4 atau A3 Ultra.ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakaninstance-#untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama sepertiinstance-1daninstance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh--count.COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.IMAGE_PROJECT: project ID dari OS image.IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.NETWORK_PROJECT_ID: project ID jaringan.GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC standar dan subnet yang menggunakan NIC gVNIC.REGION: region subnetwork.RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet yang menggunakan NIC RDMA.TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baikSTOP(default) atauDELETE.
-
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan subkolom
instancePropertiesberikut ke isi permintaan:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]Ganti kode berikut:
PROJECT_ID: project ID dari kebijakan penempatan rapat.REGION: region kebijakan penempatan rapat.POLICY_NAME: nama kebijakan penempatan rapat.
- Kirim permintaan.
Untuk mengetahui informasi selengkapnya tentang opsi konfigurasi saat membuat VM secara massal, lihat Membuat VM secara massal dalam dokumentasi Compute Engine.
Menginstal driver GPU
Setelah Anda membuat instance, instance tersebut tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Jika Anda tidak menentukan OS image yang menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.