Tentang VM mulai fleksibel

Dokumen ini memberikan ringkasan tentang Flex-start VM, yang menjelaskan karakteristik utamanya, serta persyaratan dan batasan yang Anda terapkan saat membuatnya.

Flex-start VM adalah instance virtual machine (VM) yang Anda buat menggunakan model penyediaan flex-start. Model ini menggunakan Dynamic Workload Scheduler (DWS) untuk menyediakan resource komputasi dari kumpulan kapasitas yang aman, sehingga meningkatkan peluang Anda untuk mendapatkan resource dengan permintaan tinggi seperti GPU atau TPU. Setelah Anda membuat VM Flex-start, Compute Engine akan mencoba mengalokasikan resource yang Anda minta dalam jangka waktu tertentu. Jika berhasil, VM Flex-start Anda akan mulai berjalan dan terus berjalan selama maksimum tujuh hari.

Untuk workload yang memerlukan resource selama lebih dari tujuh hari, atau dengan jaminan kapasitas yang lebih tinggi, Anda dapat membuat permintaan pemesanan untuk masa mendatang dalam mode kalender.

Kasus penggunaan VM Flex-start

Flex-start VM ideal untuk menjalankan workload yang dapat dimulai kapan saja, seperti berikut:

  • Pra-pelatihan model kecil

  • Penyesuaian model

  • Simulasi komputasi berperforma tinggi (HPC)

  • Inferensi batch

Karakteristik utama VM flex-start

Dibandingkan dengan jenis instance Compute Engine lainnya, VM Flex-start memiliki karakteristik berikut:

  • Waktu tunggu untuk mengalokasikan resource: Anda dapat membuat Flex-start VM sebelum Compute Engine dapat mengalokasikan resource yang diminta. Namun, VM hanya akan dimulai jika resource tersedia dalam jangka waktu yang Anda tentukan. Jika resource tidak tersedia, permintaan pembuatan VM akan gagal.

    Untuk mengetahui informasi selengkapnya, lihat Waktu tunggu Flex-start VM dalam dokumen ini.

  • Durasi operasi terbatas: VM Flex-start berjalan tanpa gangguan hingga tujuh hari. Setelah waktu tersebut, Compute Engine akan otomatis menghentikan atau menghapus VM berdasarkan tindakan penghentian yang ditentukan dalam properti VM.

    Untuk mengetahui informasi selengkapnya, lihat Durasi operasi terbatas VM Flex-start dalam dokumen ini.

  • Cara Compute Engine mengalokasikan VM: Compute Engine melakukan upaya terbaik untuk membuat VM Flex-start dalam jarak dekat guna meminimalkan latensi jaringan. Untuk mengontrol penempatan VM Flex-start, Anda dapat menggunakan kebijakan penempatan rapat atau kebijakan workload.

    Untuk mengetahui informasi selengkapnya, lihat Alokasi Flex-start VM dalam dokumen ini.

  • Model penyediaan flex-start: Anda membuat Flex-start VM menggunakan model penyediaan flex-start. Model penyediaan ini memberikan ketersediaan resource yang lebih baik dibandingkan dengan VM yang Anda buat menggunakan model penyediaan standar.

    Untuk mengetahui informasi selengkapnya tentang setiap model penyediaan, lihat Model penyediaan instance Compute Engine.

Waktu tunggu Flex-start VM

Saat Anda membuat VM Flex-start, VM tidak langsung dimulai. Compute Engine mencoba mengalokasikan resource yang Anda minta dan memulai VM dalam jangka waktu tertentu. Jika Anda memiliki kuota yang cukup untuk resource yang diminta dan Compute Engine mengalokasikannya pada akhir waktu tunggu, Flex-start VM akan dimulai dalam waktu dua menit setelah kapasitas tersedia. Jika tidak, permintaan pembuatan VM akan gagal.

Waktu tunggu bervariasi berdasarkan metode yang Anda gunakan untuk membuat VM:

Waktu tunggu VM Flex-start mandiri

Untuk membuat VM Flex-start mandiri, Anda harus menentukan waktu tunggu menggunakan kolom requestValidForDuration. Anda dapat menetapkan waktu tunggu nol detik, atau antara 90 detik dan 7.200 detik (dua jam).

Berdasarkan persyaratan zona workload Anda, sebaiknya gunakan waktu tunggu berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Flex-start Anda:

  • Persyaratan zona yang ketat: jika workload mengharuskan Anda membuat VM Flex-start di zona tertentu, sebaiknya tetapkan kolom requestValidForDuration ke 90 detik atau lebih, hingga dua jam. Waktu tunggu yang lebih lama membantu meningkatkan peluang Anda untuk mendapatkan resource. VM akan tetap dalam status PENDING selama waktu ini.

  • Tidak ada persyaratan zona: jika VM Flex-start dapat berjalan di zona mana pun di region, sebaiknya tetapkan kolom requestValidForDuration ke nol detik. Nilai ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut langsung tersedia. Jika permintaan Anda gagal karena resource tidak tersedia, coba buat VM Flex-start di zona lain.

Untuk menghentikan permintaan pembuatan VM saat Compute Engine mencoba mengalokasikan resource, hapus VM Flex-start.

Waktu tunggu MIG dengan Flex-start VM

Jika Anda menambahkan VM Flex-start ke grup instance terkelola (MIG), Compute Engine akan terus mencoba menyediakan resource yang Anda minta hingga berhasil atau Anda membatalkan permintaan. Cara Compute Engine menambahkan VM ke MIG Anda bervariasi berdasarkan metode pembuatan:

  • Permintaan pengubahan ukuran MIG: Compute Engine menambahkan VM yang diminta ke MIG sekaligus saat semua resource tersedia. Kecuali jika Anda menghapus VM sebelum durasi operasinya berakhir, Compute Engine akan menghapus VM tersebut secara bersamaan. Untuk mengetahui informasi selengkapnya, lihat Tentang permintaan perubahan ukuran MIG.

  • MIG dengan ukuran target: Compute Engine membuat setiap VM satu per satu saat kapasitas tersedia. Dengan demikian, MIG mungkin awalnya hanya membuat sebagian VM yang diminta, lalu menambahkan VM yang tersisa nanti sesuai kapasitas yang tersedia. Kecuali jika Anda menghapus VM sebelum akhir durasi operasinya, Compute Engine akan menghapus setiap VM sesuai dengan waktu pembuatannya sendiri. Untuk mengetahui informasi selengkapnya, lihat Membuat MIG yang menggunakan Flex-start VM.

Durasi operasi terbatas VM flex-start

Saat membuat VM Flex-start, Anda harus menentukan hal berikut:

  • Durasi operasi VM: Anda harus menentukan durasi operasi VM. Durasi operasi dapat berlangsung hingga tujuh hari. Jika workload Anda selesai sebelum durasi operasi VM berakhir, Anda dapat menghentikan atau menghapus VM mandiri, atau menghapus VM dalam MIG untuk menghindari biaya yang tidak perlu.

  • Tindakan penghentian VM: Anda harus memilih apakah Compute Engine akan otomatis menghentikan atau menghapus VM di akhir durasi operasinya. Untuk VM Flex-start di MIG, Anda hanya dapat menentukan untuk menghapus VM di akhir durasi operasinya.

Alokasi VM Flex-start

Compute Engine melakukan upaya terbaik untuk membuat VM Flex-start Anda secara padat berdasarkan ketersediaan. Penempatan padat ini meminimalkan hop jaringan dan mengoptimalkan latensi rendah, yang ideal untuk workload yang memerlukan komunikasi VM yang konstan, seperti workload AI atau ML. Jika Anda ingin mengontrol penempatan VM Flex-start agar tidak dibuat berjauhan secara tidak terduga, lakukan hal berikut:

Kuota

Untuk membuat atau memulai ulang VM Flex-start, project Anda harus memiliki kuota preemptible yang memadai untuk vCPU, memori, dan akselerator atau disk SSD Lokal yang terpasang.

Jika Anda mencoba membuat atau memulai ulang VM Flex-start tanpa kuota yang memadai, salah satu skenario berikut akan terjadi:

  • Permintaan pembuatan VM: permintaan akan tetap tertunda hingga project Anda memiliki kuota yang cukup. Jika project Anda tidak memiliki kuota yang diperlukan saat waktu tunggu berakhir, permintaan pembuatan akan gagal.

  • Permintaan mulai ulang VM: permintaan akan langsung gagal.

Harga

Untuk VM Flex-start, Anda membayar sesuai penggunaan (PAYG). Untuk mengetahui informasi selengkapnya, lihat harga DWS.

Batasan

Bagian berikut menjelaskan batasan untuk VM Flex-start.

Batasan untuk semua Flex-start VM

Semua VM Flex-start memiliki batasan berikut:

  • VM Flex-start hanya dapat menggunakan jenis mesin berikut:

    • Semua jenis mesin GPU, kecuali A4X Max dan A4X

    • Jenis mesin TPU7x, TPU v6e, dan TPU v5p

    • Jenis mesin H4D

  • Anda harus membuat Flex-start VM menggunakan model penyediaan flex-start.

  • Anda harus menentukan apakah akan menghentikan atau menghapus VM Flex-start di akhir durasi operasinya menggunakan kolom instanceTerminationAction dan maxRunDuration.

  • Anda harus menghentikan VM Flex-start selama peristiwa pemeliharaan host.

  • Anda hanya dapat menerapkan kebijakan penempatan rapat ke VM Flex-start mandiri.

  • Anda tidak dapat menerapkan kebijakan penempatan tersebar ke VM Flex-start.

  • Anda tidak dapat menggunakan reservasi.

Batasan untuk MIG dengan Flex-start VM

Semua MIG dengan VM Flex-start memiliki batasan berikut:

Selain itu, jika Anda ingin membuat VM Flex-start menggunakan permintaan pengubahan ukuran MIG, lihat batasan untuk permintaan pengubahan ukuran MIG.

Langkah berikutnya