Ringkasan kapasitas

AI Hypercomputer mendukung beberapa opsi pemakaian untuk membantu Anda mendapatkan dan menggunakan resource komputasi. Dokumen ini memberikan ringkasan tentang cara mendapatkan kapasitas untuk setiap opsi konsumsi.

Cara mendapatkan kapasitas

Jika Anda menginginkan bantuan yang didukung AI untuk mengevaluasi opsi akuisisi kapasitas dan persyaratan kuota, jalankan perintah berikut di Compute Advisor:

Compute Advisor Compute Advisor adalah asisten yang didukung AI yang dapat Anda minta untuk mendapatkan rekomendasi yang disesuaikan untuk infrastruktur Anda berdasarkan informasi seperti batas kuota, pemesanan yang ada, dan batasan lokasi resource.

Perintah ini mengevaluasi kuota project dan pemesanan yang ada, membandingkan langkah-langkah akuisisi kapasitas di berbagai opsi konsumsi, dan menghasilkan tabel Markdown dengan tindakan kuota dan pemesanan yang direkomendasikan.

Bertindaklah sebagai arsitek infrastruktur AI. Bantu saya mendapatkan kapasitas komputasi di AI Hypercomputer berdasarkan kuota project, pemesanan aktif, dan region yang tersedia.

Berikan informasi berikut:

1. Audit kuota dan pemesanan project: Periksa kuota GPU standar dan preemptible serta pemesanan aktif project saya di seluruh region, dan identifikasi seri mesin GPU mana yang memiliki kuota tersedia atau pemesanan aktif dibandingkan dengan yang memerlukan penambahan kuota atau pemesanan.

2. Capacity acquisition comparison: Compare current and available consumption options in AI Hypercomputer and their specific characteristics—including supported GPU tiers (clustered GPUs and general GPUs), required quota types, lead times, and billing models—based on my project and the machine series of my VMs.

3. Jalur akuisisi yang direkomendasikan: Rekomendasikan jalur akuisisi kapasitas terbaik untuk workload GPU ter-cluster yang berjalan lama, tugas yang direservasi dalam jangka menengah, tugas padat yang berjalan singkat, dan deployment GPU umum.

Format perbandingannya sebagai tabel Markdown (dengan kolom untuk Opsi Konsumsi, GPU yang Didukung, Kuota yang Diperlukan, dan Model Penagihan), berikan perintah gcloud CLI yang siap digunakan untuk mereservasi kapasitas atau membuat instance, dan akhiri dengan 2-3 pertanyaan tentang seri GPU target, jumlah node, dan durasi saya untuk menyempurnakan rencana tindakan.
Mengedit dan menjalankan perintah di Compute Advisor

Tabel berikut menjelaskan cara mendapatkan kapasitas untuk setiap opsi konsumsi.

Opsi pemakaian Proses untuk mendapatkan kapasitas Implikasi harga
Pemesanan untuk masa mendatang selama lebih dari 90 hari (untuk blok kapasitas)

Untuk mendapatkan resource pemesanan untuk masa mendatang, prosesnya adalah sebagai berikut:

  1. Hubungi tim akun Anda untuk memesan kapasitas. Anda dapat meminta instance komputasi saja. Jika workload Anda memerlukan penyimpanan, Anda juga dapat meminta kumpulan Hyperdisk dengan instance komputasi Anda.
  2. Google akan meningkatkan kuota Anda, lalu menyediakan resource yang diminta pada tanggal dan waktu yang Anda tentukan.
  3. Saat Anda membuat instance atau cluster Compute Engine, tentukan model dan properti penyediaan terikat pemesanan yang cocok dengan resource yang Anda pesan. Compute Engine menyediakan instance komputasi dan cluster menggunakan kapasitas yang Anda pesan.
 Anda membayar untuk seluruh periode pemesanan, baik Anda menggunakan resource yang dipesan atau tidak. Untuk mengetahui informasi selengkapnya, lihat harga untuk pemesanan dan storage pool.
Pemesanan untuk masa mendatang hingga 90 hari (dalam mode kalender)

Untuk mendapatkan resource pemesanan untuk masa mendatang, prosesnya adalah sebagai berikut:

  1. Telusuri kapasitas yang tersedia dan cadangkan resource.
  2. Tidak ada kuota yang dikenakan biaya dan Anda tidak perlu melakukan tindakan apa pun.
  3. Saat membuat instance atau cluster komputasi, Anda harus menentukan model penyediaan terikat pemesanan. Instance komputasi dan cluster disediakan dari kapasitas yang Anda reservasi.
 Anda akan dikenai biaya untuk seluruh periode pemesanan, terlepas dari apakah Anda menggunakan resource yang dipesan selama seluruh periode atau tidak. Untuk mengetahui informasi selengkapnya, lihat Harga Dynamic Workload Scheduler.
Flex-start

Untuk opsi konsumsi ini, tidak diperlukan pemesanan. Untuk mendapatkan resource Flex-start, prosesnya adalah sebagai berikut:

  1. Anda harus meminta kuota preemptible untuk jenis mesin GPU yang ingin Anda gunakan.
  2. Saat Anda membuat instance atau cluster komputasi menggunakan salah satu opsi berikut, tentukan model penyediaan flex-start:

    Saat resource yang Anda minta tersedia, Compute Engine akan menyediakan VM Anda. VM Anda berjalan hingga tujuh hari.

 Anda akan dikenai biaya saat resource digunakan. Resource yang disediakan menggunakan Flex-start akan otomatis mendapatkan diskon melalui harga Dynamic Workload Scheduler.
Sesuai permintaan

Untuk opsi konsumsi ini, pemesanan kapasitas bersifat opsional. Resource on-demand hanya tersedia untuk GPU umum (seperti N1, G2, G4, A2, atau A3 Edge). Untuk mendapatkan resource on-demand ini, prosesnya adalah sebagai berikut:

  1. Minta kuota GPU standar untuk jenis mesin yang ingin Anda gunakan. Untuk mengetahui informasi selengkapnya, lihat Meminta penambahan kuota.
  2. Verifikasi ketersediaan dengan memeriksa region pilihan untuk hardware Anda dalam daftar ketersediaan GPU Compute Engine berdasarkan region dan zona.
  3. Buat instance komputasi atau cluster dan tentukan model penyediaan standar. Resource disediakan segera berdasarkan kapasitas yang tersedia.
 Tarif on-demand standar berlaku saat resource digunakan.
Pemesanan on-demand

Pemesanan on-demand (terkadang disebut sebagai pemesanan) hanya tersedia untuk GPU umum (seperti G2, G4, A2, atau A3 Edge). Untuk memesan kapasitas, prosesnya adalah sebagai berikut:

  1. Minta kuota GPU standar untuk jenis mesin Anda. Untuk mengetahui detailnya, lihat Meminta penambahan kuota.
  2. Buat pemesanan on-demand untuk jenis VM dan GPU tertentu menggunakan konsol Google Cloud , gcloud CLI, atau metode lainnya. Untuk mengetahui detail tentang semua metode pembuatan pemesanan, lihat Membuat pemesanan untuk satu project.
  3. Sediakan resource Anda dengan membuat instance atau cluster dan menargetkan pemesanan spesifik Anda.
 Tarif standar berlaku untuk seluruh periode pemesanan. Terapkan CUD untuk penghematan yang signifikan.
Pemesanan standar untuk masa mendatang

Untuk opsi konsumsi ini, Anda memesan kapasitas untuk tanggal mendatang. Pemesanan untuk masa mendatang standar menggunakan model penyediaan standar dan hanya tersedia untuk GPU umum.

  1. Minta kuota GPU standar untuk jenis mesin Anda. Untuk mengetahui detailnya, lihat Meminta penambahan kuota.
  2. Buat permintaan pemesanan untuk masa mendatang untuk jenis VM dan GPU tertentu.
  3. Saat pemesanan mencapai waktu mulainya, buat instance komputasi menggunakan kapasitas yang dipesan.
 Tarif standar berlaku untuk seluruh periode pemesanan. Terapkan CUD untuk penghematan yang signifikan.
Spot

Untuk opsi konsumsi ini, tidak diperlukan pemesanan. Untuk mendapatkan resource Spot, prosesnya adalah sebagai berikut:

  1. Anda harus meminta kuota preemptible untuk jenis mesin GPU yang ingin Anda gunakan.
  2. Lihat ketersediaan resource di region atau zona tempat Anda ingin membuat instance komputasi.
  3. Saat Anda membuat instance atau cluster komputasi, tentukan model penyediaan spot. Resource disediakan untuk Anda saat kapasitas tersedia, tetapi dapat di-preempt kapan saja.
 Anda akan dikenai biaya saat resource digunakan. Spot VM otomatis mendapatkan diskon melalui harga Spot VM.

Langkah berikutnya