Ringkasan pembuatan instance dengan GPU yang terpasang

Dokumen ini memberikan ringkasan langkah-langkah yang diperlukan untuk membuat instance Compute Engine dengan unit pemrosesan grafis (GPU) yang terpasang. Anda dapat menggunakan GPU untuk mempercepat workload tertentu, seperti machine learning dan pemrosesan data.

Anda juga dapat menggunakan beberapa jenis mesin GPU di AI Hypercomputer. AI Hypercomputer adalah sistem superkomputer yang dioptimalkan untuk mendukung workload kecerdasan buatan (AI) dan machine learning (ML) Anda. Opsi ini direkomendasikan untuk membuat infrastruktur dengan alokasi padat dan performa optimal, yang memiliki integrasi untuk scheduler Google Kubernetes Engine (GKE) dan Slurm.

Untuk mengetahui informasi selengkapnya tentang GPU di Compute Engine, lihat Tentang GPU.

Memilih model GPU

Untuk daftar model GPU yang tersedia, lihat platform GPU. Catat juga jenis mesin yang didukung untuk model GPU yang dipilih.

Untuk setiap model, Anda juga dapat meninjau hal-hal berikut:

Batasan

Selain pembatasan untuk semua instance dengan GPU, setiap seri mesin dengan GPU yang terpasang memiliki batasan berikut:

Instance A4X Max

Instance A4X

Instance A4

  • Anda hanya dapat meminta kapasitas menggunakan opsi pemakaian yang didukung untuk jenis mesin A4.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A4.
  • Anda hanya dapat menggunakan jenis mesin A4 di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk (regional atau zonal). Anda hanya dapat menggunakan Google Cloud Hyperdisk.
  • Jenis mesin A4 hanya tersedia di platform CPU Emerald Rapids.
  • Anda tidak dapat mengubah jenis mesin instance menjadi atau dari jenis mesin A4. Anda harus membuat instance baru dengan jenis mesin ini.
  • Jenis mesin A4 tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A4.
  • Untuk instance A4, saat Anda menggunakan ethtool -S untuk memantau jaringan GPU, penghitung port fisik yang diakhiri dengan _phy tidak akan diupdate. Ini adalah perilaku yang diharapkan untuk instance yang menggunakan arsitektur Fungsi Virtual (VF) MRDMA. Untuk mengetahui informasi selengkapnya, lihat Fungsi MRDMA dan alat pemantauan jaringan.
  • Anda tidak dapat memasang disk Hyperdisk ML yang dibuat sebelum 4 Februari 2026 ke jenis mesin A4.

Instance A3 Ultra

  • Anda hanya dapat meminta kapasitas menggunakan opsi pemakaian yang didukung untuk jenis mesin A3 Ultra.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 Ultra.
  • Anda hanya dapat menggunakan jenis mesin A3 Ultra di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk (regional atau zonal). Anda hanya dapat menggunakan Google Cloud Hyperdisk.
  • Jenis mesin A3 Ultra hanya tersedia di platform CPU Emerald Rapids.
  • Perubahan jenis mesin tidak didukung untuk jenis mesin A3 Ultra. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Ultra.
  • Jenis mesin A3 Ultra tidak mendukung Sole-tenancy.
  • Untuk instance A3 Ultra, saat Anda menggunakan ethtool -S untuk memantau jaringan GPU, penghitung port fisik yang diakhiri dengan _phy tidak akan diupdate. Ini adalah perilaku yang diharapkan untuk instance yang menggunakan arsitektur Fungsi Virtual (VF) MRDMA. Untuk mengetahui informasi selengkapnya, lihat Fungsi MRDMA dan alat pemantauan jaringan.

Instance A3 Mega

Instance A3 High

Instance A3 Edge

Instance A2 Standard

  • Anda hanya dapat meminta kapasitas menggunakan opsi pemakaian yang didukung untuk jenis mesin Standar A2.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin Standar A2.
  • Anda hanya dapat menggunakan jenis mesin Standar A2 di region dan zona tertentu.
  • Jenis mesin A2 Standard hanya tersedia di platform Cascade Lake.
  • Jika instance Anda menggunakan jenis mesin Standar A2, Anda hanya dapat beralih dari satu jenis mesin Standar A2 ke jenis mesin Standar A2 lainnya. Anda tidak dapat mengubah ke jenis mesin lainnya. Untuk mengetahui informasi selengkapnya, lihat Mengubah instance yang dioptimalkan untuk akselerator.
  • Anda tidak dapat menggunakan sistem operasi Windows dengan jenis mesin a2-megagpu-16g. Saat menggunakan sistem operasi Windows, pilih jenis mesin Standar A2 yang berbeda.
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di instance Windows yang menggunakan jenis mesin Standar A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.

Instance A2 Ultra

  • Anda hanya dapat meminta kapasitas menggunakan opsi pemakaian yang didukung untuk jenis mesin A2 Ultra.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A2 Ultra.
  • Anda hanya dapat menggunakan jenis mesin A2 Ultra di region dan zona tertentu.
  • Jenis mesin A2 Ultra hanya tersedia di platform Cascade Lake.
  • Jika instance Anda menggunakan jenis mesin A2 Ultra, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin A2 Ultra yang berbeda, atau jenis mesin lainnya, Anda harus membuat instance baru.
  • Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin A2 Ultra. Jika memerlukan instance yang menggunakan jenis mesin A2 Ultra, Anda harus membuat instance baru.
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di instance Windows yang menggunakan jenis mesin A2 Ultra. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.

Instance G4

Instance G2

Instance N1+GPU

Untuk mempelajari batasan instance N1 dengan GPU, lihat fitur untuk seri mesin N1 dan GPU untuk seri mesin N1.

Memilih sistem operasi

Jika Anda menggunakan GPU untuk machine learning, gunakan salah satu sistem operasi berikut:

  • Image yang dioptimalkan untuk workload AI. Anda dapat menggunakan image Ubuntu dan Rocky, yang tersedia dalam versi yang dioptimalkan untuk akselerator dengan driver NVIDIA dan CUDA Toolkit yang telah diinstal sebelumnya. Lihat OS image dalam dokumentasi AI Hypercomputer.

  • Deep Learning VM Image. Setiap Deep Learning VM memiliki alat penginstalan driver GPU dan menyertakan paket seperti TensorFlow dan PyTorch. Anda juga dapat menggunakan Deep Learning VM untuk workload GPU umum. Untuk mempelajari lebih lanjut image dan paket yang tersedia yang diinstal pada image ini, lihat Memilih image dalam dokumentasi Deep Learning VM.

Atau, Anda dapat menggunakan image publik atau kustom. Untuk sebagian besar image publik atau image kustom, Anda perlu menginstal driver NVIDIA dan CUDA Toolkit. Untuk membantu mengidentifikasi driver yang sesuai untuk model GPU Anda, lihat menginstal driver GPU.

Memeriksa kuota GPU

Untuk melindungi sistem dan pengguna Compute Engine, project baru memiliki kuota GPU global, yang membatasi jumlah total GPU yang dapat Anda buat di semua zona yang didukung. Untuk meninjau kuota GPU, lihat Kuota GPU.

Jika Anda memerlukan kuota GPU tambahan, minta penambahan kuota. Saat meminta kuota GPU, Anda harus meminta kuota untuk jenis GPU yang ingin dibuat di setiap region dan kuota global tambahan untuk jumlah total GPU dari semua jenis di semua zona.

Jika project Anda memiliki histori penagihan yang telah ditetapkan, project tersebut akan otomatis menerima kuota setelah Anda mengirimkan permintaan.

Instance GPU dan kuota alokasi preemptible

Instance yang menggunakan model penyediaan standar biasanya tidak dapat menggunakan kuota alokasi preemptible. Kuota preemptible ditujukan untuk workload sementara dan biasanya lebih tersedia. Jika project Anda tidak memiliki kuota preemptible, dan Anda belum pernah memintanya, semua instance dalam project Anda akan menggunakan kuota alokasi standar.

Jika Anda meminta kuota alokasi preemptible, instance yang menggunakan model penyediaan standar harus memenuhi semua kriteria berikut untuk menggunakan kuota alokasi preemptible:

Saat menggunakan alokasi preemptible untuk workload GPU yang terikat waktu, Anda dapat memperoleh manfaat dari waktu proses yang tidak terganggu dan ketersediaan kuota alokasi preemptible yang tinggi. Untuk mengetahui informasi selengkapnya, lihat Kuota preemptible.

Memilih opsi pemakaian dan memverifikasi ketersediaan

Untuk membantu meningkatkan peluang Anda mendapatkan kapasitas GPU dan mengurangi biaya, gunakan Flex-start VM, Spot VM, atau pemesanan, bukan kapasitas on-demand yang tidak dipesan. Gunakan kapasitas on-demand yang tidak direservasi hanya jika workload Anda dapat menoleransi penundaan atau jika Anda tidak dapat menggunakan opsi lain.

Sebelum membuat instance, Anda dapat melihat ketersediaan Spot VM dan melihat tarif preemption dan harga untuk Spot VM di seluruh region dan zona. Untuk mengetahui informasi selengkapnya tentang opsi konsumsi, lihat Model penyediaan instance Compute Engine.

Membuat instance yang telah dipasangi GPU

Untuk membuat instance yang telah dipasangi GPU, selesaikan langkah-langkah berikut:

  1. Buat instance. Metode yang digunakan untuk membuat instance bergantung pada workload yang ingin Anda jalankan.

    Jenis mesin GPU
    Workload AI dan ML Grafis dan visualisasi Workload GPU lainnya
    Jenis mesin seri A yang dioptimalkan untuk akselerator dirancang untuk workload komputasi berperforma tinggi (HPC), kecerdasan buatan (AI), dan machine learning (ML).

    Untuk jenis mesin ini, model GPU otomatis dipasang ke instance.

    Jenis mesin seri G yang dioptimalkan untuk akselerator dirancang untuk workload seperti workload simulasi NVIDIA Omniverse, aplikasi yang intensif grafis, transcoding video, dan desktop virtual. Jenis mesin ini mendukung NVIDIA RTX Virtual Workstations (vWS).

    Seri G juga dapat digunakan untuk melatih model yang lebih kecil dan untuk inferensi host tunggal.

    Untuk jenis mesin ini, model GPU otomatis dipasang ke instance.

    Untuk mengoptimalkan biaya workload yang tidak memerlukan GPU penuh, tersedia jenis mesin G4 yang memiliki kurang dari satu GPU terpasang. Jenis mesin ini dilengkapi dengan 1/2, 1/4, atau 1/8 GPU standar.

    Untuk jenis mesin untuk tujuan umum N1, kecuali untuk inti bersama N1 (f1-micro dan g1-small), Anda dapat memasang kumpulan model GPU tertentu. Beberapa model GPU ini juga mendukung NVIDIA RTX Virtual Workstation (vWS).

    Untuk workload AI, ML, dan HPC, pilih salah satu opsi berikut:

    Untuk membuat instance G2 (L4) atau G4 (RTX PRO 6000), lihat Membuat instance G2 atau G4. Untuk membuat instance N1 yang telah memasang GPU NVIDIA T4, P4, atau V100, lihat Membuat instance N1 yang telah memasang GPU.
  2. Agar instance dapat menggunakan GPU, Anda harus menginstal driver GPU pada instance. Jika Anda mengaktifkan workstation virtual NVIDIA RTX (sebelumnya disebut NVIDIA GRID), instal driver untuk workstation virtual.

Apa langkah selanjutnya?