Lihat cluster

Jika Anda tertarik dengan cluster pelatihan Gemini Enterprise Agent Platform, hubungi sales representative Anda untuk mendapatkan akses.

Halaman ini menunjukkan cara mencantumkan dan melihat cluster pelatihan di project Anda menggunakan konsol Google Cloud atau Agent Platform API (Google Cloud CLI tidak didukung).

Dengan melihat cluster, Anda dapat mengonfirmasi hal berikut:

  • Konfigurasi cluster
  • Status cluster dan node
  • Informasi node login
  • Penggunaan resource cluster

Jika Anda mencari petunjuk tentang cara mengupdate cluster, lihat Mengelola cluster.

Sebelum memulai

Lakukan autentikasi ke Gemini Enterprise Agent Platform, jika Anda belum melakukannya.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan konsol Google Cloud untuk mengakses layanan dan API Google Cloud , Anda tidak perlu menyiapkan autentikasi.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

    Instal Google Cloud CLI, lalu login ke gcloud CLI dengan identitas gabungan Anda.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan guna melihat cluster pelatihan, minta administrator untuk memberi Anda peran IAM Agent Platform Viewer (roles/aiplatform.viewer) pada project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk melihat cluster pelatihan. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk melihat cluster pelatihan:

  • Untuk melihat daftar cluster: aiplatform.modelDevelopmentClusters.list
  • Untuk melihat detail satu cluster: aiplatform.modelDevelopmentClusters.get

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Visibilitas konsol

Izin IAM saja tidak membuat cluster pelatihan terlihat di konsol Google Cloud . Halaman Training Clusters hanya muncul untuk project yang terdaftar dalam cluster pelatihan Gemini Enterprise Agent Platform. Jika Anda tidak melihat halaman tersebut, hubungi sales representative Anda.

Konsol Google Cloud juga mengharuskan API berikut diaktifkan di project Anda. Jika salah satunya tidak ada, halaman Training Clusters akan menampilkan tombol Enable APIs, bukan cluster Anda:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

Autentikasi untuk API

Contoh Agent Platform API di halaman ini menggunakan alias berikut, yang memanggil Google Cloud CLI untuk membuat token akses:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

Melihat daftar cluster

Kedua antarmuka mencantumkan cluster satu per satu region. Di konsol Google Cloud , Anda memilih region dari daftar, dan dengan Agent Platform API, region tersebut adalah bagian dari URL permintaan.

Konsol

  1. Di konsol Google Cloud , buka halaman Training Clusters.

    Buka Training Clusters

  2. Dalam daftar Region, pilih region tempat Anda ingin melihat cluster.

    Halaman ini mencantumkan cluster di region tersebut. Setiap kolom tabel menjelaskan properti cluster:

    Kolom Deskripsi
    ID ID cluster, yang Anda gunakan sebagai CLUSTER_ID dalam permintaan API Agent Platform.
    Nama Nama tampilan cluster.
    Status Status cluster: Creating, Running, Updating, Stopping, atau Error.
    Node Jumlah node dalam cluster.
    Tanggal dibuat Waktu pembuatan cluster.
    Jenis mesin Jenis mesin yang digunakan oleh node pool cluster.
    Model konsumsi Cara mendapatkan kapasitas cluster: Reservation, Spot, Flex-start, atau On-demand.

  3. Untuk membuka cluster, klik namanya di kolom Name.

REST

Untuk melihat daftar cluster di satu region, kirim permintaan GET ke koleksi modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

Ganti kode berikut:

  • PROJECT_ID: ID project Anda.
  • REGION: region tempat cluster Anda berada.

Metode list mendukung parameter kueri opsional berikut untuk mengontrol penomoran halaman:

  • pageSize (bilangan bulat, opsional): Jumlah maksimum cluster yang akan ditampilkan dalam respons. Layanan mungkin menampilkan jumlah yang lebih sedikit dari nilai ini, meskipun ada lebih banyak item. Jika tidak ditentukan, ukuran halaman default akan digunakan.
  • pageToken (string, opsional): Token yang diterima dari panggilan daftar sebelumnya. Berikan token ini untuk mengambil halaman hasil berikutnya.

Contoh berikut meminta halaman hasil pertama, dengan maksimum lima cluster per halaman:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

Respons yang berhasil berisi array modelDevelopmentClusters dengan maksimal lima resource cluster, dan mungkin juga menyertakan string nextPageToken.

Melihat detail cluster

Konsol Google Cloud dan Agent Platform API melaporkan konfigurasi cluster dan statusnya saat ini, termasuk status setiap nodenya. Dasbor Cloud Monitoring hanya tersedia di konsol Google Cloud .

Konsol

  1. Di konsol Google Cloud , buka halaman Training Clusters.

    Buka Training Clusters

  2. Dalam daftar Region, pilih region tempat cluster berada.

  3. Di kolom Name, klik nama cluster yang ingin Anda lihat. Halaman Cluster details akan terbuka di tab Overview.

  4. Pilih tab untuk melihat detail yang sesuai:

    • Overview: nama, deskripsi, dan lokasi cluster, beserta setelan komputasi, jaringan, dan orkestrasi yang dikonfigurasi, node login, dan partisi Slurm-nya.

    • Nodes: dua tabel yang menjelaskan node dalam cluster.

    • node login, dengan kolom Status, Name, zona, jenis mesin, IP internal, IP eksternal, dan Connect. Gunakan Connect untuk membuka sesi SSH di node login.

    • Compute nodes, dengan kolom Status, Name, Zone, Machine type, IP internal, dan Partition.

    • Kemampuan observasi: dasbor Cloud Monitoring bawaan yang mencakup penggunaan CPU, memori, dan jaringan di seluruh cluster, beserta pemakaian GPU, metrik NVIDIA Data Center GPU Manager (DCGM), jaringan GPU, dan kondisi GPU.

Untuk memuat ulang halaman dengan status cluster saat ini, klik Refresh. Untuk menghapus cluster, klik Delete.

REST

Untuk melihat detail satu cluster, kirim permintaan GET ke resource cluster:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

Ganti kode berikut:

  • PROJECT_ID: ID project Anda.
  • REGION: region tempat cluster Anda berada.
  • CLUSTER_ID: ID cluster yang ingin Anda lihat. Ini adalah nilai yang ditampilkan di kolom ID pada halaman Training Clusters di konsolGoogle Cloud .

Responsnya adalah resource ModelDevelopmentCluster. Selain konfigurasi cluster, kolom clusterStatus-nya melaporkan status cluster saat ini dan setiap node-nya:

  • clusterStatus.state: status cluster, salah satu dari PROVISIONING, RUNNING, UPDATING, STOPPING, atau ERROR. Konsol Google Cloud menampilkan PROVISIONING sebagai Creating.
  • clusterStatus.nodesStatus[]: satu entri untuk setiap node dalam cluster, yang memberikan nodeState node (PREPARING, RUNNING, UPDATING, atau ERROR), nama instance Compute Engine-nya, node pool-nya, dan waktu terakhir statusnya berubah.
  • clusterStatus.detail: deskripsi status cluster yang dapat dibaca manusia, jika tersedia.
  • clusterStatus.infrastructureNotices[]: pemberitahuan pemeliharaan infrastruktur aktif untuk cluster, jika ada. Untuk mengetahui informasi selengkapnya, lihat Pemeliharaan cluster.

Untuk deskripsi kolom konfigurasi, lihat referensi parameter.

Pemeliharaan cluster

Cluster pelatihan Gemini Enterprise Agent Platform secara berkala mengupdate software pengelolaan cluster pada cluster yang sedang berjalan, seperti pengontrol Slurm. Selama atau setelah update pemeliharaan, konsol Google Cloud menampilkan pemberitahuan di kolom Status di halaman Training Clusters dan di banner di halaman Cluster details. Di Agent Platform API, pemberitahuan aktif muncul di kolom clusterStatus.infrastructureNotices.

Pemberitahuan pemeliharaan berikut dapat muncul:

  • Pemeliharaan sedang berlangsung: Cluster sedang menjalani pemeliharaan infrastruktur dan mungkin tidak tersedia untuk sementara. Tunggu hingga update pemeliharaan selesai sebelum mengirimkan tugas Slurm baru atau mengupdate cluster.
  • Pemeliharaan tidak selesai: Masalah yang tidak terduga mencegah update pemeliharaan selesai. Cluster tetap berfungsi, dan tidak ada tindakan yang diperlukan jika workload Anda berjalan normal. Jika cluster tidak dapat diakses sebagian atau perintah Slurm gagal, hubungi perwakilan Google atau tim dukunganGoogle Cloud dengan menyertakan project ID, ID cluster, dan region Anda.

Pemberitahuan pemeliharaan akan otomatis dihapus setelah pemeliharaan selesai.

Langkah berikutnya