Lihat cluster

Jika Anda tertarik dengan cluster pelatihan Gemini Enterprise Agent Platform, hubungi sales representative Anda untuk mendapatkan akses.

Halaman ini menunjukkan cara mencantumkan dan melihat cluster pelatihan di project Anda dengan menggunakan Google Cloud konsol atau Agent Platform API (Google Cloud CLI tidak didukung).

Dengan melihat cluster, Anda dapat mengonfirmasi hal berikut:

  • Konfigurasi cluster
  • Status cluster dan node
  • Informasi node login
  • Penggunaan resource cluster

Jika Anda mencari petunjuk tentang cara memperbarui cluster, lihat Mengelola cluster.

Sebelum memulai

Lakukan autentikasi ke Gemini Enterprise Agent Platform, kecuali jika Anda sudah melakukannya.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan konsol Google Cloud untuk mengakses layanan Google Cloud dan API, Anda tidak perlu menyiapkan autentikasi.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

    Instal Google Cloud CLI, lalu login ke gcloud CLI dengan identitas gabungan Anda.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan guna melihat cluster pelatihan, minta administrator untuk memberi Anda peran IAM Agent Platform Viewer (roles/aiplatform.viewer) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk melihat cluster pelatihan. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk melihat cluster pelatihan:

  • Untuk melihat daftar cluster: aiplatform.modelDevelopmentClusters.list
  • Untuk melihat detail satu cluster: aiplatform.modelDevelopmentClusters.get

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Visibilitas konsol

Izin IAM saja tidak membuat cluster pelatihan terlihat di konsol Google Cloud . Halaman Training Clusters hanya muncul untuk project yang terdaftar dalam cluster pelatihan Gemini Enterprise Agent Platform. Jika Anda tidak melihat halaman tersebut, hubungi sales representative Anda.

Konsol Google Cloud juga memerlukan API berikut agar diaktifkan di project Anda. Jika salah satu di antaranya tidak ada, halaman Grup Pelatihan akan menampilkan tombol Aktifkan API, bukan grup Anda:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

Autentikasi untuk API

Contoh Agent Platform API di halaman ini menggunakan alias berikut, yang memanggil Google Cloud CLI untuk membuat token akses:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

Melihat daftar cluster

Kedua antarmuka mencantumkan cluster satu region dalam satu waktu. Di konsol Google Cloud , Anda memilih region dari daftar, dan dengan Agent Platform API, region adalah bagian dari URL permintaan.

Konsol

  1. Di konsol Google Cloud , buka halaman Training Clusters.

    Buka Training Clusters

  2. Di daftar Region, pilih region tempat Anda ingin melihat cluster.

    Halaman ini mencantumkan cluster di wilayah tersebut. Setiap kolom tabel menjelaskan properti cluster:

    Kolom Deskripsi
    ID ID cluster, yang Anda gunakan sebagai CLUSTER_ID dalam permintaan Agent Platform API.
    Nama Nama tampilan cluster.
    Status Status cluster: Creating, Running, Updating, Stopping, atau Error.
    Node Jumlah node dalam cluster.
    Tanggal dibuat Waktu cluster dibuat.
    Jenis mesin Jenis mesin yang digunakan oleh kumpulan node cluster.
    Model konsumsi Cara mendapatkan kapasitas cluster: Reservation, Spot, Flex-start, atau On-demand.

  3. Untuk membuka cluster, klik namanya di kolom Nama.

REST

Untuk melihat daftar cluster di satu region, kirim permintaan GET ke koleksi modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

Ganti kode berikut:

  • PROJECT_ID: ID project Anda.
  • REGION: region tempat cluster Anda berada.

Metode list mendukung parameter kueri opsional berikut untuk mengontrol penomoran halaman:

  • pageSize (integer, opsional): Jumlah maksimum cluster yang akan ditampilkan dalam respons. Layanan mungkin menampilkan lebih sedikit dari nilai ini, meskipun ada lebih banyak item. Jika tidak ditentukan, ukuran halaman default akan digunakan.
  • pageToken (string, opsional): Token yang diterima dari panggilan daftar sebelumnya. Berikan token ini untuk mengambil halaman hasil berikutnya.

Contoh berikut meminta halaman hasil pertama, dengan maksimum lima kelompok per halaman:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

Respons yang berhasil berisi array modelDevelopmentClusters dengan hingga lima resource cluster, dan juga dapat menyertakan string nextPageToken.

Melihat detail cluster

Konsol Google Cloud dan Agent Platform API melaporkan konfigurasi cluster dan statusnya saat ini, termasuk status setiap nodenya. Dasbor Cloud Monitoring hanya tersedia di konsol Google Cloud .

Konsol

  1. Di konsol Google Cloud , buka halaman Training Clusters.

    Buka Training Clusters

  2. Di daftar Region, pilih region tempat cluster berada.

  3. Di kolom Name, klik nama cluster yang ingin Anda lihat. Halaman Cluster details akan terbuka di tab Overview.

  4. Pilih tab untuk melihat detail yang sesuai:

    • Ringkasan: nama, deskripsi, dan lokasi cluster, beserta setelan komputasi, jaringan, dan orkestrasinya yang dikonfigurasi, node login, dan partisi Slurm.

    • Nodes: dua tabel yang mendeskripsikan node dalam cluster.

    • Login nodes, dengan kolom Status, Name, Zone, Machine type, Internal IP, External IP, dan Connect. Gunakan Connect untuk membuka sesi SSH di node login.

    • Compute nodes, dengan kolom Status, Name, Zone, Machine type, Internal IP, dan Partition.

    • Kemampuan observasi: dasbor Cloud Monitoring bawaan yang mencakup penggunaan CPU, memori, dan jaringan di seluruh cluster, beserta penggunaan GPU, metrik NVIDIA Data Center GPU Manager (DCGM), jaringan GPU, dan kondisi GPU.

Untuk memuat ulang halaman dengan status cluster saat ini, klik Muat ulang. Untuk menghapus cluster, klik Hapus.

REST

Untuk melihat detail satu cluster, kirim permintaan GET ke resource cluster:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

Ganti kode berikut:

  • PROJECT_ID: ID project Anda.
  • REGION: region tempat cluster Anda berada.
  • CLUSTER_ID: ID cluster yang ingin Anda lihat. Nilai ini adalah nilai yang ditampilkan di kolom ID pada halaman Training Clusters di konsolGoogle Cloud .

Responsnya adalah resource ModelDevelopmentCluster. Selain konfigurasi cluster, kolom clusterStatus melaporkan status cluster dan setiap nodenya saat ini:

  • clusterStatus.state: status cluster, salah satu dari PROVISIONING, RUNNING, UPDATING, STOPPING, atau ERROR. Konsol Google Cloud menampilkan PROVISIONING sebagai Creating.
  • clusterStatus.nodesStatus[]: satu entri untuk setiap node dalam cluster, yang memberikan nodeState node (PREPARING, RUNNING, UPDATING, atau ERROR), nama instance Compute Engine, node pool, dan waktu terakhir kali statusnya berubah.
  • clusterStatus.detail: deskripsi status cluster yang dapat dibaca manusia, jika tersedia.

Untuk mengetahui deskripsi kolom konfigurasi, lihat referensi parameter.

Langkah berikutnya