Visualizza cluster

Se ti interessano i cluster di addestramento di Gemini Enterprise Agent Platform, contatta il tuo rappresentante di vendita per l'accesso.

Questa pagina mostra come elencare e visualizzare i cluster di addestramento nel tuo progetto utilizzando la console Google Cloud o l'API Agent Platform (Google Cloud CLI non supportata).

La visualizzazione di un cluster ti consente di verificare quanto segue:

  • Configurazione cluster
  • Stato del cluster e dei nodi
  • Informazioni sul nodo di accesso
  • Utilizzo delle risorse cluster

Se stai cercando istruzioni su come aggiornare un cluster, consulta Gestisci cluster.

Prima di iniziare

Autenticati in Gemini Enterprise Agent Platform, se non l'hai già fatto.

Seleziona la scheda relativa al modo in cui prevedi di utilizzare gli esempi in questa pagina:

Console

Quando utilizzi la console Google Cloud per accedere ai servizi e alle API Google Cloud , non devi configurare l'autenticazione.

REST

Per utilizzare gli esempi di API REST in questa pagina in un ambiente di sviluppo locale, utilizzi le credenziali che fornisci a gcloud CLI.

    Installa Google Cloud CLI, quindi accedi a gcloud CLI con la tua identità federata.

Per saperne di più, consulta Autenticati per usare REST nella documentazione sull'autenticazione di Google Cloud .

Ruoli obbligatori

Per ottenere le autorizzazioni necessarie per visualizzare i cluster di addestramento, chiedi all'amministratore di concederti il ruolo IAM Agent Platform Viewer (roles/aiplatform.viewer) nel progetto. Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Questo ruolo predefinito contiene le autorizzazioni necessarie per visualizzare i cluster di addestramento. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:

Autorizzazioni obbligatorie

Per visualizzare i cluster di addestramento sono necessarie le seguenti autorizzazioni:

  • Per visualizzare un elenco di cluster: aiplatform.modelDevelopmentClusters.list
  • Per visualizzare i dettagli di un singolo cluster: aiplatform.modelDevelopmentClusters.get

Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.

Visibilità della console

Le autorizzazioni IAM da sole non rendono visibili i cluster di addestramento nella console Google Cloud . La pagina Cluster di addestramento viene visualizzata solo per i progetti registrati nei cluster di addestramento di Gemini Enterprise Agent Platform. Se non vedi la pagina, contatta il tuo rappresentante di vendita.

La console Google Cloud richiede inoltre l'abilitazione delle seguenti API nel tuo progetto. Se una di queste API non è abilitata, nella pagina Cluster di addestramento viene visualizzato il pulsante Abilita API anziché i cluster:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

Autenticazione per l'API

Gli esempi dell'API Agent Platform in questa pagina utilizzano il seguente alias, che chiama Google Cloud CLI per generare un token di accesso:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

Visualizza un elenco di cluster

Entrambe le interfacce elencano i cluster una regione alla volta. Nella console Google Cloud scegli la regione da un elenco, mentre con l'API Agent Platform la regione fa parte dell'URL della richiesta.

Console

  1. Nella console Google Cloud , vai alla pagina Cluster di addestramento.

    Vai a Cluster di addestramento

  2. Nell'elenco Regione, seleziona la regione in cui vuoi visualizzare i cluster.

    La pagina elenca i cluster in quella regione. Ogni colonna della tabella descrive una proprietà del cluster:

    Colonna Descrizione
    ID L'ID cluster, che utilizzi come CLUSTER_ID nelle richieste API di Agent Platform.
    Nome Il nome visualizzato del cluster.
    Stato Lo stato del cluster: Creating, Running, Updating, Stopping o Error.
    Nodi Il numero di nodi nel cluster.
    Data di creazione Quando è stato creato il cluster.
    Tipi di macchina I tipi di macchine utilizzati dai node pool del cluster.
    Modelli di consumo Come viene ottenuta la capacità del cluster: Reservation, Spot, Flex-start o On-demand.

  3. Per aprire un cluster, fai clic sul suo nome nella colonna Nome.

REST

Per visualizzare un elenco dei cluster in una regione, invia una richiesta GET alla raccolta modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

Sostituisci quanto segue:

  • PROJECT_ID: l'ID progetto.
  • REGION: la regione in cui si trovano i cluster.

Il metodo list supporta i seguenti parametri di ricerca facoltativi per controllare l'impaginazione:

  • pageSize (numero intero, facoltativo): il numero massimo di cluster da restituire nella risposta. Il servizio potrebbe restituire un numero di elementi inferiore a questo valore, anche se esistono più elementi. Se non viene specificata, viene utilizzata una dimensione di pagina predefinita.
  • pageToken (stringa, facoltativo): un token ricevuto da una chiamata dell'elenco precedente. Fornisci questo token per recuperare la pagina di risultati successiva.

L'esempio seguente richiede la prima pagina di risultati, con un massimo di cinque cluster per pagina:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

Una risposta corretta contiene un array modelDevelopmentClusters con un massimo di cinque risorse cluster e può includere anche una stringa nextPageToken.

Visualizza i dettagli di un cluster

Sia la console Google Cloud sia l'API Agent Platform segnalano la configurazione di un cluster e il suo stato attuale, incluso lo stato di ciascuno dei suoi nodi. Le dashboard di Cloud Monitoring sono disponibili solo nella console Google Cloud .

Console

  1. Nella console Google Cloud , vai alla pagina Cluster di addestramento.

    Vai a Cluster di addestramento

  2. Nell'elenco Regione, seleziona la regione in cui si trova il cluster.

  3. Nella colonna Nome, fai clic sul nome del cluster che vuoi visualizzare. Viene visualizzata la pagina Dettagli cluster nella scheda Panoramica.

  4. Seleziona una scheda per visualizzare i dettagli corrispondenti:

    • Panoramica: il nome, la descrizione e la località del cluster, insieme alle impostazioni di computing, rete e orchestrazione configurate, al nodo di accesso e alle partizioni Slurm.

    • Nodi: due tabelle che descrivono i nodi nel cluster.

    • Nodi di accesso, con le colonne Stato, Nome, Zona, Tipo di macchina, IP interno, IP esterno e Connetti. Utilizza Connetti per aprire una sessione SSH su un nodo di accesso.

    • Nodi di computing, con le colonne Stato, Nome, Zona, Tipo di macchina, IP interno e Partizione.

    • Osservabilità: dashboard di Cloud Monitoring predefinite che coprono l'utilizzo di CPU, memoria e rete nel cluster, oltre all'utilizzo della GPU, alle metriche di NVIDIA Data Center GPU Manager (DCGM), alla rete della GPU e allo stato della GPU.

Per ricaricare la pagina con lo stato attuale del cluster, fai clic su Aggiorna. Per eliminare il cluster, fai clic su Elimina.

REST

Per visualizzare i dettagli di un singolo cluster, invia una richiesta GET alla risorsa cluster:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

Sostituisci quanto segue:

  • PROJECT_ID: l'ID progetto.
  • REGION: la regione in cui si trova il cluster.
  • CLUSTER_ID: l'ID del cluster che vuoi visualizzare. Questo è il valore mostrato nella colonna ID della pagina Cluster di addestramento nella consoleGoogle Cloud .

La risposta è una risorsa ModelDevelopmentCluster. Oltre alla configurazione del cluster, il campo clusterStatus riporta lo stato attuale del cluster e di ciascuno dei suoi nodi:

  • clusterStatus.state: lo stato del cluster, uno tra PROVISIONING, RUNNING, UPDATING, STOPPING o ERROR. La console Google Cloud mostra PROVISIONING come In fase di creazione.
  • clusterStatus.nodesStatus[]: una voce per ogni nodo del cluster, che indica il nodeState del nodo (PREPARING, RUNNING, UPDATING o ERROR), il nome dell'istanza Compute Engine, il pool di nodi e l'ora dell'ultima modifica dello stato.
  • clusterStatus.detail: una descrizione leggibile dello stato del cluster, se disponibile.
  • clusterStatus.infrastructureNotices[]: avvisi di manutenzione dell'infrastruttura attivi per il cluster, se presenti. Per saperne di più, consulta Manutenzione del cluster.

Per una descrizione dei campi di configurazione, consulta il riferimento ai parametri.

Manutenzione dei cluster

I cluster di addestramento di Gemini Enterprise Agent Platform aggiornano periodicamente il software di gestione dei cluster su un cluster in esecuzione, ad esempio il controller Slurm. Durante o dopo un aggiornamento di manutenzione, la console Google Cloud mostra un avviso nella colonna Stato della pagina Cluster di addestramento e in un banner nella pagina Dettagli cluster. Nell'API Agent Platform, le notifiche attive vengono visualizzate nel campo clusterStatus.infrastructureNotices.

Possono essere visualizzati i seguenti avvisi di manutenzione:

  • Manutenzione in corso: il cluster è in fase di manutenzione dell'infrastruttura e potrebbe non essere disponibile temporaneamente. Attendi il completamento dell'aggiornamento di manutenzione prima di inviare nuovi job Slurm o aggiornare il cluster.
  • Manutenzione incompleta: un problema imprevisto ha impedito il completamento dell'aggiornamento di manutenzione. Il cluster rimane operativo e non è necessaria alcuna azione se i workload vengono eseguiti normalmente. Se il cluster è parzialmente inaccessibile o i comandi Slurm non vanno a buon fine, contatta il tuo rappresentante di Google o il team di assistenzaGoogle Cloud con l'ID progetto, l'ID cluster e la regione.

Le notifiche di manutenzione vengono cancellate automaticamente al termine della manutenzione.

Passaggi successivi