Questa pagina mostra come elencare e visualizzare i cluster di addestramento nel tuo progetto utilizzando la Google Cloud console o l'API Agent Platform (Google Cloud CLI non è supportata).
La visualizzazione di un cluster ti consente di confermare quanto segue:
- Configurazione cluster
- Stato del cluster e dei nodi
- Informazioni sul nodo di accesso
- Utilizzo delle risorse cluster
Se stai cercando istruzioni per aggiornare un cluster, consulta Gestire il cluster.
Prima di iniziare
Esegui l'autenticazione a Gemini Enterprise Agent Platform, se non l'hai già fatto.
Seleziona la scheda relativa alla modalità di utilizzo degli esempi in questa pagina:
Console
Quando utilizzi la Google Cloud console per accedere a Google Cloud servizi e API, non devi configurare l'autenticazione.
REST
Per utilizzare gli esempi di API REST in questa pagina in un ambiente di sviluppo locale, utilizzi le credenziali che fornisci a gcloud CLI.
Installa Google Cloud CLI, quindi accedi a gcloud CLI con la tua identità federata.
Per saperne di più, consulta Autenticati per usare REST nella Google Cloud documentazione sull'autenticazione di.
Ruoli obbligatori
Per ottenere le autorizzazioni necessarie per visualizzare i cluster di addestramento,
chiedi all'amministratore di concederti il
ruolo IAM Visualizzatore di Agent Platform (roles/aiplatform.viewer) nel progetto.
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questo ruolo predefinito contiene le autorizzazioni necessarie per visualizzare i cluster di addestramento. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per visualizzare i cluster di addestramento sono necessarie le seguenti autorizzazioni:
-
Per visualizzare un elenco di cluster:
aiplatform.modelDevelopmentClusters.list -
Per visualizzare i dettagli di un singolo cluster:
aiplatform.modelDevelopmentClusters.get
Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Visibilità della console
Le autorizzazioni IAM da sole non rendono visibili i cluster di addestramento nella Google Cloud console. La pagina Cluster di addestramento viene visualizzata solo per i progetti registrati nei cluster di addestramento di Gemini Enterprise Agent Platform. Se non vedi la pagina, contatta il tuo rappresentante di vendita.
La Google Cloud console richiede anche l'abilitazione delle seguenti API nel tuo progetto. Se ne manca una, la pagina Cluster di addestramento mostra un pulsante Abilita API anziché i cluster:
aiplatform.googleapis.comcompute.googleapis.comfile.googleapis.comhypercomputecluster.googleapis.comlustre.googleapis.comservicenetworking.googleapis.comstorage.googleapis.com
Autenticazione per l'API
Gli esempi di API Agent Platform in questa pagina utilizzano il seguente alias, che chiama Google Cloud CLI per generare un token di accesso:
alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'
Visualizzare un elenco di cluster
Entrambe le interfacce elencano i cluster una regione alla volta. Nella Google Cloud console scegli la regione da un elenco e con l'API Agent Platform la regione fa parte dell'URL della richiesta.
Console
Nella Google Cloud console, vai alla pagina Cluster di addestramento.
Nell'elenco Regione, seleziona la regione in cui vuoi visualizzare i cluster.
La pagina elenca i cluster in quella regione. Ogni colonna della tabella descrive una proprietà del cluster:
Colonna Descrizione ID L'ID cluster, che utilizzi come CLUSTER_IDnelle richieste API Agent Platform.Nome Il nome visualizzato del cluster. Stato Lo stato del cluster: Creating,Running,Updating,StoppingoError.Nodi Il numero di nodi nel cluster. Data di creazione Quando è stato creato il cluster. Tipi di macchina I tipi di macchine utilizzati dai node pool del cluster. Modelli di consumo Come viene ottenuta la capacità del cluster: Reservation,Spot,Flex-startoOn-demand.Per aprire un cluster, fai clic sul suo nome nella colonna Nome.
REST
Per visualizzare un elenco dei cluster in una regione, invia una richiesta GET alla raccolta modelDevelopmentClusters:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters
Sostituisci quanto segue:
- PROJECT_ID: l'ID progetto.
- REGION: la regione in cui esistono i cluster.
Il metodo list supporta i seguenti parametri di ricerca facoltativi per controllare la paginazione:
pageSize(integer, optional): The maximum number of clusters to return in the response. The service may return fewer than this value, even if more items exist. If unspecified, a default page size is used.pageToken(string, optional): A token received from a previous list call. Provide this token to retrieve the subsequent page of results.
L'esempio seguente richiede la prima pagina dei risultati, con un massimo di cinque cluster per pagina:
gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"
Una risposta corretta contiene un array modelDevelopmentClusters con un massimo di cinque risorse cluster e può includere anche una stringa nextPageToken.
Visualizzare i dettagli di un cluster
Sia la Google Cloud console sia l'API Agent Platform segnalano la configurazione di un cluster e il suo stato attuale, incluso lo stato di ciascuno dei suoi nodi. Le dashboard di Cloud Monitoring sono disponibili solo nella Google Cloud console.
Console
Nella Google Cloud console, vai alla pagina Cluster di addestramento.
Nell'elenco Regione, seleziona la regione in cui si trova il cluster.
Nella colonna Nome, fai clic sul nome del cluster che vuoi visualizzare. Si apre la pagina Dettagli cluster nella scheda Panoramica.
Seleziona una scheda per visualizzare i dettagli corrispondenti:
Panoramica: il nome, la descrizione e la località del cluster, insieme alle impostazioni di calcolo, rete e orchestrazione configurate, al nodo di accesso e alle partizioni Slurm.
Nodi: due tabelle che descrivono i nodi nel cluster.
Nodi di accesso, con le colonne Stato, Nome, Zona, Tipo di macchina, IP interno, IP esterno e Connetti. Utilizza Connetti per aprire una sessione SSH su un nodo di accesso.
Nodi di calcolo, con le colonne Stato, Nome, Zona, Tipo di macchina, IP interno e Partizione.
Osservabilità: dashboard predefinite di Cloud Monitoring che coprono l'utilizzo di CPU, memoria e rete nel cluster, nonché l'utilizzo della GPU, le metriche di NVIDIA Data Center GPU Manager (DCGM), la rete GPU e l'integrità della GPU.
Per ricaricare la pagina con lo stato attuale del cluster, fai clic su Aggiorna. Per eliminare il cluster, fai clic su Elimina.
REST
Per visualizzare i dettagli di un singolo cluster, invia una richiesta GET alla risorsa cluster:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID
Sostituisci quanto segue:
- PROJECT_ID: l'ID progetto.
- REGION: la regione in cui esiste il cluster.
- CLUSTER_ID: l'ID del cluster che vuoi visualizzare. Questo è il valore visualizzato nella colonna ID della pagina Cluster di addestramento nella Google Cloud console.
La risposta è una risorsa ModelDevelopmentCluster. Oltre alla configurazione del cluster, il campo clusterStatus riporta lo stato attuale del cluster e di ciascuno dei suoi nodi:
clusterStatus.state: lo stato del cluster, uno traPROVISIONING,RUNNING,UPDATING,STOPPINGoERROR. La Google Cloud console mostraPROVISIONINGcome Creazione.clusterStatus.nodesStatus[]: una voce per ogni nodo nel cluster, che indicanodeStatedel nodo (PREPARING,RUNNING,UPDATINGoERROR), il nome dell'istanza Compute Engine, il pool di nodi e l'ultima volta che lo stato è cambiato.clusterStatus.detail: una descrizione leggibile dello stato del cluster, se disponibile.
Per una descrizione dei campi di configurazione, consulta il riferimento ai parametri.