Cluster aufrufen

Wenn Sie sich für Trainingscluster der Gemini Enterprise Agent Platform interessieren, wenden Sie sich an Ihren Vertriebsmitarbeiter, um Zugriff zu erhalten.

Auf dieser Seite wird beschrieben, wie Sie die Trainingscluster in Ihrem Projekt mit der Google Cloud Console oder der Agent Platform API auflisten und ansehen. Die Google Cloud CLI wird nicht unterstützt.

Wenn Sie einen Cluster ansehen, können Sie Folgendes bestätigen:

  • Clusterkonfiguration
  • Cluster- und Knotenstatus
  • Informationen zum Anmeldeknoten
  • Nutzung von Clusterressourcen

Eine Anleitung zum Aktualisieren eines Clusters finden Sie unter Cluster verwalten.

Hinweis

Authentifizieren Sie sich bei der Gemini Enterprise Agent Platform, sofern nicht bereits geschehen.

Wählen Sie den Tab für die Verwendung der Beispiele auf dieser Seite aus:

Console

Wenn Sie über die Google Cloud Console auf Google Cloud Dienste und APIs zugreifen, müssen Sie keine Authentifizierung einrichten.

REST

Wenn Sie die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung verwenden möchten, verwenden Sie die Anmeldedaten, die Sie der gcloud CLI bereitstellen.

    Installieren Sie die Google Cloud CLI und melden Sie sich dann mit Ihrer föderierten Identität in der gcloud CLI an.

Weitere Informationen finden Sie in der Google Cloud Authentifizierungsdokumentation unter Für die Verwendung von REST authentifizieren.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Agent Platform Viewer (roles/aiplatform.viewer) für das Projekt zu erteilen, um die Berechtigungen zu erhalten, die Sie zum Aufrufen von Trainingsclustern benötigen, . Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die zum Aufrufen von Trainingsclustern erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen , um die notwendigen Berechtigungen anzuzeigen, die erforderlich sind:

Erforderliche Berechtigungen

Für das Aufrufen von Trainingsclustern sind die folgenden Berechtigungen erforderlich:

  • Liste der Cluster aufrufen: aiplatform.modelDevelopmentClusters.list
  • Details zu einem einzelnen Cluster aufrufen: aiplatform.modelDevelopmentClusters.get

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Sichtbarkeit in der Console

IAM-Berechtigungen allein machen Trainingscluster nicht sichtbar in der Google Cloud Console. Die Seite Trainingscluster wird nur für Projekte angezeigt, die für Trainingscluster der Gemini Enterprise Agent Platform registriert sind. Wenn die Seite nicht angezeigt wird, wenden Sie sich an Ihren Vertriebsmitarbeiter.

Für die Google Cloud Console müssen außerdem die folgenden APIs in Ihrem Projekt aktiviert sein. Wenn eine davon fehlt, wird auf der Seite Trainingscluster anstelle Ihrer Cluster die Schaltfläche APIs aktivieren angezeigt:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

Authentifizierung für die API

In den Beispielen für die Agent Platform API auf dieser Seite wird der folgende Alias verwendet, der die Google Cloud CLI aufruft, um ein Zugriffstoken zu erstellen:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

Liste der Cluster aufrufen

In beiden Schnittstellen werden Cluster jeweils in einer Region aufgelistet. In der Google Cloud Console wählen Sie die Region aus einer Liste aus. Bei der Agent Platform API ist die Region Teil der Anfrage-URL.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Trainingscluster auf.

    Zu den Trainingsclustern

  2. Wählen Sie in der Liste Region die Region aus, in der Sie Cluster aufrufen möchten.

    Auf der Seite werden die Cluster in dieser Region aufgelistet. Jede Spalte der Tabelle beschreibt eine Eigenschaft des Clusters:

    Spalte Beschreibung
    ID Die Cluster-ID, die Sie in Anfragen an die Agent Platform API als CLUSTER_ID verwenden.
    Name Der Anzeigename des Clusters.
    Status Der Status des Clusters: Creating, Running, Updating, Stopping oder Error.
    Knoten Die Anzahl der Knoten im Cluster.
    Erstellungsdatum Das Datum, an dem der Cluster erstellt wurde.
    Maschinentypen Die Maschinentypen, die von den Knotenpools des Clusters verwendet werden.
    Nutzungsmodelle Wie die Kapazität des Clusters bezogen wird: Reservation, Spot, Flex-start oder On-demand.

  3. Klicken Sie in der Spalte Name auf den Namen eines Clusters, um ihn zu öffnen.

REST

Wenn Sie eine Liste der Cluster in einer Region aufrufen möchten, senden Sie eine GET-Anfrage an die Sammlung modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

Ersetzen Sie Folgendes:

  • PROJECT_ID: die Projekt-ID.
  • REGION: die Region, in der sich Ihre Cluster befinden.

Die Methode list unterstützt die folgenden optionalen Abfrageparameter zur Steuerung der Paginierung:

  • pageSize (Ganzzahl, optional): Die maximale Anzahl der Cluster, die in der Antwort zurückgegeben werden sollen. Der Dienst gibt möglicherweise weniger als diesen Wert zurück, auch wenn mehr Elemente vorhanden sind. Wenn nicht angegeben, wird eine Standardseitengröße verwendet.
  • pageToken (String, optional): Ein Token, das von einem vorherigen Listenaufruf empfangen wurde. Geben Sie dieses Token an, um die nächste Seite mit Ergebnissen abzurufen.

Im folgenden Beispiel wird die erste Seite mit Ergebnissen mit maximal fünf Clustern pro Seite angefordert:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

Eine erfolgreiche Antwort enthält ein modelDevelopmentClusters-Array mit bis zu fünf Clusterressourcen und möglicherweise auch einen nextPageToken-String.

Details zu einem Cluster ansehen

Sowohl die Google Cloud Console als auch die Agent Platform API melden die Konfiguration und den aktuellen Status eines Clusters, einschließlich des Status der einzelnen Knoten. Die Cloud Monitoring-Dashboards sind nur in der Google Cloud Console verfügbar.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Trainingscluster auf.

    Zu den Trainingsclustern

  2. Wählen Sie in der Liste Region die Region aus, in der sich der Cluster befindet.

  3. Klicken Sie in der Spalte Name auf den Namen des Clusters, den Sie ansehen möchten. Die Seite Clusterdetails wird auf dem Tab Übersicht geöffnet.

  4. Wählen Sie einen Tab aus, um die entsprechenden Details aufzurufen:

    • Übersicht: Name, Beschreibung und Standort des Clusters sowie die konfigurierten Einstellungen für Compute, Netzwerk und Orchestrierung, den Anmeldeknoten und die Slurm-Partitionen.

    • Knoten: zwei Tabellen mit einer Beschreibung der Knoten im Cluster.

    • Anmeldeknoten mit den Spalten Status, Name, Zone, Maschinentyp, Interne IP-Adresse, Externe IP-Adresse und Verbinden. Verwenden Sie Verbinden , um eine SSH-Sitzung auf einem Anmeldeknoten zu öffnen.

    • Compute-Knoten mit den Spalten Status, Name, Zone, Maschinentyp, Interne IP-Adresse und Partition.

    • Beobachtbarkeit: vorgefertigte Cloud Monitoring-Dashboards zur CPU-, Arbeitsspeicher- und Netzwerknutzung im gesamten Cluster sowie zur GPU-Auslastung, zu NVIDIA Data Center GPU Manager (DCGM)-Messwerten, zum GPU-Netzwerk und zum GPU-Status.

Klicken Sie auf Aktualisieren, um die Seite mit dem aktuellen Status des Clusters neu zu laden. Klicken Sie auf „Löschen“ Löschen , um den Cluster zu löschen.

REST

Wenn Sie die Details eines einzelnen Clusters aufrufen möchten, senden Sie eine GET-Anfrage an die Clusterressource:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

Ersetzen Sie Folgendes:

  • PROJECT_ID: die Projekt-ID.
  • REGION: die Region, in der sich Ihr Cluster befindet.
  • CLUSTER_ID: die ID des Clusters, den Sie ansehen möchten. Dies ist der Wert, der in der Console in der Spalte ID auf der Seite Trainingscluster angezeigt wird. Google Cloud

Die Antwort ist eine ModelDevelopmentCluster-Ressource. Neben der Konfiguration des Clusters enthält das Feld clusterStatus den aktuellen Status des Clusters und der einzelnen Knoten:

  • clusterStatus.state: der Status des Clusters, einer der folgenden Werte: PROVISIONING, RUNNING, UPDATING, STOPPING oder ERROR. In der Google Cloud Console wird PROVISIONING als Erstellen angezeigt.
  • clusterStatus.nodesStatus[]: ein Eintrag für jeden Knoten im Cluster mit dem nodeState des Knotens (PREPARING, RUNNING, UPDATING oder ERROR), dem Namen der Compute Engine-Instanz, dem Knotenpool und dem Zeitpunkt, zu dem sich der Status zuletzt geändert hat.
  • clusterStatus.detail: eine menschenlesbare Beschreibung des Clusterstatus, falls verfügbar.

Eine Beschreibung der Konfigurationsfelder finden Sie in der Parameterreferenz.

Nächste Schritte