Cluster aufrufen

Wenn Sie an Gemini Enterprise Agent Platform-Trainingsclustern interessiert sind, wenden Sie sich an Ihren Vertriebsmitarbeiter, um Zugriff zu erhalten.

Auf dieser Seite erfahren Sie, wie Sie die Trainingscluster in Ihrem Projekt mithilfe der Google Cloud Console oder der Agent Platform API auflisten und ansehen können (Google Cloud CLI wird nicht unterstützt).

Wenn Sie sich einen Cluster ansehen, können Sie Folgendes bestätigen:

  • Clusterkonfiguration
  • Cluster- und Knotenstatus
  • Informationen zum Log‑in-Knoten
  • Nutzung von Clusterressourcen

Eine Anleitung zum Aktualisieren eines Clusters finden Sie unter Cluster verwalten.

Hinweis

Authentifizieren Sie sich bei der Gemini Enterprise Agent Platform, sofern nicht bereits geschehen.

Wählen Sie den Tab für die gewünschte Verwendung der Beispiele auf dieser Seite aus:

Console

Wenn Sie über die Google Cloud Console auf Google Cloud -Dienste und -APIs zugreifen, müssen Sie die Authentifizierung nicht einrichten.

REST

Wenn Sie die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung verwenden möchten, verwenden Sie die Anmeldedaten, die Sie der gcloud CLI bereitstellen.

    Installieren Sie die Google Cloud CLI und melden Sie sich dann mit Ihrer föderierten Identität in der gcloud CLI an.

Weitere Informationen finden Sie in der Dokumentation zur Google Cloud -Authentifizierung unter Für die Verwendung von REST authentifizieren.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Agent Platform Viewer (roles/aiplatform.viewer) für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Aufrufen von Trainingsclustern benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die zum Aufrufen von Trainingsclustern erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen, um die notwendigen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Die folgenden Berechtigungen sind erforderlich, um Trainingscluster aufzurufen:

  • So rufen Sie eine Liste der Cluster auf: aiplatform.modelDevelopmentClusters.list
  • So rufen Sie die Details eines einzelnen Clusters auf: aiplatform.modelDevelopmentClusters.get

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Sichtbarkeit in der Console

IAM-Berechtigungen allein machen Trainingscluster in der Google Cloud Console nicht sichtbar. Die Seite Trainingscluster wird nur für Projekte angezeigt, die für Gemini Enterprise Agent Platform-Trainingscluster registriert sind. Wenn Sie die Seite nicht sehen, wenden Sie sich an Ihren Vertriebsmitarbeiter.

In der Google Cloud Console müssen außerdem die folgenden APIs in Ihrem Projekt aktiviert sein. Wenn eine davon fehlt, wird auf der Seite Trainingscluster anstelle Ihrer Cluster der Button APIs aktivieren angezeigt:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

Authentifizierung für die API

In den Beispielen für die Agent Platform API auf dieser Seite wird der folgende Alias verwendet, der die Google Cloud CLI aufruft, um ein Zugriffstoken zu generieren:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

Liste der Cluster aufrufen

In beiden Oberflächen werden Cluster jeweils für eine Region aufgelistet. In der Google Cloud Console wählen Sie die Region aus einer Liste aus. Bei der Agent Platform API ist die Region Teil der Anfrage-URL.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Trainingscluster auf.

    Zu den Trainingsclustern

  2. Wählen Sie in der Liste Region die Region aus, in der Sie Cluster aufrufen möchten.

    Auf der Seite werden die Cluster in dieser Region aufgeführt. In jeder Spalte der Tabelle wird ein Attribut des Clusters beschrieben:

    Spalte Beschreibung
    ID Die Cluster-ID, die Sie als CLUSTER_ID in Agent Platform API-Anfragen verwenden.
    Name Der Anzeigename des Clusters.
    Status Der Status des Clusters: Creating, Running, Updating, Stopping oder Error.
    Knoten Die Anzahl der Knoten im Cluster.
    Erstellungsdatum Zeitpunkt der Erstellung des Clusters.
    Maschinentypen Die von den Knotenpools des Clusters verwendeten Maschinentypen.
    Nutzungsmodelle Wie die Kapazität des Clusters abgerufen wird: Reservation, Spot, Flex-start oder On-demand.

  3. Klicken Sie in der Spalte Name auf den Namen eines Clusters, um ihn zu öffnen.

REST

Wenn Sie eine Liste der Cluster in einer Region aufrufen möchten, senden Sie eine GET-Anfrage an die Sammlung modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

Ersetzen Sie Folgendes:

  • PROJECT_ID: die Projekt-ID.
  • REGION: die Region, in der sich Ihre Cluster befinden.

Die Methode list unterstützt die folgenden optionalen Suchparameter, um die Paginierung zu steuern:

  • pageSize (Ganzzahl, optional): Die maximale Anzahl von Clustern, die in der Antwort zurückgegeben werden sollen. Der Dienst gibt möglicherweise weniger als diesen Wert zurück, auch wenn mehr Elemente vorhanden sind. Wenn keine Angabe erfolgt, wird eine Standardseitengröße verwendet.
  • pageToken (String, optional): Ein Token, das von einem vorherigen Listenaufruf empfangen wurde. Geben Sie dieses Token an, um die nachfolgende Ergebnisseite abzurufen.

Im folgenden Beispiel wird die erste Ergebnisseite mit maximal fünf Clustern pro Seite angefordert:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

Eine erfolgreiche Antwort enthält ein modelDevelopmentClusters-Array mit bis zu fünf Clusterressourcen und kann auch einen nextPageToken-String enthalten.

Details eines Clusters ansehen

Sowohl die Google Cloud Console als auch die Agent Platform API melden die Konfiguration eines Clusters und seinen aktuellen Status, einschließlich des Status jedes seiner Knoten. Die Cloud Monitoring-Dashboards sind nur in der Google Cloud Console verfügbar.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Trainingscluster auf.

    Zu den Trainingsclustern

  2. Wählen Sie in der Liste Region die Region aus, in der sich der Cluster befindet.

  3. Klicken Sie in der Spalte Name auf den Namen des Clusters, den Sie aufrufen möchten. Die Seite Clusterdetails wird auf dem Tab Übersicht geöffnet.

  4. Wählen Sie einen Tab aus, um die entsprechenden Details aufzurufen:

    • Übersicht: Name, Beschreibung und Standort des Clusters sowie die konfigurierten Einstellungen für Computing, Netzwerk und Orchestrierung, der Login-Knoten und die Slurm-Partitionen.

    • Knoten: Zwei Tabellen, in denen die Knoten im Cluster beschrieben werden.

    • Login-Knoten mit den Spalten Status, Name, Zone, Maschinentyp, Interne IP-Adresse, Externe IP-Adresse und Verbinden. Verwenden Sie Verbinden, um eine SSH-Sitzung auf einem Login-Knoten zu öffnen.

    • Compute-Knoten mit den Spalten Status, Name, Zone, Maschinentyp, Interne IP-Adresse und Partition.

    • Beobachtbarkeit: Vordefinierte Cloud Monitoring-Dashboards, die CPU-, Arbeitsspeicher- und Netzwerknutzung im gesamten Cluster sowie GPU-Auslastung, NVIDIA Data Center GPU Manager (DCGM)-Messwerte, GPU-Netzwerk und GPU-Zustand abdecken.

Klicken Sie auf Aktualisieren, um die Seite mit dem aktuellen Status des Clusters neu zu laden. Klicken Sie zum Löschen des Clusters auf Löschen.

REST

Wenn Sie die Details eines einzelnen Clusters aufrufen möchten, senden Sie eine GET-Anfrage an die Clusterressource:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

Ersetzen Sie Folgendes:

  • PROJECT_ID: die Projekt-ID.
  • REGION: die Region, in der sich Ihr Cluster befindet.
  • CLUSTER_ID: Die ID des Clusters, den Sie aufrufen möchten. Dies ist der Wert, der in der Spalte ID auf der Seite Trainingscluster in derGoogle Cloud Console angezeigt wird.

Die Antwort ist eine ModelDevelopmentCluster-Ressource. Neben der Konfiguration des Clusters wird im Feld clusterStatus der aktuelle Status des Clusters und jedes seiner Knoten angezeigt:

  • clusterStatus.state: Der Status des Clusters, entweder PROVISIONING, RUNNING, UPDATING, STOPPING oder ERROR. In der Google Cloud Console wird PROVISIONING als Wird erstellt angezeigt.
  • clusterStatus.nodesStatus[]: Ein Eintrag für jeden Knoten im Cluster, der den nodeState des Knotens (PREPARING, RUNNING, UPDATING oder ERROR), den Namen der Compute Engine-Instanz, den Knotenpool und den Zeitpunkt der letzten Statusänderung angibt.
  • clusterStatus.detail: eine menschenlesbare Beschreibung des Clusterstatus, sofern verfügbar.
  • clusterStatus.infrastructureNotices[]: Aktive Hinweise zur Infrastrukturwartung für den Cluster, sofern vorhanden. Weitere Informationen finden Sie unter Clusterwartung.

Eine Beschreibung der Konfigurationsfelder finden Sie in der Parameterreferenz.

Clusterwartung

Die Trainingscluster der Gemini Enterprise Agent Platform aktualisieren regelmäßig die Clustermanagementsoftware auf einem laufenden Cluster, z. B. den Slurm-Controller. Während oder nach einem Wartungsupdate wird in der Google Cloud Console auf der Seite Trainingscluster in der Spalte Status und auf der Seite Clusterdetails in einem Banner ein Hinweis angezeigt. In der Agent Platform API werden aktive Hinweise im Feld clusterStatus.infrastructureNotices angezeigt.

Die folgenden Wartungshinweise können angezeigt werden:

  • Wartung läuft: Der Cluster wird einer Infrastrukturwartung unterzogen und ist möglicherweise vorübergehend nicht verfügbar. Warten Sie, bis das Wartungsupdate abgeschlossen ist, bevor Sie neue Slurm-Jobs senden oder den Cluster aktualisieren.
  • Unvollständige Wartung: Ein unerwartetes Problem hat verhindert, dass das Wartungsupdate abgeschlossen wurde. Der Cluster bleibt funktionsfähig und es sind keine Maßnahmen erforderlich, wenn Ihre Arbeitslasten normal ausgeführt werden. Wenn der Cluster teilweise nicht zugänglich ist oder Slurm-Befehle fehlschlagen, wenden Sie sich mit Ihrer Projekt-ID, Cluster-ID und Region an Ihren Google-Ansprechpartner oder dasGoogle Cloud -Supportteam.

Wartungshinweise werden automatisch gelöscht, wenn die Wartung abgeschlossen ist.

Nächste Schritte