Google verwendet KI-Technologie, um Inhalte in Ihre bevorzugte Sprache zu übersetzen. KI-Übersetzungen können Fehler enthalten.

Schnelleres Starten von Arbeitslasten mit Schnellstartknoten

Autopilot

Auf dieser Seite erfahren Sie, wie Sie Arbeitslasten in Google Kubernetes Engine-Clustern (GKE) mithilfe von schnell startenden Knoten schneller bereitstellen und skalieren können. Schnellstartknoten werden in GKE im Autopilot-Modus nach dem Best-Effort-Prinzip verwendet, wenn Arbeitslasten kompatible Konfigurationen verwenden.

Schnell startende GKE-Knoten haben für kompatible Maschinenfamilien eine deutlich kürzere Startzeit. Die beschleunigte Startzeit bietet folgende Vorteile:

Schnellerer Kaltstart
Schnelleres Autoscaling
Verbesserte Longtail-Latenz bei der Pod-Planung
Verbesserte Kosteneffizienz der Infrastruktur

Mit schnell startenden Knoten initialisiert GKE Hardwareressourcen vorab, um die Startzeit zu verkürzen. Die vorinitialisierten Ressourcen sind nach dem Best-Effort-Prinzip verfügbar. Anfragen bei Lastspitzen werden möglicherweise nur teilweise verarbeitet. Ohne Knoten mit Schnellstart werden Ressourcen bei Bedarf initialisiert und Knoten werden mit der normalen Startzeit bereitgestellt.

Voraussetzungen

Für schnell startende Knoten ist keine zusätzliche Konfiguration erforderlich. GKE verwendet automatisch schnell startende Knoten, wenn Ihre Arbeitslasten kompatible Konfigurationen verwenden. Sie müssen alle folgenden Anforderungen erfüllen, um schnell startende Knoten verwenden zu können:

Verwenden Sie Autopilot-Cluster oder führen Sie Arbeitslasten im Autopilot-Modus in Ihren Standardclustern aus.
Verwenden Sie keine Funktionen, die mit schnell startenden Knoten inkompatibel sind. Weitere Informationen finden Sie unter Einschränkungen.
Verwenden Sie eine der folgenden Computing-Ressourcen, die in den entsprechenden Tabellen im Abschnitt Konfigurationsanforderungen für zulässige Computing-Ressourcen beschrieben sind:

Beschränkungen

Die folgenden Funktionen sind nicht mit schnell startenden GKE-Knoten kompatibel. Wenn Sie eine dieser Funktionen verwenden, stellt GKE Knoten mit der typischen Startzeit bereit:

G2 mit der GPU-Treiberversion DEFAULT in GKE-Versionen vor 1.33.0-gke.1304000. Ab Version 1.33.0-gke.1304000 funktionieren sowohl LATEST als auch DEFAULT mit schnell startenden Knoten.
Sekundäre Bootlaufwerke in Versionen vor 1.33.2-gke.1015000.
Spot-VMs
Platzierungsrichtlinien
Unterstützung mehrerer Netzwerke

Autopilot-GPU-Arbeitslasten

Das Anfordern kompatibler GPUs im Autopilot-Modus führt zu einer bis zu viermal schnelleren Knotenstartzeit und einer bis zu zweimal schnelleren Pod-Planungszeit als ähnliche Anfragen im GKE Standard-Modus, da die Autopilot-GPU-Arbeitslasten schnell startende Knoten verwenden können.

Im Folgenden finden Sie einige Anwendungsbeispiele. Alle Pods, die die Bedingungen im Abschnitt Anforderungen erfüllen, sind jedoch mit schnell startenden Knoten kompatibel.

ComputeClass

Fordern Sie einen kompatiblen Beschleunigertyp und eine kompatible Anzahl in einer ComputeClass an, wie im folgenden Beispiel:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
  priorities:
  - gpu:
      type: ACCELERATOR_TYPE
      count: ACCELERATOR_COUNT
  nodePoolAutoCreation:
    enabled: true

Wenn Sie diese ComputeClass in einem Pod auswählen, wie im folgenden Beispiel, verwendet GKE schnell startende Knoten:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    # Select a ComputeClass that requests compatible GPUs
    cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Ersetzen Sie die folgenden Werte:

ACCELERATOR_COMPUTE_CLASS_NAME: der Name der ComputeClass, die die Beschleuniger anfordert.
ACCELERATOR_TYPE: der Beschleunigertyp.
ACCELERATOR_COUNT: die Anzahl der Beschleuniger, die der Pod benötigt. Dieser Wert muss kleiner oder gleich dem Wert im Feld spec.priorities.gpu.count in der ComputeClass sein.
POD_NAME: der Name Ihres Pods.

Weitere Informationen zu ComputeClass finden Sie unter Benutzerdefinierte Compute-Klassen.

Pod-Spezifikation

Wählen Sie in Ihrer Pod-Spezifikation einen kompatiblen Beschleunigertyp und eine kompatible Anzahl aus, wie im folgenden Beispiel:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    cloud.google.com/gke-accelerator: ACCELERATOR_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Ersetzen Sie die folgenden Werte:

POD_NAME: der Name Ihres Pods.
ACCELERATOR_NAME: der Name des Beschleunigers, der für den Pod erforderlich ist.
ACCELERATOR_COUNT: die Anzahl der Beschleuniger, die der Pod benötigt.

Konfigurationsanforderungen für infrage kommende Computing-Ressourcen

In den Tabellen in den folgenden Abschnitten werden die spezifischen Anforderungen für GKE beschrieben, um die relevanten Rechenressourcen als schnell startende Knoten bereitzustellen.

Containeroptimierte Autopilot-Computing-Plattform

Im Folgenden finden Sie die Anforderungen, die GKE erfüllen muss, um schnell startende Knoten mit der containeroptimierten Computing-Plattform von Autopilot bereitzustellen.

Compute-Ressource	Unterstützung für Release-Versionen und Versionen	Unterstützte Laufwerke
Containeroptimierte Computing-Plattform von Autopilot	Rapid Channel 1.33.0-gke.1696000 oder höher	`pd-balanced` Bootlaufwerke mit bis zu 100 GiB Keine lokalen SSDs.

G2-Maschinenserie

Im Folgenden finden Sie die Anforderungen, die GKE erfüllen muss, um G2-Maschinen als schnell startende Knoten bereitzustellen.

Compute-Ressource	Unterstützung für Release-Versionen und Versionen	Unterstützte Laufwerke
G2-Maschinenserie	Rapid und Regular Channel 1.31 oder höher	`pd-balanced`-Bootlaufwerke bis zu 500 GiB Keine lokalen SSDs.

A2-Maschinenserie

Im Folgenden finden Sie die Anforderungen für GKE, um A2-Maschinen als schnell startende Knoten bereitzustellen.

Compute-Ressource	Unterstützung für Release-Versionen und Versionen	Unterstützte Laufwerke
A2-Standardmaschinentypen	Rapid und Regular Channel 1.32.0-gke.1008000 oder höher	`pd-balanced`- oder `pd-ssd`-Bootlaufwerke mit bis zu 1.000 GiB. Keine lokalen SSDs.
A2 Ultra-Maschinentypen	Rapid und Regular Channel 1.32.0-gke.1008000 oder höher	`pd-balanced`- oder `pd-ssd`-Bootlaufwerke bis zu 1.000 GiB, mit höheren Limits für `a2‑ultragpu‑4g` (1.500 GiB) und `a2‑ultragpu‑8g` (3.000 GiB). Mit automatisch angehängten lokalen SSDs.

A3-Maschinenserie

Im Folgenden finden Sie die Anforderungen für GKE, um A3-Maschinen als schnell startende Knoten bereitzustellen.

Compute-Ressource	Unterstützung für Release-Versionen und Versionen	Unterstützte Laufwerke
A3 Mega-Maschinentyp	Rapid Channel 1.34.4-gke.1130000 oder höher	`hyperdisk-balanced`-, `pd-ssd`- oder `pd-balanced`-Bootlaufwerke. Mit automatisch angehängten lokalen SSDs.
A3 High-Maschinentyp (`a3-highgpu-8g`)	Rapid Channel 1.34.4-gke.1130000 oder höher	`hyperdisk-balanced`-, `pd-ssd`- oder `pd-balanced`-Bootlaufwerke. Mit automatisch angehängten lokalen SSDs.

G4-Maschinenserie

Im Folgenden finden Sie die Anforderungen, die GKE erfüllen muss, um G4-Maschinen als schnell startende Knoten bereitzustellen.

Compute-Ressource	Unterstützung für Release-Versionen und Versionen	Unterstützte Laufwerke
G4-Maschinenserie	Rapid Channel 1.34.4-gke.1130000 oder höher	`hyperdisk-balanced` Bootlaufwerke Keine lokalen SSDs.

Preise

Schnell startende Knoten sind in GKE Autopilot ohne Aufpreis verfügbar. Weitere Informationen zu den Preisen für GKE Autopilot finden Sie im Abschnitt „Autopilot-Modus“ unter Preise für Google Kubernetes Engine.

Schnelleres Starten von Arbeitslasten mit Schnellstartknoten Mit Sammlungen den Überblick behalten Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.