Mit dem CPU-Autoscaling in Cloud Run-Worker-Pools können Sie Instanzen basierend auf der durchschnittlichen CPU-Auslastung skalieren, um Leistung und Kosten zu optimieren. Sie können das Autoscaling mit dem Standardziel für die CPU-Auslastung konfigurieren oder benutzerdefinierte Ziele für die CPU-Auslastung und Instanzlimits angeben. Weitere Informationen dazu, wie Cloud Run die Anzahl der Instanzen berechnet und Worker-Pools skaliert, finden Sie unter CPU-Autoscaling.
Wenn Sie einen Worker-Pool bereitstellen, ohne das CPU-Autoscaling zu aktivieren, verwendet Cloud Run standardmäßig die manuelle Skalierung mit einer Instanz.
Wenn Sie Cloud Run External Metrics Autoscaling (CREMA) zum Skalieren Ihrer Arbeitslasten verwenden, wechseln Sie zur manuellen Skalierung.
Erforderliche Rollen
Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Konfigurieren und Bereitstellen von Cloud Run-Worker-Pools benötigen:
- Cloud Run-Entwickler (
roles/run.developer) für den Cloud Run-Worker-Pool - Dienstkontonutzer (
roles/iam.serviceAccountUser) für die Dienstidentität
Eine Liste der IAM-Rollen und -Berechtigungen im Zusammenhang mit Cloud Run finden Sie unter IAM-Rollen für Cloud Run und IAM-Berechtigungen für Cloud Run. Wenn Ihr Cloud Run-Worker-Pool mitGoogle Cloud -APIs wie Cloud-Clientbibliotheken verknüpft ist, lesen Sie die Konfigurationsanleitung für Dienstidentitäten. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Bereitstellungsberechtigungen und Zugriff verwalten.
Standard-CPU-Ziel konfigurieren
Wenn Sie das standardmäßige CPU-Autoscaling aktivieren, strebt Cloud Run eine CPU-Auslastung von 60 % an und skaliert Ihren Worker-Pool zwischen 1 und 100 Instanzen. Sie können das standardmäßige CPU-Auslastungsziel von 60 % beibehalten und optional die Mindest- und Höchstgrenzen für Instanzen an Ihre Anforderungen anpassen.
Wenn Sie den Skalierungsmodus oder die Instanzlimits für einen vorhandenen Worker-Pool aktualisieren, wird keine neue Version erstellt.
Sie können das standardmäßige CPU-Autoscaling für einen Cloud Run-Worker-Pool über die Google Cloud CLI, YAML oder die REST API aktivieren:
gcloud
Führen Sie den folgenden Befehl mit dem Flag
--scaling=autoaus, um einen neuen Worker-Pool mit dem Standard-CPU-Ziel bereitzustellen:gcloud beta run worker-pools deploy WORKER_POOL \ --image=IMAGE_URL \ --scaling=auto
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.IMAGE_URL: ein Verweis auf das Container-Image, das den Worker-Pool enthält, z. B.us-docker.pkg.dev/cloudrun/container/worker-pool:latest.
Führen Sie den folgenden Befehl mit dem Flag
--scaling=autoaus, um einen vorhandenen Worker-Pool für die Verwendung des Standard-CPU-Ziels zu aktualisieren:gcloud beta run worker-pools update WORKER_POOL \ --scaling=auto
Ersetzen Sie
WORKER_POOLdurch den Namen Ihres Worker-Pools.Führen Sie den folgenden Befehl mit den Flags
--scaling=auto,--minund--maxaus, um einen vorhandenen Worker-Pool mit dem Standard-CPU-Ziel und benutzerdefinierten Instanzlimits zu aktualisieren:gcloud beta run worker-pools update WORKER_POOL \ --scaling=auto \ --min=MIN_INSTANCES \ --max=MAX_INSTANCES
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.- Optional:
MIN_INSTANCES: die Mindestanzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Muss1oder größer sein. Wenn Sie diesen Wert weglassen, legt Cloud Run die Mindestanzahl auf 1 Instanz fest. - Optional:
MAX_INSTANCES: die maximale Anzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Wenn Sie diesen Wert weglassen, legt Cloud Run die maximale Anzahl auf 100 Instanzen fest.
YAML
Wenn Sie einen neuen Worker-Pool erstellen, überspringen Sie diesen Schritt. Wenn Sie einen vorhandenen Worker-Pool aktualisieren, laden Sie die zugehörige YAML-Konfiguration herunter:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Fügen Sie die Annotationen
launch-stageundscalingModeuntermetadata.annotationshinzu oder aktualisieren Sie sie und entfernen Sie die Annotationrun.googleapis.com/manualInstanceCount, falls vorhanden. Wenn Sie benutzerdefinierte Instanzlimits festlegen möchten, fügen Sie optional die AnnotationenminScaleundmaxScalehinzu:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/launch-stage: BETA run.googleapis.com/scalingMode: automatic run.googleapis.com/minScale: 'MIN_INSTANCES' run.googleapis.com/maxScale: 'MAX_INSTANCES'
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.- Optional:
MIN_INSTANCES: die Mindestanzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Muss1oder größer sein. Wenn Sie diesen Wert weglassen, legt Cloud Run die Mindestanzahl auf 1 Instanz fest. - Optional:
MAX_INSTANCES: die maximale Anzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Wenn Sie diesen Wert weglassen, legt Cloud Run die maximale Anzahl auf 100 Instanzen fest.
Erstellen oder aktualisieren Sie den Worker-Pool mit dem folgenden Befehl:
gcloud run worker-pools replace worker-pool.yaml
Der Befehl
gcloud run worker-pools replaceverwendet standardmäßig die Dateiworker-pool.yaml, falls vorhanden.
REST API
Wenn Sie das Standard-CPU-Ziel für einen vorhandenen Worker-Pool konfigurieren möchten, senden Sie die folgende PATCH-HTTP-Anfrage an den Endpunkt workerPools.patch der Cloud Run Admin API.
Wenn Sie benutzerdefinierte Instanzlimits festlegen möchten, können Sie optional die Felder minInstanceCount und maxInstanceCount sowie die zugehörigen update_mask-Pfade angeben:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","minInstanceCount":MIN_INSTANCES,"maxInstanceCount":MAX_INSTANCES}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.manualInstanceCount,scaling.minInstanceCount,scaling.maxInstanceCount
Ersetzen Sie Folgendes:
ACCESS_TOKEN: ein gültiges Zugriffstoken für ein Konto, das die Identity and Access Management-Berechtigungen zum Aktualisieren eines Worker-Pools hat. Wenn Sie beispielsweise in der Google Cloud CLI angemeldet sind, können Sie ein Zugriffstoken mitgcloud auth print-access-tokenabrufen.- Optional:
MIN_INSTANCES: die Mindestanzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Muss1oder größer sein. Wenn Sie diesen Wert weglassen, legt Cloud Run die Mindestanzahl auf 1 Instanz fest. - Optional:
MAX_INSTANCES: die maximale Anzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Wenn Sie diesen Wert weglassen, legt Cloud Run die maximale Anzahl auf 100 Instanzen fest. PROJECT_ID: Projekt-ID in Google Cloud .REGION: die Google Cloud -Region, in der Ihr Worker-Pool bereitgestellt wird, z. B.europe-west1.WORKER_POOL: der Name des Worker-Pools.
Benutzerdefinierte CPU-Ziele und Instanzlimits konfigurieren
Sie können das CPU-Auslastungsziel, die Mindest- und Höchstanzahl von Instanzen oder beides anpassen. Für alle Einstellungen, die Sie weglassen, wird der Standardwert verwendet (60 % CPU-Ziel, 1 Mindestinstanz und 100 maximale Instanzen). Wenn Sie das CPU-Auslastungsziel oder die Instanzlimits für einen vorhandenen Worker-Pool aktualisieren, wird keine neue Version erstellt.
Sie können benutzerdefinierte CPU-Ziele und Instanzlimits mit der Google Cloud CLI, YAML oder der REST API konfigurieren:
gcloud
Führen Sie den folgenden Befehl mit dem Flag
--scaling-cpu-targetaus, um einen neuen Worker-Pool mit einem benutzerdefinierten CPU-Ziel bereitzustellen:gcloud beta run worker-pools deploy WORKER_POOL \ --image=IMAGE_URL \ --scaling-cpu-target=CPU_TARGET
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.IMAGE_URL: ein Verweis auf das Container-Image, das den Worker-Pool enthält, z. B.us-docker.pkg.dev/cloudrun/container/worker-pool:latest.CPU_TARGET: das Ziel für die CPU-Auslastung. Geben Sie einen Wert zwischen0.1und0.90an.
Führen Sie den folgenden Befehl mit dem Flag
--scaling-cpu-targetaus, um einen vorhandenen Worker-Pool mit einem benutzerdefinierten CPU-Ziel zu aktualisieren:gcloud beta run worker-pools update WORKER_POOL \ --scaling-cpu-target=CPU_TARGET
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.CPU_TARGET: das Ziel für die CPU-Auslastung. Geben Sie einen Wert zwischen0.1und0.90an.
Führen Sie den folgenden Befehl mit den Flags
--scaling-cpu-target,--minund--maxaus, um einen vorhandenen Worker-Pool mit einem benutzerdefinierten CPU-Ziel und Instanzlimits zu aktualisieren:gcloud beta run worker-pools update WORKER_POOL \ --scaling-cpu-target=CPU_TARGET \ --min=MIN_INSTANCES \ --max=MAX_INSTANCES
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.CPU_TARGET: das Ziel für die CPU-Auslastung. Geben Sie einen Wert zwischen0.1und0.90an.- Optional:
MIN_INSTANCES: die Mindestanzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Muss1oder größer sein. Wenn Sie diesen Wert weglassen, legt Cloud Run die Mindestanzahl auf 1 Instanz fest. - Optional:
MAX_INSTANCES: die maximale Anzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Wenn Sie diesen Wert weglassen, legt Cloud Run die maximale Anzahl auf 100 Instanzen fest.
YAML
Wenn Sie einen neuen Worker-Pool erstellen, überspringen Sie diesen Schritt. Wenn Sie einen vorhandenen Worker-Pool aktualisieren, laden Sie die zugehörige YAML-Konfiguration herunter:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Fügen Sie die Annotationen
launch-stage,scalingMode,scaling-cpu-target,minScaleundmaxScaleuntermetadata.annotationshinzu oder aktualisieren Sie sie und entfernen Sie die Annotationrun.googleapis.com/manualInstanceCount, falls vorhanden. Sie können jede benutzerdefinierte Annotation (scaling-cpu-target,minScaleodermaxScale) weglassen, die Sie auf dem Standardwert belassen möchten:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/launch-stage: BETA run.googleapis.com/scalingMode: automatic run.googleapis.com/scaling-cpu-target: 'CPU_TARGET' run.googleapis.com/minScale: 'MIN_INSTANCES' run.googleapis.com/maxScale: 'MAX_INSTANCES'
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.CPU_TARGET: das Ziel für die CPU-Auslastung. Geben Sie einen Wert zwischen0.1und0.90an.- Optional:
MIN_INSTANCES: die Mindestanzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Muss1oder größer sein. Wenn Sie diesen Wert weglassen, legt Cloud Run die Mindestanzahl auf 1 Instanz fest. - Optional:
MAX_INSTANCES: die maximale Anzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Wenn Sie diesen Wert weglassen, legt Cloud Run die maximale Anzahl auf 100 Instanzen fest.
Erstellen oder aktualisieren Sie den Worker-Pool mit dem folgenden Befehl:
gcloud run worker-pools replace worker-pool.yaml
Der Befehl
gcloud run worker-pools replaceverwendet standardmäßig die Dateiworker-pool.yaml, falls vorhanden.
REST API
Wenn Sie ein benutzerdefiniertes CPU-Ziel und benutzerdefinierte Instanzlimits für einen vorhandenen Worker-Pool konfigurieren möchten, senden Sie die folgende PATCH-HTTP-Anfrage an den workerPools.patch-Endpunkt der Cloud Run Admin API:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","cpuScaling":{"cpuUtilization":CPU_TARGET},"minInstanceCount":MIN_INSTANCES,"maxInstanceCount":MAX_INSTANCES}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.manualInstanceCount,scaling.cpuScaling.cpuUtilization,scaling.minInstanceCount,scaling.maxInstanceCount
Ersetzen Sie Folgendes:
ACCESS_TOKEN: ein gültiges Zugriffstoken für ein Konto, das die IAM-Berechtigungen zum Aktualisieren eines Worker-Pools hat. Wenn Sie beispielsweise in der Google Cloud CLI angemeldet sind, können Sie ein Zugriffstoken mitgcloud auth print-access-tokenabrufen.CPU_TARGET: das Ziel für die CPU-Auslastung. Geben Sie einen Wert zwischen0.1und0.90an.- Optional:
MIN_INSTANCES: die Mindestanzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Muss1oder größer sein. Wenn Sie diesen Wert weglassen, legt Cloud Run die Mindestanzahl auf 1 Instanz fest. - Optional:
MAX_INSTANCES: die maximale Anzahl von Containerinstanzen, die für den Worker-Pool ausgeführt werden sollen. Wenn Sie diesen Wert weglassen, legt Cloud Run die maximale Anzahl auf 100 Instanzen fest. PROJECT_ID: Projekt-ID in Google Cloud .REGION: die Google Cloud -Region, in der Ihr Worker-Pool bereitgestellt wird, z. B.europe-west1.WORKER_POOL: der Name des Worker-Pools.
Standardeinstellungen für Autoscaling wiederherstellen
Wenn Sie ein benutzerdefiniertes CPU-Auslastungsziel oder benutzerdefinierte Instanzlimits auf die Standardwerte zurücksetzen, verwendet Cloud Run wieder das Standardziel von 60 % CPU-Auslastung, 1 Mindestinstanz und 100 Höchstinstanzen, während das CPU-Autoscaling aktiv bleibt.
Sie können die Standardeinstellungen für das Autoscaling mithilfe der Google Cloud CLI, YAML oder der REST API wiederherstellen:
gcloud
Führen Sie den folgenden Befehl mit dem Flag
--scaling-cpu-target=defaultaus, um das Standard-CPU-Ziel wiederherzustellen:gcloud beta run worker-pools update WORKER_POOL \ --scaling-cpu-target=default
Ersetzen Sie
WORKER_POOLdurch den Namen Ihres Worker-Pools.Führen Sie den folgenden Befehl mit den Flags
--min=defaultund--max=defaultaus, um die Standardinstanzlimits wiederherzustellen:gcloud beta run worker-pools update WORKER_POOL \ --min=default \ --max=default
Ersetzen Sie
WORKER_POOLdurch den Namen Ihres Worker-Pools.
YAML
Wenn Sie einen neuen Worker-Pool erstellen, überspringen Sie diesen Schritt. Wenn Sie einen vorhandenen Worker-Pool aktualisieren, laden Sie die zugehörige YAML-Konfiguration herunter:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Entfernen Sie die Annotationen
scaling-cpu-target,minScaleundmaxScaleausmetadata.annotations. Aktualisieren Sie die AnnotationscalingMode: automatic:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/launch-stage: BETA run.googleapis.com/scalingMode: automatic
Ersetzen Sie
WORKER_POOLdurch den Namen Ihres Worker-Pools.Erstellen oder aktualisieren Sie den Worker-Pool mit dem folgenden Befehl:
gcloud run worker-pools replace worker-pool.yaml
Der Befehl
gcloud run worker-pools replaceverwendet standardmäßig die Dateiworker-pool.yaml, falls vorhanden.
REST API
Wenn Sie die Standard-CPU-Ziel- und Standardinstanzlimits für einen vorhandenen Worker-Pool wiederherstellen möchten, senden Sie die folgende PATCH-HTTP-Anfrage an den workerPools.patch-Endpunkt der Cloud Run Admin API:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","cpuScaling":{}}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.cpuScaling.cpuUtilization,scaling.minInstanceCount,scaling.maxInstanceCount
Ersetzen Sie Folgendes:
ACCESS_TOKEN: ein gültiges Zugriffstoken für ein Konto, das die IAM-Berechtigungen zum Aktualisieren eines Worker-Pools hat. Wenn Sie beispielsweise in der Google Cloud CLI angemeldet sind, können Sie ein Zugriffstoken mitgcloud auth print-access-tokenabrufen.PROJECT_ID: Projekt-ID in Google Cloud .REGION: die Google Cloud -Region, in der Ihr Worker-Pool bereitgestellt wird, z. B.europe-west1.WORKER_POOL: der Name des Worker-Pools.
CPU-Autoscaling deaktivieren
Wenn Sie das CPU-Autoscaling deaktivieren und Ihren Worker-Pool wieder auf manuelle Skalierung umstellen möchten, geben Sie mit der Google Cloud CLI, YAML oder der REST API eine feste Anzahl von Instanzen an:
gcloud
Wenn Sie das CPU-Autoscaling für einen vorhandenen Worker-Pool deaktivieren möchten, führen Sie den folgenden Befehl aus. Setzen Sie dabei das Flag --scaling auf die feste Anzahl von Instanzen:
gcloud beta run worker-pools update WORKER_POOL \ --scaling=INSTANCE_COUNT
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.INSTANCE_COUNT: Die feste Anzahl von Instanzen, die im manuellen Skalierungsmodus ausgeführt werden sollen.
YAML
Wenn Sie einen neuen Worker-Pool erstellen, überspringen Sie diesen Schritt. Wenn Sie einen vorhandenen Worker-Pool aktualisieren, laden Sie die zugehörige YAML-Konfiguration herunter:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Legen Sie
scalingModeaufmanualfest, geben SiemanualInstanceCountan und entfernen Siescaling-cpu-target,minScaleundmaxScale, falls vorhanden:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/scalingMode: manual run.googleapis.com/manualInstanceCount: "INSTANCE_COUNT"
Ersetzen Sie Folgendes:
WORKER_POOL: der Name des Worker-Pools.INSTANCE_COUNT: Die feste Anzahl von Instanzen, die im manuellen Skalierungsmodus ausgeführt werden sollen.
Erstellen oder aktualisieren Sie den Worker-Pool mit dem folgenden Befehl:
gcloud run worker-pools replace worker-pool.yaml
Der Befehl
gcloud run worker-pools replaceverwendet standardmäßig die Dateiworker-pool.yaml, falls vorhanden.
REST API
Wenn Sie das CPU-Autoscaling für einen vorhandenen Worker-Pool deaktivieren möchten, senden Sie die folgende PATCH-HTTP-Anfrage an den workerPools.patch-Endpunkt der Cloud Run Admin API:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"scaling":{"scalingMode":"MANUAL","manualInstanceCount":INSTANCE_COUNT}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=scaling.scalingMode,scaling.manualInstanceCount,scaling.cpuScaling,scaling.minInstanceCount,scaling.maxInstanceCount
Ersetzen Sie Folgendes:
ACCESS_TOKEN: ein gültiges Zugriffstoken für ein Konto, das die IAM-Berechtigungen zum Aktualisieren eines Worker-Pools hat. Wenn Sie beispielsweise in der Google Cloud CLI angemeldet sind, können Sie ein Zugriffstoken mitgcloud auth print-access-tokenabrufen.INSTANCE_COUNT: Die feste Anzahl von Instanzen, die im manuellen Skalierungsmodus ausgeführt werden sollen.PROJECT_ID: Projekt-ID in Google Cloud .REGION: die Google Cloud -Region, in der Ihr Worker-Pool bereitgestellt wird, z. B.europe-west1.WORKER_POOL: der Name des Worker-Pools.
CPU-Autoscaling-Einstellungen aufrufen
Führen Sie den Befehl gcloud beta run worker-pools describe aus, um die CPU-Autoscaling-Konfiguration für Ihren Worker-Pool aufzurufen:
gcloud beta run worker-pools describe WORKER_POOL
Ersetzen Sie WORKER_POOL durch den Namen Ihres Worker-Pools.
CPU-Autoscaling
Standardmäßig ist das Ziel des CPU-Autoscalings eine durchschnittliche CPU-Auslastung von 60 % (run.googleapis.com/container/cpu/utilizations). Der Worker-Pool wird zwischen 1 und 100 Instanzen skaliert.
Wenn Sie CPU-Autoscaling aktivieren, berechnet Cloud Run die erforderliche Anzahl von Instanzen für den Worker-Pool. Dazu wird die CPU-Auslastung pro Sekunde in der letzten Minute über alle laufenden Instanzen hinweg gemittelt und dieser Wert durch die Anzahl der CPUs pro Instanz geteilt. Das Ergebnis wird dann durch Ihr CPU-Ziel geteilt:
\[ \text{Instances} = \left\lceil \dfrac{\left( \frac{\text{Average CPU usage per second over the past minute}}{\text{Number of CPUs per instance}} \right)}{\text{CPU target}} \right\rceil \]
Cloud Run passt die Anzahl der Worker-Pool-Instanzen anhand der folgenden Verhaltensweisen an:
- Aufrunden: Cloud Run berechnet die erforderliche Instanzanzahl anhand der gemessenen CPU-Auslastung und Ihres Ziels, nicht anhand der Anzahl der ausgeführten Instanzen. Das Ergebnis wird auf die nächste ganze Instanz aufgerundet. Aufgrund dieser Rundung kann Ihr Worker-Pool hochskaliert werden, während die Auslastung noch unter Ihrem Ziel liegt. Ein Worker-Pool, der 4,1 Instanzen benötigt, führt beispielsweise 5 Instanzen aus.
- Skalierung auf Poolebene und Instanzaufteilungen: Cloud Run berechnet die Gesamtzahl der Instanzen für den gesamten Worker-Pool und verteilt diese Instanzen dann basierend auf Ihren konfigurierten Instanzaufteilungen auf aktive Überarbeitungen.
- 5-minütige Stabilisierung beim Herunterskalieren: Cloud Run verwendet beim Herunterskalieren ein 5-minütiges (300 Sekunden) Stabilisierungsfenster. Um häufige Instanzschwankungen zu vermeiden, behält Cloud Run die Instanzanzahl bei der höchsten Empfehlung der letzten 5 Minuten bei.
CPU-Auslastungsziel auswählen
Sie können das standardmäßige CPU-Auslastungsziel von 60 % verwenden oder ein benutzerdefiniertes Ziel von 10 % bis 90 % basierend auf Ihrem Arbeitslastprofil und Ihrer Latenztoleranz konfigurieren. Beachten Sie dabei die folgenden Richtlinien:
- Höheres CPU-Ziel (80 % bis 90 %): Verwenden Sie ein höheres Ziel für gleichmäßige, vorhersehbare Hintergrundarbeitslasten oder Batchverarbeitungsaufgaben, die nicht latenzempfindlich sind. Ein höheres Ziel maximiert die Ressourcenauslastung und reduziert die Infrastrukturkosten, lässt aber weniger Spielraum für plötzliche Arbeitsspitzen. Dies kann zu einer CPU-Drosselung oder einer erhöhten Verarbeitungslatenz beim Starten neuer Instanzen führen.
- Niedrigeres CPU-Ziel (20 % bis 40 %): Verwenden Sie ein niedrigeres Ziel für Arbeitslasten mit unregelmäßigem oder unvorhersehbarem CPU-Bedarf, strengen Anforderungen an die Verarbeitungslatenz oder längeren Containerstartzeiten. Ein niedrigeres Ziel bietet einen Puffer, um plötzliche Aktivitätsspitzen abzufangen, indem mehr Instanzen früher bereitgestellt werden. So wird eine Leistungsverschlechterung verhindert. Der Nachteil sind höhere Kosten, da unter normalen Lastbedingungen mehr Instanzen ausgeführt werden.
Wir empfehlen, mit dem Standardziel zu beginnen, den Messwert run.googleapis.com/container/instance_count in Cloud Monitoring zu beobachten und das Ziel anhand von Lasttests und Leistungsbeobachtungen anzupassen.