El escalado automático de CPU en los grupos de trabajadores de Cloud Run te permite escalar instancias en función del uso promedio de CPU para optimizar el rendimiento y el costo. Puedes configurar el ajuste de escala automático con el objetivo de uso de CPU predeterminado o especificar objetivos de uso de CPU y límites de instancias personalizados. Para obtener más información sobre cómo Cloud Run calcula los recuentos de instancias y escala los grupos de trabajadores, consulta Acerca del ajuste de escala automático de CPU.
Cuando implementas un grupo de trabajadores sin habilitar el ajuste de escala automático de CPU, Cloud Run usa el ajuste de escala manual con 1 instancia de forma predeterminada.
Si usas el ajuste de escala automático de métricas externas de Cloud Run (CREMA) para escalar tus cargas de trabajo, cambia al escalamiento manual.
Roles obligatorios
Para obtener los permisos que necesitas para configurar e implementar grupos de trabajadores de Cloud Run, pídele a tu administrador que te otorgue los siguientes roles de IAM:
- Desarrollador de Cloud Run (
roles/run.developer) en el grupo de trabajadores de Cloud Run - Usuario de la cuenta de servicio (
roles/iam.serviceAccountUser) en la identidad del servicio
Para obtener una lista de los roles y los permisos de IAM asociados con Cloud Run, consulta los roles de IAM de Cloud Run y los permisos de IAM de Cloud Run. Si tu grupo de trabajadores de Cloud Run interactúa con lasGoogle Cloud APIs, como las bibliotecas cliente de Cloud, consulta la guía de configuración de identidades del servicio. Para obtener más información sobre cómo otorgar roles, consulta los permisos de implementación y cómo administrar el acceso.
Configura el objetivo de CPU predeterminado
Cuando habilitas el ajuste de escala automático de CPU predeterminado, Cloud Run se orienta a un uso de CPU del 60% y escala tu grupo de trabajadores entre 1 y 100 instancias. Mientras mantienes el objetivo predeterminado del 60% de uso de CPU, puedes personalizar los límites mínimo y máximo de instancias para que se adapten a tus necesidades.
Actualizar el modo de escalamiento o los límites de instancias en un grupo de trabajadores existente no crea una revisión nueva.
Puedes habilitar el ajuste de escala automático de CPU predeterminado para un grupo de trabajadores de Cloud Run con Google Cloud CLI, YAML o la API de REST:
gcloud
Para implementar un grupo de trabajadores nuevo con el objetivo de CPU predeterminado, ejecuta el siguiente comando con la marca
--scaling=auto:gcloud beta run worker-pools deploy WORKER_POOL \ --image=IMAGE_URL \ --scaling=auto
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresIMAGE_URL: Una referencia a la imagen del contenedor que contiene el grupo de trabajadores, comous-docker.pkg.dev/cloudrun/container/worker-pool:latest
Para actualizar un grupo de trabajadores existente a fin de que use el destino de CPU predeterminado, ejecuta el siguiente comando con la marca
--scaling=auto:gcloud beta run worker-pools update WORKER_POOL \ --scaling=auto
Reemplaza
WORKER_POOLpor el nombre de tu grupo de trabajadores.Para actualizar un grupo de trabajadores existente con el objetivo de CPU predeterminado y los límites de instancias personalizados, ejecuta el siguiente comando con las marcas
--scaling=auto,--miny--max:gcloud beta run worker-pools update WORKER_POOL \ --scaling=auto \ --min=MIN_INSTANCES \ --max=MAX_INSTANCES
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresMIN_INSTANCES(opcional): Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser1o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.- Opcional:
MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
YAML
Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Agrega o actualiza las anotaciones
launch-stageyscalingModeenmetadata.annotations, y quita la anotaciónrun.googleapis.com/manualInstanceCountsi está presente. Para establecer límites de instancias personalizados, agrega de forma opcional las anotacionesminScaleymaxScale:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/launch-stage: BETA run.googleapis.com/scalingMode: automatic run.googleapis.com/minScale: 'MIN_INSTANCES' run.googleapis.com/maxScale: 'MAX_INSTANCES'
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresMIN_INSTANCES(opcional): Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser1o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.- Opcional:
MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
Crea o actualiza el grupo de trabajadores con el siguiente comando:
gcloud run worker-pools replace worker-pool.yaml
El comando
gcloud run worker-pools replaceusa de forma predeterminada el archivoworker-pool.yamlsi está presente.
API de REST
Para configurar el objetivo de CPU predeterminado en un grupo de trabajadores existente, envía la
siguiente solicitud HTTP PATCH al extremo workerPools.patch de la API de Cloud Run Admin.
Para establecer límites de instancias personalizados, incluye de forma opcional los campos minInstanceCount
y maxInstanceCount, y sus rutas de acceso update_mask:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","minInstanceCount":MIN_INSTANCES,"maxInstanceCount":MAX_INSTANCES}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.manualInstanceCount,scaling.minInstanceCount,scaling.maxInstanceCount
Reemplaza lo siguiente:
ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de Identity and Access Management para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutandogcloud auth print-access-token.MIN_INSTANCES(opcional): Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser1o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia.- Opcional:
MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias. PROJECT_ID: Es el ID del proyecto de Google Cloud .REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo,europe-west1.WORKER_POOL: El nombre de tu grupo de trabajadores
Configura objetivos de CPU y límites de instancias personalizados
Puedes personalizar el objetivo de uso de CPU, los límites de instancias mínimos y máximos, o ambos. Cualquier parámetro de configuración que omitas usará su valor predeterminado (60% de objetivo de CPU, 1 instancia mínima y 100 instancias máximas). Actualizar el objetivo de uso de CPU o los límites de instancias en un grupo de trabajadores existente no crea una revisión nueva.
Puedes configurar objetivos de CPU personalizados y límites de instancias con Google Cloud CLI, YAML o la API de REST:
gcloud
Para implementar un grupo de trabajadores nuevo con un objetivo de CPU personalizado, ejecuta el siguiente comando con la marca
--scaling-cpu-target:gcloud beta run worker-pools deploy WORKER_POOL \ --image=IMAGE_URL \ --scaling-cpu-target=CPU_TARGET
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresIMAGE_URL: Una referencia a la imagen del contenedor que contiene el grupo de trabajadores, comous-docker.pkg.dev/cloudrun/container/worker-pool:latestCPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de0.1a0.90.
Para actualizar un grupo de trabajadores existente con un objetivo de CPU personalizado, ejecuta el siguiente comando con la marca
--scaling-cpu-target:gcloud beta run worker-pools update WORKER_POOL \ --scaling-cpu-target=CPU_TARGET
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresCPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de0.1a0.90.
Para actualizar un grupo de trabajadores existente con un objetivo de CPU personalizado y límites de instancias, ejecuta el siguiente comando con las marcas
--scaling-cpu-target,--miny--max:gcloud beta run worker-pools update WORKER_POOL \ --scaling-cpu-target=CPU_TARGET \ --min=MIN_INSTANCES \ --max=MAX_INSTANCES
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresCPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de0.1a0.90.- Opcional:
MIN_INSTANCES: Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser1o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia. - Opcional:
MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
YAML
Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Agrega o actualiza las anotaciones
launch-stage,scalingMode,scaling-cpu-target,minScaleymaxScaleenmetadata.annotations, y quita la anotaciónrun.googleapis.com/manualInstanceCountsi está presente. Puedes omitir cualquier anotación personalizada (scaling-cpu-target,minScaleomaxScale) que quieras mantener en su valor predeterminado:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/launch-stage: BETA run.googleapis.com/scalingMode: automatic run.googleapis.com/scaling-cpu-target: 'CPU_TARGET' run.googleapis.com/minScale: 'MIN_INSTANCES' run.googleapis.com/maxScale: 'MAX_INSTANCES'
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresCPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de0.1a0.90.- Opcional:
MIN_INSTANCES: Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser1o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia. - Opcional:
MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias.
Crea o actualiza el grupo de trabajadores con el siguiente comando:
gcloud run worker-pools replace worker-pool.yaml
El comando
gcloud run worker-pools replaceusa de forma predeterminada el archivoworker-pool.yamlsi está presente.
API de REST
Para configurar un objetivo de CPU personalizado y límites de instancias personalizados en un grupo de trabajadores
existente, envía la siguiente solicitud HTTP PATCH al extremo workerPools.patch de la API de Cloud Run Admin:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","cpuScaling":{"cpuUtilization":CPU_TARGET},"minInstanceCount":MIN_INSTANCES,"maxInstanceCount":MAX_INSTANCES}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.manualInstanceCount,scaling.cpuScaling.cpuUtilization,scaling.minInstanceCount,scaling.maxInstanceCount
Reemplaza lo siguiente:
ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de IAM para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutandogcloud auth print-access-token.CPU_TARGET: Es el objetivo de uso de CPU. Especifica un valor de0.1a0.90.- Opcional:
MIN_INSTANCES: Es la cantidad mínima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Debe ser1o mayor. Si omites este valor, Cloud Run establece el mínimo en 1 instancia. - Opcional:
MAX_INSTANCES: Es la cantidad máxima de instancias de contenedor que se ejecutarán para el grupo de trabajadores. Si omites este valor, Cloud Run establece el máximo en 100 instancias. PROJECT_ID: Es el ID del proyecto de Google Cloud .REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo,europe-west1.WORKER_POOL: El nombre de tu grupo de trabajadores
Restablece la configuración predeterminada del ajuste de escala automático
Cuando restableces un objetivo de uso de CPU personalizado o límites de instancias personalizados a sus valores predeterminados, Cloud Run vuelve al objetivo predeterminado de un 60% de uso de CPU, 1 instancia mínima y 100 instancias máximas, mientras mantiene activo el escalado automático de CPU.
Puedes restablecer la configuración predeterminada del ajuste de escala automático con Google Cloud CLI, YAML o la API de REST:
gcloud
Para restablecer el objetivo de CPU predeterminado, ejecuta el siguiente comando con la marca
--scaling-cpu-target=default:gcloud beta run worker-pools update WORKER_POOL \ --scaling-cpu-target=default
Reemplaza
WORKER_POOLpor el nombre de tu grupo de trabajadores.Para restablecer los límites de instancias predeterminados, ejecuta el siguiente comando con las marcas
--min=defaulty--max=default:gcloud beta run worker-pools update WORKER_POOL \ --min=default \ --max=default
Reemplaza
WORKER_POOLpor el nombre de tu grupo de trabajadores.
YAML
Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Quita las anotaciones
scaling-cpu-target,minScaleymaxScaledemetadata.annotations. Actualiza la anotaciónscalingMode: automatic:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/launch-stage: BETA run.googleapis.com/scalingMode: automatic
Reemplaza
WORKER_POOLpor el nombre de tu grupo de trabajadores.Crea o actualiza el grupo de trabajadores con el siguiente comando:
gcloud run worker-pools replace worker-pool.yaml
El comando
gcloud run worker-pools replaceusa de forma predeterminada el archivoworker-pool.yamlsi está presente.
API de REST
Para restablecer el objetivo de CPU predeterminado y los límites de instancias predeterminados en un
grupo de trabajadores existente, envía la siguiente solicitud HTTP PATCH al
extremo workerPools.patch de la API de Cloud Run Admin:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"launchStage":"BETA","scaling":{"scalingMode":"AUTOMATIC","cpuScaling":{}}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=launchStage,scaling.scalingMode,scaling.cpuScaling.cpuUtilization,scaling.minInstanceCount,scaling.maxInstanceCount
Reemplaza lo siguiente:
ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de IAM para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutandogcloud auth print-access-token.PROJECT_ID: Es el ID del proyecto de Google Cloud .REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo,europe-west1.WORKER_POOL: El nombre de tu grupo de trabajadores
Inhabilitar el ajuste de escala automático de CPU
Para inhabilitar el ajuste de escala automático de CPU y volver a cambiar el grupo de trabajadores al escalamiento manual, especifica un recuento de instancias fijo con Google Cloud CLI, YAML o la API de REST:
gcloud
Para inhabilitar el ajuste de escala automático de CPU en un grupo de trabajadores existente, ejecuta el siguiente
comando con la
marca
--scaling
establecida en tu recuento de instancias fijo:
gcloud beta run worker-pools update WORKER_POOL \ --scaling=INSTANCE_COUNT
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresINSTANCE_COUNT: Es la cantidad fija de instancias que se ejecutarán en el modo de escalamiento manual.
YAML
Si creas un grupo de trabajadores nuevo, omite este paso. Si actualizas un grupo de trabajadores existente, descarga su configuración de YAML:
gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml
Establece
scalingModecomomanual, especificamanualInstanceCounty quitascaling-cpu-target,minScaleymaxScalesi están presentes:apiVersion: run.googleapis.com/v1 kind: WorkerPool metadata: name: WORKER_POOL annotations: run.googleapis.com/scalingMode: manual run.googleapis.com/manualInstanceCount: "INSTANCE_COUNT"
Reemplaza lo siguiente:
WORKER_POOL: El nombre de tu grupo de trabajadoresINSTANCE_COUNT: Es la cantidad fija de instancias que se ejecutarán en el modo de escalamiento manual.
Crea o actualiza el grupo de trabajadores con el siguiente comando:
gcloud run worker-pools replace worker-pool.yaml
El comando
gcloud run worker-pools replaceusa de forma predeterminada el archivoworker-pool.yamlsi está presente.
API de REST
Para inhabilitar el ajuste de escala automático de CPU en un grupo de trabajadores existente, envía la siguiente
solicitud HTTP PATCH al extremo workerPools.patch de la API de Cloud Run Admin:
curl -H "Content-Type: application/json" \ -H "Authorization: Bearer ACCESS_TOKEN" \ -X PATCH \ -d '{"scaling":{"scalingMode":"MANUAL","manualInstanceCount":INSTANCE_COUNT}}' \ https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/workerPools/WORKER_POOL?update_mask=scaling.scalingMode,scaling.manualInstanceCount,scaling.cpuScaling,scaling.minInstanceCount,scaling.maxInstanceCount
Reemplaza lo siguiente:
ACCESS_TOKEN: Es un token de acceso válido para una cuenta que tiene los permisos de IAM para actualizar un grupo de trabajadores. Por ejemplo, si accediste a Google Cloud CLI, puedes recuperar un token de acceso ejecutandogcloud auth print-access-token.INSTANCE_COUNT: Es la cantidad fija de instancias que se ejecutarán en el modo de escalamiento manual.PROJECT_ID: Es el ID del proyecto de Google Cloud .REGION: Es la región de Google Cloud en la que se implementa tu grupo de trabajadores, por ejemplo,europe-west1.WORKER_POOL: El nombre de tu grupo de trabajadores
Visualiza la configuración del ajuste de escala automático de CPU
Para ver la configuración del ajuste de escala automático de la CPU de tu grupo de trabajadores, ejecuta el comando
gcloud beta run worker-pools describe:
gcloud beta run worker-pools describe WORKER_POOL
Reemplaza WORKER_POOL por el nombre de tu grupo de trabajadores.
Acerca del ajuste de escala automático de CPU
De forma predeterminada, el ajuste de escala automático de CPU tiene como objetivo un uso de CPU promedio del 60%
(run.googleapis.com/container/cpu/utilizations)
y escala tu grupo de trabajadores entre
1 y
100 instancias.
Cuando habilitas el ajuste de escala automático de CPU, Cloud Run calcula la cantidad necesaria de instancias para el grupo de trabajadores. Para ello, promedia el uso de CPU por segundo durante el último minuto en todas las instancias en ejecución y divide ese valor por la cantidad de CPU por instancia. Luego, el resultado se divide por tu objetivo de CPU:
\[ \text{Instances} = \left\lceil \dfrac{\left( \frac{\text{Average CPU usage per second over the past minute}}{\text{Number of CPUs per instance}} \right)}{\text{CPU target}} \right\rceil \]
Cloud Run ajusta la cantidad de instancias del grupo de trabajadores con los siguientes comportamientos:
- Redondeo hacia arriba: Cloud Run calcula el recuento de instancias requerido a partir del uso de CPU medido y tu objetivo, no de la cantidad de instancias en ejecución, y redondea el resultado hacia arriba hasta la siguiente instancia completa. Debido a este redondeo, tu grupo de trabajadores puede escalar verticalmente mientras el uso aún está por debajo de tu objetivo. Por ejemplo, un grupo de trabajadores que necesita 4.1 instancias ejecuta 5 instancias.
- Escalamiento a nivel del grupo y divisiones de instancias: Cloud Run calcula el recuento total de instancias para todo el grupo de trabajadores y, luego, distribuye esas instancias entre las revisiones activas según las divisiones de instancias que configuraste.
- Estabilización de reducción de escala vertical de 5 minutos: Cloud Run usa un período de estabilización de 5 minutos (300 segundos) cuando reduce la escala verticalmente. Para evitar fluctuaciones frecuentes en las instancias, Cloud Run mantiene el recuento de instancias en la recomendación más alta de los 5 minutos anteriores.
Elige un objetivo de uso de CPU
Puedes usar el objetivo predeterminado de uso de CPU del 60% o configurar un objetivo personalizado del 10% al 90% según tu perfil de carga de trabajo y tolerancia a la latencia con los siguientes lineamientos:
- Objetivo de CPU más alto (del 80% al 90%): Usa un objetivo más alto para cargas de trabajo en segundo plano estables y predecibles, o tareas de procesamiento por lotes que no sean sensibles a la latencia. Un objetivo más alto maximiza el uso de recursos y reduce el costo de la infraestructura, pero deja menos margen para aumentos repentinos de trabajo, lo que puede provocar una limitación de la CPU o un aumento de la latencia de procesamiento mientras se inician instancias nuevas.
- Objetivo de CPU más bajo (del 20% al 40%): Usa un objetivo más bajo para las cargas de trabajo con una demanda de CPU irregular o impredecible, requisitos estrictos de latencia de procesamiento o tiempos de inicio de contenedores más largos. Un objetivo más bajo proporciona un búfer para absorber los aumentos repentinos de actividad aprovisionando más instancias antes, lo que ayuda a evitar la degradación del rendimiento. La desventaja es un costo más alto, ya que se ejecutan más instancias en condiciones de carga normales.
Te recomendamos que comiences con el objetivo predeterminado, supervises la métrica
run.googleapis.com/container/instance_count
en Cloud Monitoring y ajustes el objetivo
en función de las pruebas de carga y las observaciones de rendimiento.