Puoi regolare automaticamente il numero di pod nei tuoi workload Google Kubernetes Engine (GKE) in base all'utilizzo della CPU o della memoria, alle metriche personalizzate o alle metriche esterne utilizzando la scalabilità automatica orizzontale dei pod. La scalabilità delle repliche dei pod in base alla variazione della domanda aiuta a mantenere prestazioni coerenti delle applicazioni e a rilasciare le risorse dei pod inutilizzate quando la domanda diminuisce.
La scalabilità automatica orizzontale dei pod non modifica il numero di nodi in un cluster GKE. Per scalare automaticamente i nodi del cluster quando il numero di pod cambia, consulta Informazioni sulla scalabilità automatica dei cluster GKE. Per configurare la scalabilità dei pod sui tuoi workload, consulta Configura la scalabilità automatica orizzontale dei pod.
Questo documento è rivolto a sviluppatori e operatori che configurano e gestiscono la scalabilità dei workload. Per maggiori informazioni sui ruoli comuni e sugli esempi di attività a cui facciamo riferimento nei contenuti diGoogle Cloud , consulta Ruoli e attività comuni degli utenti GKE.
Metriche di scalabilità supportate
I requisiti delle risorse di un workload possono cambiare nel tempo a seconda dei pattern di traffico e delle dipendenze esterne. Un HorizontalPodAutoscaler può scalare il numero di pod nel tuo workload in base a uno o più dei seguenti tipi di metriche:
- Utilizzo effettivo delle risorse: il gestore della scalabilità automatica scala i pod quando l'utilizzo della CPU o la memoria utilizzata supera una soglia target, espressa come valore non elaborato o come percentuale della richiesta di risorse del pod.
- Metriche personalizzate: il gestore della scalabilità automatica scala i pod in base a qualsiasi metrica segnalata da un oggetto Kubernetes in un cluster, ad esempio le richieste client o le scritture di I/O al secondo. Le metriche personalizzate sono utili quando l'applicazione riscontra colli di bottiglia di rete o di I/O anziché vincoli di CPU o memoria.
- Metriche esterne: il gestore della scalabilità automatica scala i pod in base a una metrica di un'applicazione o un servizio esterno al cluster. Ad esempio, quando un workload importa richieste Pub/Sub, puoi configurare un HorizontalPodAutoscaler per aggiungere pod al di sopra di una soglia della coda e rimuoverli man mano che la coda si riduce.
Puoi anche combinare la scalabilità automatica orizzontale dei pod con la scalabilità automatica verticale dei pod. Per ulteriori informazioni sulle regole di compatibilità, consulta la sezione Limitazioni di questo documento.
Come funziona la scalabilità automatica orizzontale dei pod
Ogni scalabilità automatica orizzontale dei pod configurata opera utilizzando un ciclo di controllo. Esiste un Horizontal Pod Autoscaler separato per ogni workload. Ogni gestore della scalabilità automatica orizzontale dei pod controlla periodicamente le metriche di un determinato workload rispetto alle soglie target configurate e modifica automaticamente la forma del workload.
Risorse per pod
Per le risorse allocate per pod, come la CPU, il controller esegue query sull'API Resource Metrics per ogni container in esecuzione nel pod.
- Se specifichi un valore non elaborato per la CPU o la memoria, viene utilizzato questo valore.
- Se specifichi un valore percentuale per la CPU o la memoria, il gestore della scalabilità automatica orizzontale dei pod calcola il valore di utilizzo medio come percentuale delle richieste di CPU o memoria del pod.
- Le metriche personalizzate ed esterne sono espresse come valori non elaborati o valori medi.
Il controller utilizza il valore medio o non elaborato di una metrica del report per produrre un rapporto e utilizza questo rapporto per scalare automaticamente il workload. Puoi leggere una descrizione dell'algoritmo di scalabilità automatica orizzontale dei pod nella documentazione del progetto Kubernetes.
Risposta a più metriche
Se configuri un workload per la scalabilità automatica in base a più metriche, il gestore della scalabilità automatica orizzontale dei pod valuta ogni metrica separatamente e utilizza l'algoritmo di scalabilità per determinare la nuova scalabilità del workload in base a ciascuna metrica. Per l'azione di scalabilità automatica viene selezionata la scala più grande.
Se una o più metriche non sono disponibili per qualche motivo, il gestore della scalabilità automatica orizzontale dei pod esegue comunque lo scale up in base alle dimensioni maggiori calcolate, ma non esegue lo scale down.
Prevenzione del thrashing
Il termine thrashing si riferisce a una situazione in cui il gestore della scalabilità automatica orizzontale dei pod tenta di eseguire azioni di scalabilità automatica successive prima che il workload abbia finito di rispondere alle azioni di scalabilità automatica precedenti. Per evitare il thrashing, il gestore della scalabilità automatica pod orizzontale sceglie il suggerimento più grande da una finestra di stabilizzazione specificata.
Questo comportamento è controllato dal campo scaleDown.stabilizationWindowSeconds nella specifica behavior dell'HPA, che per impostazione predefinita è 300 secondi (cinque minuti) in GKE.
Per evitare che piccole fluttuazioni causino eventi di scalabilità non necessari, il gestore della scalabilità automatica orizzontale dei pod utilizza un valore di tolleranza del 10%. Per un determinato target, non viene eseguita alcuna azione di scalabilità se il rapporto tra il valore della metrica corrente e il valore della metrica target è compreso entro il 10% di 1,0.
Scalabilità da e verso zero
In GKE versione 1.37 o successive, puoi configurare il gestore della scalabilità automatica orizzontale dei pod in modo da fare lo scale down di un workload fino a 0 repliche quando non c'è domanda e fare automaticamente lo scale up del workload quando la domanda riprende. La scalabilità da e verso lo zero include i seguenti comportamenti:
- Bypass della tolleranza: quando un workload ha
0repliche, GKE ignora il controllo standard della tolleranza delle metriche (rapporto da 0,9 a 1,1). Qualsiasi valore della metrica maggiore di zero, ad esempio un singolo messaggio in una coda, attiva immediatamente uno scale up ad almeno1replica senza attendere il superamento di una soglia di tolleranza. - Finestre di stabilizzazione: lo scale up viene eseguito per impostazione predefinita dopo
0secondi (scaleUp.stabilizationWindowSeconds: 0) per l'attivazione immediata, mentre lo scale down viene eseguito per impostazione predefinita dopo300secondi (scaleDown.stabilizationWindowSeconds: 300) per garantire cinque minuti continui di assenza di domanda prima di scalare a0repliche. - Condizioni di stato: quando l'HPA esegue lo scale down a
0repliche, il controller segnala la condizioneScaledToZero: Truerimanendo attivo (ScalingActive: True). Se viene eseguito lo scale down manuale di un workload a0repliche al di fuori dell'HPA (ad esempio con il comandokubectl scale), la scalabilità automatica viene messa in pausa (ScalingActive: False) finché non viene eseguito lo scale up del workload a1o più repliche.
Per istruzioni passo passo, consulta Scala i workload GKE da e verso zero utilizzando HPA.
Limitazioni
- A meno che non utilizzi il dimensionamento ottimale di HPA con VPA (anteprima), non utilizzare la scalabilità automatica orizzontale dei pod insieme alla scalabilità automatica verticale dei pod standard su CPU o memoria. Puoi utilizzare il Horizontal Pod Autoscaler con il Vertical Pod Autoscaler per altre metriche o configurare la scalabilità automatica multidimensionale dei pod per scalare orizzontalmente sulla CPU e verticalmente sulla memoria contemporaneamente.
- Se hai un deployment, non configurare la scalabilità automatica orizzontale dei pod sul ReplicaSet o sul controller di replica che lo supporta. Quando esegui un aggiornamento in sequenza sul deployment o sul controller di replica, questo viene sostituito da un nuovo controller di replica. Configura invece la scalabilità automatica orizzontale dei pod sul deployment stesso.
- Non puoi utilizzare la scalabilità automatica orizzontale dei pod per i workload che non possono essere scalati, come i DaemonSet.
- La scalabilità automatica orizzontale dei pod espone le metriche come risorse Kubernetes, il che impone limitazioni ai nomi delle metriche, ad esempio l'assenza di caratteri maiuscoli o "/".
L'adattatore delle metriche potrebbe consentire la ridenominazione. Ad esempio, consulta l'operatore
asprometheus-adapter. - Il gestore della scalabilità automatica orizzontale dei pod non esegue fare lo scale down se una delle metriche che è configurato per monitorare non è disponibile. Per verificare se sono presenti metriche non disponibili, consulta Visualizzazione dei dettagli di un gestore della scalabilità automatica orizzontale dei pod.
Scalabilità
Sebbene il gestore della scalabilità automatica orizzontale dei pod non abbia un limite rigido per il numero di oggetti HPA supportati, le sue prestazioni possono essere influenzate dall'aumento di questo numero. In particolare, il periodo tra i ricalcoli dell'HPA potrebbe diventare più lungo dei 15 secondi standard.
- In GKE versione secondaria 1.31 o 1.32, se è configurato il profilo HPA Performance, il periodo di ricalcolo deve rimanere entro 15 secondi con un massimo di 1000 oggetti HPA. Scopri come configurare il profilo HPA Performance.
- In GKE versione secondaria 1.33 o successive, se è configurato il profilo HPA Prestazioni, il periodo di ricalcolo deve rimanere entro 15 secondi con un massimo di 5000 oggetti HPA. Il profilo HPA per le prestazioni è attivato per impostazione predefinita su tutti i cluster che soddisfano i requisiti.
- Se il profilo HPA Prestazioni non è configurato, il periodo di ricalcolo deve rimanere entro 15 secondi con un massimo di 300 oggetti HPA.
Anche i seguenti fattori possono influire sul rendimento:
- Scalabilità su più metriche: ogni metrica aggiunge una chiamata di recupero per i calcoli dei suggerimenti, il che influisce sul periodo di ricalcolo.
- La latenza dello stack di metriche personalizzate: tempi di risposta superiori a circa 50 millisecondi sarebbero superiori a quelli osservati in genere con le metriche Kubernetes standard, con un impatto sul periodo di ricalcolo.
Interazione con gli oggetti HorizontalPodAutoscaler
Puoi configurare un HorizontalPodAutoscaler per un workload e ottenere informazioni sugli eventi di scalabilità automatica orizzontale dei pod e sulle relative cause visitando la pagina Workload nella console Google Cloud .
Ogni gestore della scalabilità automatica orizzontale dei pod esiste nel cluster come oggetto HorizontalPodAutoscaler. Puoi utilizzare comandi come
kubectl get hpa o kubectl describe hpa HPA_NAME per
interagire con questi oggetti.
Puoi anche creare oggetti HorizontalPodAutoscaler utilizzando il comando kubectl autoscale.
Passaggi successivi
- Scopri come configurare la scalabilità automatica orizzontale dei pod.
- Scopri come ridimensionare in modo ottimale i workload HPA con VPA.
- Scopri come eseguire lo scale up e lo scale down da zero utilizzando HPA.
- Scopri come scalare manualmente un'applicazione.
- Scopri di più sul Vertical Pod Autoscaler.
- Scopri di più sul gestore della scalabilità automatica dei cluster.