Questa pagina mostra come eseguire il deployment e scalare i workload più rapidamente nei cluster Google Kubernetes Engine (GKE) utilizzando nodi ad avvio rapido. I nodi con avvio rapido vengono utilizzati in GKE con la modalità Autopilot secondo il principio del "best effort" quando i workload utilizzano configurazioni compatibili.
I nodi GKE ad avvio rapido hanno un tempo di avvio notevolmente inferiore per le famiglie di macchine compatibili. Il tempo di avvio accelerato offre i seguenti vantaggi:
- Avvio a freddo più rapido
- Scalabilità automatica più rapida
- Latenza long-tail migliorata della pianificazione dei pod
- Migliore efficienza dei costi dell'infrastruttura
Con i nodi ad avvio rapido, GKE pre-inizializza le risorse hardware per accelerare il tempo di avvio. Le risorse pre-inizializzate sono disponibili secondo il principio del best-effort. Le richieste di picco potrebbero essere soddisfatte solo parzialmente. Senza nodi di avvio rapido, le risorse vengono inizializzate on demand e i nodi vengono forniti al normale tempo di avvio.
Requisiti
I nodi con avvio rapido non richiedono alcuna configurazione aggiuntiva. GKE utilizza automaticamente i nodi ad avvio rapido se i tuoi workload utilizzano configurazioni compatibili. Per utilizzare i nodi con avvio rapido, devi soddisfare tutti i seguenti requisiti:
- Utilizza i cluster Autopilot o esegui i workload in modalità Autopilot nei cluster Standard.
- Non utilizzare funzionalità incompatibili con i nodi ad avvio rapido. Per saperne di più, consulta Limitazioni.
Utilizza una delle seguenti risorse di computing descritte nelle rispettive tabelle della sezione Requisiti di configurazione per le risorse di computing idonee:
Limitazioni
Le seguenti funzionalità non sono compatibili con i nodi GKE ad avvio rapido. Se utilizzi una di queste funzionalità, GKE esegue il provisioning dei nodi con il tempo di avvio tipico:
- G2 con versione del driver GPU
DEFAULTsu versioni di GKE precedenti alla 1.33.0-gke.1304000. Per la versione 1.33.0-gke.1304000 o successive, siaLATESTcheDEFAULTfunzionano con i nodi di avvio rapido. - Dischi di avvio secondari nelle versioni precedenti alla 1.33.2-gke.1015000.
- VM spot
- Policy di posizionamento
- Supporto di più reti
Workload GPU Autopilot
La richiesta di GPU compatibili in modalità Autopilot comporta un tempo di avvio dei nodi fino a quattro volte più rapido e un tempo di pianificazione dei pod fino a due volte più rapido rispetto a richieste simili in modalità GKE Standard, perché i workload GPU Autopilot possono utilizzare nodi ad avvio rapido.
Di seguito sono riportati alcuni esempi di casi d'uso. Tuttavia, tutti i pod che soddisfano le condizioni della sezione Requisiti sono compatibili con i nodi di avvio rapido.
ComputeClass
Richiedi un tipo e un numero di acceleratori compatibili in una classe ComputeClass, come nell'esempio seguente:
apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
priorities:
- gpu:
type: ACCELERATOR_TYPE
count: ACCELERATOR_COUNT
nodePoolAutoCreation:
enabled: true
Quando selezioni questa ComputeClass in un pod, come nell'esempio seguente, GKE utilizza nodi ad avvio rapido:
apiVersion: v1
kind: Pod
metadata:
name: POD_NAME
spec:
nodeSelector:
# Select a ComputeClass that requests compatible GPUs
cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
containers:
- name: my-container
image: registry.k8s.io/pause
resources:
limits:
nvidia.com/gpu: ACCELERATOR_COUNT
Sostituisci i seguenti valori:
ACCELERATOR_COMPUTE_CLASS_NAME: il nome della classe ComputeClass che richiede gli acceleratori.ACCELERATOR_TYPE: il tipo di acceleratore.ACCELERATOR_COUNT: il numero di acceleratori richiesti dal pod. Questo valore deve essere inferiore o uguale al valore nel campospec.priorities.gpu.countin ComputeClass.POD_NAME: il nome del pod.
Per ulteriori informazioni su ComputeClass, consulta Informazioni sulle classi di computing personalizzate.
Specifica pod
Seleziona un tipo e un conteggio di acceleratori compatibili nella specifica del pod, come nell'esempio seguente:
apiVersion: v1
kind: Pod
metadata:
name: POD_NAME
spec:
nodeSelector:
cloud.google.com/gke-accelerator: ACCELERATOR_NAME
containers:
- name: my-container
image: registry.k8s.io/pause
resources:
limits:
nvidia.com/gpu: ACCELERATOR_COUNT
Sostituisci i seguenti valori:
POD_NAME: il nome del pod.ACCELERATOR_NAME: il nome dell'acceleratore richiesto dal pod.ACCELERATOR_COUNT: il numero di acceleratori richiesti dal pod.
Requisiti di configurazione per le risorse di computing idonee
Le tabelle nelle sezioni seguenti descrivono i requisiti specifici per GKE per eseguire il provisioning delle risorse di computing pertinenti come nodi ad avvio rapido.
Piattaforma di computing ottimizzata per i container Autopilot
Consulta i seguenti requisiti per GKE per eseguire il provisioning di nodi ad avvio rapido con la piattaforma di computing ottimizzata per i container Autopilot.
| Risorsa di computing | Supporto per canali di rilascio e versioni | Dischi supportati |
|---|---|---|
| Piattaforma di computing ottimizzata per i container Autopilot |
|
|
Serie di macchine G2
Consulta i seguenti requisiti per GKE per eseguire il provisioning delle macchine G2 come nodi ad avvio rapido.
| Risorsa di computing | Supporto per canali di rilascio e versioni | Dischi supportati |
|---|---|---|
| Serie di macchine G2 |
|
|
Serie di macchine A2
Consulta i seguenti requisiti per GKE per eseguire il provisioning delle macchine A2 come nodi di avvio rapido.
| Risorsa di computing | Supporto per canali di rilascio e versioni | Dischi supportati |
|---|---|---|
| Tipi di macchine standard A2 |
|
|
| Tipi di macchine A2 Ultra |
|
|
Serie di macchine A3
Consulta i seguenti requisiti per GKE per eseguire il provisioning delle macchine A3 come nodi di avvio rapido.
| Risorsa di computing | Supporto per canali di rilascio e versioni | Dischi supportati |
|---|---|---|
| Tipo di macchina A3 Mega |
|
|
Tipo di macchina A3 High (a3-highgpu-8g) |
|
|
Serie di macchine G4
Consulta i seguenti requisiti per GKE per eseguire il provisioning delle macchine G4 come nodi ad avvio rapido.
| Risorsa di computing | Supporto per canali di rilascio e versioni | Dischi supportati |
|---|---|---|
| Serie di macchine G4 |
|
|
Prezzi
I nodi con avvio rapido sono disponibili in GKE Autopilot senza costi aggiuntivi. Per saperne di più sui prezzi di GKE Autopilot, consulta la sezione Modalità Autopilot in Prezzi di Google Kubernetes Engine.
Passaggi successivi
- Strategie per ridurre la latenza di avvio
- Informazioni sulla piattaforma di computing ottimizzata per i container Autopilot
- Informazioni sulle classi di computing personalizzate
- Panoramica delle prestazioni di Persistent Disk