Informazioni sulle VM con avvio flessibile

Questo documento fornisce una panoramica delle VM con avvio flessibile, descrivendone le caratteristiche principali, nonché i requisiti e le limitazioni che si applicano quando le crei.

Le VM con avvio flessibile sono istanze di macchine virtuali (VM) che crei utilizzando il modello di provisioning con avvio flessibile. Questo modello utilizza Dynamic Workload Scheduler (DWS) per eseguire il provisioning delle risorse di computing da un pool di capacità sicuro, migliorando le tue possibilità di ottenere risorse molto richieste come GPU o TPU. Dopo aver creato le VM Flex-start, Compute Engine tenta di allocare le risorse richieste entro un periodo di tempo specifico. Se l'operazione va a buon fine, le tue Flex-start VM iniziano a essere eseguite e continuano a farlo per un massimo di sette giorni.

Per i workload che richiedono risorse per più di sette giorni o con una garanzia di capacità più elevata, puoi creare una richiesta di prenotazione futura in modalità calendario.

Casi d'uso delle Flex-start VM

Le VM Flex-start sono ideali per l'esecuzione di workload che possono essere avviati in qualsiasi momento, ad esempio:

  • Pre-addestramento di modelli di piccole dimensioni

  • Ottimizzazione del modello

  • Simulazione di computing ad alte prestazioni (HPC)

  • Inferenza batch

Caratteristiche principali delle Flex-start VM

Rispetto ad altri tipi di istanze di Compute Engine, le VM Flex-start hanno le seguenti caratteristiche:

  • Un tempo di attesa per l'allocazione delle risorse: puoi creare VM Flex-start prima che Compute Engine possa allocare le risorse richieste. Tuttavia, le VM vengono avviate solo se le risorse diventano disponibili entro il periodo di tempo specificato. Se le risorse non sono disponibili, la richiesta di creazione della VM non va a buon fine.

    Per ulteriori informazioni, consulta Tempo di attesa delle VM con avvio flessibile in questo documento.

  • Una durata di esecuzione limitata: le VM Flex-start vengono eseguite senza interruzioni per un massimo di sette giorni. Al termine di questo periodo, Compute Engine arresta o elimina automaticamente le VM in base all'azione di terminazione specificata nelle proprietà della VM.

    Per ulteriori informazioni, consulta Durata di esecuzione limitata delle Flex-start VM in questo documento.

  • In che modo Compute Engine alloca le VM: Compute Engine fa del suo meglio per creare VM Flex-start in prossimità per ridurre al minimo la latenza di rete. Per controllare il posizionamento delle Flex-start VM, puoi facoltativamente utilizzare policy di posizionamento compatto o policy dei workload.

    Per ulteriori informazioni, consulta Allocazione delle VM con avvio flessibile in questo documento.

  • Modello di provisioning con avvio flessibile: crei VM con avvio flessibile utilizzando il modello di provisioning con avvio flessibile. Questo modello di provisioning offre una maggiore disponibilità delle risorse rispetto alle VM create utilizzando il modello di provisioning standard.

    Per saperne di più su ciascun modello di provisioning, consulta Modelli di provisioning delle istanze Compute Engine.

Tempo di attesa della VM con avvio flessibile

Quando crei una Flex-start VM, la VM non si avvia immediatamente. Compute Engine tenta di allocare le risorse richieste e di avviare la VM entro un periodo di tempo specifico. Se disponi di una quota sufficiente per le risorse richieste e Compute Engine le alloca entro la fine del tempo di attesa, la Flex-start VM viene avviata entro due minuti dalla disponibilità della capacità. In caso contrario, la richiesta di creazione della VM non va a buon fine.

Il tempo di attesa varia in base al metodo utilizzato per creare le VM:

Tempo di attesa delle VM con avvio flessibile autonome

Per creare una VM Flex-start autonoma, devi specificare un tempo di attesa utilizzando il campo requestValidForDuration. Puoi impostare un tempo di attesa di zero secondi o compreso tra 90 secondi e 7200 secondi (due ore).

In base ai requisiti di zona del tuo carico di lavoro, ti consigliamo i seguenti tempi di attesa per aumentare le probabilità che la richiesta di creazione della Flex-start VM vada a buon fine:

  • Requisiti di zona rigorosi: se il tuo workload richiede la creazione di una Flex-start VM in una zona specifica, ti consigliamo di impostare il campo requestValidForDuration su 90 secondi o più, fino a due ore. Tempi di attesa più lunghi aumentano le possibilità di ottenere risorse. Durante questo periodo, la VM rimane nello stato PENDING.

  • Nessun requisito di zona: se la Flex-start VM può essere eseguita in qualsiasi zona della regione, ti consigliamo di impostare il campo requestValidForDuration su zero secondi. Questo valore specifica che Compute Engine alloca le risorse solo se sono immediatamente disponibili. Se la richiesta non va a buon fine perché le risorse non sono disponibili, prova a creare la VM con avvio flessibile in un'altra zona.

Per interrompere una richiesta di creazione di una VM mentre Compute Engine tenta di allocare le risorse, elimina la VM Flex-start.

Tempo di attesa dei MIG con VM con avvio flessibile

Se aggiungi VM con avvio flessibile a un gruppo di istanze gestite (MIG), Compute Engine continua a tentare di eseguire il provisioning delle risorse richieste finché non riesce o finché non annulli la richiesta. Il modo in cui Compute Engine aggiunge VM al MIG varia in base al metodo di creazione:

  • Richieste di ridimensionamento dei MIG: Compute Engine aggiunge le VM richieste al MIG in una sola volta quando tutte le risorse diventano disponibili. A meno che non elimini le VM prima della fine della loro durata di esecuzione, Compute Engine le elimina contemporaneamente. Per ulteriori informazioni, consulta la pagina Informazioni sulle richieste di ridimensionamento dei MIG.

  • MIG con una dimensione target: Compute Engine crea singolarmente ogni VM quando la capacità diventa disponibile. Pertanto, il MIG potrebbe inizialmente creare solo una parte delle VM richieste e poi aggiungere le VM rimanenti in un secondo momento, se la capacità lo consente. A meno che tu non elimini le VM prima della fine della loro durata di esecuzione, Compute Engine elimina ogni VM in base alla sua ora di creazione. Per saperne di più, consulta Crea un MIG che utilizza VM con avvio flessibile.

Durata di esecuzione limitata della VM con avvio flessibile

Quando crei una Flex-start VM, devi specificare quanto segue:

  • La durata di esecuzione delle VM: devi specificare per quanto tempo le VM possono essere eseguite. La durata dell'esecuzione può essere di massimo sette giorni. Se il workload viene completato prima del termine della durata di esecuzione delle VM, puoi arrestare o eliminare le VM autonome oppure eliminare le VM in un MIG per evitare costi non necessari.

  • L'azione di terminazione della VM: devi scegliere se Compute Engine deve arrestare o eliminare automaticamente le VM al termine della durata dell'esecuzione. Per le VM con avvio flessibile in un MIG, puoi solo specificare di eliminare le VM al termine della loro durata di esecuzione.

Allocazione di VM con avvio flessibile

Compute Engine fa del suo meglio per creare in modo denso le tue VM Flex-start in base alla disponibilità. Questo posizionamento denso riduce al minimo gli hop di rete e ottimizza la bassa latenza, il che è ideale per i workload che richiedono una comunicazione costante tra le VM, come i workload di AI o ML. Se vuoi controllare il posizionamento delle VM Flex-start per evitare che vengano create inaspettatamente molto distanti tra loro, segui questi passaggi:

Quota

Per creare o riavviare le VM con avvio flessibile, il progetto deve avere una quota preemptible sufficiente per le vCPU, la memoria e gli acceleratori o i dischi SSD locali collegati richiesti.

Se provi a creare o riavviare una VM Flex-start senza una quota sufficiente, si verifica uno dei seguenti scenari:

  • Richieste di creazione di VM: la richiesta rimane in attesa finché il progetto non ha una quota sufficiente. Se il progetto non dispone della quota richiesta alla scadenza del tempo di attesa, la richiesta di creazione non va a buon fine.

  • Richieste di riavvio delle VM: la richiesta non va a buon fine immediatamente.

Prezzi

Per le VM con avvio flessibile, paghi in base al consumo (PAYG). Per saperne di più, consulta i prezzi di DWS.

Limitazioni

Le sezioni seguenti descrivono le limitazioni per le VM Flex-start.

Limitazioni per tutte le Flex-start VM

Tutte le Flex-start VM presentano le seguenti limitazioni:

  • Le VM Flex-start possono utilizzare solo i seguenti tipi di macchine:

    • Qualsiasi tipo di macchina GPU, ad eccezione di A4X Max e A4X

    • Tipi di macchine TPU7x, TPU v6e e TPU v5p

    • Tipi di macchine H4D

  • Devi creare le Flex-start VM utilizzando il modello di provisioning con avvio flessibile.

  • Devi specificare se arrestare o eliminare le VM Flex-start al termine della loro durata di esecuzione utilizzando i campi instanceTerminationAction e maxRunDuration.

  • Devi arrestare le VM con avvio flessibile durante gli eventi di manutenzione dell'host.

  • Puoi applicare policy di posizionamento compatto solo alle VM Flex-start autonome.

  • Non puoi applicare policy di posizionamento distribuito alle VM con avvio flessibile.

  • Non puoi utilizzare le prenotazioni.

Limitazioni per i MIG con Flex-start VM

Tutti i MIG con VM con avvio flessibile presentano le seguenti limitazioni:

Inoltre, se vuoi creare VM con avvio flessibile utilizzando le richieste di ridimensionamento dei MIG, consulta le limitazioni per le richieste di ridimensionamento dei MIG.

Passaggi successivi