À propos des VM à démarrage flexible

Ce document présente les VM à démarrage flexible, en détaillant leurs principales caractéristiques, ainsi que les exigences et les limites applicables lorsque vous les créez.

Les VM à démarrage flexible sont des instances de machine virtuelle (VM) que vous créez à l'aide du modèle de provisionnement à démarrage flexible. Ce modèle utilise le programmeur de charge de travail dynamique pour provisionner des ressources de calcul à partir d'un pool de capacité sécurisé, ce qui améliore vos chances d'obtenir des ressources très demandées telles que des GPU ou des TPU. Une fois que vous avez créé des VM Flex-start, Compute Engine tente d'allouer les ressources demandées dans un délai spécifique. Si elle réussit, vos VM à démarrage flexible commencent à s'exécuter et continuent de s'exécuter pendant sept jours maximum.

Pour les charges de travail qui nécessitent des ressources pendant plus de sept jours ou avec une garantie de capacité plus élevée, vous pouvez créer une demande de réservation future en mode Agenda.

Cas d'utilisation des VM à démarrage flexible

Les VM à démarrage flexible sont idéales pour exécuter des charges de travail qui peuvent démarrer à tout moment, telles que les suivantes :

  • Pré-entraînement de petits modèles

  • Affinage de modèles

  • Simulation de calcul hautes performances (HPC)

  • Inférence par lot

Principales caractéristiques des VM à démarrage flexible

Par rapport aux autres types d'instances Compute Engine, les VM Flex-start présentent les caractéristiques suivantes :

  • Un temps d'attente pour l'allocation des ressources : vous pouvez créer des VM Flex-start avant que Compute Engine ne puisse allouer les ressources demandées. Toutefois, les VM ne démarrent que si des ressources deviennent disponibles dans le délai que vous avez spécifié. Si les ressources ne sont pas disponibles, la requête de création de VM échoue.

    Pour en savoir plus, consultez Temps d'attente des VM Flex-start dans ce document.

  • Durée d'exécution limitée : les VM à démarrage flexible s'exécutent sans interruption pendant sept jours maximum. Passé ce délai, Compute Engine arrête ou supprime automatiquement les VM en fonction de l'action d'arrêt spécifiée dans les propriétés de la VM.

    Pour en savoir plus, consultez Durée d'exécution limitée des Flex-start VM dans ce document.

  • Comment Compute Engine alloue les VM : Compute Engine s'efforce de créer des VM Flex-start à proximité les unes des autres pour minimiser la latence du réseau. Pour contrôler l'emplacement de vos VM Flex-start, vous pouvez éventuellement utiliser des stratégies d'emplacement compact ou des stratégies de charge de travail.

    Pour en savoir plus, consultez la section Allocation de VM Flex-start de ce document.

  • Modèle de provisionnement de démarrage flexible : vous créez des VM à démarrage flexible à l'aide du modèle de provisionnement de démarrage flexible. Ce modèle de provisionnement offre une meilleure disponibilité des ressources par rapport aux VM que vous créez à l'aide du modèle de provisionnement standard.

    Pour en savoir plus sur chaque modèle de provisionnement, consultez Modèles de provisionnement des instances Compute Engine.

Temps d'attente de la VM à démarrage flexible

Lorsque vous créez une VM à démarrage flexible, elle ne démarre pas immédiatement. Compute Engine tente d'allouer les ressources demandées et de démarrer la VM dans un délai spécifique. Si vous disposez d'un quota suffisant pour les ressources demandées et que Compute Engine les alloue avant la fin du temps d'attente, la VM Flex-start démarre dans les deux minutes suivant la disponibilité de la capacité. Sinon, la requête de création de VM échoue.

Le temps d'attente varie en fonction de la méthode que vous utilisez pour créer des VM :

Temps d'attente des VM à démarrage flexible autonomes

Pour créer une VM à démarrage flexible autonome, vous devez spécifier un temps d'attente à l'aide du champ requestValidForDuration. Vous pouvez définir un temps d'attente de zéro seconde ou compris entre 90 secondes et 7 200 secondes (deux heures).

En fonction des exigences zonales de votre charge de travail, nous vous recommandons les temps d'attente suivants pour augmenter vos chances de voir aboutir votre demande de création de VM Flex-start :

  • Exigences zonales strictes : si votre charge de travail vous oblige à créer une VM Flex-start dans une zone spécifique, nous vous recommandons de définir le champ requestValidForDuration sur 90 secondes ou plus, jusqu'à deux heures. Plus le temps d'attente est long, plus vous avez de chances d'obtenir des ressources. La VM reste à l'état PENDING pendant toute cette période.

  • Aucune exigence zonale : si la VM Flex-start peut s'exécuter dans n'importe quelle zone de la région, nous vous recommandons de définir le champ requestValidForDuration sur zéro seconde. Cette valeur indique que Compute Engine n'alloue des ressources que si elles sont immédiatement disponibles. Si votre requête échoue en raison de l'indisponibilité des ressources, essayez de créer la VM Flex-start dans une autre zone.

Pour arrêter une requête de création de VM pendant que Compute Engine tente d'allouer des ressources, supprimez la VM Flex-start.

Temps d'attente des MIG avec des VM à démarrage flexible

Si vous ajoutez des VM Flex-start à un groupe d'instances géré (MIG), Compute Engine continue d'essayer de provisionner les ressources demandées jusqu'à ce qu'il y parvienne ou que vous annuliez la requête. La façon dont Compute Engine ajoute des VM à votre MIG varie en fonction de la méthode de création :

  • Requêtes de redimensionnement de MIG : Compute Engine ajoute simultanément les VM demandées au MIG lorsque toutes les ressources deviennent disponibles. Sauf si vous supprimez les VM avant la fin de leur durée d'exécution, Compute Engine les supprime en même temps. Pour en savoir plus, consultez À propos des requêtes de redimensionnement de MIG.

  • MIG avec une taille cible : Compute Engine crée individuellement chaque VM lorsque la capacité devient disponible. Ainsi, le MIG peut initialement ne créer qu'une partie des VM demandées, puis ajouter les VM restantes ultérieurement, en fonction de la capacité disponible. Sauf si vous supprimez les VM avant la fin de leur durée d'exécution, Compute Engine supprime chaque VM en fonction de sa propre heure de création. Pour en savoir plus, consultez Créer un MIG qui utilise des VM Flex-start.

Durée d'exécution limitée des VM à démarrage flexible

Lorsque vous créez une VM à démarrage flexible, vous devez spécifier les éléments suivants :

  • Durée d'exécution des VM : vous devez spécifier la durée d'exécution des VM. La durée d'exécution peut aller jusqu'à sept jours. Si votre charge de travail se termine avant la fin de la durée d'exécution des VM, vous pouvez arrêter ou supprimer les VM autonomes, ou supprimer les VM d'un MIG pour éviter des coûts inutiles.

  • Action d'arrêt de la VM : vous devez choisir si Compute Engine arrête ou supprime automatiquement les VM à la fin de leur durée d'exécution. Pour les VM à démarrage flexible dans un MIG, vous ne pouvez spécifier que la suppression des VM à la fin de leur durée d'exécution.

Allocation de VM Flex-start

Compute Engine s'efforce de créer vos VM Flex-start de manière dense en fonction de la disponibilité. Cet emplacement dense réduit au maximum les sauts de réseau et permet d'obtenir une faible latence, ce qui est idéal pour les charges de travail qui nécessitent une communication constante entre les VM, telles que les charges de travail d'IA ou de ML. Si vous souhaitez contrôler l'emplacement de vos VM à démarrage flexible pour éviter qu'elles ne soient créées de manière inattendue à des emplacements éloignés, procédez comme suit :

Quota

Pour créer ou redémarrer des VM Flex-start, votre projet doit disposer d'un quota préemptif suffisant pour les processeurs virtuels, la mémoire et les accélérateurs ou disques SSD locaux associés demandés.

Si vous tentez de créer ou de redémarrer une VM à démarrage flexible sans quota suffisant, l'un des scénarios suivants se produit :

  • Demandes de création de VM : la demande reste en attente jusqu'à ce que votre projet dispose d'un quota suffisant. Si votre projet ne dispose pas du quota requis à l'expiration du délai d'attente, la requête de création échoue.

  • Requêtes de redémarrage de VM : la requête échoue immédiatement.

Tarifs

Pour les VM à démarrage flexible, vous payez à l'usage. Pour en savoir plus, consultez la page Tarifs de DWS.

Limites

Les sections suivantes décrivent les limites des VM Flex-start.

Limites pour toutes les VM Flex-start

Toutes les VM Flex-start sont soumises aux limites suivantes :

  • Les VM Flex-start ne peuvent utiliser que les types de machines suivants :

    • Tous les types de machines avec GPU, sauf A4X Max et A4X

    • Types de machines TPU7x, TPU v6e et TPU v5p

    • Types de machines H4D

  • Vous devez créer des VM à démarrage flexible à l'aide du modèle de provisionnement à démarrage flexible.

  • Vous devez spécifier si vous souhaitez arrêter ou supprimer les VM Flex-start à la fin de leur durée d'exécution à l'aide des champs instanceTerminationAction et maxRunDuration.

  • Vous devez arrêter les VM Flex-start lors des événements de maintenance de l'hôte.

  • Vous ne pouvez appliquer des stratégies d'emplacement compact qu'aux VM Flex-start autonomes.

  • Vous ne pouvez pas appliquer de stratégies d'emplacement par répartition aux VM Flex-start.

  • Vous ne pouvez pas utiliser de réservations.

Limites des MIG avec des VM à démarrage flexible

Tous les MIG avec des VM à démarrage flexible présentent les limites suivantes :

De plus, si vous souhaitez créer des VM à démarrage flexible à l'aide de requêtes de redimensionnement de MIG, consultez les limites des requêtes de redimensionnement de MIG.

Étapes suivantes