Présentation des stratégies d'emplacement compact et des règles de charge de travail

Ce document présente et compare les stratégies d'emplacement compact et les stratégies de charge de travail. Ces deux stratégies vous permettent de configurer l'emplacement des instances Compute Engine afin de minimiser la latence du réseau.

Par défaut, vous gérez l'emplacement de vos instances de calcul en spécifiant uniquement leurs zones. Pour créer des instances de calcul plus proches les unes des autres, vous pouvez utiliser les options suivantes. Pour en savoir plus, consultez également Colocation des ressources d'infrastructure d'IA.

  • Les ressources suivantes sont déjà colocalisées de manière dense :

    • Ressources qui consomment la même réservation future pour les blocs de capacité.
    • Ressources qui utilisent la même réservation future en mode Agenda.
    • Ressources que vous créez ensemble via une requête de redimensionnement de groupe d'instances géré (MIG).
  • Les ressources que vous créez ensemble lorsque vous spécifiez l'option de consommation Démarrage flexible peuvent être colocalisées de manière dense en fonction de la disponibilité au mieux. Si vous avez besoin de ressources colocalisées de manière dense, appliquez une stratégie d'emplacement compact qui spécifie une distance maximale ou une stratégie de charge de travail qui spécifie une distance maximale.

  • Sinon, pour placer des ressources à proximité les unes des autres, appliquez une stratégie d'emplacement compact ou une stratégie de charge de travail.

    • Lorsque vous avez besoin de ressources densément colocalisées, spécifiez une distance maximale dans la stratégie.
    • Si vous souhaitez que les ressources soient colocalisées de manière dense en fonction de la disponibilité, ne spécifiez pas de distance maximale dans la règle.

Pour savoir quand utiliser une stratégie d'emplacement compact plutôt qu'une stratégie de charge de travail, consultez la section Comparaison entre la stratégie d'emplacement compact et la stratégie de charge de travail de ce document.

Comparaison entre la stratégie d'emplacement compact et la stratégie de charge de travail

Le tableau suivant récapitule les différences entre les stratégies d'emplacement compact et les stratégies de charge de travail :

Stratégie d'emplacement compact Règle de charge de travail
Utilisation des règles
  • Instances autonomes
  • Instances déployées à l'aide de l'API Bulk
  • MIG avec des GPU généraux
MIG avec des GPU en cluster
Types de machines compatibles A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, A2, G4 et G2
  • Pour le démarrage flexible : A4 et A3 Ultra
  • Pour les instances Spot ou les réservations : A4X, A4, A3 Ultra, A3 Mega et A3 High (8 GPU)
Sémantique de regroupement

Compute Engine place les instances qui utilisent la même stratégie d'emplacement compact plus près les unes des autres.

Nous vous recommandons d'utiliser une stratégie d'emplacement différente pour chaque charge de travail. La réutilisation d'une stratégie d'emplacement sur des instances qui exécutent des charges de travail différentes entraîne le regroupement de toutes ces instances. Cette colocation peut compliquer la création d'instances proches les unes des autres lorsque vous effectuer un scaling horizontal d'une charge de travail spécifique.

Compute Engine place les instances d'un MIG qui utilise une stratégie de charge de travail plus près les unes des autres.

La réutilisation d'une stratégie de charge de travail sur plusieurs MIG exécutant des charges de travail différentes place les instances dans des MIG individuels. La réutilisation est idéale pour les grands modèles d'entraînement dans lesquels chaque groupe d'instances doit être isolé des autres.

Configuration de la colocation d'instances de calcul

Pour la colocalisation d'instances de calcul au meilleur effort, définissez le champ groupPlacementPolicy.collocation sur COLLOCATED.

Pour la colocalisation d'instances de calcul au meilleur effort, définissez le champ workloadPolicy.type sur HIGH_THROUGHPUT.

Configurations supplémentaires
  • Pour un emplacement strict d'instance de calcul, spécifiez le champ maxDistance.
  • Pour les séries de machines compatibles avec le partitionnement, telles que A4X Max et A4X, spécifiez le champ gpuTopology.
  • Pour un emplacement strict d'instance de calcul, spécifiez le champ maxTopologyDistance.
  • Pour les séries de machines compatibles avec le partitionnement, telles que A4X Max et A4X, spécifiez le champ acceleratorTopology.

Pour plus d'informations, consultez les sections suivantes :

Stratégies d'emplacement compact

Lorsque vous appliquez des stratégies d'emplacement compact à des instances de calcul autonomes ou à des instances de calcul créées de manière groupée, Compute Engine s'efforce de créer des instances de calcul aussi proches que possible les unes des autres. Si votre application nécessite une latence réseau minimale, spécifiez le champ maxDistance (bêta) lorsque vous créez une stratégie d'emplacement compact.

Pour en savoir plus, consultez À propos des stratégies d'emplacement compact dans la documentation Compute Engine.

Comparaison des valeurs de distance maximale pour les stratégies d'emplacement compact

Une valeur de distance maximale inférieure garantit un emplacement plus proche des instances de calcul, mais augmente également le risque que certaines instances de calcul ne soient pas créées.

Le tableau suivant indique la série de machines et le nombre d'instances de calcul compatibles avec chaque valeur de distance maximale :

maxDistance dans une stratégie d'emplacement compact maxTopologyDistance dans une règle de charge de travail Description Séries de machines compatibles Nombre maximal d'instances de calcul
Non spécifié (non recommandé) Non spécifié (non recommandé) Compute Engine s'efforce de placer les instances de calcul aussi près que possible les unes des autres, mais sans distance maximale entre elles. A4X Max, A4X, A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 et G2 1500
3 CLUSTER Compute Engine crée des instances de calcul dans des blocs adjacents. A4, A3 Mega1, A3 High1, A3 Edge1, A2, G4 et G2 1 500
2 BLOCK Compute Engine crée des instances de calcul dans le même bloc. A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 et G2
  • Pour A3 Ultra, A3 Mega1, A3 High1 et A3 Edge1 : 256
  • Pour toutes les autres séries de machines compatibles : 150
1 SUBBLOCK Compute Engine crée des instances de calcul dans le même sous-bloc. A3 Edge1, A2, G4 et G2 22

1 Si vous souhaitez appliquer une stratégie d'emplacement compact à une instance A3 Mega, A3 High ou A3 Edge créée avant le 1er octobre 2025, contactez l'équipe chargée de votre compte ou l'équipe commerciale.

Stratégies de la charge de travail

Les stratégies de charge de travail vous permettent de spécifier l'emplacement et l'infrastructure sous-jacente des instances de calcul d'un MIG. L'utilisation de règles de charge de travail avec A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega et A3 High (8 GPU) vous aide à minimiser la latence réseau entre les instances de calcul et à optimiser les performances.

En fonction des types de machines utilisés par les instances de calcul de votre MIG, les règles de charge de travail sont obligatoires ou facultatives dans les situations suivantes :

  • Pour déployer des sous-blocs d'instances A4X Max ou A4X, des règles de charge de travail sont requises.

  • Pour utiliser des instances A4, A3 Ultra, A3 Mega ou A3 High (8 GPU), les règles de charge de travail sont facultatives.

  • La règle de charge de travail n'est pas compatible avec les séries de machines A3 Edge, A2, G4, G2 et N1. Pour les MIG qui utilisent ces séries de machines, vous pouvez utiliser une stratégie d'emplacement compact pour la colocalisation des VM.

Pour en savoir plus, consultez À propos des règles de charge de travail dans les MIG dans la documentation Compute Engine.

Étapes suivantes