Présentation de la capacité

AI Hypercomputer est compatible avec plusieurs options de consommation pour vous aider à obtenir et à utiliser des ressources de calcul. Ce document explique comment obtenir de la capacité pour chaque option de consommation.

Comment obtenir de la capacité

Si vous souhaitez que l'IA vous aide à évaluer les options d'acquisition de capacité et les exigences de quota, exécutez le prompt suivant dans Compute Advisor :

Compute Advisor Compute Advisor est un assistant optimisé par l'IA que vous pouvez interroger pour obtenir des recommandations personnalisées pour votre infrastructure en fonction d'informations telles que vos limites de quota, vos réservations existantes et les contraintes d'emplacement des ressources.

Cette requête évalue les quotas et les réservations existantes de votre projet, compare les étapes d'acquisition de capacité entre les options de consommation et génère un tableau Markdown avec les actions recommandées pour les quotas et les réservations.

Tu es architecte d'infrastructure d'IA. Aide-moi à obtenir de la capacité de calcul dans AI Hypercomputer en fonction des quotas de mon projet, des réservations actives et des régions disponibles.

Fournis les informations suivantes :

1. Audit des quotas et des réservations du projet : inspectez les quotas de GPU standards et préemptifs de mon projet, ainsi que les réservations actives dans les régions. Identifiez les séries de machines GPU qui disposent d'un quota disponible ou de réservations actives, par rapport à celles qui nécessitent une augmentation de quota ou une réservation.

2. Comparaison des acquisitions de capacité : comparez les options de consommation actuelles et disponibles dans AI Hypercomputer et leurs caractéristiques spécifiques, y compris les niveaux de GPU compatibles (GPU en cluster et GPU généraux), les types de quotas requis, les délais de livraison et les modèles de facturation, en fonction de mon projet et de la série de machines de mes VM.

3. Chemin d'acquisition recommandé : recommandez le meilleur chemin d'acquisition de capacité pour les charges de travail GPU en cluster de longue durée, les jobs réservés à moyen terme, les jobs denses de courte durée et les déploiements GPU généraux.

Formatez la comparaison sous forme de tableau Markdown (avec des colonnes pour l'option de consommation, les GPU compatibles, le quota requis et le modèle de facturation), fournissez une commande gcloud CLI prête à l'emploi pour réserver de la capacité ou créer des instances, et terminez par deux ou trois questions sur ma série de GPU cible, le nombre de nœuds et la durée pour affiner le plan d'action.
Modifier et exécuter le prompt dans Compute Advisor

Le tableau suivant décrit comment obtenir de la capacité pour chaque option de consommation.

Option d'utilisation Processus d'obtention de capacité Implications en termes de tarification
Réservations futures pour plus de 90 jours (pour les blocs de capacité)

Pour obtenir des ressources de réservation future, procédez comme suit :

  1. Contactez l'équipe responsable de votre compte pour réserver de la capacité. Vous pouvez demander des instances de calcul seules. Si vos charges de travail nécessitent du stockage, vous pouvez également demander un pool Hyperdisk avec vos instances de calcul.
  2. Google augmente votre quota, puis provisionne les ressources demandées à la date et à l'heure que vous avez spécifiées.
  3. Lorsque vous créez une instance ou un cluster Compute Engine, spécifiez le modèle de provisionnement lié à une réservation et les propriétés qui correspondent à vos ressources réservées. Compute Engine provisionne des instances de calcul et des clusters à l'aide de votre capacité réservée.
 Vous payez pour toute la période de réservation, que vous utilisiez ou non les ressources réservées. Pour en savoir plus, consultez les tarifs des réservations et des pools de stockage.
Réservations futures jusqu'à 90 jours (en mode Agenda)

Pour obtenir des ressources de réservation future, procédez comme suit :

  1. Recherchez la capacité disponible et réservez des ressources.
  2. Aucun quota n'est facturé et aucune action n'est requise de votre part.
  3. Lorsque vous créez une instance ou un cluster de calcul, vous devez spécifier le modèle de provisionnement lié à la réservation. Les instances de calcul et les clusters sont provisionnés à partir de votre capacité réservée.
 La période de réservation vous est facturée, que vous utilisiez ou non les ressources réservées pendant toute la période. Pour en savoir plus, consultez Tarifs de Dynamic Workload Scheduler.
Démarrage flexible

Pour cette option de consommation, aucune réservation n'est requise. Pour obtenir des ressources à démarrage flexible, procédez comme suit :

  1. Vous devez demander un quota préemptif pour le type de machine GPU que vous souhaitez utiliser.
  2. Lorsque vous créez des instances de calcul ou des clusters à l'aide de l'une des options suivantes, spécifiez le modèle de provisionnement à démarrage flexible :

    Lorsque les ressources demandées deviennent disponibles, Compute Engine provisionne vos VM. Vos VM s'exécutent pendant sept jours maximum.

 Vous êtes facturé lorsque les ressources sont utilisées. Les ressources provisionnées à l'aide du démarrage flexible bénéficient automatiquement de remises conformément à la tarification du programmeur de charge de travail dynamique.
À la demande

Pour cette option d'utilisation, la réservation de capacité est facultative. Les ressources à la demande ne sont disponibles que pour les GPU généraux (tels que N1, G2, G4, A2 ou A3 Edge). Pour obtenir ces ressources à la demande, procédez comme suit :

  1. Demandez un quota de GPU standard pour le type de machine que vous souhaitez utiliser. Pour en savoir plus, consultez Demander une augmentation de quota.
  2. Vérifiez la disponibilité en consultant les régions préférées pour votre matériel dans la liste Disponibilité des GPU par région et par zone de Compute Engine.
  3. Créez une instance ou un cluster de calcul, puis spécifiez le modèle de provisionnement standard. Les ressources sont provisionnées immédiatement en fonction de la capacité disponible.
 Les tarifs standards à la demande s'appliquent lorsque les ressources sont utilisées.
Réservations à la demande

Les réservations à la demande (parfois appelées réservations) ne sont disponibles que pour les GPU généraux (tels que G2, G4, A2 ou A3 Edge). Pour réserver de la capacité, procédez comme suit :

  1. Demandez un quota de GPU standard pour votre type de machine. Pour en savoir plus, consultez Demander une augmentation de quota.
  2. Créez une réservation à la demande pour votre type de VM et de GPU spécifique à l'aide de la console Google Cloud , de la gcloud CLI ou d'autres méthodes. Pour en savoir plus sur toutes les méthodes de création de réservations, consultez Créer une réservation pour un seul projet.
  3. Provisionnez vos ressources en créant une instance ou un cluster et en ciblant votre réservation spécifique.
 Les tarifs standards s'appliquent pendant toute la période de réservation. Appliquez des remises sur engagement d'utilisation pour réaliser des économies importantes.
Réservations futures standards

Pour cette option de consommation, vous réservez de la capacité pour une date ultérieure. Les réservations futures standards utilisent le modèle de provisionnement standard et ne sont disponibles que pour les GPU généraux.

  1. Demandez un quota de GPU standard pour votre type de machine. Pour en savoir plus, consultez Demander une augmentation de quota.
  2. Créez une demande de réservation future pour votre type de VM et de GPU spécifique.
  3. Lorsque la réservation atteint son heure de début, créez des instances de calcul à l'aide de votre capacité réservée.
 Les tarifs standards s'appliquent pendant toute la période de réservation. Appliquez des remises sur engagement d'utilisation pour réaliser des économies importantes.
Spot

Pour cette option de consommation, aucune réservation n'est requise. Pour obtenir des ressources Spot, procédez comme suit :

  1. Vous devez demander un quota préemptif pour le type de machine GPU que vous souhaitez utiliser.
  2. Affichez la disponibilité des ressources dans la région ou la zone où vous souhaitez créer des instances de calcul.
  3. Lorsque vous créez une instance ou un cluster de calcul, spécifiez le modèle de provisionnement Spot. Les ressources sont provisionnées pour vous dès que la capacité est disponible, mais elles peuvent être préemptées à tout moment.
 Vous êtes facturé lorsque les ressources sont utilisées. Les VM Spot bénéficient automatiquement de remises conformément à la tarification des VM Spot.

Étapes suivantes