Kapazität – Übersicht

AI Hypercomputer unterstützt mehrere Nutzungsoptionen, mit denen Sie Rechenressourcen beziehen und nutzen können. In diesem Dokument erhalten Sie einen Überblick darüber, wie Sie Kapazität für die einzelnen Nutzungsoptionen erhalten können.

Kapazität erhalten

Wenn Sie KI-basierte Unterstützung bei der Bewertung von Optionen für den Kapazitätserwerb und Kontingentanforderungen wünschen, führen Sie den folgenden Prompt in Compute Advisor aus:

Compute Advisor Compute Advisor ist ein KI-basierter Assistent, den Sie auffordern können, personalisierte Empfehlungen für Ihre Infrastruktur zu erhalten, die auf Informationen wie Ihren Kontingentlimits, vorhandenen Reservierungen und Einschränkungen für den Ressourcenstandort basieren.

Mit diesem Prompt werden die Kontingente und vorhandenen Reservierungen Ihres Projekts ausgewertet, die Schritte zur Kapazitätserfassung für die verschiedenen Verbrauchsoptionen verglichen und eine Markdown-Tabelle mit empfohlenen Kontingent- und Reservierungsaktionen ausgegeben.

Du bist ein KI-Infrastrukturarchitekt. Helfen Sie mir, Rechenkapazität im AI Hypercomputer basierend auf den Kontingenten, aktiven Reservierungen und verfügbaren Regionen meines Projekts zu erhalten.

Geben Sie Folgendes an:

1. Projektkontingent- und Reservierungsprüfung: Prüfen Sie die Standard- und auf Abruf-GPU-Kontingente sowie die aktiven Reservierungen Ihres Projekts in allen Regionen und ermitteln Sie, welche GPU-Maschinenreihen über verfügbare Kontingente oder aktive Reservierungen verfügen und welche eine Kontingenterhöhung oder Reservierung erfordern.

2. Vergleich der Kapazitätsbeschaffung: Vergleichen Sie die aktuellen und verfügbaren Nutzungsvarianten im AI Hypercomputer und ihre spezifischen Merkmale, einschließlich unterstützter GPU-Stufen (geclusterte GPUs und allgemeine GPUs), erforderlicher Kontingenttypen, Vorlaufzeiten und Abrechnungsmodelle, basierend auf meinem Projekt und der Maschinenserie meiner VMs.

3. Empfohlener Beschaffungsweg: Empfehlen Sie den besten Kapazitätsbeschaffungsweg für langlebige geclusterte GPU-Arbeitslasten, mittelfristig reservierte Jobs, kurzlebige dichte Jobs und allgemeine GPU-Bereitstellungen.

Formatieren Sie den Vergleich als Markdown-Tabelle (mit Spalten für Verbrauchsoption, unterstützte GPUs, erforderliches Kontingent und Abrechnungsmodell), stellen Sie einen einsatzbereiten gcloud CLI-Befehl zum Reservieren von Kapazität oder Erstellen von Instanzen bereit und stellen Sie am Ende 2–3 Fragen zu meiner Ziel-GPU-Serie, Knotenanzahl und Dauer, um den Aktionsplan zu verfeinern.
Prompt in Compute Advisor bearbeiten und ausführen

In der folgenden Tabelle wird beschrieben, wie Sie Kapazität für die einzelnen Verbrauchsoptionen erhalten können.

Nutzungsoption Prozess zum Erhalten von Kapazität Auswirkungen auf den Preis
Vorausschauende Reservierungen für mehr als 90 Tage (für Kapazitätsblöcke)

So rufen Sie Ressourcen für vorausschauende Reservierungen ab:

  1. Wenden Sie sich an Ihr Account-Management-Team, um Kapazitäten zu reservieren. Sie können Compute-Instanzen auch einzeln anfordern. Wenn Ihre Arbeitslasten Speicherplatz benötigen, können Sie auch einen Hyperdisk-Pool mit Ihren Compute-Instanzen anfordern.
  2. Google erhöht Ihr Kontingent und stellt dann die angeforderten Ressourcen zum angegebenen Datum und zur angegebenen Uhrzeit bereit.
  3. Wenn Sie eine Compute Engine-Instanz oder einen Compute Engine-Cluster erstellen, geben Sie das reservierungsgebundene Bereitstellungsmodell und die Attribute an, die Ihren reservierten Ressourcen entsprechen. Compute Engine stellt Compute-Instanzen und Cluster mithilfe Ihrer reservierten Kapazität bereit.
 Sie bezahlen für den gesamten Reservierungszeitraum, unabhängig davon, ob Sie die reservierten Ressourcen nutzen oder nicht. Weitere Informationen finden Sie unter den Preisen für Reservierungen und Speicherpools.
Vorausschauende Reservierungen für bis zu 90 Tage (im Kalendermodus)

So rufen Sie Ressourcen für vorausschauende Reservierungen ab:

  1. Nach verfügbarer Kapazität suchen und Ressourcen reservieren
  2. Es wird kein Kontingent berechnet und Sie müssen nichts weiter tun.
  3. Wenn Sie eine Compute-Instanz oder einen Cluster erstellen, müssen Sie das reservierungsgebundene Bereitstellungsmodell angeben. Compute-Instanzen und -Cluster werden aus Ihrer reservierten Kapazität bereitgestellt.
 Ihnen wird der gesamte Reservierungszeitraum in Rechnung gestellt, unabhängig davon, ob Sie die reservierten Ressourcen für den gesamten Zeitraum nutzen oder nicht. Weitere Informationen finden Sie unter Dynamic Workload Scheduler – Preise.
Flex-Start

Für diese Verbrauchsoption ist keine Reservierung erforderlich. So rufen Sie Flex-Start-Ressourcen ab:

  1. Sie müssen ein Kontingent für den GPU-Maschinentyp auf Abruf anfordern, den Sie verwenden möchten.
  2. Wenn Sie Compute-Instanzen oder Cluster mit einer der folgenden Optionen erstellen, geben Sie das Bereitstellungsmodell „Flex-Start“ an:

    Wenn die angeforderten Ressourcen verfügbar sind, stellt Compute Engine Ihre VMs bereit. Ihre VMs werden bis zu sieben Tage lang ausgeführt.

 Ihnen werden die Ressourcen in Rechnung gestellt, wenn sie verwendet werden. Ressourcen, die mit Flex-Start bereitgestellt werden, erhalten automatisch Rabatte über die Preise für Dynamic Workload Scheduler.
On demand

Bei dieser Nutzungsoption ist die Reservierung von Kapazität optional. On-Demand-Ressourcen sind nur für allgemeine GPUs (z. B. N1, G2, G4, A2 oder A3 Edge) verfügbar. So rufen Sie diese On-Demand-Ressourcen ab:

  1. Fordern Sie ein Standard-GPU-Kontingent für den Maschinentyp an, den Sie verwenden möchten. Weitere Informationen finden Sie unter Kontingenterhöhung anfordern.
  2. Prüfen Sie die Verfügbarkeit, indem Sie die bevorzugten Regionen für Ihre Hardware in der Compute Engine-Liste GPU-Verfügbarkeit nach Region und Zone aufrufen.
  3. Erstellen Sie eine Compute-Instanz oder einen Cluster und geben Sie das Standardbereitstellungsmodell an. Ressourcen werden sofort basierend auf der verfügbaren Kapazität bereitgestellt.
 Während die Ressourcen verwendet werden, gelten die Standard-On-Demand-Preise.
On-demand-Reservierungen

On-Demand-Reservierungen (manchmal auch als Reservierungen bezeichnet) sind nur für allgemeine GPUs (z. B. G2, G4, A2 oder A3 Edge) verfügbar. So reservieren Sie Kapazität:

  1. Fordern Sie ein Standard-GPU-Kontingent für Ihren Maschinentyp an. Weitere Informationen finden Sie unter Kontingenterhöhung anfordern.
  2. Erstellen Sie eine On-Demand-Reservierung für Ihren spezifischen VM- und GPU-Typ mit der Google Cloud Console, der gcloud CLI oder anderen Methoden. Weitere Informationen zu allen Methoden zum Erstellen von Reservierungen finden Sie unter Reservierung für ein einzelnes Projekt erstellen.
  3. Stellen Sie Ihre Ressourcen bereit, indem Sie eine Instanz oder einen Cluster erstellen und auf Ihre spezifische Reservierung ausrichten.
 Für die gesamte Reservierungsdauer gelten die Standardpreise. Wenden Sie Rabatte für zugesicherte Nutzung an, um erhebliche Einsparungen zu erzielen.
Standardmäßige vorausschauende Reservierungen

Bei dieser Verbrauchsoption reservieren Sie Kapazität für ein zukünftiges Datum. Standardmäßige vorausschauende Reservierungen verwenden das Standardbereitstellungsmodell und sind nur für allgemeine GPUs verfügbar.

  1. Fordern Sie ein Standard-GPU-Kontingent für Ihren Maschinentyp an. Weitere Informationen finden Sie unter Kontingenterhöhung anfordern.
  2. Erstellen Sie eine Anfrage für eine vorausschauende Reservierung für Ihren spezifischen VM- und GPU-Typ.
  3. Wenn die Reservierung ihren Beginn erreicht, erstellen Sie Compute-Instanzen mit Ihrer reservierten Kapazität.
 Für die gesamte Reservierungsdauer gelten die Standardpreise. Wenden Sie Rabatte für zugesicherte Nutzung an, um erhebliche Einsparungen zu erzielen.
Spot

Für diese Verbrauchsoption ist keine Reservierung erforderlich. So rufen Sie Spot-Ressourcen ab:

  1. Sie müssen ein Kontingent für den GPU-Maschinentyp auf Abruf anfordern, den Sie verwenden möchten.
  2. Ressourcenverfügbarkeit in der Region oder Zone ansehen, in der Sie Compute-Instanzen erstellen möchten
  3. Wenn Sie eine Compute-Instanz oder einen Cluster erstellen, geben Sie das Spot-Bereitstellungsmodell an. Ressourcen werden für Sie bereitgestellt, sobald Kapazität verfügbar ist, können aber jederzeit vorzeitig beendet werden.
 Ihnen werden die Ressourcen in Rechnung gestellt, wenn sie verwendet werden. Spot-VMs erhalten automatisch Rabatte über die Preise für Spot-VMs.

Nächste Schritte