Kapazität – Übersicht

Allgemeine GPUs Clustered GPUs

AI Hypercomputer unterstützt mehrere Nutzungsoptionen, mit denen Sie Rechenressourcen beziehen und nutzen können. In diesem Dokument erhalten Sie einen Überblick darüber, wie Sie Kapazität für die einzelnen Nutzungsoptionen erhalten können.

Kapazität erhalten

In der folgenden Tabelle wird beschrieben, wie Sie Kapazität für die einzelnen Verbrauchsoptionen erhalten.

Nutzungsoption	Prozess zum Erhalten von Kapazität	Auswirkungen auf den Preis
Vorausschauende Reservierungen für mehr als 90 Tage (für Kapazitätsblöcke)	So erhalten Sie Ressourcen für vorausschauende Reservierungen: Wenden Sie sich an Ihr Account-Management-Team, um Kapazitäten zu reservieren. Sie können nur Compute-Instanzen anfordern. Wenn Ihre Arbeitslasten Speicherplatz benötigen, können Sie auch einen Hyperdisk-Pool mit Ihren Compute-Instanzen anfordern. Google erhöht Ihr Kontingent und stellt dann die angeforderten Ressourcen zum angegebenen Datum und zur angegebenen Uhrzeit bereit. Wenn Sie eine Compute Engine-Instanz oder einen Cluster erstellen, geben Sie das reservierungsgebundene Bereitstellungsmodell und die Eigenschaften an, die Ihren reservierten Ressourcen entsprechen. Compute Engine stellt Compute-Instanzen und ‑Cluster mit Ihrer reservierten Kapazität bereit.	Sie zahlen für den gesamten Reservierungszeitraum, unabhängig davon, ob Sie die reservierten Ressourcen nutzen oder nicht. Weitere Informationen finden Sie unter Reservierungen und Speicherpools.
Vorausschauende Reservierungen für bis zu 90 Tage (im Kalendermodus)	So erhalten Sie Ressourcen für vorausschauende Reservierungen: Nach verfügbarer Kapazität suchen und Ressourcen reservieren: Es wird kein Kontingent berechnet und Sie müssen nichts weiter tun. Wenn Sie eine Compute-Instanz oder einen Cluster erstellen, müssen Sie das reservierungsgebundene Bereitstellungsmodell angeben. Compute-Instanzen und -Cluster werden aus Ihrer reservierten Kapazität bereitgestellt.	Ihnen wird der gesamte Reservierungszeitraum in Rechnung gestellt, unabhängig davon, ob Sie die reservierten Ressourcen während des gesamten Zeitraums nutzen. Weitere Informationen finden Sie unter Dynamic Workload Scheduler – Preise.
Flex-Start	Für diese Verbrauchsoption ist keine Reservierung erforderlich. So erhalten Sie Flex-Start-Ressourcen: Sie müssen Kontingent auf Abruf für den GPU-Maschinentyp anfordern, den Sie verwenden möchten. Wenn Sie Compute-Instanzen oder ‑Cluster mit einer der folgenden Optionen erstellen, geben Sie das Bereitstellungsmodell „Flex-Start“ an: Standalone-VM-Instanz erstellen MIGs mit Anfragen zur Größenanpassung erstellen Slurm-Cluster erstellen: Vollständig verwalteten Cluster erstellen Selbstverwalteten Cluster erstellen GKE-Cluster erstellen: KI-optimierten GKE-Cluster mit Cluster Toolkit erstellen KI-optimierten GKE-Cluster erstellen, der A4 oder A3 Ultra verwendet Wenn die angeforderten Ressourcen verfügbar werden, stellt Compute Engine Ihre VMs bereit. Ihre VMs werden bis zu sieben Tage lang ausgeführt.	Gebühren fallen an, wenn die Ressourcen verwendet werden. Ressourcen, die mit Flex-Start bereitgestellt werden, erhalten automatisch Rabatte über die Dynamic Workload Scheduler-Preise.
On demand	Bei dieser Nutzungsoption ist die Reservierung von Kapazität optional. On-Demand-Ressourcen sind nur für allgemeine GPUs verfügbar, z. B. N1, G2, G4, A2 oder A3 Edge. So erhalten Sie diese On-Demand-Ressourcen: Fordern Sie ein Standard-GPU-Kontingent für den Maschinentyp an, den Sie verwenden möchten. Weitere Informationen finden Sie unter Kontingenterhöhung anfordern. Prüfen Sie die Verfügbarkeit, indem Sie die bevorzugten Regionen für Ihre Hardware in der Liste GPU-Verfügbarkeit nach Region und Zone von Compute Engine aufrufen. Erstellen Sie eine Compute-Instanz oder einen Compute-Cluster und geben Sie das Standardbereitstellungsmodell an. Ressourcen werden sofort auf Grundlage der verfügbaren Kapazität bereitgestellt. Hinweis:Wenn Sie die Wahrscheinlichkeit erhöhen möchten, dass Sie allgemeine GPU-Kapazität erhalten, empfehlen wir Ihnen, Flex-Start zu verwenden. Die Verbrauchsoption „Flex-Start“ wurde speziell entwickelt, um Ihnen zu helfen, stark nachgefragte Ressourcen wie GPUs zu einem reduzierten Preis zu erhalten.	Während die Ressourcen verwendet werden, gelten die Standard-On-Demand-Preise.
On-demand-Reservierungen	On-Demand-Reservierungen (manchmal auch als Reservierungen bezeichnet) sind nur für allgemeine GPUs verfügbar, z. B. G2, G4, A2 oder A3 Edge. So reservieren Sie Kapazität: Fordern Sie ein Standard-GPU-Kontingent für Ihren Maschinentyp an. Weitere Informationen finden Sie unter Kontingenterhöhung anfordern. Erstellen Sie eine On-Demand-Reservierung für Ihren spezifischen VM- und GPU-Typ mit der Google Cloud -Console, der gcloud CLI oder anderen Methoden. Weitere Informationen zu allen Methoden zum Erstellen von Reservierungen finden Sie unter Reservierung für ein einzelnes Projekt erstellen. Stellen Sie Ihre Ressourcen bereit, indem Sie eine Instanz oder einen Cluster erstellen und auf Ihre spezifische Reservierung ausrichten.	Für den gesamten Reservierungszeitraum gelten die Standardpreise. Rabatte für zugesicherte Nutzung nutzen, um erhebliche Einsparungen zu erzielen.
Standardmäßige vorausschauende Reservierungen	Bei dieser Verbrauchsoption reservieren Sie Kapazität für einen zukünftigen Zeitpunkt. Für Standardreservierungen für die Zukunft wird das Standardbereitstellungsmodell verwendet. Sie sind nur für allgemeine GPUs verfügbar. Fordern Sie ein Standard-GPU-Kontingent für Ihren Maschinentyp an. Weitere Informationen finden Sie unter Kontingenterhöhung anfordern. Erstellen Sie eine Anfrage für eine vorausschauende Reservierung für Ihren spezifischen VM- und GPU-Typ. Wenn die Reservierung die Startzeit erreicht, erstellen Sie Compute-Instanzen mit der reservierten Kapazität. Achtung:Sie müssen sowohl bei der Einreichung Ihres Reservierungsantrags zur Überprüfung bei Google Cloud als auch bei Erreichen des Startzeitpunkts Ihres Antrags nach der Genehmigung über ein ausreichendes Kontingent für die angeforderten Ressourcen verfügen. Wenn Sie kein ausreichendes Kontingent haben, kann Google Cloud Ihre Anfrage ablehnen oder nur einen Teil der angeforderten Ressourcen zum Startzeitpunkt bereitstellen.	Für den gesamten Reservierungszeitraum gelten die Standardpreise. Rabatte für zugesicherte Nutzung nutzen, um erhebliche Einsparungen zu erzielen.
Spot	Für diese Verbrauchsoption ist keine Reservierung erforderlich. So erhalten Sie Spot-Ressourcen: Sie müssen Kontingent auf Abruf für den GPU-Maschinentyp anfordern, den Sie verwenden möchten. Ressourcenverfügbarkeit in der Region oder Zone ansehen, in der Sie Compute-Instanzen erstellen möchten. Wenn Sie eine Compute-Instanz oder einen Cluster erstellen, geben Sie das Spot-Bereitstellungsmodell an. Ressourcen werden für Sie bereitgestellt, sobald Kapazität verfügbar ist, können aber jederzeit vorzeitig beendet werden.	Gebühren fallen an, wenn die Ressourcen verwendet werden. Für Spot-VMs werden automatisch Rabatte über die Preise für Spot-VMs gewährt.

Nächste Schritte

• Informationen zu den verfügbaren Optionen für die Nutzung von Ressourcen finden Sie unter Nutzungsmodelle.
• Informationen zum Bereitstellen Ihrer Infrastruktur finden Sie unter Compute Engine-Instanz oder -Cluster erstellen.
• Informationen zum Reservieren von Ressourcen für Ihre Arbeitslasten finden Sie unter Kapazität reservieren.
• Unter GPU-Verfügbarkeit nach Region und Zone können Sie nachsehen, wo bestimmte GPUs verfügbar sind.