容量の概要

一般的な GPU クラスタ化された GPU

AI Hypercomputer は、コンピューティング リソースの取得と使用に役立ついくつかの使用オプションをサポートしています。このドキュメントでは、各使用オプションの容量を取得する方法の概要について説明します。

容量を取得する方法

AI によるアシスタンスで容量取得オプションと割り当て要件を評価する場合は、Compute Advisor で次のプロンプトを実行します。

agent_mode_2 Compute Advisor Compute Advisor は、AI を活用したアシスタントです。プロンプトを使用して、割り当て上限、既存の予約、リソースのロケーション制約などの情報に基づいて、インフラストラクチャのカスタマイズされた推奨事項を取得できます。

このプロンプトは、プロジェクトの割り当てと既存の予約を評価し、使用オプション間で容量取得手順を比較して、推奨される割り当てと予約アクションを含む Markdown テーブルを出力します。

AI インフラストラクチャ アーキテクトとして、プロジェクトの割り当て、アクティブな予約、利用可能なリージョンに基づいて、AI Hypercomputer でコンピューティング容量を取得できるようにサポートしてください。

次の情報を提供してください。

1. プロジェクトの割り当てと予約の監査: プロジェクトの標準 GPU 割り当てとプリエンプティブル GPU 割り当て、およびリージョン全体のアクティブな予約を検査し、割り当ての増加または予約が必要な GPU マシンシリーズと比較して、割り当てまたはアクティブな予約が利用可能な GPU マシンシリーズを特定します。

2. 容量取得の比較: AI Hypercomputer の現在の使用オプションと利用可能な使用オプション、およびそれらの特定の特性（サポートされている GPU ティア（クラスタ化された GPU と一般的な GPU）、必要な割り当てタイプ、リードタイム、課金モデルなど）を、プロジェクトと VM のマシンシリーズに基づいて比較します。

3. 推奨される取得パス: 長時間実行されるクラスタ化された GPU ワークロード、中期的な予約ジョブ、短時間の高密度ジョブ、一般的な GPU デプロイに最適な容量取得パスを推奨します。

比較を Markdown テーブル（使用オプション、サポートされている GPU、必要な割り当て、課金モデルの列を含む）としてフォーマットし、容量を予約するかインスタンスを作成するためのすぐに使用できる gcloud CLI コマンドを提供し、アクション プランを改良するために、ターゲット GPU シリーズ、ノード数、期間に関する 2 ～ 3 個の質問で締めくくります。

Act as an AI infrastructure architect. Help me obtain compute capacity in AI Hypercomputer based on my project's quotas, active reservations, and available regions.

Provide the following:

1. Project quota and reservation audit: Inspect my project's standard and preemptible GPU quotas and active reservations across regions, and identify which GPU machine series have available quota or active reservations compared to those that require a quota increase or reservation.

2. Capacity acquisition comparison: Compare current and available consumption options in AI Hypercomputer and their specific characteristics—including supported GPU tiers (clustered GPUs and general GPUs), required quota types, lead times, and billing models—based on my project and the machine series of my VMs.

3. Recommended acquisition path: Recommend the best capacity acquisition path for long-running clustered GPU workloads, medium-term reserved jobs, short-lived dense jobs, and general GPU deployments.

Format the comparison as a Markdown table (with columns for Consumption Option, Supported GPUs, Required Quota, and Billing Model), provide a ready-to-use gcloud CLI command to reserve capacity or create instances, and end with 2-3 questions about my target GPU series, node count, and duration to refine the action plan.

Compute Advisor でプロンプトを編集して実行する

次の表に、各使用オプションの容量を取得する方法を示します。

使用オプション	容量を取得するプロセス	料金への影響
90 日を超える将来の予約（容量ブロックの場合）	将来の予約リソースを取得するプロセスは次のとおりです。 容量を予約するには、アカウント チームにお問い合わせください。コンピューティング インスタンスのみをリクエストできます。ワークロードにストレージが必要な場合は、コンピューティング インスタンスで Hyperdisk プールをリクエストすることもできます。 Google は割り当てを増やし、指定された日時にリクエストされたリソースをプロビジョニングします。 Compute Engine インスタンスまたはクラスタを作成するときに、予約済みリソースに一致する予約にバインドされたプロビジョニング モデルとプロパティを指定します。Compute Engine は、予約済みの容量を使用してコンピューティング インスタンスとクラスタをプロビジョニングします。	予約済みリソースを使用するかどうかに関係なく、予約期間全体に対して料金が発生します。詳細については、予約とストレージ プールの料金をご覧ください。
最大 90 日間の将来の予約（カレンダー モード）	将来の予約リソースを取得するプロセスは次のとおりです。 利用可能な容量を検索してリソースを予約する。 割り当ては課金されません。お客様側での対応は必要ありません。 コンピューティング インスタンスまたはクラスタを作成するときに、予約にバインドされたプロビジョニング モデルを指定する必要があります。コンピューティング インスタンスとクラスタは、予約済み容量からプロビジョニングされます。	予約済みリソースを予約期間全体で使用するかどうかに関係なく、予約期間全体に対して料金が発生します。詳細については、Dynamic Workload Scheduler の料金をご覧ください。
Flex Start	この使用オプションでは、予約は不要です。Flex Start リソースを取得するプロセスは次のとおりです。 使用する GPU マシンタイプのプリエンプティブル割り当てをリクエストする必要があります。 次のいずれかのオプションを使用してコンピューティング インスタンスまたはクラスタを作成する場合は、Flex Start プロビジョニング モデルを指定します。 スタンドアロン仮想マシン（VM）インスタンスを作成する サイズ変更リクエストを使用して MIG を作成する Slurm クラスタを作成する: フルマネージド クラスタを作成する セルフマネージド クラスタを作成する GKE クラスタを作成する: Cluster Toolkit を使用して AI に最適化された GKE クラスタを作成する A4 または A3 Ultra を使用する AI 最適化 GKE クラスタを作成する リクエストされたリソースが使用可能になると、Compute Engine は VM をプロビジョニングします。VM は最大 7 日間実行されます。	リソースの使用時に課金されます。Flex Start を使用してプロビジョニングされたリソースには、Dynamic Workload Scheduler の料金に基づいて自動的に割引が適用されます。
オンデマンド	この使用オプションでは、容量の予約は任意です。オンデマンド リソースは、一般的な GPU（N1、G2、G4、A2、A3 Edge など）でのみ使用できます。これらのオンデマンド リソースを取得するプロセスは次のとおりです。 使用するマシンタイプの標準 GPU 割り当てをリクエストします。詳細については、割り当ての増加をリクエストするをご覧ください。 Compute Engine のリージョンとゾーン別の GPU の可用性リストで、ハードウェアの優先リージョンを確認して、可用性を確認します。 コンピューティング インスタンスまたはクラスタを作成し、標準プロビジョニング モデルを指定します。リソースは、利用可能な容量に基づいてすぐにプロビジョニングされます。 注: 一般的な GPU 容量を取得できる可能性を高めるには、Flex Start を使用することをおすすめします。Flex Start 使用オプションは、GPU などの需要の高いリソースを割引価格で取得できるように特別に設計されています。	リソースの使用中は、標準のオンデマンド料金が適用されます。
オンデマンド予約	オンデマンド予約（予約と呼ばれることもあります）は、一般的な GPU（G2、G4、A2、A3 Edge など）でのみ使用できます。容量を予約するプロセスは次のとおりです。 マシンタイプの標準 GPU 割り当てをリクエストします。詳細については、割り当ての増加をリクエストするをご覧ください。 Google Cloud コンソール、gcloud CLI、またはその他の方法を使用して、特定の VM と GPU タイプにオンデマンド予約を作成します。予約を作成するすべての方法の詳細については、単一プロジェクトの予約を作成するをご覧ください。 インスタンスまたはクラスタを作成し、特定の予約をターゲットに設定して、リソースをプロビジョニングします。	予約期間全体に標準料金が適用されます。CUD を適用して大幅な費用削減を実現します。
標準の将来の予約	この消費オプションでは、将来の日付で容量を予約します。標準の将来の予約では、標準のプロビジョニング モデルが使用され、一般的な GPU でのみ使用できます。 マシンタイプの標準 GPU 割り当てをリクエストします。詳細については、割り当ての増加をリクエストするをご覧ください。 特定の VM と GPU タイプに対して将来の予約リクエストを作成します。 予約の開始時刻になったら、予約済み容量を使用してコンピューティング インスタンスを作成します。 注意: 予約リクエストを Google Cloud に送信して審査を受けるときと、承認後にリクエストの開始時間に達したときの両方で、リクエストされたリソースに十分な割り当てが必要です。割り当てが不足している場合、 Google Cloud はリクエストを拒否するか、開始時刻にリクエストされたリソースの一部のみをプロビジョニングする可能性があります。	予約期間全体に標準料金が適用されます。CUD を適用して大幅な費用削減を実現します。
スポット	この使用オプションでは、予約は不要です。Spot リソースを取得するプロセスは次のとおりです。 使用する GPU マシンタイプのプリエンプティブル割り当てをリクエストする必要があります。 コンピューティング インスタンスを作成するリージョンまたはゾーンでリソースの可用性を確認する。 コンピューティング インスタンスまたはクラスタを作成するときに、Spot プロビジョニング モデルを指定します。リソースは、容量が利用可能になるとプロビジョニングされますが、いつでもプリエンプトされる可能性があります。	リソースの使用時に課金されます。Spot VM には、Spot VM の料金に基づいて自動的に割引が適用されます。

次のステップ

• リソースの使用に使用できるオプションを確認するには、使用量モデルをご覧ください。
• インフラストラクチャをデプロイするには、Compute Engine インスタンスまたはクラスタを作成するをご覧ください。
• ワークロードのリソースを予約するには、容量を予約するをご覧ください。
• 特定の GPU が利用可能なロケーションを確認するには、各リージョンとゾーンで利用可能な GPU をご覧ください。