容量の概要

AI Hypercomputer は、コンピューティング リソースの取得と使用に役立ついくつかの使用オプションをサポートしています。このドキュメントでは、各使用オプションの容量を取得する方法の概要について説明します。

容量を取得する方法

AI によるアシスタンスで容量取得オプションと割り当て要件を評価する場合は、Compute Advisor で次のプロンプトを実行します。

Compute Advisor Compute Advisor は、AI を活用したアシスタントです。プロンプトを使用して、割り当て上限、既存の予約、リソースのロケーション制約などの情報に基づいて、インフラストラクチャのカスタマイズされた推奨事項を取得できます。

このプロンプトは、プロジェクトの割り当てと既存の予約を評価し、使用オプション間で容量取得手順を比較して、推奨される割り当てと予約アクションを含む Markdown テーブルを出力します。

AI インフラストラクチャ アーキテクトとして、プロジェクトの割り当て、アクティブな予約、利用可能なリージョンに基づいて、AI Hypercomputer でコンピューティング容量を取得できるようにサポートしてください。

次の情報を提供してください。

1. プロジェクトの割り当てと予約の監査: プロジェクトの標準 GPU 割り当てとプリエンプティブル GPU 割り当て、およびリージョン全体のアクティブな予約を検査し、割り当ての増加または予約が必要な GPU マシンシリーズと比較して、割り当てまたはアクティブな予約が利用可能な GPU マシンシリーズを特定します。

2. 容量取得の比較: AI Hypercomputer の現在の使用オプションと利用可能な使用オプション、およびそれらの特定の特性(サポートされている GPU ティア(クラスタ化された GPU と一般的な GPU)、必要な割り当てタイプ、リードタイム、課金モデルなど)を、プロジェクトと VM のマシンシリーズに基づいて比較します。

3. 推奨される取得パス: 長時間実行されるクラスタ化された GPU ワークロード、中期的な予約ジョブ、短時間の高密度ジョブ、一般的な GPU デプロイに最適な容量取得パスを推奨します。

比較を Markdown テーブル(使用オプション、サポートされている GPU、必要な割り当て、課金モデルの列を含む)としてフォーマットし、容量を予約するかインスタンスを作成するためのすぐに使用できる gcloud CLI コマンドを提供し、アクション プランを改良するために、ターゲット GPU シリーズ、ノード数、期間に関する 2 ~ 3 個の質問で締めくくります。

次の表に、各使用オプションの容量を取得する方法を示します。

使用オプション 容量を取得するプロセス 料金への影響
90 日を超える将来の予約(容量ブロックの場合)

将来の予約リソースを取得するプロセスは次のとおりです。

  1. 容量を予約するには、アカウント チームにお問い合わせください。コンピューティング インスタンスのみをリクエストできます。ワークロードにストレージが必要な場合は、コンピューティング インスタンスで Hyperdisk プールをリクエストすることもできます。
  2. Google は割り当てを増やし、指定された日時にリクエストされたリソースをプロビジョニングします。
  3. Compute Engine インスタンスまたはクラスタを作成するときに、予約済みリソースに一致する予約にバインドされたプロビジョニング モデルとプロパティを指定します。Compute Engine は、予約済みの容量を使用してコンピューティング インスタンスとクラスタをプロビジョニングします。
予約済みリソースを使用するかどうかに関係なく、予約期間全体に対して料金が発生します。詳細については、予約とストレージ プールの料金をご覧ください。
最大 90 日間の将来の予約(カレンダー モード)

将来の予約リソースを取得するプロセスは次のとおりです。

  1. 利用可能な容量を検索してリソースを予約する。
  2. 割り当ては課金されません。お客様側での対応は必要ありません。
  3. コンピューティング インスタンスまたはクラスタを作成するときに、予約にバインドされたプロビジョニング モデルを指定する必要があります。コンピューティング インスタンスとクラスタは、予約済み容量からプロビジョニングされます。
予約済みリソースを予約期間全体で使用するかどうかに関係なく、予約期間全体に対して料金が発生します。詳細については、Dynamic Workload Scheduler の料金をご覧ください。
Flex Start

この使用オプションでは、予約は不要です。Flex Start リソースを取得するプロセスは次のとおりです。

  1. 使用する GPU マシンタイプのプリエンプティブル割り当てをリクエストする必要があります。
  2. 次のいずれかのオプションを使用してコンピューティング インスタンスまたはクラスタを作成する場合は、Flex Start プロビジョニング モデルを指定します。

    リクエストされたリソースが使用可能になると、Compute Engine は VM をプロビジョニングします。VM は最大 7 日間実行されます。

リソースの使用時に課金されます。Flex Start を使用してプロビジョニングされたリソースには、Dynamic Workload Scheduler の料金に基づいて自動的に割引が適用されます。
オンデマンド予約

オンデマンド予約は、サポートされている一般的な GPU、8 個の GPU を搭載した A3 High、A3 Mega マシンタイプで使用できます。容量を予約するプロセスは次のとおりです。

  1. マシンタイプの標準 GPU 割り当てをリクエストします。詳細については、割り当ての増加をリクエストするをご覧ください。
  2. Google Cloud コンソール、gcloud CLI、またはその他の方法を使用して、特定の VM と GPU タイプにオンデマンド予約を作成します。予約を作成するすべての方法の詳細については、単一プロジェクトの予約を作成するをご覧ください。
  3. インスタンスまたはクラスタを作成し、特定の予約をターゲットに設定して、リソースをプロビジョニングします。
予約期間全体に標準料金が適用されます。CUD を適用して大幅な費用削減を実現します。
標準の将来の予約

この消費オプションでは、将来の日付の容量を予約します。標準の将来の予約では、標準のプロビジョニング モデルが使用されます。サポートされている一般的な GPU、8 個の GPU を搭載した A3 High、A3 Mega マシンタイプで使用できます。

  1. マシンタイプの標準 GPU 割り当てをリクエストします。詳細については、割り当ての増加をリクエストするをご覧ください。
  2. 特定の VM と GPU タイプに対して将来の予約リクエストを作成します。
  3. 予約の開始時刻になったら、予約済み容量を使用してコンピューティング インスタンスを作成します。
予約期間全体に標準料金が適用されます。CUD を適用して大幅な費用削減を実現します。
スポット

この使用オプションでは、予約は不要です。Spot リソースを取得するプロセスは次のとおりです。

  1. 使用する GPU マシンタイプのプリエンプティブル割り当てをリクエストする必要があります。
  2. コンピューティング インスタンスを作成するリージョンまたはゾーンでリソースの可用性を確認する。
  3. コンピューティング インスタンスまたはクラスタを作成するときに、Spot プロビジョニング モデルを指定します。リソースは、容量が利用可能になるとプロビジョニングされますが、いつでもプリエンプトされる可能性があります。
リソースの使用時に課金されます。Spot VM には、Spot VM の料金に基づいて自動的に割引が適用されます。
オンデマンド

この消費オプションでは、予約は任意です。オンデマンド リソースは、サポートされている一般的な GPU、8 個の GPU を搭載した A3 High、A3 Mega マシンタイプで使用できます。これらのオンデマンド リソースを取得するプロセスは次のとおりです。

  1. 使用するマシンタイプの標準 GPU 割り当てをリクエストします。手順については、割り当ての増加をリクエストするをご覧ください。
  2. Compute Engine の GPU のリージョンとゾーンの可用性リストで、ハードウェアの優先リージョンでの可用性を確認します。
  3. コンピューティング インスタンスまたはクラスタを作成し、標準プロビジョニング モデルを指定します。Compute Engine は、ハードウェアのリアルタイムの可用性に基づいてリソースをプロビジョニングします。
リソースの使用中は、標準のオンデマンド料金が適用されます。

次のステップ