Compute Advisor で AI インフラストラクチャを設計する

このドキュメントでは、Gemini を活用した AI 搭載インターフェースである Compute Advisor にプロンプトを入力して、GPU インスタンスまたはクラスタを計画して設計する方法について説明します。クラスタの作成前または作成時に構成する必要があるコンポーネントの詳細については、AI インフラストラクチャを計画して作成するをご覧ください。

Compute Advisor は、ハードウェア オプションの評価、デプロイ費用の見積もり、クラスタの推奨構成の表示に役立ちます。推奨事項をカスタマイズするために、Compute Advisor は、割り当て上限、既存の予約、確約利用割引(CUD)、デフォルトのリージョンとゾーン、リソース ロケーションの制約を確認して、Google Cloud プロジェクトを評価します。Compute Advisor を使用して計画を支援することで、クラスタを作成または変更する前に、ワークロードに最適な構成を実現できます。

制限事項

Google Cloud コンソールで Compute Advisor にプロンプトを入力しても、リソースを直接作成、変更、削除することはできません。

始める前に

Google Cloud コンソールを使用して Google Cloud サービスと API にアクセスする場合、認証を設定する必要はありません。

必要なロール

Gemini にアクセスしてプロンプトを送信するために必要な権限を取得するには、プロジェクトに対するクラスタ ディレクター閲覧者(roles/hypercomputecluster.viewer)IAM ロールを付与するよう管理者に依頼してください。ロールの付与については、プロジェクト、フォルダ、組織に対するアクセス権の管理をご覧ください。

この事前定義ロールには、Gemini にアクセスしてプロンプトを送信するために必要な権限が含まれています。必要とされる正確な権限については、「必要な権限」セクションを開いてご確認ください。

必要な権限

Gemini にアクセスしてプロンプトを送信するには、次の権限が必要です。

  • クラスタのリストを表示するには: hypercomputecluster.clusters.list

カスタムロールや他の事前定義ロールを使用して、これらの権限を取得することもできます。

Google Cloud コンソールで Compute Advisor にアクセスする

Google Cloud コンソールで Compute Advisor にアクセスする手順は次のとおりです。

  1. Google Cloud コンソールで、[Compute Advisor] ページに移動します。

    Compute Advisor に移動

  2. ページの準備が整うと、次の情報が表示されます。

    Compute Advisor ページのインターフェース要素。

    上のスクリーンショットに表示されている UI 要素は次のとおりです。

    • 会話履歴のサイドパネル: 最近のチャットが表示されます。このパネルでは、次の操作を行うことができます。

      • 新しい会話を開始するには、[新しいチャット] をクリックします。

      • 最近の会話を再開するには、[最近のチャット] セクションで会話をクリックします。

      • すべての会話のリストを表示するには、[すべて表示] をクリックします。[履歴] ページでは、過去の会話の詳細を表示して再開したり、不要になった会話を削除したりできます。

    • クイック アクション プロンプト カード: サンプル プロンプトを含むカードのセット。カードをクリックすると、 Google Cloud コンソールによってプロンプト ボックスにサンプル プロンプトが自動的に入力されます。

    • プロンプト ボックス: このフィールドにプロンプトを入力して送信できます。プロンプトを送信するには、[プロンプトを送信] をクリックします。

Compute Advisor にプロンプトを入力

プロンプトを送信すると、Compute Advisor がレスポンスの生成を開始します。ペインが表示され、次のスクリーンショットに示すように、 Google Cloud コンソールにプロンプトに対するレスポンスが表示されます。

[Compute Advisor] ペインに生成された推奨事項のレスポンス。

プロンプトに基づいて、レスポンス ペインには次の要素が含まれます。

  • コンテキストに基づくグラウンディング: Compute Advisor は、プロジェクトのコンテキストを自動的に評価し、割り当て上限、既存の予約、CUD、デフォルトのリージョンとゾーン、リソースのロケーション制約など、高度にカスタマイズされた推奨事項を提供します。

  • インタラクティブなコード スニペット: Compute Advisor は、gcloud コマンド、REST API メソッド、Terraform リソースを生成します。これらのコード スニペットをコピーして貼り付けるか、Cloud Shell で実行できます。

  • ビジュアル キャンバス: Compute Advisor は、推奨事項を構造化されたテーブルと並べて比較できるように整理します。このビューは、プロダクトの機能とアーキテクチャのアプローチを評価するのに役立ちます。また、ユースケースの実装計画も提供します。

以降のセクションでは、プロンプトを作成するためのベスト プラクティスと、クラスタの作成または変更前に使用できるプロンプトの例について説明します。

プロンプトのベスト プラクティス

Compute Advisor から最も正確で実用的な推奨事項を取得するには、コードブロックと同じ方法でプロンプトを構成することをおすすめします。このアプローチでは、明確なパラメータ宣言、ロール定義、具体的な指示、明示的な出力形式を使用して、生成 AI をガイドします。

Compute Advisor にプロンプトを入力する際は、次のベスト プラクティスを検討してください。

  • 設計と計画に集中する: クラスタエラーのトラブルシューティングを Compute Advisor にプロンプトしないことをおすすめします。これらのエラーを解決するには、コンピューティング インスタンスの作成、更新、削除のトラブルシューティングをご覧ください。

  • ペルソナまたはロールを指定する: Compute Advisor が採用するターゲット ロールまたはペルソナ(IT 管理者、AI 研究者、プラットフォーム エンジニアなど)を宣言します。このアプローチにより、生成される推奨事項のトーン、深さ、専門知識のレベルが調整されます。

  • 番号付きの明示的な指示を提供する: 目的を具体的なステップバイステップの質問やタスクに分割します。このアプローチにより、Compute Advisor の推論プロセスが構造化され、Compute Advisor がすべての要件に対応できるようになります。

  • 特定の出力形式を定義する: 推奨事項の形式(チュートリアルの説明、Markdown 比較表、すぐに使用できる gcloud コードブロックなど)を明示的に指定します。

  • 自動コンテキスト グラウンディングを活用する: デフォルトのリージョンまたはゾーン、使用可能な割り当て、CUD、リソース ロケーションの制約をプロンプトに含める必要はありません。Compute Advisor は、 Google Cloud プロジェクトのこの情報にアクセスできます。

  • 設計を繰り返し改良する: 新しいプロンプトを送信することで、Compute Advisor が生成したレスポンスを変更または拡張できます。たとえば、新しい会話を開始することなく、デプロイプランにネットワークの推奨事項を追加したり、ストレージ要件を変更したりするようにアシスタントにリクエストできます。

プロンプトの例

クラスタの設計と最適化に役立つプロンプトの例を次に示します。

  • クラスタ トポロジとプレースメント戦略: 高パフォーマンスの AI ワークロードに最適なデプロイモデルとプレースメント ポリシーを決定するには、次のようなプロンプトを使用します。

    Act as an AI researcher. I need to design a GPU cluster topology in
    Cluster Director to train a foundation large language model that
    maximizes ML goodput and secures accelerator capacity. Please provide the
    following:
    
    1. A comparison of clustered GPU machine series across available regions.
    2. An explanation of how compact placement policies and workload policies
       reduce network latency and boost goodput.
    3. The optimal configuration for future reservations in
       AI Hypercomputer to secure capacity for this workload.
    
    Format the comparison as a Markdown table, and provide the deployment steps
    as a ready-to-use gcloud code block.
    
  • プロビジョニング モデルと費用の最適化: プロビジョニング モデルを評価してバッチ処理の費用を削減するには、次のようなプロンプトを使用します。

    Act as an IT administrator. I need to select the most cost-effective
    consumption option to run large fault-tolerant AI batch jobs on clusters in
    Cluster Director without data loss. Please provide the following:
    
    1. A cost and availability comparison of Flex-start VMs against
       Spot VMs for AI workloads.
    
    2. An explanation of how atomic allocation in Flex-start VMs
       provisions all accelerator nodes at the exact same time.
    
    3. A cluster configuration with checkpoint storage to save model state
       before Compute Engine reclaims a Spot VM.
    
    Format the comparison as a Markdown table, and provide the configuration
    steps to complete in the Google Cloud console.
    

次のステップ