このドキュメントでは、Gemini を活用した AI 搭載インターフェースである Compute Advisor にプロンプトを入力して、GPU インスタンスまたはクラスタを計画して設計する方法について説明します。クラスタの作成前または作成時に構成する必要があるコンポーネントの詳細については、AI インフラストラクチャを計画して作成するをご覧ください。
Compute Advisor は、ハードウェア オプションの評価、デプロイ費用の見積もり、クラスタの推奨構成の表示に役立ちます。推奨事項をカスタマイズするために、Compute Advisor は、割り当て上限、既存の予約、確約利用割引(CUD)、デフォルトのリージョンとゾーン、リソース ロケーションの制約を確認して、Google Cloud プロジェクトを評価します。Compute Advisor を使用して計画を支援することで、クラスタを作成または変更する前に、ワークロードに最適な構成を実現できます。
制限事項
Google Cloud コンソールで Compute Advisor にプロンプトを入力しても、リソースを直接作成、変更、削除することはできません。
始める前に
Google Cloud コンソールを使用して Google Cloud サービスと API にアクセスする場合、認証を設定する必要はありません。
必要なロール
Gemini にアクセスしてプロンプトを送信するために必要な権限を取得するには、プロジェクトに対するクラスタ ディレクター閲覧者(roles/hypercomputecluster.viewer)IAM ロールを付与するよう管理者に依頼してください。ロールの付与については、プロジェクト、フォルダ、組織に対するアクセス権の管理をご覧ください。
この事前定義ロールには、Gemini にアクセスしてプロンプトを送信するために必要な権限が含まれています。必要とされる正確な権限については、「必要な権限」セクションを開いてご確認ください。
必要な権限
Gemini にアクセスしてプロンプトを送信するには、次の権限が必要です。
-
クラスタのリストを表示するには:
hypercomputecluster.clusters.list
カスタムロールや他の事前定義ロールを使用して、これらの権限を取得することもできます。
Google Cloud コンソールで Compute Advisor にアクセスする
Google Cloud コンソールで Compute Advisor にアクセスする手順は次のとおりです。
Google Cloud コンソールで、[Compute Advisor] ページに移動します。
ページの準備が整うと、次の情報が表示されます。
上のスクリーンショットに表示されている UI 要素は次のとおりです。
会話履歴のサイドパネル: 最近のチャットが表示されます。このパネルでは、次の操作を行うことができます。
新しい会話を開始するには、[新しいチャット] をクリックします。
最近の会話を再開するには、[最近のチャット] セクションで会話をクリックします。
すべての会話のリストを表示するには、[すべて表示] をクリックします。[履歴] ページでは、過去の会話の詳細を表示して再開したり、不要になった会話を削除したりできます。
クイック アクション プロンプト カード: サンプル プロンプトを含むカードのセット。カードをクリックすると、 Google Cloud コンソールによってプロンプト ボックスにサンプル プロンプトが自動的に入力されます。
プロンプト ボックス: このフィールドにプロンプトを入力して送信できます。プロンプトを送信するには、[プロンプトを送信] をクリックします。
Compute Advisor にプロンプトを入力
プロンプトを送信すると、Compute Advisor がレスポンスの生成を開始します。ペインが表示され、次のスクリーンショットに示すように、 Google Cloud コンソールにプロンプトに対するレスポンスが表示されます。
プロンプトに基づいて、レスポンス ペインには次の要素が含まれます。
コンテキストに基づくグラウンディング: Compute Advisor は、プロジェクトのコンテキストを自動的に評価し、割り当て上限、既存の予約、CUD、デフォルトのリージョンとゾーン、リソースのロケーション制約など、高度にカスタマイズされた推奨事項を提供します。
インタラクティブなコード スニペット: Compute Advisor は、gcloud コマンド、REST API メソッド、Terraform リソースを生成します。これらのコード スニペットをコピーして貼り付けるか、Cloud Shell で実行できます。
ビジュアル キャンバス: Compute Advisor は、推奨事項を構造化されたテーブルと並べて比較できるように整理します。このビューは、プロダクトの機能とアーキテクチャのアプローチを評価するのに役立ちます。また、ユースケースの実装計画も提供します。
以降のセクションでは、プロンプトを作成するためのベスト プラクティスと、クラスタの作成または変更前に使用できるプロンプトの例について説明します。
プロンプトのベスト プラクティス
Compute Advisor から最も正確で実用的な推奨事項を取得するには、コードブロックと同じ方法でプロンプトを構成することをおすすめします。このアプローチでは、明確なパラメータ宣言、ロール定義、具体的な指示、明示的な出力形式を使用して、生成 AI をガイドします。
Compute Advisor にプロンプトを入力する際は、次のベスト プラクティスを検討してください。
設計と計画に集中する: クラスタエラーのトラブルシューティングを Compute Advisor にプロンプトしないことをおすすめします。これらのエラーを解決するには、コンピューティング インスタンスの作成、更新、削除のトラブルシューティングをご覧ください。
ペルソナまたはロールを指定する: Compute Advisor が採用するターゲット ロールまたはペルソナ(IT 管理者、AI 研究者、プラットフォーム エンジニアなど)を宣言します。このアプローチにより、生成される推奨事項のトーン、深さ、専門知識のレベルが調整されます。
番号付きの明示的な指示を提供する: 目的を具体的なステップバイステップの質問やタスクに分割します。このアプローチにより、Compute Advisor の推論プロセスが構造化され、Compute Advisor がすべての要件に対応できるようになります。
特定の出力形式を定義する: 推奨事項の形式(チュートリアルの説明、Markdown 比較表、すぐに使用できる gcloud コードブロックなど)を明示的に指定します。
自動コンテキスト グラウンディングを活用する: デフォルトのリージョンまたはゾーン、使用可能な割り当て、CUD、リソース ロケーションの制約をプロンプトに含める必要はありません。Compute Advisor は、 Google Cloud プロジェクトのこの情報にアクセスできます。
設計を繰り返し改良する: 新しいプロンプトを送信することで、Compute Advisor が生成したレスポンスを変更または拡張できます。たとえば、新しい会話を開始することなく、デプロイプランにネットワークの推奨事項を追加したり、ストレージ要件を変更したりするようにアシスタントにリクエストできます。
プロンプトの例
クラスタの設計と最適化に役立つプロンプトの例を次に示します。
クラスタ トポロジとプレースメント戦略: 高パフォーマンスの AI ワークロードに最適なデプロイモデルとプレースメント ポリシーを決定するには、次のようなプロンプトを使用します。
Act as an AI researcher. I need to design a GPU cluster topology in Cluster Director to train a foundation large language model that maximizes ML goodput and secures accelerator capacity. Please provide the following: 1. A comparison of clustered GPU machine series across available regions. 2. An explanation of how compact placement policies and workload policies reduce network latency and boost goodput. 3. The optimal configuration for future reservations in AI Hypercomputer to secure capacity for this workload. Format the comparison as a Markdown table, and provide the deployment steps as a ready-to-use gcloud code block.プロビジョニング モデルと費用の最適化: プロビジョニング モデルを評価してバッチ処理の費用を削減するには、次のようなプロンプトを使用します。
Act as an IT administrator. I need to select the most cost-effective consumption option to run large fault-tolerant AI batch jobs on clusters in Cluster Director without data loss. Please provide the following: 1. A cost and availability comparison of Flex-start VMs against Spot VMs for AI workloads. 2. An explanation of how atomic allocation in Flex-start VMs provisions all accelerator nodes at the exact same time. 3. A cluster configuration with checkpoint storage to save model state before Compute Engine reclaims a Spot VM. Format the comparison as a Markdown table, and provide the configuration steps to complete in the Google Cloud console.
次のステップ
AI Hypercomputer で容量と割り当てを取得する方法については、容量の概要をご覧ください。
アクセラレータ オプションを比較して適切な GPU シリーズを選択するには、一般的な GPU とクラスタ化された GPU のどちらかを選択するをご覧ください。
ツールを選択してクラスタを作成するには、デプロイ オプションの概要をご覧ください。