Google は AI 技術を使用して、コンテンツをご希望の言語に翻訳しています。AI 翻訳には誤りが含まれる場合があります。

概要

Model Armor は、 Google Cloud サービスと統合して、AI と大規模言語モデル（LLM）のインタラクションを保護します。Model Armor は、ポリシー違反の可能性を特定して報告し、セキュリティ評価に基づいてアクションを積極的にブロックできます。

Model Armor の統合を使用するタイミング

一般的なユースケースは次のとおりです。

API Gateway トラフィックを保護する: 悪意のあるリクエストとレスポンスをインターセプトし、Apigee または Agent Gateway を使用してゲートウェイレイヤでバックエンド AI エンドポイントを保護します。
インラインモデル保護を適用する: カスタムラッパーコードを使用せずに、Agent Platform、Gemini、Gemini Enterprise のワークフロー内でプロンプトとレスポンスのストリームを直接フィルタします。
セキュリティ運用とアラートを一元化する: 検出結果とポリシー違反イベントを Security Command Center に直接転送し、脅威のモニタリングを統合します。
エージェントのインタラクションを保護する: 統合されたエンタープライズアーキテクチャ全体で、会話エージェントとツール呼び出しのガードレールを提供します。

サポートされているモダリティ

Model Armor がスキャンしてサニタイズできるモダリティは、サービスへのアクセス方法によって異なります。

直接 REST API: Model Armor REST API は、テキスト、ドキュメント、画像など、すべてのモダリティをサポートしています。詳細については、プロンプトとレスポンスをサニタイズするをご覧ください。
他のサービスとの統合: Model Armor と他の Google Cloud サービスとの統合では、Gemini Enterprise との統合のみがドキュメントをサポートします。他のすべての統合では、テキストのみがスキャンされ、サニタイズされます。

サポートされているドキュメントタイプとサイズの上限の詳細については、ドキュメントのスクリーニングをご覧ください。

サポート対象のサービス

このセクションでは、Model Armor と統合できる Google Cloud サービスについて説明します。

Agent Gateway

Model Armor を Agent Gateway と統合して、ゲートウェイで管理されているすべてのエージェントとの間で送受信されるトラフィックにセキュリティポリシーを適用します。この統合により、悪意のあるコンテンツや違反コンテンツのインライン検査とブロックが可能になります。この統合は、アプリケーションコードを変更することなく、ワークフローのセキュリティと組織の安全に関するガイドラインの遵守を改善することを目的としています。この保護は、上り（エージェントへの）パスと下り（エージェントからの）パスの両方でサポートされているプロトコルに適用されます。詳細については、Agent Gateway と統合するをご覧ください。

Apigee

Model Armor と Apigee の統合により、Apigee API ゲートウェイレイヤ内で Model Armor の AI 保護機能を直接使用できます。Apigee API プロキシ内で特定の Model Armor ポリシーを構成します。これらのポリシーが設定された Apigee プロキシを API 呼び出しが通過すると、Apigee はプロンプトとレスポンスを Model Armor サービスに送信して検査します。詳細については、Apigee との統合をご覧ください。

Gemini Enterprise

Model Armor は、テンプレートを使用して Gemini Enterprise と直接統合できます。Gemini Enterprise は、ユーザーとエージェント間のやり取りと基盤となる LLM を Model Armor を介してルーティングします。つまり、ユーザーやエージェントからのプロンプトと、LLM によって生成されたレスポンスは、ユーザーに提示される前に Model Armor によって検査されます。詳細については、Gemini Enterprise との統合をご覧ください。

サポートされているモダリティに記載されているモダリティに加えて、Model Armor と Gemini Enterprise の統合ではドキュメントもサポートされています。ただし、ドキュメントに埋め込まれた画像はスクリーニングされません。

Google と Google Cloud の MCP サーバー

Model Armor を構成すると、Model Context Protocol（MCP）ツールとサーバーを公開する Google Cloud サービスにリクエストを送信する際に、データと安全なコンテンツを保護できます。Model Armor は、フロア設定を使用して MCP ツール呼び出しとレスポンスをサニタイズすることで、エージェント型 AI アプリケーションのセキュリティを強化します。このプロセスにより、プロンプトインジェクションや機密データの漏洩などのリスクを軽減できます。詳細については、Google と Google Cloud MCP サーバーとの統合をご覧ください。

Service Extensions

Model Armor は、Service Extensions を介して Google Cloud ネットワーキングサービスと統合できます。Service Extensions を使用すると、 Google Cloud サービスまたはユーザー管理サービスを統合してトラフィックを処理できます。アプリケーションロードバランサでサービス拡張機能を構成して、エージェントや MCP サーバーなど、さまざまな AI インタラクションのネットワークトラフィックをスクリーニングできます。GKE 推論ゲートウェイでサービス拡張機能を使用して、GKE クラスタとの間のトラフィックをスクリーニングすることもできます。これにより、ロードバランサを通過するすべての AI インタラクションが Model Armor で保護されます。詳細については、 Google Cloud ネットワーキングサービスとの統合をご覧ください。

Gemini Enterprise Agent Platform

Model Armor は、フロア設定またはテンプレートを使用して、Gemini Enterprise Agent Platform に直接統合できます。このインテグレーションにより、Gemini モデルのリクエストとレスポンスがスクリーニングされ、フロア設定に違反するリクエストとレスポンスがブロックされます。このインテグレーションにより、Vertex AI の Gemini API 内で generateContent メソッドのプロンプトとレスポンスが保護されます。この統合では、ドキュメントや画像を含むプロンプトとレスポンスのサニタイズはサポートされていません。プロンプトとレスポンスのサニタイズ結果を可視化するには、Cloud Logging を有効にする必要があります。詳細については、Gemini Enterprise Agent Platform と統合するをご覧ください。

始める前に

API を有効にする

Model Armor を使用するには、Model Armor API を有効にする必要があります。

コンソール

Model Armor API が有効になっていない場合は、有効にします。
API を有効にするために必要なロール
API を有効にするには、serviceusage.services.enable 権限が必要です。プロジェクトを作成した場合は、オーナーロール（roles/owner）を介してこの権限がすでに付与されている可能性があります。それ以外の場合は、Service Usage 管理者ロール（roles/serviceusage.serviceUsageAdmin）を介してこの権限を取得できます。ロールを付与する方法を確認する。
API の有効化
Model Armor を有効にするプロジェクトを選択します。

gcloud

始める前に、Google Cloud CLI で Model Armor API を使用して、次の処理を行います。

Google Cloud CLI をインストールし、フェデレーション ID を使用して gcloud CLI にログインします。ログイン後、次のコマンドを実行して Google Cloud CLI を初期化します。
```
gcloud init
```
Model Armor API を有効にします（有効になっていない場合）。
API を有効にするために必要なロール
API を有効にするには、serviceusage.services.enable 権限が必要です。プロジェクトを作成した場合は、オーナーロール（roles/owner）を通じてこの権限がすでに付与されている可能性があります。それ以外の場合は、Service Usage 管理者ロール（roles/serviceusage.serviceUsageAdmin）を通じてこの権限を取得できます。ロールを付与する方法を確認する。
```
gcloud services enable modelarmor.googleapis.com
```
gcloud CLI を使用して API エンドポイントのオーバーライドを設定する。

gcloud CLI を使用して API エンドポイントのオーバーライドを設定する

この手順は、Model Armor で gcloud CLI を使用し、デフォルトの us マルチリージョン以外のリージョンまたはマルチリージョンを使用する場合にのみ必要です。gcloud CLI がリクエストを Model Armor サービスに正しくルーティングするように、API エンドポイントのオーバーライドを手動で設定する必要があります。

次のコマンドを実行して、Model Armor サービスの API エンドポイントを設定します。

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

LOCATION は、Model Armor を使用するリージョンまたはマルチリージョンに置き換えます。

割り当てを管理

Model Armor は、公平な使用を確保し、システムの安定性を保護するために、割り当てシステムを使用します。Model Armor API のデフォルトの割り当ては、プロジェクトあたり 1,200 QPM です。プロジェクトごとに 0 ～ 1,200 QPM の値を適用できます。調整をリクエストするには、割り当ての調整をリクエストするをご覧ください。デフォルトの割り当てを超える割り当てが必要な場合は、Cloud カスタマーケアにお問い合わせください。

Model Armor の割り当ては、他のサービスと統合する際に重要な考慮事項となります。主に使用する割り当ては、プロジェクトあたりの 1 分あたりの API リクエスト数です。

Model Armor を他のサービスと統合する場合は、次の割り当てタイプを考慮してください。

Model Armor のデフォルトの割り当て: サービスが分析のために Model Armor API を呼び出すと（プロンプトやレスポンスのチェックなど）、プロジェクトの Model Armor API 割り当てが消費されます。
統合サービス割り当て: Model Armor の割り当ては、統合サービスに関連付けられている割り当てとは異なります。リクエストパス内のすべてのサービスに十分な割り当てがあることを確認する必要があります。アプリケーションのコンテンツをサニタイズするために Model Armor API に対して行われた呼び出しは、Model Armor API の割り当て上限にカウントされます。

割り当て超過の状況を検出する

アプリケーションログに Model Armor のエラー（通常は HTTP 429 RESOURCE_EXHAUSTED エラー。リクエストが多すぎることを示す）が表示されている場合は、Model Armor の割り当て上限に達しています。

割り当てのニーズを見積もる

リクエストする Model Armor の割り当て量を決定するには:

サービスが Model Armor に送信する 1 分あたりの最大リクエスト数を見積もります。
サービスに対するユーザーの操作ごとに Model Armor が呼び出される回数（プロンプトで 1 回、レスポンスで 1 回など）を考慮します。
同時実行ユーザーまたはセッションの最大数を考慮します。
予期しない急増に対応するために、妥当なバッファ（予想されるピークの 20 ～ 30% 増など）を含む割り当てをリクエストします。
最良の見積もりから始め、リリース後に使用状況を注意深くモニタリングし、必要に応じて追加の調整をリクエストします。

たとえば、1 分あたり 500 人のユーザーがアクセスし、各ユーザーインタラクションで Model Armor が 2 回（プロンプトとレスポンス）呼び出されると想定される場合は、少なくとも 1,000 QPM が必要になります。バッファを考慮すると、1,200 ～ 1,300 QPM をリクエストするのが良い出発点となります。

考慮事項

他のサービスと統合する場合は、次の点を考慮してください。

他のサービスの割り当てをモニタリングして管理してください。他のサービスの割り当てが不足すると、Model Armor の割り当てが十分であっても、アプリケーションに影響します。
アプリケーションのセットアップで、指数バックオフを使用してクライアントサイドの再試行を実装し、一時的な割り当ての問題やその他の再試行可能なエラーに対処します。詳細については、再試行戦略をご覧ください。

違反措置の種類

Model Armor を他のサービスと統合する際に構成する重要な要素は、適用タイプです。この設定は、Model Armor が LLM プロンプトやレスポンスなどの検査対象データでポリシー違反の可能性を検出したときの動作を決定します。適用タイプによって、Model Armor が違反を報告するだけか、積極的に介入するかが決まります。詳細については、適用タイプを定義するをご覧ください。

REST API を使用して統合する

REST API を統合に使用する場合、Model Armor はテンプレートを使用する検出機能としてのみ機能します。ポリシー違反の可能性を積極的に防止するのではなく、事前定義されたテンプレートに基づいて特定して報告します。Model Armor API と統合すると、アプリケーションは Model Armor からの出力を使用して、提供されたセキュリティ評価の結果に基づいてアクションをブロックまたは許可できます。Model Armor API は、API トラフィックに関連する潜在的な脅威やポリシー違反に関する情報を返します。特に AI インタラクションの場合に役立ちます。アプリケーションは Model Armor API を呼び出し、レスポンスで受信した情報を使用して、事前定義されたカスタムロジックに基づいて意思決定を行い、アクションを実行できます。

Model Armor を統合する際のオプション

Model Armor には、次のインテグレーションオプションがあります。各オプションには、異なる機能が用意されています。

インテグレーションオプション	検出を構成する	サポートされているモダリティ	検査のみ	検査してブロック	対象範囲
Agent Gateway	テンプレートのみを使用する	テキスト	○	はい	すべてのモデルとすべてのクラウド
Apigee	テンプレートのみを使用する	テキスト	○	○	すべてのモデルとすべてのクラウド²
Gemini Enterprise	テンプレートのみを使用する	テキスト、ドキュメント	○	○	すべてのモデルとすべてのクラウド²
Google と Google Cloud MCP サーバー	フロア設定のみを使用する	テキスト	○	○	Google と Google Cloud MCP サーバー
Service Extensions	テンプレートのみを使用する	テキスト	○	○	すべてのクラウドの OpenAI 形式のモデル¹、エージェント、MCP サーバー²
Gemini Enterprise Agent Platform	フロア設定とテンプレートの両方を使用する	テキスト	○	○	Gemini モデル（ストリーミングなし）

¹Anthropic Claude、Mistral AI、Grok などの一般的なモデルは、OpenAI 仕様をサポートしています。これらのモデルは通常、必要な OpenAI 互換 API レイヤを提供する vLLM などの推論エンジンを使用してデプロイされます。vLLM は、Meta Llama シリーズ、DeepSeek、Mistral、Mixtral ファミリー、Gemma など、幅広いモデルをサポートしています。

²AWS や Azure などの他のパブリッククラウドも含まれます。

Gemini Enterprise Agent Platform インテグレーションを使用すると、Model Armor はフロア設定またはテンプレートを使用してインライン適用を行います。インラインポリシーの適用により、Model Armor は、アプリケーションコードを変更することなく、プロセスに直接介入してポリシーを積極的に適用できます。

サービス拡張機能と Gemini Enterprise の統合では、インラインポリシーの適用にのみテンプレートが使用されます。インラインポリシーの適用により、Model Armor は、Service Extensions 内と Gemini Enterprise インスタンス内のユーザーまたはエージェントのインタラクションの両方で、アプリケーションコードを変更することなく、ポリシーを直接適用できます。

Model Armor と Gemini Enterprise、Agent Runtime、Apigee のインテグレーションでは、最初のユーザープロンプト、最終的なエージェントまたはモデルのレスポンス、グラウンディングデータやウェブ検索ツールから返されるレスポンスなどの中間ステップがサニタイズされます。取得したグラウンディングデータまたは中間ペイロードが、構成済みの Model Armor テンプレートまたは Sensitive Data Protection ポリシーに違反している場合、リクエストはブロックされ、SANITIZE_USER_PROMPT オペレーションタイプでログに記録されます。

Security Command Center の Model Armor

Model Armor は、プロンプトインジェクション、ジェイルブレイクの試み、悪意のある URL、有害なコンテンツなど、さまざまな脅威について LLM のプロンプトとレスポンスを検査します。Model Armor が構成されたフロア設定の違反を検出すると、プロンプトまたはレスポンスをブロックし、検出結果を Security Command Center に送信します。詳細については、Model Armor の検出結果をご覧ください。