總覽

Model Armor 與 Google Cloud 服務整合，可保護 AI 和大型語言模型 (LLM) 互動。Model Armor 會找出並回報潛在的違反政策事項，並根據安全性評估結果主動封鎖動作。

Model Armor 整合功能的使用時機

以下是一些常見用途：

  • 保護 API Gateway 流量：使用 Apigee 或 Agent Gateway，在閘道層攔截惡意要求和回應，保護後端 AI 端點。
  • 強制執行內嵌模型保護措施：直接在 Agent Platform、Gemini 和 Gemini Enterprise 工作流程中篩選提示和回覆串流，不需自訂包裝函式程式碼。
  • 集中管理資安營運和警告：將發現項目和違反政策事件直接轉送至 Security Command Center，以便統一監控威脅。
  • 保障代理互動安全：在整合式企業架構中，為對話式代理和工具叫用提供防護措施。

支援的模態

Model Armor 可掃描及清理的模態，取決於您存取服務的方式：

如要進一步瞭解支援的文件類型和大小限制，請參閱「文件篩選」。

支援的服務

本節說明可與 Model Armor 整合的 Google Cloud 服務。

Agent Gateway

將 Model Armor 與 Agent Gateway 整合，對閘道管理的所有代理往來流量強制執行安全政策。這項整合功能可讓您內嵌檢查及封鎖惡意或違規內容。這項整合功能旨在提升工作流程安全性，並確保符合組織的安全指南，不需修改應用程式程式碼。這項保護措施適用於輸入 (傳入代理) 和輸出 (傳出代理) 路徑上支援的通訊協定。詳情請參閱「與 Agent Gateway 整合」。

Apigee

整合 Model Armor 和 Apigee 後，您就能直接在 Apigee API 閘道層，使用 Model Armor 的 AI 防護功能。您可以在 Apigee API Proxy 中設定特定 Model Armor 政策。當 API 呼叫通過具有這些政策的 Apigee Proxy 時，Apigee 會將提示和回覆傳送至 Model Armor 服務進行檢查。詳情請參閱「與 Apigee 整合」。

Gemini Enterprise

Model Armor 可透過範本直接與 Gemini Enterprise 整合。Gemini Enterprise 會將使用者、代理和基礎 LLM 之間的互動 (包括文字、文件和圖片) 透過 Model Armor 進行檢查，然後才向使用者顯示回覆。詳情請參閱「與 Gemini Enterprise 整合」。

Google 和 Google Cloud MCP 伺服器

您可以設定 Model Armor，在向公開 Model Context Protocol (MCP) 工具和伺服器的 Google Cloud 服務傳送要求時，保護資料和內容安全。Model Armor 會使用底限設定，清理 MCP 工具呼叫和回覆，協助保護代理式 AI 應用程式。這項程序可降低提示詞注入和私密/機密資料揭露等風險。詳情請參閱「整合 Google 和 Google Cloud MCP 伺服器」。

Service Extensions

Model Armor 可透過 Service Extensions 與 Google Cloud 網路服務整合。Service Extensions 可讓您整合 Google Cloud 服務或使用者代管服務，以便處理流量。您可以在應用程式負載平衡器上設定服務擴充功能，篩選各種 AI 互動 (例如與代理和 MCP 伺服器互動) 的網路流量。您也可以搭配使用 Service Extensions 和 GKE 推論閘道，篩選進出 GKE 叢集的流量。這樣一來，所有通過負載平衡器的 AI 互動都會受到 Model Armor 保護。詳情請參閱「與 Google Cloud 網路服務整合」。

Gemini Enterprise Agent Platform

Model Armor 可透過底限設定或範本，直接整合至 Gemini Enterprise Agent Platform。這項整合功能會篩選 Gemini 模型要求和回覆，並封鎖違反底限設定的內容。這項整合功能可為 Vertex AI Gemini API 中的 generateContent 方法提供提示和回覆保護。這項整合功能不支援清理含有文件或圖片的提示和回覆。您必須啟用 Cloud Logging，才能查看提示詞和回覆的清理結果。詳情請參閱「與 Gemini Enterprise Agent Platform 整合」。

事前準備

啟用 API

您必須先啟用 Model Armor API，才能使用 Model Armor。

控制台

  1. 啟用 Model Armor API (如果尚未啟用)。

    啟用 API 所需的角色

    如要啟用 API，您必須具備 serviceusage.services.enable 權限。如果您建立了專案，可能已透過擁有者角色 (roles/owner) 取得這項權限。否則，您可以透過 Service Usage 管理員角色 (roles/serviceusage.serviceUsageAdmin) 取得這項權限。瞭解如何授予角色。

    啟用 API

  2. 選取要啟用 Model Armor 的專案。

gcloud

開始之前，請按照下列步驟，搭配使用 Google Cloud CLI 和 Model Armor API：

  1. 安裝 Google Cloud CLI，然後使用聯合身分登入 gcloud CLI。 登入後， 執行下列指令來初始化 Google Cloud CLI： 

    gcloud init

  2. 啟用 Model Armor API (如果尚未啟用)：

    啟用 API 所需的角色

    如要啟用 API，您必須具備 serviceusage.services.enable 權限。如果您建立了專案，可能已透過「擁有者」角色 (roles/owner) 取得這項權限。否則，您可以透過「Service Usage 管理員」角色 (roles/serviceusage.serviceUsageAdmin) 取得這項權限。瞭解如何授予角色。

    gcloud services enable modelarmor.googleapis.com

  3. 使用 gcloud CLI 設定 API 端點覆寫。

使用 gcloud CLI 設定 API 端點覆寫

只有在搭配 Model Armor 使用 gcloud CLI，且想使用預設 us 多區域以外的區域或多區域時，才需要執行這個步驟。您必須手動設定 API 端點覆寫，確保 gcloud CLI 正確將要求轉送至 Model Armor 服務。

執行下列指令，設定 Model Armor 服務的 API 端點。

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

將 LOCATION 替換為要使用 Model Armor 的區域或多區域。

管理配額

Model Armor 採用配額系統，確保公平使用並保護系統穩定性。Model Armor API 的預設配額為每項專案每分鐘 1,200 次查詢。每個專案可套用的值介於 0 到 1,200 QPM 之間。如要申請調整，請參閱「申請調整配額」。如需超過預設配額，請與 Cloud Customer Care 聯絡。

與其他服務整合時，請務必考量 Model Armor 配額。您主要會用到的配額，是每項專案每分鐘的 API 要求數量。

將 Model Armor 與其他服務整合時，請考量下列配額類型。

  • Model Armor 預設配額：服務呼叫 Model Armor API 進行分析 (例如檢查提示詞或回覆) 時，會消耗專案的 Model Armor API 配額。
  • 整合服務配額：Model Armor 配額與整合服務相關聯的任何配額分開計算。您必須確保要求路徑中的所有服務都有足夠的配額。凡是呼叫 Model Armor API 來清理應用程式內容，都會計入 Model Armor API 配額限制。

找出配額用盡的情況

如果應用程式記錄顯示 Model Armor 錯誤 (通常是 HTTP 429 RESOURCE_EXHAUSTED 錯誤，表示要求過多)，代表您已達到 Model Armor 配額限制。

預估配額需求

如要判斷應申請多少 Model Armor 配額，請按照下列步驟操作：

  • 預估服務每分鐘傳送至 Model Armor 的要求數量高峰。
  • 請考量使用者每次與服務互動時，Model Armor 的呼叫次數 (例如提示詞和回覆各一次)。
  • 考量並行使用者或工作階段的數量上限。
  • 要求配額時，請預留合理的緩衝空間 (例如比預期高峰高出 20% 至 30%)，以因應非預期的流量高峰。
  • 請先根據最佳估算值設定，並在推出後密切監控用量，視需要要求進一步調整。

舉例來說，如果預期每分鐘有 500 位使用者，且每位使用者互動會呼叫 Model Armor 兩次 (提示和回覆)，則至少需要 1,000 QPM。考量到緩衝空間，建議先要求每分鐘 1,200 到 1,300 次查詢。

注意事項

與其他服務整合時，請考量下列事項：

  • 請務必監控及管理其他服務的配額。即使 Model Armor 配額充足，其他服務的配額用盡仍會影響應用程式。
  • 在應用程式設定中，導入用戶端重試機制和指數輪詢策略，處理暫時性配額問題或其他可重試的錯誤。詳情請參閱「重試策略」。

違規處置類型

將 Model Armor 與其他服務整合時，必須設定的重要項目是強制執行類型。這項設定會決定 Model Armor 在檢查資料 (例如 LLM 提示詞或回覆) 時，偵測到可能違反政策的情況時，會採取什麼行動。強制執行類型決定 Model Armor 是僅回報違規事項，還是主動介入。詳情請參閱「定義違規處置類型」。

使用 REST API 整合

透過 REST API 整合時，Model Armor 只會使用範本做為偵測工具。這項工具會根據預先定義的範本，找出並回報可能違反政策的情況，而非主動防範。與 Model Armor API 整合後，應用程式可以根據 Model Armor 提供的安全評估結果，封鎖或允許動作。Model Armor API 會傳回與 API 流量相關的潛在威脅或違反政策資訊，特別是 AI 互動。應用程式可以呼叫 Model Armor API，並根據回應中收到的資訊，按照預先定義的自訂邏輯做出決策並採取行動。

整合 Model Armor 的選項

Model Armor 提供下列整合選項。每種選項提供的功能和能力各不相同。

整合選項 設定偵測 支援的模態 僅檢查 檢查並封鎖 涵蓋範圍
Agent Gateway 僅使用範本 文字 是 是 所有模型和雲端
Apigee 僅使用範本 文字 是 是 所有模型和雲端2
Gemini Enterprise 僅使用範本 文字、文件、圖片 是 是 所有模型和雲端2
Google 和 Google Cloud MCP 伺服器 僅使用底限設定 文字 是 是 Google 和 Google Cloud MCP 伺服器
Service Extensions 僅使用範本 文字 是 是 所有雲端2上的 OpenAI 格式模型1、代理和 MCP 伺服器
Gemini Enterprise Agent Platform 同時使用底限設定和範本 文字 是 是 Gemini 模型 (非串流)

1Anthropic Claude、Mistral AI 和 Grok 等多個熱門模型都支援 OpenAI 規格。這些模型通常會使用 vLLM 等推論引擎部署，提供必要的 OpenAI 相容 API 層。vLLM 支援多種模型，包括 Meta Llama 系列、DeepSeek、Mistral 和 Mixtral 系列，以及 Gemma。

2包括 AWS 和 Azure 等其他公有雲。

Model Armor 與 Gemini Enterprise Agent Platform 整合，可使用底限設定或範本，提供內嵌違規處置。內嵌政策強制執行功能可讓 Model Armor 直接介入程序，主動強制執行政策，不需修改應用程式程式碼。

Service Extensions 和 Gemini Enterprise 整合功能只會使用範本，強制執行內嵌政策。Model Armor 可透過內嵌政策強制執行功能，直接強制執行政策，您不需修改 Service Extensions 中的應用程式程式碼，也不需在 Gemini Enterprise 執行個體中，使用者或代理互動期間修改程式碼。

Model Armor 與 Gemini Enterprise、Agent Runtime 和 Apigee 整合，可清理初始使用者提示、最終代理或模型回覆，以及中間步驟，例如基準資料和網頁搜尋工具傳回的回覆。如果擷取的基準資料或中繼酬載違反您設定的 Model Armor 範本或 Sensitive Data Protection 政策，系統會封鎖要求，並以 SANITIZE_USER_PROMPT 作業類型記錄。

Security Command Center 中的 Model Armor

Model Armor 會檢查 LLM 提示詞和回覆，找出各種威脅，包括提示詞注入、越獄嘗試、惡意網址和有害內容。當 Model Armor 偵測到違反設定的底限時，會封鎖提示詞或回覆，並將發現項目傳送至 Security Command Center。詳情請參閱「Model Armor 發現項目」。