Cloud Run 可讓您在代管容器基礎架構上部署及執行 AI 代理。這些自主軟體實體使用 LLM 驅動的系統，感知、決定和採取行動來達成目標。Cloud Run 會自動調度代理資源，處理波動的工作負載、動態推論迴圈和工具執行。
如需 AI 代理簡介，請參閱「什麼是 AI 代理」。
選擇 Cloud Run 資源
視代理設計而定，您可以將代理容器做為下列其中一種 Cloud Run 資源類型執行：
- 服務：最適合無狀態、要求導向的代理，可處理變動的使用者流量、享有自動調度資源功能，並在閒置時將資源調度率降至零。例如聊天機器人 API 和網頁 API 後端。
- 執行個體：最適合專用、有狀態、全天候運作的單例模式代理迴圈，需要類似 VM 的生命週期狀態指令。例如 OpenClaw 和 Hermes
- Worker 集區：最適合執行背景分散式代理程式機群，從 Kafka 或 Pub/Sub 等訊息佇列中取用工作，並水平擴充，不公開 HTTP 端點。
- 工作：最適合執行至完成的 Agentic Workflows，例如批次評估、大規模資料擷取管道，或排定的同步指令碼。
選擇代理架構
將代理部署至 Cloud Run 之前，請在本機或開發平台上選擇並設定代理框架。代理框架範例包括 Agent Development Kit (ADK)、Dify、LangGraph 和 n8n。
在 Cloud Run 中，程式碼通常會以 服務或執行個體。這兩種資源類型都會在相同的執行環境中執行沙箱容器執行個體，並與 Google Cloud 服務整合。
Cloud Run 架構中的 AI 代理
在 Cloud Run 部署的一般 AI 代理架構，可能包含 Google Cloud 和Google Cloud以外的多個元件。下列架構範例說明如何將 AI 代理導入為 Cloud Run 服務，以便自動調度管理一組非同步工作，並透過多輪要求/回應互動提供資訊。
圖表顯示下列內容：
託管平台：Cloud Run 服務是可擴充的 API 端點，用於應用程式的核心邏輯。這項服務會自動隨選快速調度執行個體資源，有效率地管理多位並行使用者。Cloud Run 具備下列優點：
- 支援執行任何代理架構，建構不同類型的代理和代理架構。
- 內建支援代理身分。為代理指派專屬且可透過加密方式驗證的身分，以便呼叫 Google Cloud API、工具，以及安全地連結至其他代理。詳情請參閱「設定代理平台功能」。
- 內建與 Agent Registry 整合的功能。將已部署的服務指定為代理或 MCP 伺服器，即可自動探索，並使用強大的代理對代理 (A2A) 驗證機制。詳情請參閱「設定代理平台功能」。
- 支援將代理架構連結至其他服務。您可以將代理連結至部署在 Cloud Run 的第一方或第三方工具。舉例來說，如要瞭解代理的工作和執行情況，可以部署及使用 Langfuse 和 Arize 等工具。
代理互動：Cloud Run 支援串流 HTTP 回應傳回給使用者，以及 WebSockets 進行即時互動。
生成式 AI 模型：調度管理層會呼叫模型，以取得推論功能。 這些模型可託管於下列服務：
- Google 生成式 AI 模型的 Gemini API。
- 自訂模型或其他基礎模型的 Vertex AI 端點。
- 啟用 GPU 的 Cloud Run 服務，用於自行微調的模型。
記憶：代理通常需要記憶功能，才能保留情境資訊，並從過去的互動中學習。 您可以使用下列服務：
- Memorystore for Redis：用於短期記憶。
- Firestore：用於長期記憶，例如儲存對話記錄，或根據原始資料記住使用者偏好設定。
- Vertex AI Agent Engine Memory Bank：用於長期個人化記憶。這項功能會自動從使用者的對話記錄中擷取資訊，記住並更新使用者的偏好設定。請注意，您必須建立至少一個 Agent Engine 執行個體，才能搭配 Cloud Run 使用這項功能。
向量資料庫：如要進行檢索增強生成 (RAG) 或擷取結構化資料，請使用向量資料庫查詢特定實體資訊，或對嵌入執行向量搜尋。搭配下列服務使用
pgvector擴充功能：工具：自動調度管理工具會使用工具執行特定工作，與外部服務、API 或網站互動。這些實用資源包括：
- Model Context Protocol (MCP)：使用這項標準化通訊協定，與透過 MCP 伺服器執行的外部工具通訊。
- 基本公用程式：精確的數學計算、時間轉換或其他類似公用程式。
- API 呼叫：呼叫其他內部或第三方 API (讀取或寫入權限)。
- 生成圖片或圖表：快速有效地建立視覺內容。
- 瀏覽器和 OS 自動化：在容器執行個體中執行無頭或完整圖形作業系統，讓代理瀏覽網頁、從網站擷取資訊，或使用點擊和鍵盤輸入執行動作。
- 執行程式碼：在具備多層沙箱的安全環境中執行程式碼，只需極少或不需 IAM 權限。
- Vertex AI Agent Engine 執行程式碼：在安全、隔離且受管理的沙箱環境中執行程式碼，支援檔案輸入和輸出、程式碼執行時間不到一秒，以及長期記憶。請注意，您必須建立至少一個 Vertex AI Agent Engine 執行個體，才能在 Cloud Run 中使用這項功能。
後續步驟
- 在 Cloud Run 建構及部署代理：
- 觀看「在 Cloud Run 建構 AI 代理」。
- 試試程式碼實驗室，瞭解如何建構 LangChain 應用程式並部署至 Cloud Run。
- 瞭解如何將 Agent Development Kit (ADK) 部署至 Cloud Run。
- 瞭解如何建立及管理 Cloud Run 執行個體。
- 試試程式碼實驗室：在 Cloud Run 搭配 ADK 代理使用 MCP 伺服器。
- 試試程式碼實驗室，瞭解如何將 ADK 代理部署至 Cloud Run (含 GPU)。
- 如需現成的代理範例，請參閱 ADK 範例。
- 在 Cloud Run 託管 Model Context Protocol (MCP) 伺服器。