使用 Agent Gateway 管理智能体流量

在 Google Kubernetes Engine (GKE) 上部署自主 AI 智能体时，工作负载的运行方式与标准微服务不同。AI 智能体可根据用户提示确定自己的执行路径，并动态调用外部 SaaS API、远程 Model Context Protocol (MCP) 服务器或其他内部智能体。

由于这种行为具有非确定性，标准的第 4 层网络防火墙无法完全保护您的 AI 环境。为了保护智能体流量，您必须评估调用智能体的身份，严格限制其允许使用的工具，并清理提示词的语义上下文，以防范提示词注入攻击等威胁。

如果您是平台管理员、安全工程师或 AI 开发者，则可以使用 Agent Gateway 来保护和治理此类智能体流量。Agent Gateway 是 GKE 托管代理的中央网络入口点和出口点，直接连接到 Gemini Enterprise Agent Platform 的政策执行层。

Agent Gateway 对 AI 工作负载的优势

您可以使用 Agent Gateway 为智能体应用实现以下目标：

  • 将安全性与智能体代码解耦：AI 开发者无需在其智能体框架中构建复杂的身份验证、双向 TLS (mTLS) 或载荷清理逻辑。Agent Gateway 在平台层 处理网络加密和政策执行
  • 实现无边车强制执行：GKE Ambient Networking 会在 Pod 外部捕获智能体流量，无需注入边车，也无需更改智能体代码。它还使用 mTLS 根据每个 Pod 的身份对工作负载之间的流量进行加密，因此您无需自行管理证书。
  • 强制执行 AI 安全护栏：实时清理传入的用户提示和传出的工具回答。Agent Gateway 直接与 Google Cloud Model Armor 集成，可在有效负载到达智能体的推理引擎之前，筛查其中是否存在提示词注入攻击或有害内容。
  • 安全工具执行：验证只有获得授权的智能体才能访问特定的高权限 MCP 服务器或 API。您可以为每个工具调用强制执行基于身份的精细访问权限控制。
  • 监控多智能体系统：收集并查看所有智能体交互的可观测性遥测数据，以便您跟踪跨不同工具和端点的多步骤智能体推理。

Agent Gateway 在 GKE 上的运作方式

根据流量方向，您可以使用标准 GKE 网络资源来配置 Agent Gateway，以管理以下 AI 交互流：

  • 客户端到智能体（入站流量）：管理外部客户端（例如聊天界面或开发者 CLI）如何与 GKE 集群中托管的智能体进行交互。您可以使用 GKE Gateway API 部署区域级应用负载均衡器。然后，您应用 Kubernetes 自定义资源（GCPAgentGateway、GCPAuthzPolicy 和 GCPExtensionBinding），以强制执行基于身份的访问权限控制、限制特定 MCP 工具调用，并在请求到达智能体之前使用 Model Armor 筛查传入的提示。
  • 智能体到任意位置（出站流量）：将出站请求从 GKE 托管的智能体安全地路由到外部数据存储区、远程 MCP 服务器和 API。您可以使用 GKE 环境代理将此流量重定向到 Secure Web Proxy (SWP)。SWP 会强制执行您的安全政策，使用 Identity-Aware Proxy (IAP) 验证智能体的身份，并在流量离开您的网络之前使用 Model Armor 检查出站载荷。
  • 东西向（集群内）：控制智能体如何与同一集群内的对等智能体、共享内部工具或 MCP 服务器协作。您需要部署每个命名空间一个代理的第 7 层环境代理，以强制执行双向 TLS (mTLS) 和精细访问权限政策，而无需将边车代理注入代理 Pod。如需申请访问第 7 层环境代理预览版，请与您的 Google Cloud 客户支持团队联系。

限制和要求

如需使用 Agent Gateway 治理 GKE 托管的智能体，您的环境必须满足以下基准要求：

  • 支持的工作负载：Agent Gateway 支持作为标准 GKE Pod 部署的智能体。不支持 GKE 上的 Agent Substrate 和 GKE 上的 Agent Sandbox。
  • GKE 集群版本：您的集群必须运行 GKE 1.37.1-gke.1697000 版或更高版本。
  • 代理身份：您必须为代理工作负载分配加密 SPIFFE 身份，以便网关可以评估基于身份的政策。如需了解如何将这些身份分配给 Pod，请参阅 GKE 中的代理身份简介。
  • Agent Registry：您必须注册智能体 Deployment，以便 Agent Registry 能够发现工作负载并同步其元数据。如需注册这些集群，请向您的 Deployment 添加 registry.gke.io/functional-type: "AGENT" 标签。如需了解详情，请参阅使用自动注册。
  • GKE 网络组件：
    • 对于入站流量治理，您必须在集群中启用 GKE Gateway API。
    • 对于出站流量治理，您必须为集群准备 Ambient Networking，并预配 Secure Web Proxy 实例。

Agent Gateway for GKE 受到单项目限制、特定自定义扩展边界和区域可用性限制。

后续步骤