管理已部署的代理

借助 Agent Runtime，您可以管理已部署到平台的代理。您可以使用控制台、SDK 或 REST API 列出、获取、更新和删除已部署的代理。

本文档介绍了如何在 Agent Platform 上管理已部署的代理。 如果您想部署新代理，请参阅 部署代理。

列出已部署的代理

列出给定项目和位置的所有已部署代理：

控制台

  1. 在 Google Cloud 控制台中，前往 Agent Platform 部署 页面。

    转到部署

属于所选项目的已部署代理会显示在列表中。您可以使用过滤条件 字段按指定的列过滤列表。

Agent Platform SDK 

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

for agent in client.agent_engines.list():
    print(agent)

如需按 display_name 过滤列表，请执行以下操作：

for agent in client.agent_engines.list(
    config={
        "filter": 'display_name="DISPLAY_NAME"',
    },
):
    print(agent)

REST

调用 reasoningEngines.list 方法。

在使用任何请求数据之前， 请先进行以下替换：

  • PROJECT_ID：您的 GCP 项目 ID
  • LOCATION：支持的区域

HTTP 方法和网址： 

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines

如需发送您的请求，请展开以下选项之一：

您应该会收到一个成功的状态代码 (2xx) 和一个空响应。

获取已部署的代理

每个已部署的代理都有一个唯一的 RESOURCE_ID 标识符。如需了解详情，请参阅部署代理。

控制台

  1. 在 Google Cloud 控制台中，前往 Agent Platform 部署 页面。

    转到部署

    属于所选项目的已部署代理会显示在列表中。您可以使用过滤条件 字段按指定的列过滤列表。

  2. 点击指定代理的名称。系统会打开该代理的指标 页面。

  3. 可选：如需查看代理的部署详情，请点击部署详情 。系统会打开部署详情 窗格。如需关闭该窗格，请点击完成 。

  4. 可选：如需查看代理的 query 和 streamQuery 网址，请点击 API 网址 。系统会打开 API 网址 窗格。如需关闭该窗格，请点击完成 。

Agent Platform SDK

通过以下代码，您可以获取特定的已部署代理：

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

remote_agent = client.agent_engines.get(
    name="projects/PROJECT_ID_OR_NUMBER/locations/LOCATION/reasoningEngines/RESOURCE_ID"
)

REST

调用 reasoningEngines.get 方法。

在使用任何请求数据之前， 请先进行以下替换：

  • PROJECT_ID：您的 GCP 项目 ID
  • LOCATION：支持的区域
  • RESOURCE_ID：已部署代理的资源 ID

HTTP 方法和网址： 

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

如需发送您的请求，请展开以下选项之一：

您应该会收到一个成功的状态代码 (2xx) 和一个空响应。

更新已部署的代理

您可以同时更新已部署代理的一个或多个字段，但必须至少指定一个要更新的字段。

您可以更新已部署代理的非版本化字段或版本化字段。如果您更新版本化字段，系统会创建新修订版本。如需详细了解版本化字段和管理修订版本，请参阅管理修订版本和流量。

更新已部署的代理所需的时间取决于所执行的更新，但通常需要几秒到几分钟。

控制台

  1. 在 Google Cloud 控制台中，前往 Agent Platform 部署 页面。

    转到部署

  2. 对于指定的代理，点击更多操作 菜单 ()。

  3. 点击修改。系统会打开该代理的修改 窗格。

  4. 修改代理的显示名称 或说明 。

  5. 点击保存 。

Agent Platform SDK

如需将已部署的代理（对应于 RESOURCE_NAME）更新为更新后的代理（对应于 UPDATED_AGENT），请执行以下操作：

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

client.agent_engines.update(
    name=RESOURCE_NAME,                    # Required.
    agent=UPDATED_AGENT,                   # Optional.
    config={                                                # Optional.
        "requirements": REQUIREMENTS,      # Optional.
        "display_name": "DISPLAY_NAME",    # Optional.
        "description": "DESCRIPTION",      # Optional.
        "extra_packages": EXTRA_PACKAGES,  # Optional.
    },
)

这些参数与部署代理时使用的参数相同。

REST

调用 reasoningEngines.patch 方法并提供 update_mask 以指定要更新的字段。

在使用任何请求数据之前， 请先进行以下替换：

  • PROJECT_ID：您的 GCP 项目 ID
  • LOCATION：支持的区域
  • RESOURCE_ID：已部署代理的资源 ID
  • update_mask：要更新的以英文逗号分隔的字段列表

HTTP 方法和网址： 

PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description"

请求 JSON 正文： 

{
"displayName": "DISPLAY_NAME",
"description": "DESCRIPTION"
}

如需发送您的请求，请展开以下选项之一：

您应该会收到一个成功的状态代码 (2xx) 和一个空响应。

为已部署的代理配置遥测

如果您在代理开发期间启用了跟踪记录，则可以使用控制台为已部署的代理配置遥测。 Google Cloud

为已启用遥测的已部署代理配置遥测：

  1. 在 Google Cloud 控制台中，前往 Agent Platform 部署 页面。

    转到部署

    属于所选项目的 Agent Platform 实例会显示在列表中。您可以使用过滤条件 字段按指定的列过滤列表。

  2. 找到 Agent Platform 实例对应的行。在遥测配置 列下，点击配置 。系统会打开服务配置 面板。

  3. 您可以进行以下配置：

    • 可观测性：您可以配置以下内容：

      • 启用 OpenTelemetry 跟踪记录和日志的插桩：如需填充代理 可观测性信息中心和跟踪记录页面，请将切换开关点击到开启 位置。

      • 启用提示输入和回答输出的日志记录：如需收集和 存储用户提示和回答的完整内容，请将切换开关点击到 开启位置。

      如果您的代理停用了遥测数据收集，您需要重新部署 代理并将 Vertex AI SDK 版本更新为 >= 1.126.1，才能查看 可观测性 的配置选项。

    • 容器：为已部署的代理配置容器设置：

      • 扩缩：输入实例数下限 和实例数 上限。

      • 资源：为每个容器选择内存 和 CPU 的限制。

      • 容器并发数：输入实例数下限，以设置 每个容器和代理服务器的并发数。建议值为 (2 * CPU + 1)，默认值为 9。

    • 访问权限和权限：点击 IAM 中的管理权限 ，以管理 关联服务帐号的代理权限。

    • 部署详情：查看代理的部署详情，包括 资源名称 和 显示名称。

    • Agent Platform Memory Bank：查看代理的 Memory Bank 详情，包括 内存 生成 和 内存搜索。

  4. 点击更新 或关闭 。

查看已部署代理的指标

对于已部署的代理，您可以使用控制台查看代理的指标：

  1. 在 Google Cloud 控制台中，前往 Agent Platform 部署 页面。

    转到部署

    属于所选项目的已部署代理会显示在列表中。您可以使用过滤条件 字段按指定的列过滤列表。

  2. 点击代理的名称。系统会显示所选代理的信息中心 。

  3. 选择以下某个信息中心 标签页：

    • 概览：查看代理的指标摘要信息中心，包括 代理延迟时间、代理请求数和代理错误率。

    • 模型：查看代理模型的指标信息中心，包括 模型调用次数、模型错误率和模型令牌用量。

    • 工具：查看代理工具的指标信息中心，包括 工具调用次数、工具错误率和工具延迟时间。

    • 用量：查看代理用量的指标信息中心，包括 输入和输出的令牌用量、容器 CPU 分配和容器 内存分配。

    • 日志：如果您为代理启用了 Cloud Logging，则可以查看代理的日志。

Gemini Enterprise Agent Platform 信息中心

删除已部署的代理

从 Agent Runtime 托管式运行时中删除已部署的代理。

控制台

  1. 在 Google Cloud 控制台中，前往 Agent Platform 部署 页面。

    转到部署

  2. 对于指定的代理，点击更多操作 菜单 ()。

  3. 点击删除。

  4. 点击删除代理 。

Agent Platform SDK

如果您已有所部署代理的现有实例 （作为 remote_agent），则可以运行以下命令：

remote_agent.delete(
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

或者，您可以按以下方式调用 agent_engines.delete() 以删除与 RESOURCE_NAME 对应的已部署代理：

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

client.agent_engines.delete(
    name=RESOURCE_NAME,
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

REST

调用 reasoningEngines.delete 方法。

在使用任何请求数据之前， 请先进行以下替换：

  • PROJECT_ID：您的 GCP 项目 ID
  • LOCATION：支持的区域
  • RESOURCE_ID：已部署代理的资源 ID

HTTP 方法和网址： 

DELETE https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

如需发送您的请求，请展开以下选项之一：

您应该会收到一个成功的状态代码 (2xx) 和一个空响应。

后续步骤

指南

使用 Agent Platform Runtime 中的代理。