将预留与 Agent Platform Workbench 实例搭配使用

本文档介绍了如何使用 Compute Engine 预留 ,来高度确保 Gemini Enterprise Agent Platform Workbench 实例具有 运行所需的足够的虚拟机 (VM) 资源。

预留是 Compute Engine 的一项功能。它们有助于确保您随时可以使用资源来创建具有相同硬件(内存和 vCPU)和可选资源(GPU 和本地 SSD 磁盘)的虚拟机。

当您创建预留时,Compute Engine 会验证指定可用区是否有可用的请求容量。如果有,Compute Engine 会预留资源并创建预留,然后会发生以下情况:

  • 预留的资源可供您立即使用,并且在您删除预留之前一直可用。

  • 系统会按照与运行中虚拟机相同的按需费率(包括任何适用的折扣)对预留的资源收费,直到您删除预留为止。使用预留时,虚拟机不会产生重复的资源费用,因为系统已针对预留资源的费用收取预留的费用。如需了解详情,请参阅 Compute Engine 可用区级资源的预留

限制和要求

当 Agent Platform Workbench 实例使用预留时,需要遵循 Compute Engine 预留的所有限制。请参阅预留的工作原理 。

此外,将预留与 Agent Platform Workbench 实例搭配使用时,存在以下限制和要求:

  • 预留必须符合以下条件之一:

    • 与您的 Agent Platform Workbench 实例位于同一项目中。
    • 与您的 Agent Platform Workbench 实例位于同一项目,并与该项目共享。
  • 预留的虚拟机属性必须与 Agent Platform Workbench 实例完全匹配才能使用该预留。例如,如果预留指定了 e2-standard-8 机器类型,则只有在 Agent Platform Workbench 实例也使用 e2-standard-8 机器类型时才能使用该预留。请参阅 要求

准备工作

  1. 查看预留的要求限制
  2. 查看共享预留的 配额 要求 限制条件
  3. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  4. Enable the Compute Engine and Notebooks APIs.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

所需的角色

如需获得将预留用于 Agent Platform Workbench 实例所需的权限,请让您的管理员为您授予项目的以下 IAM 角色:

如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限

您也可以通过自定义角色或其他预定义角色来获取所需的权限。

创建预留

创建 Compute Engine 预留。它可以是单项目预留,也可以是共享预留。预留可以是按需预留,也可以是未来预留。如需了解详情,请参阅 选择预留类型

将预留用于新实例

如需创建使用预留的 Agent Platform Workbench 实例, 您可以使用 Google Cloud 控制台或 REST API。

控制台

如需创建使用预留的 Agent Platform Workbench 实例,请执行以下操作:

  1. 在 Google Cloud 控制台中,前往实例页面。

    转到实例

  2. 点击  新建

  3. 新建实例对话框中,点击高级选项

  4. 创建实例 对话框的机器类型 部分中,选择与您的预留匹配的机器类型和 GPU 配置。

  5. CPU 平台和 GPU 下的预留菜单中,选择要使用的预留。

  6. 点击创建

    Agent Platform Workbench 会创建实例并自动启动该实例。 当实例可供使用时,Agent Platform Workbench 会激活一个打开 JupyterLab 链接。

REST

在使用任何请求数据之前, 请先进行以下替换:

  • PROJECT_ID:您的项目 ID
  • LOCATION:实例所在的可用区
  • INSTANCE_NAME:实例的名称
  • MACHINE_TYPE:更改实例的机器类型
  • RESERVATION_TYPE:预留的类型;必须为 RESERVATION_ANYRESERVATION_SPECIFIC
  • RESERVATION_NAME:使用 RESERVATION_SPECIFIC 类型时预留的名称
    • 对于同一项目中的预留,您可以使用预留 ID。
    • 对于不同项目中的预留,您必须使用完整的预留路径。 例如:projects/PROJECT_ID/reservations/RESERVATION_NAME

HTTP 方法和网址:

POST https://notebooks.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION/instances?instanceId=INSTANCE_NAME

请求 JSON 正文:

{
  "gce_setup": {
    "machine_type": "MACHINE_TYPE",
    "reservation_affinity": {
      "consume_reservation_type": "RESERVATION_TYPE",
      "key": "compute.googleapis.com/reservation-name",
      "values": ["RESERVATION_NAME"]
    }
  }
}

如需发送请求,请选择以下方式之一:

curl

将请求正文保存在名为 request.json 的文件中,然后执行以下命令:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://notebooks.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION/instances?instanceId=INSTANCE_NAME"

PowerShell

将请求正文保存在名为 request.json 的文件中,然后执行以下命令:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://notebooks.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION/instances?instanceId=INSTANCE_NAME" | Select-Object -Expand Content
如果成功,响应正文将包含一个 Operation 实例。

如需了解详情,请参阅 projects.locations.instances.create REST API 文档

停止使用预留

如需停止使用预留,您可以 删除预留

如果您希望继续将您的预留用于其他资源,但不希望现有的 Agent Platform Workbench 实例使用它,则必须删除该实例。

结算

使用 Compute Engine 预留时,您需要为以下各项支付费用:

  • Compute Engine 资源,包括所有适用的承诺使用折扣 (CUD),按照 Compute Engine 价格收费。这些费用在 SKU 上带有标签 goog-vertex-ai-product: workbench-instances。请参阅 Compute Engine 价格

  • 除基础设施使用费之外,还需支付 Agent Platform Workbench 管理费。请参阅 Agent Platform Workbench 价格

问题排查

如需查找用于诊断和解决与将 预留用于 Agent Platform Workbench 实例相关的错误的方法,请参阅排查 Agent Platform Workbench 实例问题

后续步骤