配额和系统限制

本文档列出了适用于 Customer Experience Agent Studio 的配额和系统限制。

  • 配额具有默认值,但您通常可以申请调整。
  • 系统限制是无法更改的固定值。

Google Cloud 使用配额来帮助确保公平性并减少资源使用和可用性的激增。配额用于限制您的 Google Cloud 项目可使用多少Google Cloud 资源。配额适用于一系列资源类型,包括硬件、软件和网络组件。例如,配额可以限制对某项服务的 API 调用次数、您的项目并发使用的负载均衡器数量或者您可以创建的项目数量。配额可以防止服务过载,从而保护Google Cloud 用户社区。配额还可以帮助您管理自己的 Google Cloud 资源。

Cloud 配额系统执行以下操作:

在大多数情况下,当您尝试消耗的资源超出其配额允许的范围时,系统会阻止对资源的访问,并且您尝试执行的任务会失败。

配额通常在 Google Cloud 项目级别应用。您在一个项目中使用资源不会影响您在另一个项目中的可用配额。在 Google Cloud 项目中,配额在所有应用和 IP 地址间共享。

如需了解详情,请参阅 Cloud 配额概览

分配配额

以下配额不会在一段时间后重置。配额会在您释放资源时释放:

配额
每个区域中每个项目的应用数量 1000

速率配额

以下配额指定了您使用或创建资源的速率。

配额
每个区域每个项目每分钟的应用突变操作数 200
每个区域每个项目每分钟的应用读取操作数 600
每个区域每个项目每分钟的应用生成操作数 100
每个项目每分钟每个 base_model 每个区域的 RunSession LLM token 数 120000
Evaluation RunSession 每个项目每分钟每个base_model每个区域的 LLM token 数 120000
每个区域中每个项目每分钟的 ExecuteTool 请求数 240
每个区域中每个项目每分钟的 RetrieveTools 请求数 120
每个区域中每个项目每分钟的 RetrieveToolSchema 请求数 120

并发配额

配额
每个项目在每个区域中每 30 分钟的并发 BidiRunSession 操作数(每个 base_model 15
每个项目在每个区域每 10 分钟内的并发 RunEvaluation 操作数 10

系统限制

CX Agent Studio 实施以下系统限制:

系统限制
每个应用可拥有的代理数量上限 100
每个应用的工具数量上限 200
每个代理的工具数量上限 100
每个应用的工具集数量上限 100
每个应用的防护措施数量上限 100
每个应用的示例数上限 1000
每个应用的变量数量上限 100
每个应用的工作流数量上限 100
每个应用的评估次数上限 1000
每个应用的评估数据集数量上限 100
每个代理的回调数量上限 50
每个应用的最多应用版本数 200

获取配额和系统限制指标名称

配额和系统限制有两种类型的名称:显示名称和指标名称。显示名称包含空格和大写字母,更便于人类阅读。指标名称更可能是小写形式,并使用下划线而非空格作为分隔符;确切的格式取决于服务。

以下说明介绍了如何使用 Google Cloud 控制台或 gcloud CLI 获取配额和系统限制的指标名称。

控制台

  1. 在 Google Cloud 控制台中,依次前往 IAM 和管理 > 配额和系统限制页面:

    进入“配额和系统限制”

    本页面的表格会显示具有用量或具有调整值的配额和系统限制,以及其他配额的引用条目。引用条目在名称列的列表末尾的括号中有“default”字样。例如,SetIAMPolicy requests per minute per region (default) 是配额 SetIamPolicyRequestsPerMinutePerProject 的引用条目。

  2. 如果您没有看到指标列,请执行以下步骤。

    1. 点击 列显示选项
    2. 选择指标
    3. 点击确定。表格中会显示指标列。

指标列显示指标名称。如需过滤结果,请在 过滤条件旁边的字段中输入属性名称或值。

gcloud

如需使用 gcloud CLI 获取 Google Cloud 服务的指标名称,请运行 quotas info list 命令。如需跳过未列出指标名称的行,请将输出传递给 grep 等命令,并将 metric: 作为搜索字词,或者使用 gcloud CLI --format 标志:

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

替换以下内容:

  • PROJECT_ID_OR_NUMBER:项目 ID 或项目编号。
  • SERVICE_NAME:您要查看其配额指标的服务的名称,例如 Compute Engine 的服务名称为 compute.googleapis.com。包含服务名称的 googleapis.com 部分。

申请配额调整

如需调整大多数配额,请使用 Google Cloud 控制台。如需了解详情,请参阅申请配额调整