标准版 PayGo

标准随用随付 (Standard PayGo) 是一种使用 Gemini Enterprise Agent Platform 的生成式 AI 模型套件（包括 Gemini 模型系列）的消费选项。

标准随用随付 (Standard PayGo) 方案让您只需为实际使用的资源付费，而无需预先做出财务承诺。为了帮助在共享容量上扩缩工作负载，标准 PayGo 采用了用量层级系统。Agent Platform 会根据您的组织在过去 30 天内对符合条件的 Agent Platform 服务的总支出，动态调整组织的优先吞吐量阈值。随着组织支出的增长，它会自动升级到更高的层级，在共享容量池中获得更高的优先吞吐量阈值。标准 PayGo 在共享资源上运行，不会预留专用容量，也不会在争用激烈期间提供有保证的吞吐量。对于需要比标准随用随付更稳定的性能的工作负载，请考虑优先级随用随付。如需了解专用和保证容量，请参阅预配吞吐量。

用量层级和吞吐量

每个标准 PayGo 用量层级都定义了组织级优先吞吐量阈值，以每分钟 token 数 (TPM) 为组织。在达到您所在层级的 TPM 阈值之前，请求会优先于超出阈值的突发流量获得共享容量，但吞吐量和可用性仍取决于共享池中的实时需求，无法保证。吞吐量阈值适用于发送到 global 端点的请求。使用 global 端点是最佳实践，因为它可以访问全球吞吐量容量池，并动态地将您的请求路由到可用性最高的位置。

多区域端点（例如 aiplatform.us.rep.googleapis.com 和 aiplatform.eu.rep.googleapis.com 上的 us 和 eu）会将机器学习处理限制在特定管辖边界内。虽然多区域端点会汇集该地理位置内多个数据中心的容量，但它们会从单独的区域容量池运行，并且不会共享 global 端点的全球吞吐量容量。单区域端点（例如 us-central1 或 us-east5）仅限于单个数据中心集群，并且容量余量最低。如果您的工作负载不受严格的数据驻留要求约束，请使用 global 端点，以充分利用您所在层级的优先吞吐量阈值，并最大限度地提高余量。如需详细了解如何配置多区域端点，请参阅多区域端点。

您的流量不会严格限制在您所在层级的 TPM 阈值内。当有空闲的共享容量时，Agent Platform 会伺机处理超出此阈值的流量。在 Agent Platform 需求量较大的时段，超出突发流量限制的流量会先于层级阈值内的流量受到限制，并且所有共享池流量都可能会遇到更高的延迟时间或 429 错误。为尽可能减少限制，请在每分钟内尽可能均匀地平滑流量，并避免在秒级高峰期发送请求。即使您的每分钟平均用量在您所在层级的 TPM 阈值范围内，瞬时流量过高也可能会导致限制。

标准 PayGo 方案提供以下层级：

模型系列 层级 客户支出（30 天） 流量 TPM（组织级）
Gemini Pro 和 Argon 模型
（包括 Gemini 4 Argon 和 Gemini 4 Argon Cyber Permissive）		 层级 1 $10 - $250 50 万
层级 2 250 美元 - 2,000 美元 100 万
层级 3 2,000 美元 - 50,000 美元 200 万
层级 4 > 50,000 美元 1000 万
自定义层级 如需了解详情，请与您的销售团队联系
Gemini Flash 和 Flash-Lite 模型 层级 1 $10 - $250 200 万
层级 2 250 美元 - 2,000 美元 4,000,000
层级 3 2,000 美元 - 50,000 美元 1000 万
层级 4 > 50,000 美元 5000 万
自定义层级 如需了解详情，请与您的销售团队联系

为模型系列显示的吞吐量阈值分别适用于该系列中的每个模型。例如，第 3 层级中的组织针对 Gemini 3.5 Flash 的优先吞吐量阈值为 10,000,000 TPM。一个模型的用量达到阈值不会影响其他模型的吞吐量。每个层级没有单独的每分钟请求数 (RPM) 限制。具有多模态输入的 Gemini 请求受相应系统速率限制的约束。

用量层级的工作原理

您的使用量层级由贵组织在滚动 30 天内对符合条件的 Agent Platform 服务的总支出自动确定。随着贵组织的支出增加，系统会将您提升到具有更高优先级吞吐量阈值的更高层级。

支出计算

此计算涵盖广泛的服务，从所有 Gemini 模型系列的预测到 Agent Platform CPU、GPU 和 TPU 实例，以及基于承诺的 SKU（例如预配吞吐量）。

点击即可详细了解支出计算中包含的 SKU。

下表列出了总支出计算中包含的 Google Cloud SKU 类别。

类别 包含的 SKU 的说明
Gemini 模型 所有 Gemini 模型系列（例如 Pro、Flash 和 Lite 版本中的 2.0、2.5 和 3.0），用于跨所有模态（文本、图片、音频、视频）进行预测，包括批量、长上下文、调优和“思考”变体
Gemini 模型功能 所有相关 Gemini SKU，涵盖缓存、缓存存储和优先层级等功能，适用于所有模态和模型版本
Agent Platform CPU 所有基于 CPU 的实例系列（例如 C2、C3、E2、N1、N2 及其变体）上的在线预测和批量预测
Agent Platform GPU 在所有 NVIDIA GPU 加速实例（例如 A100、H100、H200、B200、L4、T4、V100 和 RTX 系列）上进行在线预测和批量预测
Agent Platform TPU 在所有基于 TPU 的实例（例如 TPU-v5e 和 v6e）上进行在线预测和批量预测
管理和费用 与各种 Agent Platform 预测实例关联的所有“管理费”SKU
预配吞吐量 预配吞吐量的所有基于承诺的 SKU
其他服务 专用服务，例如“LLM Grounding for Gemini… with Google 搜索工具”

验证用量层级

如需验证贵组织的用量层级，请前往 Google Cloud 控制台上的 Agent Platform 信息中心。如需在信息中心内查看用量层级，您需要拥有项目的 Agent Platform Viewer 角色 (roles/aiplatform.viewer) 以及结算账号的 Billing Account Viewer 角色 (roles/billing.viewer)。

前往 Agent Platform 信息中心

验证支出

如需查看 Agent Platform 支出，请前往Google Cloud 控制台中的 Cloud Billing。支出在组织级层汇总。

前往 Cloud Billing

“资源已用尽 (429)”错误

如果您收到 429 错误，并不表示您已达到固定配额。这表示特定共享资源暂时存在高争用。 实施指数退避算法重试策略来处理这些错误，因为此动态环境中的可用性可能会快速变化。

除了重试策略之外，还要评估端点选择：

  • global 端点（推荐）：global 端点在 Google 的全球数据中心群中动态路由请求，从而汇集全球吞吐量并缓解局部峰值。这可提供最高的可用性，并显著降低 429 错误的可能性。
  • 多区域端点（例如 us 和 eu）：多区域端点会汇集特定地理边界内多个数据中心的容量。虽然它们提供的容量比单区域更大，但无法访问全球容量。如果您的应用使用多区域端点，并且在高峰期遇到 429 错误，请评估您的数据治理政策是否允许将非敏感或一般工作负载路由到 global 端点，或者考虑使用优先 PayGo 或预配吞吐量。
  • 单区域端点（例如 us-central1）：单区域端点受限于特定集群位置，在负载争用情况下最有可能遇到 429 错误。避免将高吞吐量标准 PayGo 工作负载固定到单区域端点，除非需要与对延迟时间敏感的计算资源共置。

为获得最佳效果，请将 global 端点与流量平滑处理结合使用。避免在短时间内（秒级）发送大量请求，因为即使您的每分钟平均用量在您所在层级的优先吞吐量阈值范围内，瞬时高流量也可能导致请求受到限制。更均匀地分配 API 调用有助于系统以可预测的方式管理负载，并提高整体性能。如需详细了解如何处理资源耗尽错误，请参阅构建弹性 LLM 应用并减少 429 错误和错误代码 429。

支持的模型

以下正式版 (GA) Gemini 模型和任何相应的监督式微调模型支持标准 PayGo（按用量分级）：

点击即可展开支持的模型

以下GA Gemini 模型也支持标准随用随付，但用量层级不适用于这些模型：

这些层级不适用于预览版模型。如需获取最准确、最新的信息，请参阅每个模型的具体官方文档。

监控吞吐量和性能

如需监控组织的实时 token 消耗情况，请前往 Cloud Monitoring 中的 Metrics Explorer。

转到 Metrics Explorer

如需详细了解如何监控模型端点流量，请参阅监控模型。

用量层级适用于组织级别。如需了解如何设置可观测性范围，以绘制组织中多个项目的吞吐量图表，请参阅为多项目查询配置可观测性范围。

后续步骤

资源

与 Agent Platform 相关的配额和限制，不包括特定于产品的限制。

窗口概览

了解 Google Cloud 如何限制您的 Google Cloud 项目可使用的资源数量，以及配额如何应用于一系列资源类型，包括硬件、软件和网络组件。