标准随用随付 (Standard PayGo) 是一种消费选项，用于利用 Gemini Enterprise Agent Platform 的生成式 AI 模型套件，包括 Gemini 模型系列。
标准 PayGo 方案支持您仅为所用资源付费，无需预先作出财务承诺。为了让可伸缩的工作负载获得更可预测的性能，标准 PayGo 采用了使用量层级系统。Agent Platform 会根据组织在过去 30 天内对符合条件的 Agent Platform 服务的总支出，动态调整组织的基本吞吐量容量。随着组织的支出增加，系统会自动将其升级到更高级别，从而提供更多共享资源和更高的性能阈值。 对于需要比标准随用随付更稳定的性能的工作负载，请考虑使用优先随用随付。如需了解专用容量和保证容量，请参阅预配吞吐量。
使用等级和吞吐量
每个标准 PayGo 用量层级都旨在提供以每分钟令牌数 (TPM) 衡量的基准吞吐量，作为组织流量的可预测性能下限。吞吐量限制基于发送到全局端点的请求。使用全局端点是一种最佳实践，因为它可以访问更大的多区域吞吐量容量池，并允许将请求路由到可用性最高的位置，从而最大限度地提高性能。
流量并非严格限制在基准吞吐量限值内。 Agent Platform 会尽力允许流量突增超出此限制。不过，在 Agent Platform 需求旺盛期间，这种过多的突发流量可能会导致性能波动性更高。为了优化性能并尽可能减少收到这些错误的可能性，最好在每分钟内尽可能均匀地平滑流量。避免在急剧的二级高峰中发送请求。即使每分钟平均用量低于上限，高流量和瞬时流量也可能会导致节流。更均匀地分配 API 调用有助于系统以可预测的方式管理负载，并提高整体性能。
标准 PayGo 中提供以下层级：
| 模型系列 | 层级 | 客户支出（30 天） | 流量 TPM（组织级） |
|---|---|---|---|
| Gemini Pro 模型 | 层级 1 | $10 - $250 | 50 万 |
| 层级 2 | 250 美元 - 2,000 美元 | 100 万 | |
| 层级 3 | > 2,000 美元 | 200 万 | |
| Gemini Flash 和 Flash-Lite 模型 | 层级 1 | $10 - $250 | 200 万 |
| 层级 2 | 250 美元 - 2,000 美元 | 4,000,000 | |
| 层级 3 | > 2,000 美元 | 1000 万 |
请注意，模型系列显示的吞吐量限制独立适用于该系列中的每个模型。例如，第 3 层的客户使用 Gemini 2.5 Flash 的基准吞吐量为 1,000 万 TPM。使用量达到其中一项限制不会影响其他模型的吞吐量。各层级没有单独的每分钟请求数 (RPM) 限制。不过，每个模型每个区域的系统限制为 30,000 RPM。包含多模态输入的 Gemini 请求受相应系统速率限制的约束，包括图片、音频、视频和文档。
用量层级的运作方式
您的使用量水平由贵组织在过去 30 天内对符合条件的 Agent Platform 服务的总支出自动确定。随着组织的支出增加，系统会将您升级到吞吐量更高的层级。
支出计算
此计算涵盖了广泛的服务，从所有 Gemini 模型系列的预测到 Agent Platform CPU、GPU 和 TPU 实例，还包括基于承诺的 SKU，例如预配吞吐量。
点击即可详细了解纳入支出计算范围的 SKU。
下表列出了纳入总支出计算范围的 Google Cloud SKU 类别。
| 类别 | 所含 SKU 的说明 |
|---|---|
| Gemini 模型 | 所有 Gemini 模型系列（例如 2.0、2.5、3.0 的 Pro、Flash 和 Lite 版本），用于预测所有模态（文本、图片、音频、视频），包括批处理、长上下文、调优和“思考”变体 |
| Gemini 模型功能 | 所有相关 Gemini SKU，适用于所有模态和模型版本，包括缓存、缓存存储空间和优先层级等功能 |
| Agent Platform CPU | 所有基于 CPU 的实例系列（例如 C2、C3、E2、N1、N2 及其变体）的在线预测和批量预测 |
| Agent Platform GPU | 在所有 NVIDIA GPU 加速实例（例如 A100、H100、H200、B200、L4、T4、V100 和 RTX 系列）上进行在线预测和批量预测 |
| Agent Platform TPU | 在所有基于 TPU 的实例（例如 TPU-v5e、v6e）上进行在线预测和批量预测 |
| 管理和费用 | 与各种 Agent Platform 预测实例关联的所有“管理费用”SKU |
| 预配的吞吐量 | 所有基于承诺的预配吞吐量 SKU |
| 其他服务 | 专业服务，例如“利用 Google 搜索工具为 Gemini 提供 LLM 依据” |
验证使用层级
如需验证组织的用量层级，请前往 Google Cloud 控制台中的 Agent Platform 信息中心。如需在信息中心内查看使用情况层级，您需要拥有项目的 Agent Platform Viewer 角色 (roles/aiplatform.viewer) 和结算账号的 Billing Account Viewer 角色 (roles/billing.viewer)。
验证支出
如需查看 Agent Platform 支出，请前往Google Cloud 控制台中的 Cloud Billing。请注意，支出是在组织级层汇总的。
资源耗尽 (429) 错误
如果您收到 429 错误，并不表示您已达到固定配额。
表示特定共享资源暂时出现高争用情况。我们建议您实现指数退避算法重试策略来处理这些错误，因为此动态环境中的可用性可能会快速变化。除了重试策略之外，我们还建议使用全局端点。与区域端点（例如 us-central1）不同，全球端点会动态将您的请求路由到当时具有最大可用容量的区域。这样一来，您的应用就可以访问更大的多区域共享容量池，从而显著提高成功突增的可能性，并降低出现 429 错误的几率。
为获得最佳效果，请将使用全球端点与流量平滑相结合。 避免在秒级出现急剧的流量高峰，因为即使每分钟的平均使用量在基准吞吐量限制范围内，高瞬时流量也可能会导致节流。更均匀地分配 API 调用有助于系统以可预测的方式管理负载，并提高整体性能。如需详细了解如何处理资源耗尽错误，请参阅构建弹性 LLM 应用并减少 429 错误和错误代码 429。
支持的模型
以下正式版 (GA) Gemini 模型及其监督式微调模型支持标准 PayGo（含使用量层级）：
点击即可展开支持的型号
以下 GA Gemini 模型及其监督式微调模型也支持标准 PayGo，但使用层级不适用于这些模型：
请注意，这些层级不适用于预览版模型。如需了解最准确且最新的信息，请参阅各个型号的具体官方文档。
监控吞吐量和性能
如需监控组织的实时令牌消耗量，请前往 Cloud Monitoring 中的 Metrics Explorer。
如需详细了解如何监控模型端点流量，请参阅监控模型。
请注意，用量层级是在组织级层应用的。如需了解如何设置可观测性范围以绘制组织中多个项目的吞吐量图表，请参阅为多项目查询配置观测范围。