吞吐量配额

Gemini Enterprise Agent Platform 提供多种管理生成式 AI 模型吞吐量的方法,可帮助您兼顾成本和性能。本文档介绍了可用的选项:灵活的按需付费模式和用于实现可预测吞吐量的预留容量。

受管理模型配额

Agent Platform 提供两种管理 Gemini Enterprise Agent Platform 上受管理的生成式 AI 模型吞吐量的方法,让您能够兼顾成本、灵活性和性能。您可以选择随用随付模式,也可以选择以固定价格预留专用吞吐量。

随用随付

对于默认的随用随付模式,Agent Platform 使用标准随用随付 (Standard PayGo)。借助 PayGo,您只需为实际使用的资源付费,无需预先做出财务承诺。此外,还有其他 PayGo 选项,这些选项在费用和性能方面各不相同。如需了解详情,请参阅优先随用随付灵活随用随付

预留容量

对于需要稳定性能和可预测费用的关键生产应用,您可以使用预配吞吐量。预配吞吐量是一项固定费用订阅,用于为所选位置的模型预留特定量的吞吐量。

生成式 AI 服务的配额

Gemini Enterprise Agent Platform 提供了一套生成式 AI 服务,例如模型调优、模型评估、批量预测、嵌入和检索增强生成。如需详细了解这些服务的配额,请参阅 Gemini Enterprise Agent Platform 上的生成式 AI 配额和系统限制

后续步骤