本页面介绍了在订阅预配吞吐量之前需要考虑的详细信息、您在下达或查看预配吞吐量订单时必须拥有的权限,以及下达和查看标准预配吞吐量订单的说明。
如果您想购买单可用区预配吞吐量, 请与您的 Google Cloud 客户代表 联系以获取帮助。如需详细了解 单可用区预配吞吐量,请参阅 单可用区预配吞吐量。
购买前要考虑的事项
在决定是否要购买预配吞吐量时,请考虑以下事项:
您无法在订阅期内取消订阅。
预配吞吐量购买交易属于承诺,这意味着您无法在订阅期内取消订单。不过,您可以增加购买的 GSU 数量。如果您无意中购买了 承诺,或者配置出现问题,请与您的 Google Cloud 客户代表 联系以获取帮助。
您可以自动续订订阅。
提交订单时,您可以选择在订阅期结束时自动续订订阅,也可以让订阅到期。在特定情况下,您还可以修改订单的自动续订行为。如需了解 无法修改订单的情况,请参阅 无法更改订单的情况。
您可以将按月订阅配置为每月自动续订。 按周订阅期不支持自动续期。
如需了解详情,请参阅更改标准 预配吞吐量订单。您还可以 与您的 Google Cloud 客户代表 联系以获取帮助。
您可以更改自动续订行为、模型、模型版本或区域,但需事先通知我们。
在您选择项目、区域、模型、模型版本和自动续订行为,并且订单获得批准和激活后,预配吞吐量便会启用,但需视可用容量而定。 您可以使用 Google Cloud 控制台修改现有预配吞吐量 订单,以更改自动续订行为、模型、模型版本或区域。
我们会尽商业上合理的努力处理所有更改请求,通常在初次请求后的 10 个工作日内完成。
模型更改仅限于特定发布方。例如,您可以将预配吞吐量的模型分配从 Google Gemini 2.5 Flash 切换到 Google Gemini 2.5 Flash-Lite,但无法从 Google Gemini 2.5 Flash 切换到 Anthropic 的 Claude 3.5 Sonnet v2。
默认情况下,超额费用以随用随付形式结算。
如果您的吞吐量超出预配吞吐量订单金额,超出部分将按标准随用随付方式处理和结算。您可以按请求控制超额费用。如需了解详情,请参阅使用预配吞吐量。
如需了解价格,请参阅预配吞吐量。
为预览版模型购买预配吞吐量
您可以为预览版 Google 模型购买预配吞吐量,前提是该模型的正式版尚未发布。
如果您为预览版模型订购了有效的预配吞吐量,并且该模型的正式版已发布,那么您可以执行以下任一操作:
将订单迁移到正式版模型。请注意,将订单迁移到正式版模型后,您无法再将订单切换回预览版模型。如需详细了解如何更改 订单,请参阅 更改标准预配吞吐量订单。
或者,只要模型的预览版稳定,就可以继续为该预览版使用预配吞吐量。 如需详细了解稳定版模型和已弃用的模型,请参阅 模型版本和生命周期。
角色与权限
以下角色授予了对 Gemini Enterprise Agent Platform 预配吞吐量的完整管理权限:
roles/aiplatform.provisionedThroughputAdmin:您可以访问 Gemini Enterprise Agent Platform 预配吞吐量资源。
此角色可提供以下权限:
| 权限 | 说明 |
|---|---|
aiplatform.provisionedThroughputs.create |
提交新的预配吞吐量订单。 |
aiplatform.provisionedThroughputs.get |
查看特定预配吞吐量订单。 |
aiplatform.provisionedThroughputs.list |
查看所有预配吞吐量订单。 |
aiplatform.provisionedThroughputs.update |
修改预配吞吐量订单。 |
aiplatform.provisionedThroughputs.cancel |
取消待处理的订单或待处理的更新。 |
规划预配吞吐量订单
规划预配吞吐量订单时,请考虑以下事项。
配额
如果您预期自己的 QPM 会超过 30,000,那么为了最大限度地利用 预配吞吐量订单, 请使用以下信息申请配额调整,以调整默认 Agent Platform 系统配额:
- 服务:Agent Platform API。
- 名称:
Online prediction requests per minute per region - 服务类型:配额。
- 维度:您订购预配吞吐量的区域。
- 值:这是您选择的在线预测流量上限。
订单处理
系统会根据订单大小和可用容量来处理预配吞吐量订单。处理您的订单可能需要几分钟到几周时间,具体取决于您申请的 GSU 数量和可用容量。 在订购预配吞吐量时,您可以使用生成式 AI 扩缩单元估算工具来计算需要购买的 GSU 数量。查看估算的数量后,您可以继续按该数量订购,也可以修改要购买的 GSU 数量。
多个待处理订单
对于同一模型和区域,您最多可以提交 7 个 Google 模型订单,即使之前的订单处于已批准或待处理状态也是如此,前提是每个订单的计划开始时间与另一个订单的计划开始时间相隔至少 1 小时。如果提交订单时未指定开始时间,您将无法提交其他未安排时间的订单。
下达标准预配吞吐量订单
如需购买标准预配吞吐量,请按照以下步骤操作: 如需有关购买单可用区预配吞吐量的帮助,请与您的 客户代表 Google Cloud 联系。
在 Google Cloud 控制台中,前往 预配吞吐量 页面。
如需开始新订单,请点击新建订单。
输入订单名称。
选择模型。
选择地区。
点击估算工具。
在生成式 AI 扩缩单元估算工具窗格中,执行以下步骤来估算所需的 GSU 数量。
- 选择模型。
根据所选模型,输入详细信息以估算所需的 GSU 数量。如需了解每种模型的 GSU 购买数量下限及购买 增量,请参阅 支持的模型。 如需了解模型的功能以及输入或输出限制,请参阅相应模型的文档。
对于 Gemini 3 Pro、 Gemini 2.5 Pro、 Gemini 2.5 Flash 和 Gemini 2.5 Flash-Lite 模型,请输入以下内容:
- 每秒查询次数估算值
- 每次查询的输入 token 数
- 每次查询的输入图片 token 数
- 每次查询的输入视频 token 数
- 每次查询的输入音频 token 数
- 平均缓存命中率百分比
- 每次查询的输出回答文本 token 数
- 每次查询的输出推理文本 token 数
对于 Gemini 3 Pro Image 模型,请输入以下内容:
- 每秒需要保证的查询次数估算值
- 每次查询的输入 token 数
- 每次查询的输入图片 token 数
- 每次查询的输出回答文本 token 数
- 每次查询的输出推理文本 token 数
- 每次查询的输出图片 token 数
对于 Gemini 2.5 Flash Image 模型,请输入以下内容:
- 每秒需要保证的查询次数估算值
- 每次查询的输入 token 数
- 每次查询的输入图片 token 数
- 每次查询的输出回答文本 token 数
- 每次查询的输出图片 token 数
对于带有 Gemini Live API 的 Gemini 2.5 Flash 原生音频 模型,请输入以下内容:
- 每秒查询次数估算值
- 每次查询的输入 token 数
- 每次查询的输入图片 token 数
- 每次查询的输入视频 token 数
- 每次查询的输入音频 token 数
- 每次查询的会话内存(缓存的)token 数
- 每次查询的输出回答文本 token 数
- 每次查询的输出音频 token 数
对于带有 Gemini Live API 的 Gemini 2.5 Flash,请输入以下内容:
- 每秒需要保证的查询次数估算值
- 每次查询的输入 token 数
- 每次查询的输入图片 token 数
- 每次查询的输入视频 token 数
- 每次查询的输入音频 token 数
- 每次查询的会话内存(缓存的)token 数
- 每次查询的输出回答文本 token 数
- 每次查询的输出音频 token 数
对于 Veo 3 和 Veo 3 Fast 模型,请输入以下内容:
- 频率—指定生成输出的频率, 以秒为单位。这不是延迟时间。
- 每次查询的输出视频秒数—输入请求的视频总秒数。例如,12 秒表示
3x4或2x6视频秒数的总和。 - 每次查询的输出视频和音频秒数—输入请求的视频和音频总秒数。例如,12 秒表示
3x4或2x6视频和音频秒数的总和。
对于开放模型,请输入以下内容:
- 每秒需要保证的查询次数估算值
- 每次查询的输入 token 数
- 每次查询的输入图片 token 数 (适用于支持图片输入的开放模型)
- 每次查询的输出回答文本 token 数
在估算的 GSU 数量和每月价格部分,查看您需要的 GSU 估算数量和价格。
点击使用计算结果。
(可选)修改每月生成式 AI 扩缩单元 (GSU) 的数量。
选择期限。请注意,在选定期限内,期限费用无法取消,并且无论实际用量是多少或该模型是否已停用,您都将支付这些费用。Google 建议您在模型停用日期之前更改已分配的模型。对于停用的模型,Google 不会主动取消自动续订。
您可以使用以下选项:
- 1 周(仅适用于 Google 模型)
- 1 个月
- 3 个月
- 1 年
可选:选择期限的开始日期和时间 。
您可以提供下单后两周内的开始日期和时间。如果您未指定开始日期和时间,我们会在容量可用时立即处理订单。我们会尽商业上合理的努力按照要求的开始日期和时间处理订单,但如果订单状态未设置为已批准 ,我们无法保证能够按照要求的时间履行订单。
如果您请求的开始日期与当前日期过于接近,您的订单可能会在您请求的开始日期之后获得批准并激活。在这种情况下,系统会根据所选期限的时长,从激活日期开始调整结束日期。如需了解如何取消 待处理的订单,请参阅更改标准 预配吞吐量订单。
在续订 列表中,指定您是否希望在期限结束时自动续订订单。只有在选择 1 个月、3 个月或 1 年作为期限时,您才能指定续订选项。
点击继续 。
在确认并提交 部分,查看订单的价格和吞吐量估算值。阅读表单中列出的条款及链接。
如需完成并提交订单,请在购买确认 字段中输入
CONFIRM,然后点击提交订单 。处理订单可能需要几分钟到几周时间,具体取决于订单规模和可用容量。订单处理完毕后, Google Cloud 控制台中的订单状态会变为有效。只有在订单生效后,您才需要为其付费。
更改标准预配吞吐量订单
您可以根据订单状态和任何 现有条件,使用 控制台修改预配吞吐量订单。 Google Cloud 修改订单仅适用于通过控制台在线提交的 Google 模型订单。如需更改线下订单或 开放模型订单,请与您的 Google Cloud 客户代表 联系以获取帮助。您无法将 Google 模型的预配吞吐量订单更改为开放模型的预配吞吐量订单。
使用 Google Cloud 控制台更改模型或模型版本时, 现有订单的模型或模型版本会更新,但 订阅结束日期保持不变。
您可以为更改请求提供未来两周内的开始日期和时间。如果您未指定开始日期和时间,我们会在容量可用时立即处理更改请求。我们会尽商业上合理的努力按照要求的开始日期和时间处理更改请求,但如果更改状态未设置为已批准 ,我们无法保证能够按照要求的时间完成订单更改。
如果您请求的开始日期与当前日期过于接近,您的更改订单可能会在您请求的开始日期之后获得批准并激活。 如需了解如何取消待处理的更改订单,请参阅下表。
下表介绍了如何使用 Google Cloud 控制台修改您的 预配吞吐量订单
| 订单状态 | 操作 | 备注 | 在 Google Cloud 控制台中执行的步骤 |
|---|---|---|---|
| 待审核 | 您可以取消订单。 |
如果您要对订单进行其他更改,请取消待处理订单,然后重新下单。 如果您有多个模型,则每个模型一次只能有一个待处理订单修订版本。 |
如需在 Google Cloud 控制台中取消待处理订单,请执行以下操作:
|
| Approved | 您无法修改订单。 | 相应订单正在等待激活。 您目前无法更改订单。 | 不适用 |
| 有效 |
只有在订单不会在未来 5 天内过期或会自动续订的情况下,您才能进行以下更改:
|
如果有效订单在不到 5 天内过期,且未设置为自动续订,您就无法更改该订单。 | 如需在 Google Cloud 控制台中更改有效订单,请使用以下方法之一:
|
拆分订单
您可以将有效订单拆分为两个订单,同时保留相同的模型、区域、期限、到期时间和续订政策,以便进行部分迁移。
如需拆分订单,请执行以下操作:
在 Google Cloud 控制台中,前往 预配吞吐量订单 页面。
点击订单 ID。
在订单详情 页面中,点击拆分 按钮。
为您要创建的拆分订单输入订单名称 。
输入要从原始订单移到此新订单的 GSU 数量。
查看更改摘要 表,了解此操作对现有订单的影响。
点击提交更改 。
系统会打开“订单摘要”页面。在“订单摘要”页面上,新的拆分订单会显示为已批准 状态。
10 分钟内,拆分订单将变为有效 状态,原始订单的 GSU 数量将减少新创建订单中激活的 GSU 数量。此更改不会导致服务中断或结算费用增加。
无法更改订单的情况
如果符合以下任一条件,您将无法通过 Google Cloud 控制台更改或取消预配吞吐量订单 :
模型限制 :订单适用于不支持修改的模型。
订单状态 :订单状态不是
Active。在不到 5 天内过期 :订单状态为
Active,但在不到 5 天内过期,且未配置为自动续订。现有订单更改请求 :存在待处理或已批准的现有订单更改请求。
检查订单状态
提交预配置吞吐量订单后,订单状态可能会显示为以下某项:
- 待审核:您已下单。由于批准取决于预留订单的空闲容量,因此您的订单正在等待审核和批准。如需详细了解待处理订单的状态,请与您的 Google Cloud 客户代表联系。
- 已批准:Google 已批准您的订单,但该订单正在等待激活。订单获得批准后,您将无法再进行更改。
- 有效:Google 已激活您的订单,计费已开始。
- 已过期:您的订单已过期。
查看标准预配吞吐量订单
请按照以下步骤查看预配吞吐量的订单:
在 Google Cloud 控制台中,前往预配吞吐量页面。
选择地区。 系统会显示您的订单列表。