GPU 配额

如需创建挂接了 NVIDIA GPU 的机密虚拟机实例,您的项目必须具有 足够的 GPU 配额,以满足您要使用的特定 GPU 类型、区域和实例预配模型的需求。 Google Cloud

NVIDIA RTX PRO 6000

基于 G4 机器类型的机密虚拟机实例使用 NVIDIA RTX PRO 6000 GPU,并根据实例预配模型消耗 GPU 配额:

  • 标准(按需)虚拟机实例:消耗 GPU_FAMILY:NVIDIA_RTX_PRO_6000配额。

  • Spot 虚拟机和灵活启动型虚拟机实例:消耗 PREEMPTIBLE_NVIDIA_RTX_PRO_6000_GPUS 配额。

NVIDIA RTX PRO 6000 GPU 的配额请求遵循此 Google Cloud 流程。 如需了解详情,请参阅 查看和管理配额

NVIDIA H100

基于 A3 High 机器类型的机密虚拟机实例使用 NVIDIA H100 GPU。您需要以下配额类型中具有足够的配额,才能成功创建挂接了 GPU 的机密虚拟机实例:

  • 您要在每个区域中创建的 GPU 模型的抢占式配额。

  • 所有区域中所有类型的 GPU 总数的全球配额。

如需申请增加这些 GPU 配额,请参阅 申请抢占式配额申请全球配额

申请抢占式配额

如需申请增加区域抢占式 NVIDIA H100 GPU 配额,请执行以下操作:

  1. 在 Google Cloud 控制台中,进入配额 页面。

    转到“配额”

  2. 过滤条件 框中,输入 PREEMPTIBLE_NVIDIA_H100_GPUS,然后 按 EnterReturn 键。

  3. 在表格的维度 列中,找到您要增加配额的区域所在的行。

  4. 在该行中,点击 更多操作 ,然后点击修改配额

  5. 配额更改 窗格中,在新值 框中输入所需的 GPU 数量。

  6. 点击提交请求

申请全球配额

如需申请增加全球配额,请执行以下操作:

  1. 在 Google Cloud 控制台中,进入配额 页面。

    转到“配额”

  2. 过滤条件 框中,输入 GPUS_ALL_REGIONS,然后按 EnterReturn 键。

  3. 在生成的行中,点击 更多操作 ,然后点击修改配额

  4. 配额更改 窗格中,在新值 框中输入所需的 GPU 数量。

  5. 点击提交请求

提交配额请求后会发生什么

如果您的配额请求成功,您会收到一封批准电子邮件。收到电子邮件后,请等待大约 15 分钟,然后刷新 配额页面以查看更新后的 配额。如果 15 分钟后配额仍未更新,请与 Cloud Customer Care联系。

如果您的配额请求被拒绝,您可能会收到一封电子邮件,其中说明了您可以采取的后续步骤。如需重新申请更多配额,请按照电子邮件中的说明操作。