如需创建挂接了 NVIDIA GPU 的机密虚拟机实例,您的项目必须具有 足够的 GPU 配额,以满足您要使用的特定 GPU 类型、区域和实例预配模型的需求。 Google Cloud
NVIDIA RTX PRO 6000
基于 G4 机器类型的机密虚拟机实例使用 NVIDIA RTX PRO 6000 GPU,并根据实例预配模型消耗 GPU 配额:
标准(按需)虚拟机实例:消耗
GPU_FAMILY:NVIDIA_RTX_PRO_6000配额。Spot 虚拟机和灵活启动型虚拟机实例:消耗
PREEMPTIBLE_NVIDIA_RTX_PRO_6000_GPUS配额。
NVIDIA RTX PRO 6000 GPU 的配额请求遵循此 Google Cloud 流程。 如需了解详情,请参阅 查看和管理配额。
NVIDIA H100
基于 A3 High 机器类型的机密虚拟机实例使用 NVIDIA H100 GPU。您需要以下配额类型中具有足够的配额,才能成功创建挂接了 GPU 的机密虚拟机实例:
您要在每个区域中创建的 GPU 模型的抢占式配额。
所有区域中所有类型的 GPU 总数的全球配额。
如需申请增加这些 GPU 配额,请参阅 申请抢占式配额和 申请全球配额。
申请抢占式配额
如需申请增加区域抢占式 NVIDIA H100 GPU 配额,请执行以下操作:
在 Google Cloud 控制台中,进入配额 页面。
在过滤条件 框中,输入
PREEMPTIBLE_NVIDIA_H100_GPUS,然后 按 Enter 或 Return 键。在表格的维度 列中,找到您要增加配额的区域所在的行。
在该行中,点击 更多操作 ,然后点击修改配额。
在配额更改 窗格中,在新值 框中输入所需的 GPU 数量。
点击提交请求 。
申请全球配额
如需申请增加全球配额,请执行以下操作:
在 Google Cloud 控制台中,进入配额 页面。
在过滤条件 框中,输入
GPUS_ALL_REGIONS,然后按 Enter 或 Return 键。在生成的行中,点击 更多操作 ,然后点击修改配额。
在配额更改 窗格中,在新值 框中输入所需的 GPU 数量。
点击提交请求 。
提交配额请求后会发生什么
如果您的配额请求成功,您会收到一封批准电子邮件。收到电子邮件后,请等待大约 15 分钟,然后刷新 配额页面以查看更新后的 配额。如果 15 分钟后配额仍未更新,请与 Cloud Customer Care联系。
如果您的配额请求被拒绝,您可能会收到一封电子邮件,其中说明了您可以采取的后续步骤。如需重新申请更多配额,请按照电子邮件中的说明操作。