紧凑布置政策和工作负载政策概览

本文档简要介绍了紧凑布置政策和工作负载政策，并对二者进行了比较。这两种政策都允许您配置 Compute Engine 实例的放置位置，以最大限度地缩短网络延迟时间。

默认情况下，您只能通过指定计算实例的可用区来管理其位置。如需创建彼此距离更近的计算实例，您可以使用以下选项。如需了解详情，另请参阅 AI 基础设施资源托管。

  • 以下资源已密集地共置在一起：

    • 使用同一容量块未来预留的资源。
    • 在日历模式下使用同一未来预留的资源。
    • 通过托管式实例组 (MIG) 调整大小请求一起创建的资源。

  • 如果您指定了灵活启动消耗选项，那么您一起创建的资源可能会根据尽力而为的可用性密集地放置在一起。如果您需要密集共置的资源，请应用指定了最大距离的紧凑布置政策或指定了最大距离的工作负载政策。

  • 否则，如需将资源布置得尽可能靠近，请应用紧凑布置政策或工作负载政策。

    • 如果您需要密集共置的资源，请在政策中指定最大距离。
    • 如果您希望资源尽可能紧密地放置在一起，但对可用性没有严格要求，请勿在政策中指定距离上限。

如需详细了解何时应使用紧凑布置政策，何时应使用工作负载政策，请参阅本文档中的紧凑布置政策与工作负载政策的比较。

紧凑布置政策与工作负载政策的比较

下表总结了紧凑放置政策与工作负载政策之间的区别：

紧凑布置政策 工作负载政策
政策使用情况
  • 独立实例
  • 使用 Bulk API 部署的实例
  • 具有通用 GPU 的 MIG
 具有集群 GPU 的 MIG
支持的机器类型 A4X Max、A4X、A4、A3 Ultra、A3 Mega、A3 High、A3 Edge、A2、G4 和 G2
  • 对于灵活启动：A4 和 A3 Ultra
  • 对于 Spot 或预留：A4X、A4、A3 Ultra、A3 Mega 和 A3 High（8 个 GPU）
分组语义

Compute Engine 会将使用同一紧凑布置政策的实例布置得更靠近。

我们建议您为每个工作负载使用不同的放置政策。在运行不同工作负载的实例之间重复使用布置政策会导致所有这些实例放置在一起。这种并置可能会导致在横向扩缩特定工作负载时难以创建彼此靠近的实例。

Compute Engine 会将使用工作负载政策的 MIG 中的实例布置得更靠近。

在运行不同工作负载的多个 MIG 中重复使用工作负载政策会将各个 MIG 中的实例放置在一起。重用非常适合大型训练模型，在这些模型中，每组实例都必须彼此隔离。
计算实例同位群组配置

如需尽最大努力实现计算实例的同位，请将 groupPlacementPolicy.collocation 字段设置为 COLLOCATED。

如需尽力实现计算实例的同位，请将 workloadPolicy.type 字段设置为 HIGH_THROUGHPUT。
其他配置
  • 对于严格的计算实例放置，请指定 maxDistance 字段。
  • 对于支持分区的机器系列（例如 A4X Max 和 A4X），请指定 gpuTopology 字段。
  • 对于严格的计算实例放置，请指定 maxTopologyDistance 字段。
  • 对于支持分区功能的机器系列（例如 A4X Max 和 A4X），请指定 acceleratorTopology 字段。

如需了解详情，请参阅以下部分：

紧凑布置政策

当您将紧凑布置政策应用于独立计算实例或批量创建的计算实例时，Compute Engine 会尽力创建尽可能彼此靠近的计算实例。如果您的应用要求网络延迟时间尽可能短，请在创建紧凑布置政策时指定 maxDistance 字段（预览版）。

如需了解详情，请参阅 Compute Engine 文档中的紧凑布置政策简介。

紧凑布置政策的最大距离值比较

较低的距离上限值可确保计算实例布置更靠近，但也会增加部分计算实例创建失败的概率。

下表显示了每个距离上限值支持的机器系列和计算实例数量：

maxDistance 在紧凑布置政策中 工作负载政策中的 maxTopologyDistance 说明 支持的机器系列 计算实例数上限
未指定（不推荐） 未指定（不推荐） Compute Engine 会尽力尝试将计算实例布置得尽可能彼此靠近，但计算实例之间没有距离上限。 A4X Max、A4X、A4、A3 Ultra、A3 Mega1、A3 High1、A3 Edge1、A2、G4 和 G2 1500
3 CLUSTER Compute Engine 会在相邻块中创建计算实例。 A4、A3 Mega1、A3 High1、A3 Edge1、A2、G4 和 G2 1,500
2 BLOCK Compute Engine 会在同一块中创建计算实例。 A4、A3 Ultra、A3 Mega1、A3 High1、A3 Edge1、A2、G4 和 G2
  • 对于 A3 Ultra、A3 Mega1、A3 High1 和 A3 Edge1：256
  • 对于所有其他支持的机器系列：150
1 SUBBLOCK Compute Engine 会在同一子块中创建计算实例。 A3 Edge1、A2、G4 和 G2 22

1 如果您想将紧凑布置政策应用于 2025 年 10 月 1 日之前创建的 A3 Mega、A3 High 或 A3 Edge 实例，请与您的客户支持团队或销售团队联系。

工作负载政策

借助工作负载政策，您可以指定 MIG 中计算实例的布置和底层基础设施。将工作负载政策与 A4X Max、A4X、A4、A3 Ultra、A3 Mega 和 A3 High（8 个 GPU）搭配使用，有助于最大限度缩短计算实例之间的网络延迟时间并优化性能。

根据 MIG 中的计算实例使用的机器类型，在以下情况下，工作负载政策是必需的或可选的：

  • 如需部署 A4X Max 或 A4X 实例的子块，必须使用工作负载政策。

  • 如需使用 A4、A3 Ultra、A3 Mega 或 A3 High（8 个 GPU）实例，工作负载政策是可选的。

  • A3 Edge、A2、G4、G2 和 N1 机器系列不支持工作负载政策。对于使用这些机器系列的 MIG，您可以使用紧凑布置政策来实现虚拟机共置。

如需了解详情，请参阅 Compute Engine 文档中的 MIG 中的工作负载政策简介。

后续步骤