紧凑布置政策和工作负载政策概览

本文档简要介绍了紧凑布置政策和工作负载政策，并对两者进行了比较。通过这两项政策，您都可以配置 Compute Engine 实例的布置，以最大限度地缩短网络延迟时间。

默认情况下，您只能通过指定计算实例的可用区来管理其位置。如需创建彼此更靠近的计算实例，您可以使用以下选项。如需了解详情，另请参阅 AI 基础设施资源共置。

  • 以下资源已密集共置：

    • 使用同一容量块未来预留的资源。
    • 在日历模式下使用同一未来预留的资源。
    • 您通过托管式实例组 (MIG) 规模调整请求一起创建的资源。

  • 指定灵活启动消耗选项时，您一起创建的资源可能会根据尽力而为的可用性密集地共置。如果您需要密集共置的资源，请应用指定了最大距离的紧凑布置政策或指定了最大距离的工作负载政策。

  • 否则，如需将资源放置在彼此靠近的位置，请应用紧凑布置政策或工作负载政策。

    • 如果您需要密集共置资源，请在政策中指定最大距离。
    • 如果您希望根据“尽力而为”的可用性密集共置资源，请勿在政策中指定最大距离。

如需详细了解何时使用紧凑布置政策以及何时使用工作负载政策，请参阅本文档中的紧凑布置政策与工作负载政策的比较。

紧凑布置政策与工作负载政策的比较

下表总结了紧凑布置政策与工作负载政策之间的差异：

紧凑布置政策 工作负载政策
政策使用情况
  • 独立实例
  • 使用批量 API 部署的实例
  • 具有通用 GPU 的 MIG
 具有集群化 GPU 的 MIG
支持的机器类型 A4X Max、A4X、A4、A3 Ultra、A3 Mega、A3 High、A3 Edge、A2、G4 和 G2
  • 对于灵活启动：A4 和 A3 Ultra
  • 对于 Spot 或预留：A4X、A4、A3 Ultra、A3 Mega 和 A3 High（8 个 GPU）
分组语义

Compute Engine 会将使用相同紧凑布置政策的实例布置得更靠近。

我们建议您为每个工作负载使用不同的放置政策。在运行不同工作负载的实例之间重复使用布置政策会导致所有这些实例放置在一起。在扩容特定工作负载时，这种共置可能会导致难以创建彼此靠近的实例。

Compute Engine 会将使用工作负载政策的 MIG 中的实例放置在更靠近的位置。

在运行不同工作负载的多个 MIG 之间重复使用工作负载政策会将各个 MIG 中的实例放置在一起。重复使用非常适合大型训练模型，其中每组实例都必须彼此隔离。
计算实例共置配置

对于尽力而为的计算实例共置，请将 groupPlacementPolicy.collocation 字段设置为 COLLOCATED。

对于尽力而为的计算实例共置，请将 workloadPolicy.type 字段设置为 HIGH_THROUGHPUT。
其他配置
  • 对于严格的计算实例放置，请指定 maxDistance 字段。
  • 对于支持分区的机器系列（例如 A4X Max 和 A4X），请指定 gpuTopology 字段。
  • 对于严格的计算实例放置，请指定 maxTopologyDistance 字段。
  • 对于支持分区的机器系列（例如 A4X Max 和 A4X），请指定 acceleratorTopology 字段。

如需了解详情，请参阅以下部分：

紧凑布置政策

当您将紧凑布置政策应用于独立计算实例或批量创建的计算实例时，Compute Engine 会尽力尝试将计算实例创建得尽可能彼此靠近。如果您的应用需要尽可能缩短网络延迟时间，请在创建紧凑布置政策时指定 maxDistance 字段（预览版）。

如需了解详情，请参阅 Compute Engine 文档中的紧凑布置政策简介。

紧凑布置政策的最大距离值比较

最大距离值越小，计算实例的布置就越紧密，但也会增加部分计算实例创建失败的概率。

下表显示了每个距离上限值支持的机器系列和计算实例数量：

紧凑布置政策中的 maxDistance 工作负载政策中的 maxTopologyDistance 说明 支持的机器系列 计算实例数上限
未指定（不推荐） 未指定（不推荐） Compute Engine 会尽力尝试将计算实例布置得尽可能彼此靠近，但计算实例之间没有距离上限。 A4X Max、A4X、A4、A3 Ultra、A3 Mega1、A3 High1、A3 Edge1、A2、G4 和 G2 1500
3 CLUSTER Compute Engine 会在相邻块中创建计算实例。 A4、A3 Mega1、A3 High1、A3 Edge1、A2、G4 和 G2 1,500
2 BLOCK Compute Engine 会在同一块中创建计算实例。 A4、A3 Ultra、A3 Mega1、A3 High1、A3 Edge1、A2、G4 和 G2
  • 对于 A3 Ultra、A3 Mega1、A3 High1 和 A3 Edge1：256
  • 对于所有其他受支持的机器系列：150
1 SUBBLOCK Compute Engine 会在同一子区块中创建计算实例。 A3 Edge1、A2、G4 和 G2 22

1 如果您想将紧凑布置政策应用于 2025 年 10 月 1 日之前创建的 A3 Mega、A3 High 或 A3 Edge 实例，请与您的客户支持团队或销售团队联系。

工作负载政策

借助工作负载政策，您可以为 MIG 中的计算实例指定位置和底层基础设施。将工作负载政策与 A5X、A4X Max、A4X、A4、A3 Ultra、A3 Mega 和 A3 High（8 个 GPU）搭配使用，有助于最大限度地减少计算实例之间的网络延迟并优化性能。

根据 MIG 中的计算实例使用的机器类型，在以下情况下，工作负载政策是必需的或可选的：

  • 如需部署 A4X Max 或 A4X 实例的子块，需要使用工作负载政策。

  • 如需使用 A4、A3 Ultra、A3 Mega 或 A3 High（8 个 GPU）实例，工作负载政策是可选的。

  • A3 Edge、A2、G4、G2 和 N1 机器系列不支持工作负载政策。对于使用这些机器系列的 MIG，您可以使用紧凑布置政策进行虚拟机共置。

如需了解详情，请参阅 Compute Engine 文档中的关于 MIG 中的工作负载政策。

后续步骤