集群管理功能

集群化 GPU（例如 A4X Max、A4X、A4、A3 Ultra、A3 Mega 和 A3 High [8 个 GPU] 机器系列）旨在让您能够运行大规模人工智能 (AI) 和机器学习 (ML) 集群，并提供以下集群管理功能：

支持的机器系列

本页面介绍的集群管理功能适用于集群化 GPU 机器系列，该系列针对多节点、大规模工作负载进行了优化。

这些功能不适用于通用 GPU 机器系列，该系列由使用标准 VPC 网络的独立计算资源组成，不支持维护操作模式或密集共置。

下表汇总了 AI Hypercomputer 支持的机器系列：

类别 机器系列 支持集群管理
集群化 GPU A5X、A4X Max、A4X、A4、A3 Ultra、A3 Mega、A3 High 是
通用 GPU A3 Edge、A2、G2、G4、N1 否

如需详细了解每个机器系列，请参阅 GPU 加速器简介。

大多数集群管理功能仅支持预留绑定容量，即使用预留绑定预配模型的基础设施，该模型仅支持集群化 GPU 机器类型。对于使用任何其他预配模型的容量，只有以下集群管理功能可用：

集群化 GPU 基础架构同位

使用集群化 GPU（例如 A4X Max、A4X、A4、A3 Ultra、A3 Mega 和 A3 High [8 个 GPU]）时，您可以请求 Compute Engine 尽可能靠近地预配宿主机。这些机器具有以下功能：

这种资源安排可最大限度地减少网络跃点，并针对最短网络延迟时间进行优化。如需部署 Compute Engine 密集分配的加速器优化型机器块，您可以使用以下选项：

集群拓扑感知布置

创建集群化 GPU 后，您可以获取节点级和集群级拓扑信息。这些信息可帮助您执行以下操作：

  • 调整应用或工作负载设计，以进一步缩短网络延迟时间。

  • 了解并排查经常相互通信的实例的网络延迟和性能问题。如果实例意外地相距很远，则可能会出现这些问题。

具体而言，对拓扑功能的支持如下：

如需了解详情，请参阅查看计算实例拓扑。

集群运行模式

当您预留容量以使用集群化 GPU 创建计算实例或集群时，您预留的机器类型决定了实例的集群运行模式。此模式指定实例在主机错误或主机故障报告后的行为。实例的可用运行模式包括代管式模式，其中 Compute Engine 会自动替换任何故障机器，但会保留部分预留容量，以确保实例具有重启所需的资源。或者全容量模式，您可以使用预留的全部容量，但需要负责管理故障和计划内维护。

如需了解详情，请参阅预留操作模式。

集群维护调度和控制

您可以在资源块中使用感知拓扑的调度来控制集群化 GPU 的维护。此功能有助于同步升级，从而使工作负载更能应对主机事件，并最大限度地减少中断。此方法有助于提高工作负载的吞吐量。

为了便于您完全控制维护事件，您可以使用以下功能：

维护调度类型

在预留容量以创建计算实例或集群化 GPU 的集群时，您可以定义 Compute Engine 如何维护实例运行的基础设施。根据您要用于实例的机器类型，您可以选择跨实例同步维护 (grouped) 或不同的维护时间表 (independent)。

如需了解详情，请参阅维护安排类型。

管理主机活动

创建集群化 GPU 并启动工作负载后，您可以设置提醒，以便在实例或预留块的维护安排、开始或完成时收到通知。您还可以查看实例或预留块的维护时间，并在预定时间之前手动启动维护（如果需要）。这些选项可帮助您主动控制工作负载的停机时间并将其降至最低。

详情请参阅以下内容：

集群监控和诊断工具

为了进行监控和问题排查，集群化 GPU 包含以下服务：

接下来怎么做？