Google 会使用 AI 技术将内容翻译成您偏好的语言。AI 翻译可能包含错误。

创建 AI 优化型 A3 High 或 A3 Mega MIG

集群 GPU

本文档介绍了如何创建使用 A3 High 或 A3 Mega 加速器优化型机器类型的代管式实例组 (MIG)。如需详细了解机器类型，请参阅关于 GPU 加速器。

创建 MIG 后，您可以将多个虚拟机 (VM) 作为单个实体进行管理。MIG 中的每个虚拟机均基于实例模板。通过自动管理实例组中的虚拟机，MIG 可提供高可用性和可伸缩性。如需详细了解 MIG，请参阅 Compute Engine 文档中的托管式实例组。

如需了解创建虚拟机或集群的其他方法，请参阅部署选项概览。

限制

创建包含 A3 Mega 或 A3 High 虚拟机的 MIG 时，请考虑机器类型和 MIG 的限制。

A3 Mega 或 A3 High 虚拟机的限制

根据 MIG 中的虚拟机使用的机器系列，存在以下限制：

A3 Mega

使用 A3 Mega 机器类型的实例不会获得持续使用折扣和灵活承诺使用折扣。
只能在某些区域和可用区中使用 A3 Mega 机器类型。
不能在使用 A3 Mega 机器类型的实例上使用区域级永久性磁盘。
A3 Mega 机器类型仅在 Sapphire Rapids CPU 平台上提供。
A3 Mega 机器类型不支持更改机器类型。如需切换到或切换出此机器类型，您必须创建新的实例。
不能在 A3 Mega 机器类型上运行 Windows 操作系统。

A3 High

使用 A3 High 机器类型的实例不会获得持续使用折扣和灵活承诺使用折扣。
只能在某些区域和可用区中使用 A3 High 机器类型。
不能在使用 A3 High 机器类型的实例上使用区域级永久性磁盘。
A3 High 机器类型仅在 Sapphire Rapids CPU 平台上提供。
A3 High 机器类型不支持更改机器类型。如需切换到或切换出此机器类型，您必须创建新的实例。
不能在 A3 High 机器类型上运行 Windows 操作系统。
对于 a3-highgpu-1g、a3-highgpu-2g 和 a3-highgpu-4g 机器类型，您必须使用 Spot 虚拟机或灵活启动虚拟机来创建实例。如需详细了解这些选项，请查看以下内容：
- 如需创建 Spot 虚拟机，请在创建加速器优化虚拟机时将预配模型设置为 SPOT。
- 如需创建灵活启动虚拟机，您可以使用以下方法之一：
  - 创建独立虚拟机，并在创建加速器优化虚拟机时将预配模型设置为 FLEX_START。
  - 在托管式实例组 (MIG) 中创建调整大小请求。如需查看相关说明，请参阅创建具有 GPU 虚拟机的 MIG。
您只能在有限的区域和可用区中使用具有 a3-highgpu-1g 机器类型的机密虚拟机，并且适用于在 A3 High 机器类型上运行的机密虚拟机的所有限制也适用。

MIG 的限制

创建包含 A3 Mega 或 A3 High 虚拟机的 MIG 时，存在以下限制：

您必须按照本文档中的说明在 MIG 中关闭修复。

+ 如果您创建使用 RDMA 网络功能的区域级 MIG，则该 MIG 只能在您为 RDMA 配置网络配置文件的可用区中创建 A3 Mega 或 A3 High 实例。

您无法在 MIG 中配置实例灵活性。

如果您希望 MIG 使用工作负载政策，请查看工作负载政策的限制。

MIG 调整大小请求的限制

对于 MIG 调整大小请求，存在以下限制：

在区域级 MIG 中，您只能使用 ANY_SINGLE_ZONE 目标分布形状。
您只能将 MIG 的待机池模式设置为 manual（默认）。
您无法设置自动扩缩。
如果 MIG 包含已接受的调整大小请求，则您无法更改 MIG 的目标大小。
您无法删除或移除 MIG 为调整大小请求创建的 CREATING 状态的托管式实例。如需删除这些托管实例，您必须取消调整大小请求。

如需了解详情，请参阅有关规模调整请求的所有限制。

准备工作

在创建 MIG 之前，如果您尚未完成以下步骤，请先完成这些步骤：

选择使用选项：您选择的使用选项决定了您如何获取和使用 GPU 资源。如需了解详情，请参阅选择消费选项。
获取容量：每种使用选项的容量获取流程各不相同。如需了解为所选使用选项获取容量的流程，请参阅容量概览。

所需的角色

如需获得创建 MIG 所需的权限，请让您的管理员为您授予项目的 Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) IAM 角色。如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

此预定义角色包含创建 MIG 所需的权限。如需查看所需的确切权限，请展开所需权限部分：

所需权限

您需要具备以下权限才能创建 MIG：

如需创建 MIG：针对项目的 compute.instanceGroupManagers.create 权限

您也可以使用自定义角色或其他预定义角色来获取这些权限。

概览

使用 A3 Mega 或 A3 High（8 个 GPU）机器类型创建 MIG 包括以下步骤：

创建 VPC 网络
可选：创建工作负载政策
创建实例模板
创建 MIG
安装 GPU 驱动程序
可选：启用 NVIDIA 多实例 GPU 模式

创建 VPC 网络

如需为 GPU 虚拟机启用高效通信，您需要创建一个管理网络和一个或多个数据网络。管理网络用于外部访问（例如 SSH）和最通用的网络通信。数据网络用于不同虚拟机上 GPU 之间的高性能通信，例如远程直接内存访问 (RDMA) 流量。

对于这些 VPC 网络，我们建议将最大传输单元 (MTU) 设置为更大的值。较高的 MTU 值会增加数据包大小并降低数据包标头开销，从而增加载荷数据吞吐量。如需详细了解如何创建 VPC 网络，请参阅创建和验证巨型帧 MTU 网络。

创建管理网络、子网和防火墙规则

完成以下步骤以设置管理网络：

使用 networks create 命令创建管理网络：

gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

使用 networks subnets create 命令创建管理子网：

gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --region=REGION \
    --range=192.168.0.0/24

使用 firewall-rules create 命令创建防火墙规则。

为管理网络创建防火墙规则。

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16

创建 tcp:22 防火墙规则，以限制哪些来源 IP 地址可以使用 SSH 连接到您的虚拟机。

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:22 \
    --source-ranges=SSH_SOURCE_IP_RANGE

创建可用于检查网络中数据传输问题的 icmp 防火墙规则。

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=icmp \
    --source-ranges=0.0.0.0/0

替换以下内容：

NETWORK_NAME_PREFIX：用于 VPC 网络和子网的名称前缀。
PROJECT_ID：您的项目 ID。
REGION：要在其中创建网络的区域。
SSH_SOURCE_IP_RANGE：采用 CIDR 格式的 IP 范围。用于指定哪些来源 IP 地址可以使用 SSH 连接到虚拟机。

创建数据网络、子网和防火墙规则

数据网络的数量因您要创建的 GPU 机器类型而异。

A3 Mega

A3 Mega 需要 8 个数据网络。如需创建 8 个数据网络，每个网络都包含子网和防火墙规则，请使用以下命令。

for N in $(seq 1 8); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

A3 High

A3 High 需要 4 个数据网络。使用以下命令创建 4 个数据网络，每个网络都包含子网和防火墙规则。

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

可选：创建工作负载政策

如果您希望将虚拟机布置在单个或相邻的块中，请通过创建工作负载政策来指定虚拟机布置。不过，如果您希望 Compute Engine 将虚拟机放置在特定块中，请跳过此步骤，并在创建实例模板时在预留关联性中提供块的名称。

如需创建工作负载政策，请选择以下选项之一：

gcloud

如需创建工作负载政策，请使用 gcloud compute resource-policies create workload-policy 命令。

如需尽力布置虚拟机，请在命令中指定 --type=high-throughput 标志：

gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
    --type=high-throughput \
    --region=REGION

如需严格将虚拟机放置在同一位置，请在命令中指定 --max-topology-distance 和 --type=high-throughput 标志：

gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
    --type=high-throughput \
    --max-topology-distance=TOPOLOGY_DISTANCE \
    --region=REGION

替换以下内容：

WORKLOAD_POLICY_NAME：工作负载政策的名称。
TOPOLOGY_DISTANCE：拓扑距离上限。请指定以下某个值：
- 如需将虚拟机布置在同一区块中，请执行以下操作：BLOCK
- 将虚拟机放置在同一集群中： CLUSTER
注意：较短的距离上限可能会降低虚拟机的可用性。如需了解详情，请参阅最大拓扑距离属性。
REGION：要用于创建工作负载政策的区域。指定您要在其中创建 MIG 且提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。

REST

如需创建工作负载政策，请向 resourcePolicies.insert 方法发出 POST 请求。

如需尽力布置虚拟机，请在请求中指定 type 字段，如下所示：

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "WORKLOAD_POLICY_NAME"
    "workloadPolicy": {
      "type": "HIGH_THROUGHPUT"
    }
  }

如需严格将虚拟机放置在同一位置，请在请求中指定 maxTopologyDistance 和 type 字段，如下所示：

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "WORKLOAD_POLICY_NAME"
    "workloadPolicy": {
      "type": "HIGH_THROUGHPUT",
      "maxTopologyDistance": "TOPOLOGY_DISTANCE"
    }
  }

替换以下内容：

PROJECT_ID：您的项目 ID
REGION：要用于创建工作负载政策的区域。指定要在其中创建 MIG 且提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
WORKLOAD_POLICY_NAME：工作负载政策的名称。
TOPOLOGY_DISTANCE：拓扑距离上限。请指定以下某个值：
- 如需将虚拟机布置在同一区块中，请执行以下操作：BLOCK
- 将虚拟机放置在同一集群中：CLUSTER
注意：较短的距离上限可能会降低虚拟机的可用性。如需了解详情，请参阅最大拓扑距离属性。

创建实例模板

通过创建实例模板来指定 MIG 的虚拟机属性。

如需创建实例模板，请选择以下选项之一：

以下命令还会设置实例的访问权限范围。为简化权限管理，Google 建议您将实例的访问权限范围设置为 cloud-platform 访问权限，然后使用 IAM 角色定义实例可以访问哪些服务。如需了解详情，请参阅范围最佳实践。

A3 Mega

如需为 A3 Mega 虚拟机创建实例模板，您必须为 GPUDirect-TCPXO 流量指定八个额外的网络接口。如果您尚未创建，请确保您已按照创建 VPC 网络中的说明创建了 8 个 VPC 网络。

gcloud

如需创建区域级实例模板，请使用 gcloud compute instance-templates create 命令。

您需要指定的参数取决于您为此部署使用的使用选项。选择与您的使用选项对应的标签页。

预留

A3 Mega 或 A3 High（8 个 GPU）实例支持多种预留预配模型。选择与您要使用的预留类型对应的标签页。

使用 Reservation-bound 参数（用于指定受预留约束的预配模型）执行以下操作：
- AI Hypercomputer 中的未来预留
- 日历模式下的未来预留
使用标准预留参数（用于指定标准配置模型）执行以下操作：
- 按需预留
- 标准未来预留

受预留约束

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
RESERVATION：预留名称或预留中的特定块。如需获取预留名称或可用块，请参阅查看预留容量。根据您对实例布置的要求，请按以下方式之一操作：
- 跨块或在单个块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  此外，对于单个块，请通过应用指定块共置 (maxTopologyDistance=BLOCK) 的工作负载政策来创建 MIG。然后，Compute Engine 会将该政策应用于预留，并在同一块上创建实例。
- 在特定块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
提示：如果预留存在于当前项目中，则可以从 RESERVATION 值中省略 projects/RESERVATION_OWNER_PROJECT_ID/reservations/。

标准预订型广告

在运行命令之前，请查看以下所有步骤，以确定是否要添加其他标志。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

请完成以下步骤：

替换以下内容：
- INSTANCE_TEMPLATE_NAME：实例模板的名称。
- MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
- IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
  提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
- IMAGE_PROJECT：操作系统映像的项目 ID。
- REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
- DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
- GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
- RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
  - any（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
  - specific（需要预留容量）：要求实例使用明确针对的预留中的容量。不允许实例使用按需容量。如果预留容量不可用，则实例创建会失败。
- RESERVATION：要使用的预留。根据您为 RESERVATION_AFFINITY 指定的值，指定以下值之一：
  - 如果您指定了 any，请将 RESERVATION 替换为空字符串 ("")。或者，您也可以完全移除 --reservation 标志。
  - 如果您指定了 specific，请将 RESERVATION 替换为以下内容：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    替换以下内容：
    - RESERVATION_OWNER_PROJECT_ID：在其中创建预留的项目的项目 ID。
    - RESERVATION_NAME：预留的名称。
默认情况下，如果实例崩溃或 Compute Engine 因计划停止（例如维护事件）而停止实例，则实例会自动重启。如果您想停用自动重启，请添加以下标志：
```
--no-restart-on-failure
```
运行以上命令。

按需

在运行命令之前，请查看以下所有步骤，以确定是否要添加其他标志。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

请完成以下步骤：

替换以下内容：
- INSTANCE_TEMPLATE_NAME：实例模板的名称。
- MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
- IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
  提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
- IMAGE_PROJECT：操作系统映像的项目 ID。
- REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
- DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
- GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
- RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
  - any（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
  - none（需要按需容量）：阻止实例使用任何预留容量。
默认情况下，如果实例崩溃或 Compute Engine 因计划停止（例如维护事件）而停止实例，则实例会自动重启。如果您想停用自动重启，请添加以下标志：
```
--no-restart-on-failure
```
运行以上命令。

灵活启动

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=none \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
RUN_DURATION：您希望请求的虚拟机运行的时长。您必须将该值的格式设置为天数、小时数、分钟数或秒数，后面分别跟 d、h、m 和 s。例如，指定 30m 表示 30 分钟，或指定 1d2h3m4s 表示 1 天 2 小时 3 分钟 4 秒。该值必须介于 10 分钟到 7 天之间。

Spot

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
TERMINATION_ACTION：当 Compute Engine 抢占实例时执行的操作（STOP [默认] 或 DELETE）。

重要提示：请确保您的应用可以处理抢占。例如，在实例创建期间指定关停脚本来处理抢占。了解如何使用关停脚本处理抢占。

REST

如需创建区域级实例模板，请向 regionInstanceTemplates.insert 方法发出 POST 请求。

您需要指定的参数取决于您为此部署使用的使用选项。选择与您的使用选项对应的标签页。

预留

A3 Mega 或 A3 High（8 个 GPU）实例支持多种预留预配模型。选择与您要使用的预留类型对应的标签页。

使用 Reservation-bound 参数（用于指定受预留约束的预配模型）执行以下操作：
- AI Hypercomputer 中的未来预留
- 日历模式下的未来预留
使用标准预留参数（用于指定标准配置模型）执行以下操作：
- 按需预留
- 标准未来预留

受预留约束

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
RESERVATION：预留名称或预留中的特定块。如需获取预留名称或可用块，请参阅查看预留容量。根据您对实例布置的要求，请按以下方式之一操作：
- 跨块或在单个块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  此外，对于单个块，请通过应用指定块共置 (maxTopologyDistance=BLOCK) 的工作负载政策来创建 MIG。然后，Compute Engine 会将该政策应用于预留，并在同一块上创建实例。
- 在特定块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
提示：如果预留存在于当前项目中，则可以从 RESERVATION 值中省略 projects/RESERVATION_OWNER_PROJECT_ID/reservations/。

标准预订型广告

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
AUTOMATIC_RESTART：如果实例崩溃或 Compute Engine 因计划停机（如维护事件）而停止实例，是否自动重启实例。指定 true 可启用自动重启（默认），指定 false 可停用自动重启。
RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
- ANY_RESERVATION（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
- SPECIFIC_RESERVATION（需要预留容量）：要求实例使用明确针对的预留中的容量。不允许实例使用按需容量。如果预留容量不可用，则实例创建会失败。
RESERVATION：要使用的预留。根据您为 RESERVATION_AFFINITY 指定的值，指定以下值之一：
- 如果您指定了 ANY_RESERVATION，请删除 RESERVATION，使该值为一个空字符串 ("")。或者，您也可以完全移除 key 和 values 字段。
- 如果您指定了 SPECIFIC_RESERVATION，请将 RESERVATION 替换为以下内容：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  替换以下内容：
  - RESERVATION_OWNER_PROJECT_ID：在其中创建预留的项目的项目 ID。
  - RESERVATION_NAME：预留的名称。

按需

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
AUTOMATIC_RESTART：如果实例崩溃或 Compute Engine 因计划停机（如维护事件）而停止实例，是否自动重启实例。指定 true 可启用自动重启（默认），指定 false 可停用自动重启。
RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
- ANY_RESERVATION（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
- NO_RESERVATION（需要按需容量）：阻止实例使用任何预留容量。

灵活启动

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "NO_RESERVATION"
      },
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
RUN_DURATION：您希望请求的虚拟机运行的时长（以秒为单位）。该值必须介于 600（600 秒，即 10 分钟）到 604800（604,800 秒，即 7 天）之间。

Spot

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
TERMINATION_ACTION：当 Compute Engine 抢占实例时执行的操作（STOP [默认] 或 DELETE）。

重要提示：请确保您的应用可以处理抢占。例如，在实例创建期间指定关停脚本来处理抢占。了解如何使用关停脚本处理抢占。

A3 High

如需为 A3 High 虚拟机创建实例模板，您必须为 GPUDirect-TCPX 流量指定四个额外的网络接口。如果您尚未创建，请确保您已按照创建 VPC 网络中的说明创建了四个 VPC 网络。

gcloud

如需创建区域级实例模板，请使用 gcloud compute instance-templates create 命令。

您需要指定的参数取决于您为此部署使用的使用选项。选择与您的使用选项对应的标签页。

预留

A3 Mega 或 A3 High（8 个 GPU）实例支持多种预留预配模型。选择与您要使用的预留类型对应的标签页。

使用 Reservation-bound 参数（用于指定受预留约束的预配模型）执行以下操作：
- AI Hypercomputer 中的未来预留
- 日历模式下的未来预留
使用标准预留参数（用于指定标准配置模型）执行以下操作：
- 按需预留
- 标准未来预留

受预留约束

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
RESERVATION：预留名称或预留中的特定块。如需获取预留名称或可用块，请参阅查看预留容量。根据您对实例布置的要求，请按以下方式之一操作：
- 跨块或在单个块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  此外，对于单个块，请通过应用指定块共置 (maxTopologyDistance=BLOCK) 的工作负载政策来创建 MIG。然后，Compute Engine 会将该政策应用于预留，并在同一块上创建实例。
- 在特定块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
提示：如果预留存在于当前项目中，则可以从 RESERVATION 值中省略 projects/RESERVATION_OWNER_PROJECT_ID/reservations/。

标准预订型广告

在运行命令之前，请查看以下所有步骤，以确定是否要添加其他标志。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

请完成以下步骤：

替换以下内容：
- INSTANCE_TEMPLATE_NAME：实例模板的名称。
- MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
- IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
  提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
- IMAGE_PROJECT：操作系统映像的项目 ID。
- REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
- DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
- GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
- RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
  - any（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
  - specific（需要预留容量）：要求实例使用明确针对的预留中的容量。不允许实例使用按需容量。如果预留容量不可用，则实例创建会失败。
- RESERVATION：要使用的预留。根据您为 RESERVATION_AFFINITY 指定的值，指定以下值之一：
  - 如果您指定了 any，请将 RESERVATION 替换为空字符串 ("")。或者，您也可以完全移除 --reservation 标志。
  - 如果您指定了 specific，请将 RESERVATION 替换为以下内容：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    替换以下内容：
    - RESERVATION_OWNER_PROJECT_ID：在其中创建预留的项目的项目 ID。
    - RESERVATION_NAME：预留的名称。
默认情况下，如果实例崩溃或 Compute Engine 因计划停止（例如维护事件）而停止实例，则实例会自动重启。如果您想停用自动重启，请添加以下标志：
```
--no-restart-on-failure
```
运行以上命令。

按需

在运行命令之前，请查看以下所有步骤，以确定是否要添加其他标志。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

请完成以下步骤：

替换以下内容：
- INSTANCE_TEMPLATE_NAME：实例模板的名称。
- MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
- IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
  提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
- IMAGE_PROJECT：操作系统映像的项目 ID。
- REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
- DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
- GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
- RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
  - any（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
  - none（需要按需容量）：阻止实例使用任何预留容量。
默认情况下，如果实例崩溃或 Compute Engine 因计划停止（例如维护事件）而停止实例，则实例会自动重启。如果您想停用自动重启，请添加以下标志：
```
--no-restart-on-failure
```
运行以上命令。

灵活启动

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=none \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
RUN_DURATION：您希望请求的虚拟机运行的时长。您必须将该值的格式设置为天数、小时数、分钟数或秒数，后面分别跟 d、h、m 和 s。例如，指定 30m 表示 30 分钟，或指定 1d2h3m4s 表示 1 天 2 小时 3 分钟 4 秒。该值必须介于 10 分钟到 7 天之间。

Spot

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
TERMINATION_ACTION：当 Compute Engine 抢占实例时执行的操作（STOP [默认] 或 DELETE）。

重要提示：请确保您的应用可以处理抢占。例如，在实例创建期间指定关停脚本来处理抢占。了解如何使用关停脚本处理抢占。

REST

如需创建区域级实例模板，请向 regionInstanceTemplates.insert 方法发出 POST 请求。

您需要指定的参数取决于您为此部署使用的使用选项。选择与您的使用选项对应的标签页。

预留

A3 Mega 或 A3 High（8 个 GPU）实例支持多种预留预配模型。选择与您要使用的预留类型对应的标签页。

使用 Reservation-bound 参数（用于指定受预留约束的预配模型）执行以下操作：
- AI Hypercomputer 中的未来预留
- 日历模式下的未来预留
使用标准预留参数（用于指定标准配置模型）执行以下操作：
- 按需预留
- 标准未来预留

受预留约束

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
RESERVATION：预留名称或预留中的特定块。如需获取预留名称或可用块，请参阅查看预留容量。根据您对实例布置的要求，请按以下方式之一操作：
- 跨块或在单个块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  此外，对于单个块，请通过应用指定块共置 (maxTopologyDistance=BLOCK) 的工作负载政策来创建 MIG。然后，Compute Engine 会将该政策应用于预留，并在同一块上创建实例。
- 在特定块上创建实例：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
提示：如果预留存在于当前项目中，则可以从 RESERVATION 值中省略 projects/RESERVATION_OWNER_PROJECT_ID/reservations/。

标准预订型广告

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
AUTOMATIC_RESTART：如果实例崩溃或 Compute Engine 因计划停机（如维护事件）而停止实例，是否自动重启实例。指定 true 可启用自动重启（默认），指定 false 可停用自动重启。
RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
- ANY_RESERVATION（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
- SPECIFIC_RESERVATION（需要预留容量）：要求实例使用明确针对的预留中的容量。不允许实例使用按需容量。如果预留容量不可用，则实例创建会失败。
RESERVATION：要使用的预留。根据您为 RESERVATION_AFFINITY 指定的值，指定以下值之一：
- 如果您指定了 ANY_RESERVATION，请删除 RESERVATION，使该值为一个空字符串 ("")。或者，您也可以完全移除 key 和 values 字段。
- 如果您指定了 SPECIFIC_RESERVATION，请将 RESERVATION 替换为以下内容：
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  替换以下内容：
  - RESERVATION_OWNER_PROJECT_ID：在其中创建预留的项目的项目 ID。
  - RESERVATION_NAME：预留的名称。

按需

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
AUTOMATIC_RESTART：如果实例崩溃或 Compute Engine 因计划停机（如维护事件）而停止实例，是否自动重启实例。指定 true 可启用自动重启（默认），指定 false 可停用自动重启。
RESERVATION_AFFINITY：实例可以使用的预留（如果可能）。指定以下其中一项：
- ANY_RESERVATION（预留容量是可选的）：这是默认选项。实例尝试使用自动使用的预留中的容量，只有在有匹配的预留容量时才会发生这种情况。否则，实例将使用按需容量。
- NO_RESERVATION（需要按需容量）：阻止实例使用任何预留容量。

灵活启动

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "NO_RESERVATION"
      },
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
RUN_DURATION：您希望请求的虚拟机运行的时长（以秒为单位）。该值必须介于 600（600 秒，即 10 分钟）到 604800（604,800 秒，即 7 天）之间。

Spot

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

替换以下内容：

INSTANCE_TEMPLATE_NAME：实例模板的名称。
MACHINE_TYPE：用于 A3 Mega 或 A3 High（8 个 GPU）实例的机器类型。如需了解详情，请参阅 Compute Engine 文档中的 GPU 机器类型。
IMAGE_FAMILY：您要使用的操作系统映像所属的映像系列。如需查看所有受支持的操作系统的列表，请参阅受支持的操作系统。
提示：我们建议使用加速器操作系统映像来处理经过 AI 优化的工作负载。除非您有独特的 GPU 驱动程序要求，否则这些映像会自动安装所有必需的 GPU 驱动程序。如需详细了解 GPU 驱动程序要求，请参阅本文档中的安装 GPU 驱动程序。
IMAGE_PROJECT：操作系统映像的项目 ID。
REGION：要在其中创建实例模板的区域。指定提供您要使用的机器类型的区域。如需了解区域，请参阅按区域和可用区划分的 GPU 可用性。
DISK_SIZE：启动磁盘的大小（以 GB 为单位）。如需了解详情，请参阅 Google Cloud Hyperdisk 大小限制或永久性磁盘大小限制（具体取决于磁盘类型）。
NETWORK_PROJECT_ID：网络的项目 ID。
GVNIC_NAME_PREFIX：您在创建使用 gVNIC NIC 的标准 VPC 网络和子网时指定的名称前缀。
REGION：子网所在的区域。
TERMINATION_ACTION：当 Compute Engine 抢占实例时执行的操作（STOP [默认] 或 DELETE）。

重要提示：请确保您的应用可以处理抢占。例如，在实例创建期间指定关停脚本来处理抢占。了解如何使用关停脚本处理抢占。

创建实例模板后，您可以查看该模板以查看其 ID 并检查其实例属性。

创建 MIG

完成上述所有步骤后，请根据您的使用情形创建 MIG，如下所示：

场景	用于创建 MIG 及其中虚拟机的相应方法	示例
您有多个或并行作业，这些作业可以从任意数量的虚拟机开始。	创建 MIG，并使用目标大小来指定您希望实例组中包含的虚拟机数量。请参阅创建具有目标大小的 MIG。	机器学习推理作业
您的作业需要分布在确切数量的虚拟机中。	创建一个不含任何虚拟机的 MIG，然后在该 MIG 中创建调整大小请求。借助调整大小请求，您可以一次性获取所有虚拟机。请参阅创建 MIG 和规模调整请求。	分布式机器学习训练和微调作业

创建具有目标大小的 MIG

如果您可以在不同时创建所有虚拟机的情况下启动作业，请创建具有目标大小的 MIG。目标大小决定了 MIG 中的虚拟机数量。MIG 会根据当前资源可用性开始创建虚拟机。如果任何资源暂时不可用，MIG 会持续尝试创建虚拟机，以达到目标大小。

如需创建具有目标大小的 MIG，请选择以下选项之一：

gcloud

如需创建具有指定目标大小的 MIG，请使用 instance-groups managed create 命令。

重要提示：如果实例模板指定了灵活启动虚拟机，则还必须通过向命令添加 --default-action-on-vm-failure=do-nothing 标志来关闭修复。

您用于创建 MIG 的命令使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 --workload-policy 标志。

按如下所示创建可用区级或区域级 MIG：

如需创建可用区级 MIG，请使用以下命令：

gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --workload-policy=WORKLOAD_POLICY_URL \
  --zone=ZONE

如需创建区域级 MIG，请使用以下命令：

gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --workload-policy=WORKLOAD_POLICY_URL \
    --region=REGION

请替换以下内容：

MIG_NAME：MIG 的名称。
INSTANCE_TEMPLATE_URL：您要用于在 MIG 中创建实例的实例模板的网址。网址可以包含实例模板的 ID 或名称。请指定以下某个值：
- 对于区域级实例模板：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- 对于全球实例模板：INSTANCE_TEMPLATE_ID
TARGET_SIZE：MIG 中所需的实例数量。
WORKLOAD_POLICY_URL：可选。工作负载政策的网址，例如 projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy。如果您不想使用工作负载政策，请移除 --workload-policy 标志。
ZONE：您要在其中创建 MIG 的可用区。如果您使用工作负载政策，请在政策的区域内指定一个可用区。
REGION：您要在其中创建 MIG 的区域。如果您使用工作负载政策，请指定与政策相同的区域。对于区域级 MIG，您可以使用 --zones 标志指定相应区域中的可用区，而不是指定区域。

REST

如需创建具有指定目标大小的 MIG，请发出 POST 请求。

重要提示：如果实例模板指定了灵活启动虚拟机，则还必须通过向请求添加 "defaultActionOnFailure": "DO_NOTHING" 字段来关闭修复。

您用于创建 MIG 的请求会使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 resourcePolicies.workloadPolicy 字段。

按如下所示创建可用区级或区域级 MIG：

如需创建可用区级 MIG，请向 instanceGroupManagers.insert 方法发出 POST 请求。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

如需创建区域级 MIG，请向 regionInstanceGroupManagers.insert 方法发出 POST 请求。

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE,
    "resourcePolicies": {
      "workloadPolicy": "WORKLOAD_POLICY_URL"
    }
  }

请替换以下内容：

PROJECT_ID：项目 ID。
ZONE：您要在其中创建 MIG 的可用区。如果您使用工作负载政策，请在政策的区域内指定一个可用区。
REGION：您要在其中创建 MIG 的区域。如果您使用工作负载政策，请指定与该政策相同的区域。
INSTANCE_TEMPLATE_URL：您要用于在 MIG 中创建实例的实例模板的网址。网址可以包含实例模板的 ID 或名称。请指定以下某个值：
- 对于区域级实例模板：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- 对于全球实例模板：INSTANCE_TEMPLATE_ID
MIG_NAME：MIG 的名称。
TARGET_SIZE：MIG 中所需的实例数量。
WORKLOAD_POLICY_URL：可选。工作负载政策的网址，例如 projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy。如果您不想使用工作负载政策，请移除 resourcePolicies.workloadPolicy 字段。

创建 MIG 和规模调整请求

如果您需要同时使用多个虚拟机才能启动作业，请创建一个 MIG，然后在该 MIG 中创建规模调整请求，如本部分中所述。

如需在 MIG 中创建规模调整请求，请选择以下选项之一：

gcloud

您需要指定的参数取决于您为此部署使用的使用选项。选择与您的使用选项的配置模式对应的标签页。

预留

您用于创建 MIG 的命令使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 --workload-policy 标志。

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 使用 instance-groups managed create 命令创建可用区级 MIG，如下所示。
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
```
2. 使用 instance-groups managed resize-requests create 命令在可用区级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 使用 instance-groups managed create 命令创建区域级 MIG，如下所示。
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zones=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. 使用 instance-groups managed resize-requests create 命令在区域级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

按需

您用于创建 MIG 的命令使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 --workload-policy 标志。

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 使用 instance-groups managed create 命令创建可用区级 MIG，如下所示。
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
```
2. 使用 instance-groups managed resize-requests create 命令在可用区级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 使用 instance-groups managed create 命令创建区域级 MIG，如下所示。
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zones=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. 使用 instance-groups managed resize-requests create 命令在区域级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

灵活启动

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 使用 instance-groups managed create 命令创建可用区级 MIG，如下所示。
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
```
2. 使用 instance-groups managed resize-requests create 命令在可用区级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```

如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：

使用 instance-groups managed create 命令创建区域级 MIG，如下所示。

gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \

    --workload-policy=WORKLOAD_POLICY_URL \

    --region=REGION \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none \
    --workload-policy=WORKLOAD_POLICY_URL

使用 instance-groups managed resize-requests create 命令在区域级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

Spot

您用于创建 MIG 的命令使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 --workload-policy 标志。

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 使用 instance-groups managed create 命令创建可用区级 MIG，如下所示。
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
```
2. 使用 instance-groups managed resize-requests create 命令在可用区级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 使用 instance-groups managed create 命令创建区域级 MIG，如下所示。
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zones=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. 使用 instance-groups managed resize-requests create 命令在区域级 MIG 中创建规模调整请求，如下所示。此命令用于指定您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

替换以下内容：

MIG_NAME：MIG 的名称。
INSTANCE_TEMPLATE_URL：您要用于在 MIG 中创建实例的实例模板的网址。网址可以包含实例模板的 ID 或名称。请指定以下某个值：
- 对于区域级实例模板：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- 对于全球实例模板：INSTANCE_TEMPLATE_ID
WORKLOAD_POLICY_URL：可选。工作负载政策的网址，例如 projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy。如果您不想使用工作负载政策，请移除 --workload-policy 标志。
ZONE：您要在其中创建 MIG 的可用区。对于地区级 MIG，您还必须指定可用区。此可用区必须是包含 VPC 网络配置文件的可用区，并且必须是提供相应机器类型的可用区。如需了解详情，请参阅限制。
RESIZE_REQUEST_NAME：调整大小请求的名称，该名称在指定的 MIG 中必须是唯一的。否则，创建调整大小请求的操作将失败。
COUNT：要一次性添加到 MIG 的实例数量。
REGION：您要在其中创建 MIG 的区域。

通过指定虚拟机名称列表来创建调整大小请求

如果您的工作负载需要特定的虚拟机名称，请指定一个名称列表来创建虚拟机。您指定的名称数量决定了 MIG 一次性创建的虚拟机数量。

如需在 MIG 中创建具有特定虚拟机名称的规模调整请求，请使用带有 --instances 标志的 Beta 版 gcloud compute instance-groups managed resize-requests create 命令：

在可用区级 MIG 中，运行以下命令：

gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --zone=ZONE

在区域级 MIG 中，运行以下命令：

gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --region=REGION

将 INSTANCE_NAMES 替换为以英文逗号分隔的虚拟机名称列表。例如，instance-1,instance-2,instance-3。

REST

您需要指定的参数取决于您为此部署使用的使用选项。选择与您的使用选项的配置模式对应的标签页。

预留

您用于创建 MIG 的请求会使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 resourcePolicies.workloadPolicy 字段。

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 向 instanceGroupManagers.insert 方法发出 POST 请求，以创建可用区级 MIG，如下所示。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. 在可用区级 MIG 中，向 instanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：

向 regionInstanceGroupManagers.insert 方法发出 POST 请求以创建区域级 MIG，如下所示。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

在区域级 MIG 中，向 regionInstanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

按需

您用于创建 MIG 的请求会使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 resourcePolicies.workloadPolicy 字段。

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 向 instanceGroupManagers.insert 方法发出 POST 请求，以创建可用区级 MIG，如下所示。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. 在可用区级 MIG 中，向 instanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：

向 regionInstanceGroupManagers.insert 方法发出 POST 请求以创建区域级 MIG，如下所示。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

在区域级 MIG 中，向 regionInstanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

灵活启动

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：

向 instanceGroupManagers.insert 方法发出 POST 请求，以创建可用区级 MIG，如下所示。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

在可用区级 MIG 中，向 instanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：

向 regionInstanceGroupManagers.insert 方法发出 POST 请求以创建区域级 MIG，如下所示。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

在区域级 MIG 中，向 regionInstanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Spot

您用于创建 MIG 的请求会使用工作负载政策来指定实例放置位置。如果您不想使用工作负载政策，请移除 resourcePolicies.workloadPolicy 字段。

创建可用区级或区域级 MIG 以及规模调整请求，如下所示：

如需创建可用区级 MIG 并在其中创建规模调整请求，请执行以下操作：
1. 向 instanceGroupManagers.insert 方法发出 POST 请求，以创建可用区级 MIG，如下所示。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. 在可用区级 MIG 中，向 instanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

如需创建区域级 MIG 并在其中创建规模调整请求，请执行以下操作：

向 regionInstanceGroupManagers.insert 方法发出 POST 请求以创建区域级 MIG，如下所示。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

在区域级 MIG 中，向 regionInstanceGroupManagerResizeRequests.insert 方法发出 POST 请求，以创建规模调整请求，如下所示。此请求指定了您要创建的虚拟机的数量。如果您的工作负载需要特定的虚拟机名称，请通过指定虚拟机名称列表来创建调整大小请求。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

替换以下内容：

PROJECT_ID：项目 ID。
ZONE：您要在其中创建 MIG 的可用区。此可用区必须与包含 VPC 网络配置文件的可用区相同，并且必须是所选机器类型可用的可用区。如需了解详情，请参阅限制。
REGION：您要在其中创建 MIG 的区域。此区域必须与包含 VPC 网络配置文件的区域相同，并且必须包含所选机器类型可用的可用区。如需了解详情，请参阅限制。
INSTANCE_TEMPLATE_URL：您要用于在 MIG 中创建实例的实例模板的网址。网址可以包含实例模板的 ID 或名称。请指定以下某个值：
- 对于区域级实例模板：projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- 对于全球实例模板：INSTANCE_TEMPLATE_ID
MIG_NAME：MIG 的名称。
WORKLOAD_POLICY_URL：可选。工作负载政策的网址，例如 projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy。如果您不想使用工作负载政策，请移除 resourcePolicies.workloadPolicy 字段。
RESIZE_REQUEST_NAME：调整大小请求的名称，该名称在指定的 MIG 中必须是唯一的。否则，创建调整大小请求的操作将失败。
COUNT：要同时添加到 MIG 的实例数量。

通过指定虚拟机名称列表来创建调整大小请求

如果您的工作负载需要特定的虚拟机名称，请指定一个名称列表来创建虚拟机。您指定的名称数量决定了 MIG 一次性创建的虚拟机数量。

如需在 MIG 中创建具有特定虚拟机名称的规模调整请求，请使用以下方法之一：

在可用区级 MIG 中，使用 beta.instanceGroupManagerResizeRequests.insert 方法发送 POST 请求：

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests

在区域级 MIG 中，使用 beta.regionInstanceGroupManagerResizeRequests.insert 方法发送 POST 请求：

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests

例如，如需指定两个虚拟机名称，请在请求正文中添加以下内容：

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

将 INSTANCE_NAME_1, INSTANCE_NAME_2 替换为虚拟机的名称。

安装 GPU 驱动程序

创建实例后，除非已安装正确的 GPU 驱动程序，否则该实例无法使用其 GPU。如果您未指定包含 GPU 驱动程序的操作系统映像，请参阅 Compute Engine 文档中的安装 GPU 驱动程序。

可选：启用 NVIDIA 多实例 GPU 模式

多实例 GPU (MIG) 模式是一项可为受支持的 NVIDIA GPU 启用的功能。创建实例后，您可以在挂接到机器的单个 GPU 上启用 MIG 模式。启用 MIG 模式后，单个 GPU 会被划分为最多七个独立的 GPU 实例。每个实例同时运行，每个实例都有自己的内存、缓存和流式多处理器。然后，您可以在这些 GPU 实例上并行运行不同的工作负载。如需详细了解如何使用 MIG 模式，请参阅 NVIDIA 文档中的多实例 GPU (MIG) 用户指南。

创建 AI 优化型 A3 High 或 A3 Mega MIG 使用集合让一切井井有条 根据您的偏好保存内容并对其进行分类。

限制

A3 Mega 或 A3 High 虚拟机的限制

A3 Mega

A3 High

MIG 的限制

MIG 调整大小请求的限制

准备工作

所需的角色

所需权限

概览

创建 VPC 网络

创建管理网络、子网和防火墙规则

创建数据网络、子网和防火墙规则

A3 Mega

A3 High

可选：创建工作负载政策

gcloud

REST

创建实例模板

A3 Mega

gcloud

预留

受预留约束

标准预订型广告

按需

灵活启动

Spot

REST

预留

受预留约束

标准预订型广告

按需

灵活启动

Spot

A3 High

gcloud

预留

受预留约束

标准预订型广告

按需

灵活启动

Spot

REST

预留

受预留约束

标准预订型广告

按需

灵活启动

Spot

创建 MIG

创建具有目标大小的 MIG

gcloud

REST

创建 MIG 和规模调整请求

gcloud

预留

按需

灵活启动

Spot

通过指定虚拟机名称列表来创建调整大小请求

REST

预留

按需

灵活启动

Spot

通过指定虚拟机名称列表来创建调整大小请求

安装 GPU 驱动程序

可选：启用 NVIDIA 多实例 GPU 模式

接下来怎么做？

创建 AI 优化型 A3 High 或 A3 Mega MIG