Crea VMs A4X optimizadas para IA de forma masiva

En este documento, se explica cómo crear instancias de máquina virtual (VM) de forma masiva que usen tipos de máquinas A4X. Para obtener más información sobre este tipo de máquina optimizado para aceleradores, consulta A4X.

Para obtener información sobre otras formas de crear VMs o clústeres, consulta Descripción general de las opciones de implementación.

Limitaciones

Cuando creas VMs A4X de forma masiva, se aplican las siguientes limitaciones:

También revisa las restricciones para las políticas de posición.

Antes de comenzar

Antes de crear VMs de forma masiva, si aún no lo hiciste, completa los siguientes pasos:

  1. Elige una opción de consumo: la opción de consumo que elijas determinará cómo obtienes y usas los recursos de GPU. Para obtener más información, consulta Elige una opción de consumo.
  2. Obtén capacidad: El proceso para obtener capacidad varía según cada opción de consumo. Para obtener información sobre el proceso para obtener capacidad para la opción de consumo que elegiste, consulta Descripción general de la capacidad.

Selecciona la pestaña según cómo planeas usar las muestras de esta página:

Console

Cuando usas la consola de Google Cloud para acceder a los servicios y las APIs de Google Cloud , no necesitas configurar la autenticación.

gcloud

Instala Google Cloud CLI y, luego, accede a gcloud CLI con tu identidad federada. Después de acceder, inicializa Google Cloud CLI con el siguiente comando:

gcloud init

REST

Para usar las muestras de la API de REST incluidas en esta página en un entorno de desarrollo local, debes usar las credenciales que proporciones a la gcloud CLI.

    Instala Google Cloud CLI y, luego, accede a gcloud CLI con tu identidad federada.

Para obtener más información, consulta Autentícate para usar REST en la documentación de autenticación de Google Cloud .

Roles obligatorios

Para obtener los permisos que necesitas para crear VMs de forma masiva, pídele al administrador que te otorgue el rol de IAM Administrador de instancias de Compute (v1) (roles/compute.instanceAdmin.v1) en el proyecto. Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

Este rol predefinido contiene los permisos necesarios para crear VMs de forma masiva. Para ver los permisos exactos que son necesarios, expande la sección Permisos requeridos:

Permisos necesarios

Se requieren los siguientes permisos para crear VMs de forma masiva:

  • compute.instances.create en el proyecto
  • Si deseas usar una imagen personalizada para crear la VM, sigue estos pasos: compute.images.useReadOnly en la imagen
  • Para usar una instantánea a fin de crear la VM, haz lo siguiente: compute.snapshots.useReadOnly en la instantánea
  • Si quieres usar una plantilla de instancias para crear la VM, sigue estos pasos: compute.instanceTemplates.useReadOnly en la plantilla de instancias
  • A fin de especificar una subred para tu VM: compute.subnetworks.use en el proyecto o en la subred elegida
  • Si deseas especificar una dirección IP estática para la VM: compute.addresses.use en el proyecto
  • Para asignar una dirección IP externa a la VM cuando se usa una red de VPC, compute.subnetworks.useExternalIp en el proyecto o en la subred elegida.
  • Para asignar una red heredada a la VM, ejecuta compute.networks.use en el proyecto.
  • Para asignar una dirección IP externa a la VM cuando se usa una red heredada, ejecuta compute.networks.useExternalIp en el proyecto
  • Para configurar los metadatos de la instancia de VM para la VM, compute.instances.setMetadata en el proyecto.
  • Para configurar etiquetas en la VM, haz lo siguiente: compute.instances.setTags en la VM
  • Para configurar etiquetas en la VM, haz lo siguiente: compute.instances.setLabels en la VM
  • A fin de configurar una cuenta de servicio para que la VM use: compute.instances.setServiceAccount en la VM
  • Crear un disco nuevo para la VM: compute.disks.create en el proyecto
  • Para conectar un disco existente en modo de solo lectura o de lectura y escritura, usa compute.disks.use en el disco.
  • Para conectar un disco existente en modo de solo lectura, haz lo siguiente: compute.disks.useReadOnly en el disco

También puedes obtener estos permisos con roles personalizados o con otros roles predefinidos.

Aspectos básicos de A4X

Un clúster de A4X se organiza en una jerarquía de bloques y subbloques para facilitar el rendimiento de la red sin bloqueos a gran escala. Comprender esta topología es clave cuando se reserva capacidad y se implementan cargas de trabajo.

Instancia A4X
Una instancia A4X es un solo tipo de máquina A4X que tiene 4 GPUs conectadas.
En subbloque
Un subbloque es la unidad fundamental de la capacidad de A4X. En el caso de A4X, un subbloque consta de 18 instancias de A4X (72 GPUs). Estas instancias forman un dominio de NVLink y se conectan con un sistema de NVLink de varios nodos. Para crear un subbloque de A4X, aplica una política de posición compacta que especifique una topología 1x72.
Bloquear
Un bloque de A4X se compone de 25 subbloques (dominios de NVLink), lo que suma hasta 450 instancias de A4X (1,800 GPUs). Los subbloques están encarrilados para un escalamiento eficiente. Cada subbloque requiere una política de posición compacta. Por lo tanto, para un solo bloque A4X, puedes crear 25 políticas de posición compacta.

En la siguiente tabla, se muestran las opciones de topología admitidas para las instancias A4X:

Topología (gpuTopology) Cantidad de GPU Cantidad de instancias
1x72 72 18

Descripción general

La creación de instancias de forma masiva con el tipo de máquina A4X incluye los siguientes pasos:

  1. Crea redes de VPC
  2. Crea una política de posición compacta
  3. Crea instancias de forma masiva
  4. Instala controladores de GPU
  5. Opcional: Habilita el modo de GPU de instancias múltiples de NVIDIA

Crea redes de VPC

Para configurar la red para los tipos de máquinas A4X, crea tres redes de VPC para las siguientes interfaces de red:

  • Dos redes de VPC normales para las interfaces de red (NIC) de gVNIC. Luego, las NIC usan estas redes de VPC para la comunicación de host a host.
  • Una red de VPC con el perfil de red de RoCE para las NIC CX-7 cuando se crean varios subbloques de A4X. La red de VPC de RoCE para las instancias de VM debe tener 4 subredes, una para cada NIC de CX-7. Estas NIC usan RDMA sobre Ethernet convergente (RoCE), lo que proporciona la comunicación de alto ancho de banda y baja latencia que es esencial para escalar horizontalmente a varios subbloques de A4X.

Para obtener más información sobre la disposición de las NIC, consulta Revisa el ancho de banda de la red y la disposición de las NIC.

Crea las redes de forma manual siguiendo las guías de instrucciones o automáticamente con la secuencia de comandos proporcionada.

Guías de instrucciones

Para crear las redes, puedes usar las siguientes instrucciones:

Para estas redes de VPC, establece la unidad de transmisión máxima (MTU) en un valor mayor. Para los tipos de máquinas A4X, la MTU recomendada es de 8896 bytes. Para revisar la configuración de MTU recomendada para otros tipos de máquinas de GPU, consulta Configuración de MTU para tipos de máquinas de GPU.

Secuencia de comandos

Para crear las redes, sigue estos pasos.

Para estas redes de VPC, establece la unidad de transmisión máxima (MTU) en un valor mayor. Para los tipos de máquinas A4X, la MTU recomendada es de 8896 bytes. Para revisar la configuración de MTU recomendada para otros tipos de máquinas de GPU, consulta Configuración de MTU para tipos de máquinas de GPU.

  1. Usa la siguiente secuencia de comandos para crear redes de VPC normales para las gVNIC.

    
    
        #!/bin/bash
    
        # Create regular VPC networks and subnets for the gVNICs
        for N in $(seq 0 1); do
          gcloud compute networks create GVNIC_NAME_PREFIX-net-$N \
            --subnet-mode=custom \
            --mtu=8896
    
          gcloud compute networks subnets create GVNIC_NAME_PREFIX-sub-$N \
            --network=GVNIC_NAME_PREFIX-net-$N \
            --region=REGION \
            --range=192.168.$N.0/24
    
          gcloud compute firewall-rules create GVNIC_NAME_PREFIX-internal-$N \
            --network=GVNIC_NAME_PREFIX-net-$N \
            --action=ALLOW \
            --rules=tcp:0-65535,udp:0-65535,icmp \
            --source-ranges=192.168.0.0/16
        done
    
        # Create SSH firewall rules
        gcloud compute firewall-rules create GVNIC_NAME_PREFIX-ssh \
          --network=GVNIC_NAME_PREFIX-net-0 \
          --action=ALLOW \
          --rules=tcp:22 \
          --source-ranges=IP_RANGE
    
        # Assumes that an external IP is only created for vNIC 0
        gcloud compute firewall-rules create GVNIC_NAME_PREFIX-allow-ping-net-0 \
          --network=GVNIC_NAME_PREFIX-net-0 \
          --action=ALLOW \
          --rules=icmp \
          --source-ranges=IP_RANGE
    
    
          
  2. Si necesitas varios subbloques de A4X, usa la siguiente secuencia de comandos para crear la red de VPC de RoCE para las instancias de VM (roce) y las subredes para las cuatro NIC de CX-7 en cada instancia de A4X.

    
    
        #!/bin/bash
    
        # List and make sure network profiles exist in the machine type's zone
        gcloud compute network-profiles list --filter "location.name=ZONE"
    
        # Create network for RDMA NICs
        gcloud compute networks create RDMA_NAME_PREFIX-mrdma \
          --network-profile=ZONE-vpc-roce \
          --subnet-mode custom \
          --mtu=8896
    
        # Create subnets
        for N in $(seq 0 3); do
          gcloud compute networks subnets create RDMA_NAME_PREFIX-mrdma-sub-$N \
            --network=RDMA_NAME_PREFIX-mrdma \
            --region=REGION \
            --range=192.168.$((N+2)).0/24 # offset to avoid overlap with gVNICs
        done
    
    
          

    Reemplaza lo siguiente:

    • GVNIC_NAME_PREFIX: Es el prefijo de nombre personalizado que se usará para las redes de VPC normales y las subredes de las gVNIC.
    • RDMA_NAME_PREFIX: Es el prefijo de nombre personalizado que se usará para la red de VPC de RoCE para las instancias de VM (roce) y las subredes de las NIC CX-7.
    • ZONE: Especifica una zona en la que esté disponible el tipo de máquina que deseas usar, como us-central1-a. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • REGION: la región en la que deseas crear las subredes. Esta región debe corresponder a la zona especificada. Por ejemplo, si tu zona es us-central1-a, tu región es us-central1.
    • IP_RANGE: Es el rango de IP que se usará para las reglas de firewall de SSH.
  3. Opcional: Para verificar que los recursos de la red de VPC se creen correctamente, revisa la configuración de red en la consola de Google Cloud :
    1. En la consola de Google Cloud , ve a la página Redes de VPC.

      Ir a las redes de VPC

    2. Busca en la lista las redes que creaste en el paso anterior.
    3. Para ver las subredes, las reglas de firewall y otros parámetros de configuración de red, haz clic en el nombre de la red.

Crea una política de posición compacta

Para crear una política de posición compacta, selecciona una de las siguientes opciones:

gcloud

Para crear una política de posición compacta, usa el comando gcloud compute resource-policies create group-placement:

gcloud compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --gpu-topology=1x72 \
    --region=REGION

Reemplaza lo siguiente:

  • POLICY_NAME: Es el nombre de la política de posición compacta.
  • REGION: Es la región en la que deseas crear la política de posición compacta. Especifica la región que contiene la zona en la que planeas crear instancias y verifica que el tipo de máquina que deseas usar esté disponible en esa región. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.

REST

Para crear una política de posición compacta, realiza una solicitud POST al método resourcePolicies.insert.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "gpuTopology": "1x72"
    }
  }

Reemplaza lo siguiente:

  • PROJECT_ID: Es el ID del proyecto.
  • POLICY_NAME: Es el nombre de la política de posición compacta.
  • REGION: Es la región en la que deseas crear la política de posición compacta. Especifica la región que contiene la zona en la que planeas crear instancias y verifica que el tipo de máquina que deseas usar esté disponible en esa región. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.

Crea instancias de A4X de forma masiva

Para obtener una topología de GPU de 1x72, crea 18 instancias de A4X. Cuando crees las instancias, aplica la política de posición compacta que especifica el campo gpuTopology. Aplicar la política garantiza que Compute Engine cree las 18 instancias de A4X en un subbloque para usar un dominio de NVLink. Si un subbloque no tiene capacidad para las 18 instancias A4X, la creación masiva falla y no se crea ninguna instancia.

Si tu carga de trabajo puede funcionar con menos de 18 instancias de A4X, puedes establecer el campo minCount en la cantidad mínima de instancias que requiere tu carga de trabajo. Si deseas usar cualquier capacidad disponible, establece el campo minCount en 1.

Para crear instancias A4X de forma masiva, selecciona una de las siguientes opciones.

Con los siguientes comandos, también se establece el permiso de acceso para tus instancias. Para simplificar la administración de permisos, Google recomienda que configures el permiso de acceso en una instancia para el acceso cloud-platform y, luego, uses los roles de IAM para definir a qué servicios puede acceder la instancia. Para obtener más información, consulta Prácticas recomendadas para los permisos.

gcloud

Para crear instancias de A4X de forma masiva, usa el comando gcloud compute instances bulk create.

Las instancias A4X admiten los siguientes tipos de reservas:

  • Reservas futuras para bloques de capacidad
  • Reservas futuras en modo calendario

Para consumir estos tipos de reservas, una instancia debe usar el modelo de aprovisionamiento vinculado a la reserva. Por ejemplo, usa los siguientes parámetros de creación.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=a4x-highgpu-4g \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure \
    --resource-policies=POLICY_NAME

Reemplaza lo siguiente:

  • NAME_PATTERN: Es el patrón de nombre que se usará para las instancias de A4X. Por ejemplo, si usas instance-# para el patrón de nombre, se generan instancias A4X con nombres como instance-1 y instance-2, hasta la cantidad de instancias A4X especificadas por --count.
  • COUNT: Es la cantidad de instancias de A4X que se crearán.
  • IMAGE_FAMILY: Es la familia de imágenes de imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
  • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
  • REGION: Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Debes usar la misma región que la política de posición compacta. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
  • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk según el tipo de disco.
  • GVNIC_NAME_PREFIX: Es el prefijo de nombre que especificaste cuando creaste las redes y subredes de VPC estándar que usan NIC de gVNIC.
  • RDMA_NAME_PREFIX: Es el prefijo de nombre que especificaste cuando creaste las redes de VPC y las subredes que usan NIC de RDMA.
  • RESERVATION: Es el nombre de la reserva, un bloque o un subbloque dentro de una reserva. Para obtener el nombre de la reserva o los bloques disponibles, consulta Visualiza la capacidad reservada. Según tus requisitos para la ubicación de las instancias, elige una de las siguientes opciones:
    • Para crear instancias de A4X en cualquier bloque individual, sigue estos pasos:
          projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
          
    • Para crear instancias de A4X en un bloque específico, sigue estos pasos:
          projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
          
    • Para crear instancias A4X en un subbloque específico, sigue estos pasos:
          projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME/reservationSubBlocks/RESERVATION_SUBBLOCK_NAME
          
  • TERMINATION_ACTION: Indica si Compute Engine detiene (STOP) o borra (DELETE) la instancia de A4X al final del período de reserva.

  • POLICY_NAME: Es el nombre de la política de posición compacta.

REST

Para crear instancias de A4X de forma masiva, realiza una solicitud POST al método instances.bulkInsert.

Las instancias A4X admiten los siguientes tipos de reservas:

  • Reservas futuras para bloques de capacidad
  • Reservas futuras en modo calendario

Para consumir estos tipos de reservas, una instancia debe usar el modelo de aprovisionamiento vinculado a la reserva. Por ejemplo, usa los siguientes parámetros de creación.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "a4x-highgpu-4g",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
      }
     ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      },
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
  }
}

Reemplaza lo siguiente:

  • PROJECT_ID: Es el ID del proyecto en el que quieres crear la instancia de A4X.
  • ZONE: Especifica una zona en la que esté disponible el tipo de máquina que deseas usar. Debes usar una zona en la misma región que la política de posición compacta. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
  • NAME_PATTERN: Es el patrón de nombre que se usará para las instancias de A4X. Por ejemplo, si usas instance-# para el patrón de nombre, se generan instancias A4X con nombres como instance-1 y instance-2, hasta la cantidad de instancias A4X especificadas por --count.
  • COUNT: Es la cantidad de instancias de A4X que se crearán.
  • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk según el tipo de disco.
  • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
  • IMAGE_FAMILY: Es la familia de imágenes de imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
  • NETWORK_PROJECT_ID: Es el ID del proyecto de la red.
  • GVNIC_NAME_PREFIX: Es el prefijo de nombre que especificaste cuando creaste las redes y subredes de VPC estándar que usan NIC de gVNIC.
  • REGION: Es la región de la subred.
  • RDMA_NAME_PREFIX: Es el prefijo de nombre que especificaste cuando creaste las redes de VPC y las subredes que usan NIC de RDMA.
  • RESERVATION: Es el nombre de la reserva, un bloque o un subbloque dentro de una reserva. Para obtener el nombre de la reserva o los bloques disponibles, consulta Visualiza la capacidad reservada. Según tus requisitos para la ubicación de las instancias, elige una de las siguientes opciones:
    • Para crear instancias de A4X en cualquier bloque individual, sigue estos pasos:
          projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
          
    • Para crear instancias de A4X en un bloque específico, sigue estos pasos:
          projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
          
    • Para crear instancias A4X en un subbloque específico, sigue estos pasos:
          projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME/reservationSubBlocks/RESERVATION_SUBBLOCK_NAME
          
  • TERMINATION_ACTION: Indica si Compute Engine detiene (STOP) o borra (DELETE) la instancia de A4X al final del período de reserva.

  • PROJECT_ID: Es el ID del proyecto de la política de posición compacta.
  • REGION: Es la región de la política de posición compacta.
  • POLICY_NAME: Es el nombre de la política de posición compacta.

Para obtener más información sobre las opciones de configuración cuando creas VMs de forma masiva, consulta Crea VMs de forma masiva en la documentación de Compute Engine.

Instalar los controladores de GPU.

Después de crear una instancia, esta no puede usar sus GPU, a menos que ya estén instalados los controladores de GPU correctos. Si no especificaste una imagen de SO que incluya controladores de GPU, consulta Instala controladores de GPU en la documentación de Compute Engine.

Opcional: Habilita el modo de GPU de instancias múltiples de NVIDIA

El modo de GPU de instancias múltiples (MIG) es una función que puedes habilitar para una GPU de NVIDIA compatible. Después de crear una instancia, puedes habilitar el modo MIG en una sola GPU que esté conectada a tu máquina. Con el modo MIG habilitado, la GPU única se particiona en hasta siete instancias de GPU independientes. Cada instancia se ejecuta de manera simultánea, cada una con su propio procesador de memoria, caché y transmisión. Luego, puedes ejecutar diferentes cargas de trabajo en estas instancias de GPU en paralelo. Para obtener más información sobre el uso del modo MIG, consulta la Guía del usuario de GPU de instancias múltiples (MIG) en la documentación de NVIDIA.

¿Qué sigue?