Adicionar ou remover GPUs

O Compute Engine fornece unidades de processamento gráfico (GPUs, na sigla em inglês) que podem ser adicionadas às instâncias do Compute Engine. É possível usar essas GPUs para acelerar cargas de trabalho específicas nas instâncias de computação, como inteligência artificial (IA), machine learning (ML) e cargas de trabalho com uso intenso de gráficos.

Só é possível usar duas famílias de máquinas ao executar GPUs no Compute Engine:

Antes de começar

  • Para analisar outras etapas de pré-requisito, como selecionar uma imagem do SO e verificar a cota da GPU, consulte o documento de visão geral.
  • Configure a autenticação, caso ainda não tenha feito isso. Com isso, você confirma sua identidade para acesso a serviços e APIs do Google Cloud . Para executar códigos ou amostras de um ambiente de desenvolvimento local, autentique-se no Compute Engine selecionando uma das seguintes opções:

    Selecione a guia para como planeja usar as amostras nesta página:

    Console

    Quando você usa o console do Google Cloud para acessar os serviços e as APIs do Google Cloud , não é necessário configurar a autenticação.

    REST

    Para usar as amostras da API REST desta página em um ambiente de desenvolvimento local, use as credenciais fornecidas para a CLI gcloud.

      Instale a Google Cloud CLI e faça login na CLI gcloud com sua identidade federada.

    Saiba mais em Autenticar para usar REST na documentação de autenticação do Google Cloud .

Instâncias com otimização de acelerador

Confira as seguintes opções de modificação e limitações para tipos de máquina com otimização para aceleradores:

  • Não é possível remover GPUs de tipos de máquina otimizados para aceleradores.

  • Para instâncias A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge e A2 Ultra, não é possível mudar o tipo de máquina. Se você precisar mudar para um tipo de máquina de outra família de máquinas ou série, crie uma nova instância com o tipo de máquina escolhido. Em seguida, migre a carga de trabalho para a nova instância.

  • Para instâncias G4, G2 e A2 Standard, é possível ajustar a contagem de GPUs mudando para um tipo de máquina diferente na mesma série de máquinas. Por exemplo, para adicionar GPUs a uma instância G2, mude o tipo de máquina de g2-standard-16 para g2-standard-48.

    Não é possível alternar instâncias G4, G2 ou A2 Standard para um tipo de máquina de uma série ou família de máquinas diferente. Por exemplo, não é possível alterar o tipo de máquina de uma instância de g2-standard-16 para g4-standard-48, porque G2 e G4 são séries de máquinas diferentes. Se você precisar mudar para um tipo de máquina de outra série de máquinas ou família, crie uma nova instância com o tipo de máquina escolhido. Em seguida, migre a carga de trabalho para a nova instância.

Modificar a contagem de GPUs

É possível modificar a contagem de GPUs de uma instância padrão G4, G2 ou A2 otimizada para aceleradores usando o console do Google Cloud ou a REST.

Console

Para modificar o número de GPUs da sua instância, interrompa a instância e edite a configuração dela.

  1. Verifique se todos os aplicativos críticos estão parados na instância.

  2. No console do Google Cloud , acesse a página Instâncias de VM para ver sua lista de instâncias.

    Acessar instâncias de VM

  3. Clique no nome da instância com o número de GPUs que você quer modificar. A página Detalhes é aberta.

  4. Conclua as etapas a seguir na página Detalhes.

    1. Se a instância estiver em execução, clique em Parar para interrompê-la. Se não houver a opção Parar, clique em Mais ações > Parar.

    2. Clique em Editar.

    3. Na seção Configuração da máquina, selecione a família de máquinas GPU e faça o seguinte:

      1. Na lista Número de GPUs, aumente ou diminua a contagem de GPUs.

    4. Para aplicar as alterações, clique em Salvar.

    5. Para reiniciar a instância, clique em Iniciar/Retomar.

REST

Para modificar o número de GPUs na instância, interrompa a instância e altere o tipo de máquina. Cada tipo de máquina com otimização para aceleradores tem um número específico de GPUs anexadas. Se você alterar o tipo de máquina, isso ajustará o número de GPUs conectadas à instância.

  1. Verifique se todos os aplicativos importantes estão parados na instância. Depois, crie uma solicitação POST para pará-la. Assim, ela pode ser movida para um sistema host em que as GPUs estão disponíveis.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/stop
    
  2. Depois que a instância parar, crie uma solicitação POST para modificar o tipo de máquina.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setMachineType
    
    {
       machineType: "zones/ZONE/machineTypes/MACHINE_TYPE"
    }
    
  3. Crie uma solicitação POST para iniciar a instância.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/start
    

Substitua:

  • PROJECT_ID: o ID do projeto.
  • VM_NAME: o nome da instância a que você quer adicionar GPUs.
  • ZONE: a zona em que a instância está. Essa zona precisa ser compatível com GPUs.
  • MACHINE_TYPE: o tipo de máquina que você quer usar. Ele precisa ser um dos seguintes:

    • Se a instância usa uma máquina G4, selecione outro tipo de máquina G4.
    • Se a instância estiver usando um tipo de máquina G2, selecione outro tipo de máquina G2. Os tipos de máquina G2 também oferecem suporte a memória personalizada. A memória precisa ser um múltiplo de 1.024 MB e estar dentro do intervalo de memória compatível. Por exemplo, o nome do tipo de máquina para uma instância com 4 vCPUs e 19 GB de memória seria g2-custom-4-19456.
    • Se a instância estiver usando uma máquina padrão A2, selecione outro tipo de máquina padrão A2.

Limitações

Instâncias G4

Instâncias G2

Instâncias A2

  • Só é possível solicitar capacidade usando as opções de consumo compatíveis para um tipo de máquina padrão A2.
  • Você não recebe descontos por uso prolongado e descontos por compromisso de uso flexível no caso de instâncias que usam um tipo de máquina A2 padrão.
  • Só é possível usar um tipo de máquina padrão A2 em determinadas regiões e zonas.
  • Os tipo de máquina A2 padrão só estão disponíveis na plataforma Cascade Lake.
  • Se a instância usa um tipo de máquina padrão A2, só é possível trocar esse tipo A2 padrão por outro tipo A2 padrão. Não é possível mudar para outro tipo de máquina. Para mais informações, consulte Modificar instâncias otimizadas para aceleradores.
  • Não é possível usar o sistema operacional Windows com o tipo de máquina a2-megagpu-16g. Ao usar um sistema operacional Windows, escolha um tipo de máquina padrão A2 diferente.
  • Não é possível fazer um formato rápido dos SSDs locais anexados em instâncias do Windows que usam tipos de máquina padrão A2. Para formatar esses SSDs locais, é preciso usar o utilitário diskpart e especificar format fs=ntfs label=tmpfs.

Instâncias de uso geral N1

Nesta seção, mostramos como adicionar, modificar ou remover GPUs de uma instância de VM criada com um tipo de máquina de uso geral N1.

Em resumo, o processo para adicionar, modificar ou remover GPUs de uma instância atual é o seguinte:

  1. Verifique se a instância tem um tamanho de disco de inicialização de pelo menos 40 GiB.
  2. Interrompa a instância.
  3. Adicionar, modificar ou remover as GPUs;

    Se a instância N1 não tiver GPUs anexadas, siga estas etapas:

    1. Prepare sua instância para a modificação.
    2. Modifique a configuração de manutenção do host para a instância. Instâncias com GPUs não podem migrar em tempo real porque estão atribuídas a dispositivos de hardware específicos. Para mais informações, consulte Restrições da GPU.
    3. Mudar o tipo de máquina. As GPUs são compatíveis apenas com alguns tipos de máquina N1.
    4. Instale um driver de GPU na instância para que o sistema possa usar o dispositivo de GPU.

Preparar a instância

Quando uma GPU é adicionada a uma instância, a ordem da interface de rede pode mudar.

A maioria das imagens públicas no Compute Engine não tem nomes de interface de rede persistentes e se ajusta à nova ordem.

No entanto, se você estiver usando o SLES ou uma imagem personalizada, será necessário atualizar a configuração do sistema para evitar que a interface de rede persista. Para evitar que a interface de rede persista, execute o seguinte comando na instância:

 rm /etc/udev/rules.d/70-persistent-net.rules 

Adicionar GPUs ou modificar o tipo de GPU em instâncias atuais

Esta seção mostra como adicionar GPUs ou modificar o tipo de GPU em uma instância N1 de uso geral. Este procedimento é compatível com os seguintes tipos de GPU:

GPUs NVIDIA:

  • NVIDIA T4: nvidia-tesla-t4
  • NVIDIA P4: nvidia-tesla-p4
  • NVIDIA V100: nvidia-tesla-v100

NVIDIA RTX Virtual Workstation (vWS) (antiga NVIDIA GRID):

  • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
  • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

    Para essas estações de trabalho virtuais, uma licença da NVIDIA RTX Virtual Workstation (vWS) é adicionada automaticamente à sua instância.

Console

Para adicionar GPUs ou modificar o tipo de GPU, conclua as etapas a seguir.

  1. Verifique se todos os aplicativos críticos estão parados na instância.

  2. No console do Google Cloud , acesse a página Instâncias de VM para ver sua lista de instâncias.

    Acessar instâncias de VM

  3. Clique no nome da instância que você quer atualizar. A página Detalhes é aberta.

  4. Conclua as etapas a seguir na página Detalhes.

    1. Se a instância estiver em execução, clique em Parar. Se não houver a opção Parar, clique em Mais ações > Parar.

    2. Clique em Editar.

    3. Na seção Configuração da máquina, selecione a família de máquinas GPU e faça o seguinte:

      1. Na lista Tipo de GPU, selecione ou alterne para qualquer um dos tipos de GPU suportados nas VMs N1.

      2. Na lista Número de GPUs, selecione o número de GPUs.

      3. Se o modelo de GPU for compatível com estações de trabalho virtuais (vWS) NVIDIA RTX para cargas de trabalho de gráficos e você planeja executar cargas de trabalho com muitos gráficos nessa instância, selecione Ativar estação de trabalho virtual (NVIDIA GRID).

    4. Se a instância não tinha GPUs anexadas antes, faça o seguinte:

      1. Se a instância tiver um tipo de máquina com núcleo compartilhado, será necessário alterá-lo. Na lista Tipo de máquina, selecione um dos tipos de máquina N1 predefinidos. Outra opção é especificar as configurações de tipo de máquina personalizado.

      2. Na seção Gerenciamento, faça o seguinte:

        1. Na lista Na manutenção do host, selecione Encerrar instância da VM. As instâncias com GPUs anexadas não podem ser migradas em tempo real. Consulte Gerenciar eventos do host da GPU.

        2. Na lista Reinicialização automática, selecione Desativada.

    5. Para aplicar as alterações, clique em Salvar.

    6. Para reiniciar a VM, clique em Iniciar/Retomar.

REST

Para adicionar ou modificar GPUs na instância, interrompa a instância e altere a configuração dela por meio da API.

  1. Verifique se todos os aplicativos importantes estão parados na instância. Depois, crie uma solicitação POST para pará-la. Assim, ela pode ser movida para um sistema host em que as GPUs estão disponíveis.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/stop
    
  2. Se a instância não tiver GPUs anexadas, siga estas etapas:

    1. Identifique o tipo de GPU que você quer adicionar à instância. É possível enviar uma solicitação GET para listar os tipos de GPU disponíveis para o projeto em uma zona específica.

      GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes
      
    2. Se a instância tiver um tipo de máquina com núcleo compartilhado, altere o tipo de máquina para ter uma ou mais vCPUs. Não é possível adicionar aceleradores a instâncias com tipos de máquinas com núcleo compartilhado.

    3. Crie uma solicitação POST para definir as opções de programação da instância.

      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setScheduling
      
      {
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": true
      }
      
  3. Crie uma solicitação POST para adicionar ou modificar as GPUs anexadas à instância.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setMachineResources
    
        {
         "guestAccelerators": [
          {
            "acceleratorCount": ACCELERATOR_COUNT,
            "acceleratorType": "https://www.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
          }
         ]
        }
    
  4. Crie uma solicitação POST para iniciar a instância.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/start
    

Substitua:

  • PROJECT_ID: o ID do projeto.
  • VM_NAME: o nome da instância a que você quer adicionar GPUs.
  • ZONE: a zona em que a instância está.
  • ACCELERATOR_COUNT: o número de GPUs que você quer anexar à instância. Para ver uma lista de limites da GPU com base no tipo de máquina da instância, consulte GPUs no Compute Engine.
  • ACCELERATOR_TYPE: o modelo de GPU que você quer anexar ou alterar. Se você planeja executar cargas de trabalho com muitos gráficos nesta instância, use um dos modelos de estação de trabalho virtual.

    Escolha um dos seguintes valores:

    • GPUs NVIDIA:

      • NVIDIA T4: nvidia-tesla-t4
      • NVIDIA P4: nvidia-tesla-p4
      • NVIDIA V100: nvidia-tesla-v100
    • NVIDIA RTX Virtual Workstation (vWS) (antiga NVIDIA GRID):

      • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
      • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

        Para essas estações de trabalho virtuais, uma licença da NVIDIA RTX Virtual Workstation é adicionada automaticamente à instância.

Instalar drivers

Para instalar os drivers, escolha uma das seguintes opções:

Remover GPUs

Esta seção mostra como remover os seguintes tipos de GPU de uma instância de uso geral N1 atual.

GPUs NVIDIA:

  • NVIDIA T4: nvidia-tesla-t4
  • NVIDIA P4: nvidia-tesla-p4
  • NVIDIA V100: nvidia-tesla-v100

NVIDIA RTX Virtual Workstation (vWS) (antiga NVIDIA GRID):

  • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
  • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

    Para essas estações de trabalho virtuais, uma licença da NVIDIA RTX Virtual Workstation (vWS) é adicionada automaticamente à sua instância.

Use a Google Cloud console para remover GPUs de uma instância. Para remover as GPUs, siga as etapas a seguir:

  1. Verifique se todos os aplicativos críticos estão parados na instância.

  2. No console do Google Cloud , acesse a página Instâncias de VM para ver sua lista de instâncias.

    Acessar instâncias de VM

  3. Clique no nome da instância com as GPUs que você quer remover. A página Detalhes é aberta.

  4. Conclua as etapas a seguir na página Detalhes.

    1. Se a instância estiver em execução, clique em Parar para interrompê-la. Se não houver a opção Parar, clique em Mais ações > Parar.

    2. Na barra de ferramentas, clique em Editar.

    3. Na seção Configuração da máquina, selecione a família de máquinas Uso geral e faça o seguinte:

      1. Para ver as GPUs anexadas, abra Configurações avançadas.

      2. Na seção GPUs, remova GPUs usando uma das seguintes opções:

        • Para remover algumas GPUs, na lista Número de GPUs, selecione um número novo.

        • Para remover todas as GPUs, clique em Excluir GPU.

    4. Opcional: modifique a configuração da política de manutenção do host da instância. As instâncias com GPUs precisam ter a política de manutenção do host definida como Encerrar a instância da VM. No entanto, se você removeu todas as GPUs, terá a opção de migrar esta instância em tempo real durante a manutenção do host. Para mais informações, consulte Definir política de manutenção do host da VM.

    5. Para aplicar as alterações, clique em Salvar.

    6. Para reiniciar a instância, clique em Iniciar/Retomar.

A seguir