OGoogle Cloud fornece imagens que contêm sistemas operacionais, frameworks, bibliotecas e drivers comuns. O Google Cloud otimiza essas imagens pré-configuradas para oferecer suporte às suas cargas de trabalho de inteligência artificial (IA) e machine learning (ML).
Neste documento, apresentamos uma visão geral das imagens usadas para implantar, gerenciar e executar cargas de trabalho no ambiente do Hipercomputador de IA.
Entender as categorias de imagem
As imagens são agrupadas nas seguintes categorias:
- Frameworks e bibliotecas de IA e ML: imagens Docker pré-configuradas com binários para frameworks e bibliotecas de ML para simplificar a criação, o treinamento e o uso de modelos de ML. No Hipercomputador de IA, é possível usar imagens Docker da camada de software de aprendizado profundo (DLSL) para executar modelos de ML, como NeMO e MaxText, em um cluster do Google Kubernetes Engine (GKE).
- Implantação e orquestração de clusters: imagens do sistema operacional (SO) que
você usa para implantar e gerenciar a infraestrutura
otimizada para desempenho em que suas cargas de trabalho de IA
são executadas. A imagem que você deve usar depende da infraestrutura de GPU que você está
usando (GPUs em cluster ou
GPUs gerais) e de como você planeja implantar
seus clusters:
- Imagens de nó do GKE: use essas imagens para implantar clusters do GKE.
- Imagens do SO do Slurm: o Cluster Toolkit cria e implanta essas imagens, que instalam o software de sistema necessário para os nós do Slurm.
- Imagens do SO do acelerador: use essas imagens para criar instâncias individuais ou grupos de instâncias do Compute Engine.
Frameworks e bibliotecas de IA e ML
OGoogle Cloud fornece imagens Docker que empacotam frameworks e bibliotecas de IA e ML conhecidos. Essas imagens fornecem o software necessário para simplificar o desenvolvimento, o treinamento e a implantação de modelos nos clusters otimizados para IA em execução no Hipercomputador de IA.
Imagens de IA do JAX
As imagens de IA do JAX (JAII, anteriormente conhecidas como imagens de pilha estável do JAX) para TPUs e GPUs doGoogle Cloud oferecem imagens Docker prontas para uso que contêm o framework do JAX, uma coleção selecionada de bibliotecas compatíveis e configurações para a infraestrutura do Google Cloud . As imagens de TPU de IA do JAX vêm pré-configuradas com bibliotecas do JAX e bibliotecas de TPU. As imagens de GPU de IA do JAX vêm pré-configuradas com bibliotecas JAX e bibliotecas CUDA/NVIDIA relevantes.
A camada de hardware
As imagens de IA do JAX ficam sobre a camada de hardware, que consiste nos aceleradores (TPU ou GPU) e nas VMs associadas. Para usar uma imagem de IA do JAX, é necessário provisionar VMs de TPU ou GPU. É possível fazer isso usando a API TPU, a API Compute Engine ou a API GKE.
A camada do framework
A camada de framework oferece ferramentas e bibliotecas para criar cargas de trabalho de ML. As imagens de IA do JAX fornecem uma base pré-configurada para cargas de trabalho de ML baseadas em JAX, incluindo a biblioteca principal do JAX e outras dependências essenciais, para garantir uma experiência de desenvolvimento consistente e de alto desempenho.
A camada LibTPU na imagem de IA do JAX é criada e agrupada especificamente com a respectiva versão do JAX. O uso de uma versão diferente do JAX pode causar comportamentos ou erros inesperados.
A camada CUDA na imagem de IA do JAX inclui componentes gerenciados pela NVIDIA, como a imagem de aprendizado profundo do NGC CUDA, usada como imagem de base da imagem de treinamento da GPU. A imagem de GPU também contém o Transformer Engine, uma biblioteca personalizada da NVIDIA para acelerar modelos de transformador em GPUs NVIDIA.
Outros pacotes específicos do aplicativo, além dos fornecidos na imagem de IA do JAX, podem ser necessários para sua carga de trabalho de machine learning específica.
Bibliotecas nas imagens de IA do JAX:
Imagens de TPU
| Funcionalidade | Nome do pacote |
|---|---|
| Bibliotecas ou componentes principais | |
| Framework de ML | JAX e JAX lib |
| LibTPU | Versão estável da Cloud LibTPU |
| Biblioteca de camadas/modelos | Flax |
| Como estabelecer pontos de verificação | Orbax |
| Quantização | Qwix |
| Otimizadores | Optax |
| Kernels personalizados | Tokamax |
| Configuração | Fiddle |
| Canal de entrada | tf.data |
| Criação de perfil, depuração | Tensorboard |
| Utils | Utilitários de loop comuns |
| Ferramentas específicas da nuvem | |
| Google Cloud | |
| Diagnóstico | |
Imagens de GPU
| Funcionalidade | Nome do pacote |
|---|---|
| Bibliotecas ou componentes principais | |
| Framework de ML | JAX e JAX lib |
| Bibliotecas CUDA da NVIDIA | Imagem de DL do CUDA |
| Biblioteca de camadas/modelos | Flax |
| Como estabelecer pontos de verificação | Orbax |
| Otimizadores | |
| Configuração | Fiddle |
| Canal de entrada | |
| Criação de perfil, depuração | Tensorboard |
| Utils |
Utilitários de loop comuns Medição de goodput de ML Coleções de ML |
| Ferramentas específicas da nuvem | |
| Google Cloud | |
| Diagnóstico | Cloud Accelerator Diagnostics |
Imagens atuais de IA do JAX
Imagens de TPU
| Imagem de IA do JAX | Data de lançamento |
|---|---|
| JAX 0.9.0 Revisão 1 | 2026-02-03 |
| JAX 0.8.2 Revisão 1 | 2026-01-14 |
| JAX 0.8.1 Revisão 1 | 2025-11-21 |
| JAX 0.8.0 Revisão 1 | 2025-10-28 |
| JAX 0.7.2 Revisão 1 | 2025-09-30 |
| JAX 0.7.0 Revisão 1 | 2025-07-29 |
| JAX 0.6.1 Revisão 1 | 2025-06-05 |
| JAX 0.5.2 Revisão 2 | 2025-04-25 |
| JAX 0.5.2 Revisão 1 | 2025-03-17 |
| JAX 0.4.37 Revisão 1 | 2024-12-12 |
| JAX 0.4.35 Revisão 1 | 2024-10-30 |
Imagens de GPU
| Imagem de IA do JAX | Data de lançamento |
|---|---|
| JAX 0.7.2 com CUDA DL 25.06 Revisão 1 | 2025-09-30 |
| JAX 0.6.1 com CUDA DL 25.03 Revisão 1 | 2025-06-05 |
| JAX 0.5.1 com CUDA DL 25.02 Revisão 1 | 2025-03-17 |
A camada do aplicativo
Você implementa suas cargas de trabalho de ML específicas na camada do aplicativo, que fica sobre a camada do framework. A camada do aplicativo contém o código, os modelos e a lógica específicos do aplicativo, todos criados usando as ferramentas e bibliotecas fornecidas pela camada do framework.
Embora essa imagem forneça uma base robusta e bem testada para cargas de trabalho de IA baseadas em JAX, talvez seja necessário adicionar dependências específicas do aplicativo. Ao fazer isso, recomendamos que você minimize a interferência na camada de base pré-configurada, que inclui o JAX e as dependências principais dele. A introdução de dependências no nível do aplicativo que substituem ou entram em conflito com as dependências atuais pode causar efeitos colaterais, como:
- Comportamentos inesperados: suas cargas de trabalho de ML podem apresentar um comportamento diferente do anterior à introdução de outras dependências na imagem de IA do JAX.
- Regressões de desempenho: substituir bibliotecas otimizadas relacionadas ao JAX pode afetar negativamente os benefícios de desempenho fornecidos pela imagem de IA do JAX.
- Problemas de estabilidade: conflitos entre as dependências adicionadas e as dependências principais do JAX podem introduzir instabilidade e erros de tempo de execução no aplicativo.
Cadência de lançamento
Inicialmente, as imagens de IA do JAX são fornecidas trimestralmente, com uma meta de curto prazo de um cronograma de lançamento sincronizado com cada lançamento do JAX. Isso garante que você possa aproveitar os recursos e as melhorias mais recentes assim que estiverem disponíveis.
Suporte
Cada versão de imagem de IA do JAX segue um ciclo de vida de suporte por tempo limitado. Nesse período, abordamos categorias específicas de solicitações de modificações em imagens de IA do JAX:
- Vulnerabilidades de segurança: priorizamos a resolução de vulnerabilidades de segurança descobertas nas imagens de base ou dependências das imagens Docker da JAX Stable Stack. Imagens atualizadas serão lançadas para reduzir possíveis riscos.
- Alterações interruptivas: no caso de alterações interruptivas significativas nas bibliotecas ou frameworks usados pela imagem de IA do JAX, o Google Cloud avalia e implementa as atualizações necessárias para manter a compatibilidade. Isso pode envolver a recriação de imagens Docker com dependências atualizadas.
Quando uma vulnerabilidade de segurança ou um bug é descoberto em uma biblioteca dentro de uma JAII, incorporamos a biblioteca atualizada à JAII, fixando todas as outras versões de biblioteca para manter a estabilidade geral. Isso resulta em uma nova revisão do JAII.
Mudança mínima para revisões:
Se um bug for encontrado no pacote "X" em JAX-0.4.30-rev1, vamos atualizar "X" para a próxima versão (por exemplo, v2.0) e tentar manter todos os outros pacotes inalterados. Isso resulta em uma nova revisão: JAX-0.4.30-rev2, que será lançada o mais rápido possível.
Imagens Docker da camada de software de aprendizado profundo (DLSL, na sigla em inglês)
Essas imagens empacotam NVIDIA CUDA, NCCL, um framework de ML e um modelo. Elas fornecem um ambiente pronto para uso para cargas de trabalho de aprendizado profundo. Essas imagens Docker pré-criadas do DLSL funcionam perfeitamente com os clusters do GKE porque as testamos e verificamos durante os testes internos de reprodutibilidade e regressão.
As imagens Docker do DLSL oferecem os seguintes benefícios:
- Software pré-configurado: as imagens Docker do DLSL replicam a configuração usada pela reprodutibilidade interna e pelos testes de regressão. Essas imagens fornecem um ambiente pré-configurado, testado e otimizado, o que economiza muito tempo e esforço na instalação e configuração.
- Gerenciamento de versões: as imagens Docker do DLSL são atualizadas com frequência. Essas atualizações fornecem a versão estável mais recente de frameworks e drivers, além de patches de segurança.
- Compatibilidade com infraestrutura: as imagens Docker do DLSL são criadas e testadas para funcionar perfeitamente com os tipos de máquina de GPU disponíveis no Hipercomputador de IA.
- Instruções de início rápido: algumas imagens Docker da DLSL têm receitas de amostra que mostram como iniciar as cargas de trabalho que usam as imagens pré-configuradas.
Plug-in NeMo + PyTorch + NCCL gIB
Essas imagens Docker são baseadas na imagem NVIDIA NeMo NGC. Eles
contêm o plug-in gIB do NCCL do Google e agrupam todos os binários do NCCL necessários para executar
cargas de trabalho em cada máquina aceleradora compatível. Essas imagens também incluem ferramentas do Google Cloud, como gcsfuse e a CLI gcloud para implantar cargas de trabalho no Google Kubernetes Engine.
| Versão de imagem DLSL | Versão das dependências | Série de máquina | Data de lançamento | Data de término do suporte | Nome da imagem DLSL |
|---|---|---|---|---|---|
nemo25.04-gib1.0.6-A4 |
|
A4 | 3 de julho de 2025 | 3 de julho de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo25.04-gib1.0.6-A4
|
nemo25.04-gib1.0.6-A3U |
|
A3 Ultra | 3 de julho de 2025 | 3 de julho de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo25.04-gib1.0.6-A3U
|
nemo25.02-gib1.0.5-A4 |
|
A4 | 14 de março de 2025 | 14 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo25.02-gib1.0.5-A4 |
nemo24.07-gib1.0.2-A3U |
|
A3 Ultra | 2 de fevereiro de 2025 | 2 de fevereiro de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-gib1.0.2-A3U |
nemo24.07-gib1.0.3-A3U |
|
A3 Ultra | 2 de fevereiro de 2025 | 2 de fevereiro de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-gib1.0.3-A3U |
nemo24.12-gib1.0.3-A3U |
|
A3 Ultra | 7 de fevereiro de 2025 | 7 de fevereiro de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.12-gib1.0.3-A3U |
nemo24.07-tcpx1.0.5-A3Mega |
|
A3 Mega | 12 de março de 2025 | 12 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-tcpx1.0.5-A3Mega |
nemo24.07-tcpx1.0.5-A3High |
|
A3 High (8 GPUs) | 12 de março de 2025 | 12 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-tcpx1.0.5-A3High |
NeMo + PyTorch
Essa imagem Docker é baseada na imagem do NVIDIA NeMo NGC e inclui Google Cloud ferramentas como gcsfuse e a CLI gcloud para implantar cargas de trabalho no Google Kubernetes Engine.
| Versão de imagem DLSL | Versão das dependências | Série de máquina | Data de lançamento | Data de término do suporte | Nome da imagem DLSL |
|---|---|---|---|---|---|
nemo24.07--A3U |
NeMo NGC:24.07 |
A3 Ultra | December 19, 2024 | 19 de dezembro de 2025 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo:nemo24.07-A3U |
nemo24.07-tcpx1.0.5-A3Mega |
|
A3 Mega | 12 de março de 2025 | 12 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo:nemo24.07-tcpx1.0.5-A3Mega |
nemo24.07-tcpx1.0.5-A3High |
|
A3 High (8 GPUs) | 12 de março de 2025 | 12 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo:nemo24.07-tcpx1.0.5-A3High |
Caixa de ferramentas MaxText + JAX
Essa imagem do Docker é baseada na imagem da caixa de ferramentas JAX da NVIDIA e inclui ferramentas doGoogle Cloud , como gcsfuse e a CLI gcloud para implantar cargas de trabalho no Google Kubernetes Engine.
| Versão de imagem DLSL | Versão das dependências | Série de máquina | Data de lançamento | Data de término do suporte | Nome da imagem DLSL |
|---|---|---|---|---|---|
toolbox-maxtext-2025-01-10-A3U |
JAX toolbox: maxtext-2025-01-10 |
A3 Ultra | 11 de março de 2025 | 11 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-maxtext-gpu:toolbox-maxtext-2025-01-10-A3U |
jax0.5.1-cu12-A3Mega |
|
A3 Mega | 17 de março de 2025 | 17 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-gpu-maxtext:jax0.5.1-cu12-A3Mega |
jax0.5.1-cu12-A3High |
|
A3 High (8 GPUs) | 17 de março de 2025 | 17 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-gpu-maxtext:jax0.5.1-cu12-A3High |
Pilha estável do MaxText + JAX
Essa imagem Docker é baseada na
pilha estável do JAX
e no MaxText. Essa imagem também
inclui dependências como dnsutils para executar cargas de trabalho no
Google Kubernetes Engine.
| Versão de imagem DLSL | Versão das dependências | Série de máquina | Data de lançamento | Data de término do suporte | Nome da imagem DLSL |
|---|---|---|---|---|---|
jax-maxtext-gpu:jax0.5.1-cuda_dl25.02-rev1-maxtext-20150317 |
|
A4 | 17 de março de 2025 | 17 de março de 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-maxtext-gpu:jax0.5.1-cuda_dl25.02-rev1-maxtext-20150317 |
Implantação e orquestração de clusters
As imagens do SO incluem todos os componentes de software necessários para implantar um sistema operacional em uma instância de computação ou em um nó do GKE. O sistema operacional gerencia os recursos de hardware, como aceleradores e rede. Isso fornece os recursos de computação para sua carga de trabalho de IA.
Imagens de nó do GKE
O GKE implanta clusters usando imagens de nó. Essas imagens de nó estão disponíveis para vários sistemas operacionais, como Container-Optimized OS, Ubuntu e Windows Server. As imagens de nó do Container-Optimized OS com containerd (cos_containerd) necessárias para implantar clusters do GKE Autopilot incluem otimizações para dar suporte às suas cargas de trabalho de IA e ML.
Para mais informações sobre essas imagens de nó, consulte Imagens de nó.
Imagens do SO do Slurm
Os clusters do Slurm implantam nós de computação e de controlador como instâncias de computação no Compute Engine.
Para provisionar clusters do Slurm otimizados para IA, use o Cluster Toolkit. Por padrão, os blueprints de cluster para clusters A4X, A4 e A3 Ultra implantam instâncias de computação que usam Advanced Compute Images pré-criadas. Para outras séries de máquinas ou ao criar imagens personalizadas do Slurm, o blueprint do cluster cria automaticamente uma imagem do SO personalizada durante a implantação que instala o software de sistema necessário para o gerenciamento de clusters e Workload Manager nos nós do Slurm. É possível modificar os blueprints padrão antes de implantá-los para personalizar o software incluído nas imagens.
A seção a seguir resume o software que o blueprint de cluster instala nos nós do Slurm A4, A3 Ultra, A3 Mega e A3 High (8 GPUs). Os blueprints de cluster estendem as imagens do SO do acelerador do Ubuntu LTS.
A4X Max
O blueprint do A4X Max disponível no GitHub inclui o seguinte software por padrão:
- Ubuntu 24.04 LTS
- Slurm: versão 25.05.2
- As seguintes dependências do Slurm:
mungemariadblibjwtlmod
- Open MPI: versão 5.0.x
- Cliente e servidor NFS
- Drivers da série NVIDIA 580
- NVIDIA Enroot
- NVIDIA Pyxis
- As seguintes ferramentas da NVIDIA:
- Data Center GPU Manager (
dcgmi) nvidia-container-toolkit: versão 1.17.7nvidia-imexnvidia-fabricmanager
- Data Center GPU Manager (
- Kit de ferramentas CUDA: versão 13.0
- Plug-in NCCL para A4X Max (
nccl-gib-a4x-max-arm64) - Driver DOCA-OFED
- Agente de operações
- Cloud Storage FUSE.
A4X
O blueprint
A4X
disponível no GitHub usa imagens de computação avançada pré-criadas por padrão. A família de imagens aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-arm64 inclui o seguinte software e configuração por padrão:
- Ubuntu 24.04 LTS (Arm64)
- Slurm: versão 25.11 e todos os pacotes dependentes
- Drivers da série NVIDIA 580
- Kit de ferramentas CUDA: versão 13.0
- NVIDIA Container Toolkit, Enroot e Pyxis
- Data Center GPU Manager (
dcgmi) e Fabric Manager - Plug-in NCCL/gIB
- Agente de operações
- Cloud Storage FUSE.
Para conferir a lista completa de ferramentas pré-instaladas e detalhes do manifesto, consulte Visão geral das Advanced Compute Images.
A4
O blueprint
A4
disponível no GitHub usa
Advanced Compute Images
pré-criadas por padrão. A família de imagens aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-amd64 inclui o seguinte software e configuração por padrão:
- Ubuntu 24.04 LTS (x86_64)
- Slurm: versão 25.11 e todos os pacotes dependentes
- Drivers da série NVIDIA 580
- Kit de ferramentas CUDA: versão 13.0
- NVIDIA Container Toolkit, Enroot e Pyxis
- Data Center GPU Manager (
dcgmi) e Fabric Manager - Plug-in NCCL/gIB
- Suporte a redes Infiniband e de várias filas
- Agente de operações
- Cloud Storage FUSE.
Para conferir a lista completa de ferramentas pré-instaladas e detalhes do manifesto, consulte Visão geral das Advanced Compute Images.
A3 Ultra
O blueprint do A3 Ultra
disponível no GitHub usa Imagens de Computação Avançada
pré-criadas
por padrão. A família de imagens aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-amd64 inclui o seguinte software e configuração por padrão:
- Ubuntu 24.04 LTS (x86_64)
- Slurm: versão 25.11 e todos os pacotes dependentes
- Drivers da série NVIDIA 580
- Kit de ferramentas CUDA: versão 13.0
- NVIDIA Container Toolkit, Enroot e Pyxis
- Data Center GPU Manager (
dcgmi) e Fabric Manager - Plug-in NCCL/gIB
- Suporte a redes Infiniband e de várias filas
- Agente de operações
- Cloud Storage FUSE.
Para conferir a lista completa de ferramentas pré-instaladas e detalhes do manifesto, consulte Visão geral das Advanced Compute Images.
A3 Mega
O blueprint do A3 Mega disponível no GitHub inclui o seguinte software por padrão:
- Ubuntu 22.04 LTS
- Slurm: versão 24.11.2
- As seguintes dependências do Slurm:
mungemariadblibjwtlmod
- Open MPI: a versão mais recente do 4.1.x
- PMIx: versão 4.2.9
- Cliente e servidor NFS
- Drivers da série NVIDIA 550
- Ambiente de execução de contêiner enroot da NVIDIA: versão 3.4.1
- NVIDIA pyxis
- As seguintes ferramentas da NVIDIA:
- Data Center GPU Manager (
dcgmi) libnvidia-cfg1-550-serverlibnvidia-nscq-550nvidia-compute-utils-550-servernsight-computensight-systems
- Data Center GPU Manager (
- Kit de ferramentas CUDA: versão 12.4
- Suporte ao Infiniband, incluindo
ibverbs-utils - TCPXO para A3 Mega: instalador específico para NCCL TCPXO e a pilha de rede de 1,6 Tbps
- Agente de operações
- Cloud Storage FUSE.
A3 High (8 GPUs)
O blueprint do A3 High (8 GPUs) disponível no GitHub inclui o seguinte software por padrão:
- Ubuntu 22.04 LTS
- Slurm: versão 24.11.2
- As seguintes dependências do Slurm:
mungemariadblibjwtlmod
- Open MPI: a versão mais recente do 4.1.x
- PMIx: versão 4.2.9
- Cliente e servidor NFS
- Drivers NVIDIA série 535 ou 550
- Ambiente de execução de contêiner enroot da NVIDIA: versão 3.4.1
- NVIDIA pyxis
- As seguintes ferramentas da NVIDIA:
- Data Center GPU Manager (
dcgmi) libnvidia-cfg1-535/550-serverlibnvidia-nscq-535/550nvidia-compute-utils-535/550-servernsight-computensight-systems
- Data Center GPU Manager (
- Kit de ferramentas CUDA: versão 12.2 ou 12.4
- Suporte ao Infiniband, incluindo
ibverbs-utils - TCPX para A3 High (8 GPUs): instalador específico para NCCL TCPX (GPUDirect-TCPX) e a pilha de rede de 800 Gbps (4 NICs)
- Agente de operações
- Cloud Storage FUSE.
Imagens do SO do acelerador
O Hipercomputador de IA permite provisionar instâncias de computação individuais ou grupos de instâncias de computação. Se você quiser criar essas instâncias, especifique uma imagem do SO durante a criação da instância.
OGoogle Cloud oferece um pacote de imagens do SO para criar instâncias. O Google Cloud também oferece um conjunto especializado de imagens do SO de acelerador para instâncias otimizadas para IA. Essas imagens do SO do acelerador incluem drivers principais para funcionalidades de GPU e rede, como drivers NVIDIA, drivers Mellanox e as dependências deles.
Para mais informações sobre cada SO, consulte a página Detalhes do sistema operacional na documentação do Compute Engine.
As imagens do SO de acelerador estão disponíveis para os sistemas operacionais Rocky Linux e Ubuntu LTS.
Acelerador do Rocky Linux
As seguintes imagens do SO do acelerador do Rocky Linux estão disponíveis para cada série de máquinas:
| Infraestrutura | Família de imagens | Arquitetura | Série de máquina | Projeto de imagem |
|---|---|---|---|---|
| GPU em cluster | rocky-linux-10-optimized-gcp-nvidia-580 |
x86 | A4, A3 Ultra | rocky-linux-accelerator-cloud |
rocky-linux-10-optimized-gcp-nvidia-580-arm64 |
Arm | A4X | rocky-linux-accelerator-cloud |
|
rocky-linux-9-optimized-gcp-nvidia-580 |
x86 | A4, A3 Ultra | rocky-linux-accelerator-cloud |
|
rocky-linux-9-optimized-gcp-nvidia-580-arm64 |
Arm | A4X | rocky-linux-accelerator-cloud |
|
rocky-linux-8-optimized-gcp-nvidia-580 |
x86 | A4, A3 Ultra | rocky-linux-accelerator-cloud |
|
rocky-linux-8-optimized-gcp-nvidia-580-arm64 |
Arm | A4X | rocky-linux-accelerator-cloud |
Acelerador do Ubuntu LTS
As seguintes imagens do SO do acelerador Ubuntu LTS estão disponíveis para cada série de máquinas:
| Infraestrutura | Família de imagens | Arquitetura | Série de máquina | Projeto de imagem |
|---|---|---|---|---|
| GPU em cluster | ubuntu-accelerator-2404-arm64-with-nvidia-580 |
Arm | A4X | ubuntu-os-accelerator-images |
ubuntu-accelerator-2404-amd64-with-nvidia-580 |
x86 | A4, A3 Ultra | ubuntu-os-accelerator-images |
|
ubuntu-accelerator-2204-arm64-with-nvidia-580 |
Arm | A4X | ubuntu-os-accelerator-images |
|
ubuntu-accelerator-2204-amd64-with-nvidia-580 |
x86 | A4, A3 Ultra | ubuntu-os-accelerator-images |
A seguir
- Para saber como adquirir capacidade para a imagem escolhida, consulte Opções de consumo.
- Para analisar o processo e as escolhas que você precisa fazer ao iniciar um cluster, consulte Planejar e criar sua infraestrutura de IA.