Google Cloud fornisce immagini che contengono sistemi operativi, framework, librerie e driver comuni. Google Cloud ottimizza queste immagini preconfigurate per supportare i workload di intelligenza artificiale (AI) e machine learning (ML).
Questo documento fornisce una panoramica delle immagini che utilizzi per eseguire il deployment, gestire ed eseguire i workload nel tuo ambiente AI Hypercomputer.
Informazioni sulle categorie di immagini
Le immagini sono raggruppate nelle seguenti categorie:
- Framework e librerie di AI e ML: immagini Docker preconfigurate con file binari per framework e librerie di ML per semplificare la creazione, l'addestramento e l'utilizzo dei modelli di ML. Su AI Hypercomputer, puoi utilizzare le immagini Docker di Deep Learning Software Layer (DLSL) per eseguire modelli di ML come NeMO e MaxText su un cluster Google Kubernetes Engine (GKE).
- Deployment e orchestrazione dei cluster: immagini sistema operativo (OS) che utilizzi per eseguire il deployment e gestire l'infrastruttura ottimizzata per le prestazioni su cui vengono eseguiti i workload AI. L'immagine da utilizzare dipende dall'infrastruttura GPU che utilizzi (GPU cluster o GPU generiche) e da come prevedi di eseguire il deployment dei cluster:
- Immagini dei nodi GKE: puoi utilizzare queste immagini per eseguire il deployment dei cluster GKE.
- Immagini sistema operativo Slurm: Cluster Toolkit crea ed esegue il deployment di queste immagini, che installano il software di sistema necessario per i nodi Slurm.
- Immagini sistema operativo acceleratore: puoi utilizzare queste immagini per creare istanze Compute Engine singole o in gruppi.
Framework e librerie di AI e ML
Google Cloud fornisce immagini Docker che pacchettizzano framework e librerie di AI e ML più diffusi. Queste immagini forniscono il software necessario per semplificare lo sviluppo, l'addestramento e il deployment dei modelli sui cluster ottimizzati per l'AI in esecuzione su AI Hypercomputer.
Immagini JAX AI
Le immagini JAX AI (JAII, precedentemente note come immagini JAX Stable Stack) per Google Cloud TPU e GPU offrono immagini Docker pronte all'uso che contengono il framework JAX, una raccolta selezionata di librerie compatibili e impostazioni per l'infrastruttura Google Cloud . Le immagini JAX AI TPU sono preconfigurate con le librerie JAX e le librerie TPU. Le immagini GPU JAX AI sono preconfigurate con le librerie JAX e le librerie CUDA/NVIDIA pertinenti.
Il livello hardware
Le immagini AI JAX si trovano sopra il livello hardware, che è costituito dagli acceleratori (TPU o GPU) e dalle VM associate. Per utilizzare un'immagine JAX AI, devi eseguire il provisioning di VM TPU o GPU. Puoi farlo utilizzando l'API TPU, l'API Compute Engine o l'API GKE.
Il livello del framework
Il livello del framework fornisce strumenti e librerie per la creazione di workload di ML. Le immagini AI JAX forniscono una base preconfigurata per i workload ML basati su JAX, tra cui la libreria JAX principale e altre dipendenze essenziali, per garantire un'esperienza di sviluppo coerente e ad alte prestazioni.
Il livello LibTPU nell'immagine JAX AI è creato e integrato specificamente con la rispettiva versione di JAX. L'utilizzo di una versione JAX diversa potrebbe causare comportamenti o errori imprevisti.
Il livello CUDA nell'immagine JAX AI include componenti gestiti da NVIDIA, come l'immagine NGC CUDA Deep Learning, utilizzata come immagine di base dell'immagine di addestramento della GPU. L'immagine GPU contiene anche Transformer Engine, una libreria NVIDIA personalizzata per accelerare i modelli di transformer sulle GPU NVIDIA.
Per il tuo workload di machine learning specifico, potrebbero essere necessari pacchetti aggiuntivi specifici per l'applicazione, oltre a quelli forniti nell'immagine JAX AI.
Librerie nelle immagini AI di JAX:
Immagini TPU
| Funzionalità | Nome del pacchetto |
|---|---|
| Librerie o componenti principali | |
| Framework ML | JAX e libreria JAX |
| LibTPU | Release stabile di Cloud LibTPU |
| Libreria di livelli/modelli | Flax |
| Checkpointing | Orbax |
| Quantizzazione | Qwix |
| Ottimizzatori | Optax |
| Kernel personalizzati | Tokamax |
| Configurazione | Fiddle |
| Pipeline di input | tf.data |
| Profilazione, debug | Tensorboard |
| Utils | Utilità di loop comuni |
| Strumenti specifici per il cloud | |
| Google Cloud | |
| Diagnostica | |
Immagini GPU
| Funzionalità | Nome del pacchetto |
|---|---|
| Librerie o componenti principali | |
| Framework ML | JAX e libreria JAX |
| Librerie NVIDIA CUDA | Immagine DL CUDA |
| Libreria di livelli/modelli | Flax |
| Checkpointing | Orbax |
| Ottimizzatori | |
| Configurazione | Fiddle |
| Pipeline di input | |
| Profilazione, debug | Tensorboard |
| Utils |
Utilità di loop comuni Misurazione del goodput ML Raccolte ML |
| Strumenti specifici per il cloud | |
| Google Cloud | |
| Diagnostica | Cloud Accelerator Diagnostics |
Immagini AI attuali
Immagini TPU
| Immagine JAX AI | Data di uscita |
|---|---|
| JAX 0.9.0 Revision 1 | 2026-02-03 |
| JAX 0.8.2 Revisione 1 | 2026-01-14 |
| JAX 0.8.1 Revisione 1 | 2025-11-21 |
| JAX 0.8.0 Revisione 1 | 2025-10-28 |
| JAX 0.7.2 Revisione 1 | 2025-09-30 |
| JAX 0.7.0 Revisione 1 | 2025-07-29 |
| JAX 0.6.1 Revisione 1 | 2025-06-05 |
| JAX 0.5.2 Revision 2 | 2025-04-25 |
| JAX 0.5.2 Revisione 1 | 2025-03-17 |
| JAX 0.4.37 Revisione 1 | 2024-12-12 |
| JAX 0.4.35 Revisione 1 | 2024-10-30 |
Immagini GPU
| Immagine JAX AI | Data di uscita |
|---|---|
| JAX 0.7.2 con CUDA DL 25.06 Revisione 1 | 2025-09-30 |
| JAX 0.6.1 con CUDA DL 25.03 Revision 1 | 2025-06-05 |
| JAX 0.5.1 con CUDA DL 25.02 Revisione 1 | 2025-03-17 |
Il livello di applicazione
Implementi i tuoi workload ML specifici nel livello di applicazione, che si trova sopra il livello del framework. Il livello di applicazione contiene il codice, i modelli e la logica specifici dell'applicazione, tutti creati utilizzando gli strumenti e le librerie forniti dal livello del framework.
Sebbene questa immagine fornisca una base solida e ben testata per i workload di AI basati su JAX, potrebbe essere necessario aggiungere dipendenze specifiche per l'applicazione. In questo caso, ti consigliamo di farlo in modo da ridurre al minimo l'interferenza con il livello di base preconfigurato, che include JAX e le sue dipendenze principali. L'introduzione di dipendenze a livello di applicazione che sostituiscono o entrano in conflitto con le dipendenze esistenti può causare effetti collaterali quali:
- Comportamenti imprevisti: i workload di ML potrebbero mostrare un comportamento diverso rispetto a prima dell'introduzione di dipendenze aggiuntive nell'immagine AI JAX.
- Regressioni delle prestazioni: l'override delle librerie ottimizzate relative a JAX può influire negativamente sui vantaggi in termini di prestazioni forniti dall'immagine AI JAX
- Problemi di stabilità: i conflitti tra le dipendenze aggiunte e le dipendenze JAX principali possono introdurre instabilità ed errori di runtime all'interno della tua applicazione.
Cadenza di rilascio
Inizialmente, le immagini AI di JAX vengono fornite ogni trimestre con l'obiettivo a breve termine di un programma delle pubblicazioni sincronizzato con ogni release di JAX. In questo modo, potrai usufruire delle funzionalità e dei miglioramenti più recenti non appena sono disponibili.
Assistenza
Ogni release di immagini AI JAX segue un ciclo di vita di assistenza a tempo limitato. In questo periodo di tempo, ci occupiamo di categorie specifiche di richieste di modifica alle immagini AI JAX esistenti:
- Vulnerabilità di sicurezza: diamo la priorità alla risoluzione delle vulnerabilità di sicurezza scoperte nelle immagini di base o nelle dipendenze delle immagini Docker di JAX Stable Stack. Verranno rilasciate immagini aggiornate per mitigare i potenziali rischi.
- Modifiche che provocano un errore: in caso di modifiche che provocano un errore significative nelle librerie o nei framework sottostanti utilizzati dall'immagine AI JAX, Google Cloudvaluta e implementa gli aggiornamenti necessari per mantenere la compatibilità. Ciò potrebbe comportare la ricostruzione delle immagini Docker con dipendenze aggiornate.
Quando viene rilevata una vulnerabilità della sicurezza o un bug in una libreria all'interno di un JAII, incorporiamo la libreria aggiornata nel JAII, bloccando tutte le altre versioni della libreria per mantenere la stabilità complessiva. In questo modo viene creata una nuova revisione JAII.
Modifica minima per le revisioni:
Se viene rilevato un bug nel pacchetto "X" all'interno di JAX-0.4.30-rev1, aggiorneremo "X" alla sua versione successiva (ad esempio, v2.0) cercando di mantenere invariati tutti gli altri pacchetti. In questo modo viene generata una nuova revisione, JAX-0.4.30-rev2, che verrà rilasciata il prima possibile.
Immagini Docker Deep Learning Software Layer (DLSL)
Queste immagini pacchettizzano NVIDIA CUDA, NCCL, un framework di ML e un modello. Forniscono un ambiente pronto all'uso per i workload di deep learning. Queste immagini Docker DLSL predefinite funzionano perfettamente con i tuoi cluster GKE perché le testiamo e le verifichiamo durante i test interni di riproducibilità e regressione.
Le immagini Docker DLSL offrono i seguenti vantaggi:
- Software preconfigurato: le immagini Docker DLSL replicano la configurazione utilizzata dai test interni di riproducibilità e regressione. Queste immagini forniscono un ambiente preconfigurato, testato e ottimizzato, che consente di risparmiare tempo e fatica durante l'installazione e la configurazione.
- Gestione delle versioni: le immagini Docker DLSL vengono aggiornate di frequente. Questi aggiornamenti della versione forniscono l'ultima versione stabile di framework e driver, oltre a risolvere le patch di sicurezza.
- Compatibilità dell'infrastruttura: le immagini Docker DLSL sono create e testate per funzionare perfettamente con i tipi di macchine GPU disponibili su AI Hypercomputer.
- Istruzioni per la guida rapida: alcune immagini Docker DLSL sono accompagnate da ricette di esempio che mostrano come avviare i workload che utilizzano le immagini preconfigurate.
Plug-in NeMo + PyTorch + NCCL gIB
Queste immagini Docker si basano sull'immagine NVIDIA NeMo NGC. Contengono il plug-in gIB NCCL di Google e raggruppano tutti i binari NCCL necessari per eseguire i workload su ogni macchina con acceleratore supportata. Queste immagini includono anche strumenti Google Cloud
come gcsfuse e
gcloud CLI per il deployment dei workload in
Google Kubernetes Engine.
| Versione immagine DLSL | Versione delle dipendenze | Serie di macchine | Data di uscita | Data di fine del supporto | Nome immagine DLSL |
|---|---|---|---|---|---|
nemo25.04-gib1.0.6-A4 |
|
A4 | 3 luglio 2025 | 3 luglio 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo25.04-gib1.0.6-A4
|
nemo25.04-gib1.0.6-A3U |
|
A3 Ultra | 3 luglio 2025 | 3 luglio 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo25.04-gib1.0.6-A3U
|
nemo25.02-gib1.0.5-A4 |
|
A4 | 14 marzo 2025 | 14 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo25.02-gib1.0.5-A4 |
nemo24.07-gib1.0.2-A3U |
|
A3 Ultra | 2 febbraio 2025 | 2 febbraio 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-gib1.0.2-A3U |
nemo24.07-gib1.0.3-A3U |
|
A3 Ultra | 2 febbraio 2025 | 2 febbraio 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-gib1.0.3-A3U |
nemo24.12-gib1.0.3-A3U |
|
A3 Ultra | 7 febbraio 2025 | 7 febbraio 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.12-gib1.0.3-A3U |
nemo24.07-tcpx1.0.5-A3Mega |
|
A3 Mega | 12 marzo 2025 | 12 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-tcpx1.0.5-A3Mega |
nemo24.07-tcpx1.0.5-A3High |
|
A3 High (8 GPU) | 12 marzo 2025 | 12 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo-nccl:nemo24.07-tcpx1.0.5-A3High |
NeMo + PyTorch
Questa immagine Docker si basa sull'immagine NVIDIA NeMo NGC e include strumenti Google Cloud come gcsfuse e gcloud CLI per il deployment dei workload su Google Kubernetes Engine.
| Versione immagine DLSL | Versione delle dipendenze | Serie di macchine | Data di uscita | Data di fine del supporto | Nome immagine DLSL |
|---|---|---|---|---|---|
nemo24.07--A3U |
NeMo NGC:24.07 |
A3 Ultra | 19 dicembre 2024 | 19 dicembre 2025 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo:nemo24.07-A3U |
nemo24.07-tcpx1.0.5-A3Mega |
|
A3 Mega | 12 marzo 2025 | 12 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo:nemo24.07-tcpx1.0.5-A3Mega |
nemo24.07-tcpx1.0.5-A3High |
|
A3 High (8 GPU) | 12 marzo 2025 | 12 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/pytorch-gpu-nemo:nemo24.07-tcpx1.0.5-A3High |
Toolbox MaxText + JAX
Questa immagine Docker si basa sull'immagine del toolbox NVIDIA JAX e include strumentiGoogle Cloud come gcsfuse e gcloud CLI per il deployment dei workload su Google Kubernetes Engine.
| Versione immagine DLSL | Versione delle dipendenze | Serie di macchine | Data di uscita | Data di fine del supporto | Nome immagine DLSL |
|---|---|---|---|---|---|
toolbox-maxtext-2025-01-10-A3U |
JAX toolbox: maxtext-2025-01-10 |
A3 Ultra | 11 marzo 2025 | 11 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-maxtext-gpu:toolbox-maxtext-2025-01-10-A3U |
jax0.5.1-cu12-A3Mega |
|
A3 Mega | 17 marzo 2025 | 17 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-gpu-maxtext:jax0.5.1-cu12-A3Mega |
jax0.5.1-cu12-A3High |
|
A3 High (8 GPU) | 17 marzo 2025 | 17 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-gpu-maxtext:jax0.5.1-cu12-A3High |
Stack stabile MaxText + JAX
Questa immagine Docker si basa sullo
stack stabile JAX
e su MaxText. Questa immagine include anche dipendenze come dnsutils per l'esecuzione di workload su Google Kubernetes Engine.
| Versione immagine DLSL | Versione delle dipendenze | Serie di macchine | Data di uscita | Data di fine del supporto | Nome immagine DLSL |
|---|---|---|---|---|---|
jax-maxtext-gpu:jax0.5.1-cuda_dl25.02-rev1-maxtext-20150317 |
|
A4 | 17 marzo 2025 | 17 marzo 2026 | us-central1-docker.pkg.dev/deeplearning-images/reproducibility/jax-maxtext-gpu:jax0.5.1-cuda_dl25.02-rev1-maxtext-20150317 |
Deployment e orchestrazione dei cluster
Le immagini sistema operativo includono tutti i componenti software necessari per eseguire il deployment di un sistema operativo su un'istanza di computing o un nodo GKE. Il sistema operativo gestisce le risorse hardware sottostanti, come gli acceleratori e il networking. In questo modo, vengono fornite le risorse di computing per il workload AI.
Immagini dei nodi GKE
GKE esegue il deployment dei cluster utilizzando le immagini dei nodi. Queste immagini dei nodi sono disponibili per vari sistemi operativi, come Container-Optimized OS, Ubuntu e Windows Server. Le immagini dei nodi Container-Optimized OS con containerd (cos_containerd) necessarie per eseguire il deployment dei cluster GKE Autopilot includono ottimizzazioni per supportare i workload AI e ML.
Per saperne di più su queste immagini dei nodi, consulta Immagini dei nodi.
Immagini sistema operativo Slurm
I cluster Slurm eseguono il deployment dei nodi di computing e dei controller come istanze di computing su Compute Engine.
Per eseguire il provisioning dei cluster Slurm ottimizzati per l'AI, devi utilizzare Cluster Toolkit. Per impostazione predefinita, i blueprint dei cluster per i cluster A4X, A4 e A3 Ultra eseguono il deployment di istanze di computing che utilizzano Advanced Compute Images predefinite. Per altre serie di macchine o quando crei immagini personalizzate di Slurm, il blueprint del cluster crea automaticamente un'immagine sistema operativo personalizzata durante il deployment che installa il software di sistema richiesto per la gestione del cluster e del Workload Manager sui nodi Slurm. Puoi modificare i progetti predefiniti prima di eseguirne il deployment per personalizzare il software incluso nelle immagini.
La sezione seguente riassume il software che il blueprint del cluster installa sui nodi Slurm A4, A3 Ultra, A3 Mega e A3 High (8 GPU). I blueprint dei cluster estendono le immagini sistema operativo Ubuntu LTS Accelerator.
A4X Max
Il progetto base A4X Max disponibile su GitHub include il seguente software per impostazione predefinita:
- Ubuntu 24.04 LTS
- Slurm: versione 25.05.2
- Le seguenti dipendenze Slurm:
mungemariadblibjwtlmod
- Open MPI: versione 5.0.x
- Client e server NFS
- Driver della serie NVIDIA 580
- NVIDIA Enroot
- NVIDIA Pyxis
- I seguenti strumenti NVIDIA:
- Data Center GPU Manager (
dcgmi) nvidia-container-toolkit: versione 1.17.7nvidia-imexnvidia-fabricmanager
- Data Center GPU Manager (
- Toolkit CUDA: versione 13.0
- Plug-in NCCL per A4X Max (
nccl-gib-a4x-max-arm64) - Driver DOCA-OFED
- Ops Agent
- Cloud Storage FUSE
A4X
Il progetto di architettura A4X disponibile su GitHub utilizza per impostazione predefinita le Advanced Compute Images predefinite. La famiglia di immagini aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-arm64 include per impostazione predefinita il software e la configurazione seguenti:
- Ubuntu 24.04 LTS (Arm64)
- Slurm: versione 25.11 e tutti i pacchetti dipendenti
- Driver NVIDIA serie 580
- Toolkit CUDA: versione 13.0
- NVIDIA Container Toolkit, Enroot e Pyxis
- Data Center GPU Manager (
dcgmi) e Fabric Manager - Plug-in NCCL/gIB
- Ops Agent
- Cloud Storage FUSE
Per visualizzare l'elenco completo degli strumenti preinstallati e i dettagli del manifest, consulta Panoramica di Advanced Compute Images.
A4
Il progetto A4 disponibile su GitHub utilizza per impostazione predefinita Advanced Compute Images predefinite. La famiglia di immagini aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-amd64 include per impostazione predefinita il software e la configurazione seguenti:
- Ubuntu 24.04 LTS (x86_64)
- Slurm: versione 25.11 e tutti i pacchetti dipendenti
- Driver NVIDIA serie 580
- Toolkit CUDA: versione 13.0
- NVIDIA Container Toolkit, Enroot e Pyxis
- Data Center GPU Manager (
dcgmi) e Fabric Manager - Plug-in NCCL/gIB
- Supporto per networking InfiniBand e multi-coda
- Ops Agent
- Cloud Storage FUSE
Per visualizzare l'elenco completo degli strumenti preinstallati e i dettagli del manifest, consulta Panoramica di Advanced Compute Images.
A3 Ultra
Il progetto di architettura A3 Ultra disponibile su GitHub utilizza per impostazione predefinita le Advanced Compute Images predefinite. La famiglia di immagini aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-amd64 include per impostazione predefinita il software e la configurazione seguenti:
- Ubuntu 24.04 LTS (x86_64)
- Slurm: versione 25.11 e tutti i pacchetti dipendenti
- Driver NVIDIA serie 580
- Toolkit CUDA: versione 13.0
- NVIDIA Container Toolkit, Enroot e Pyxis
- Data Center GPU Manager (
dcgmi) e Fabric Manager - Plug-in NCCL/gIB
- Supporto per networking InfiniBand e multi-coda
- Ops Agent
- Cloud Storage FUSE
Per visualizzare l'elenco completo degli strumenti preinstallati e i dettagli del manifest, consulta Panoramica di Advanced Compute Images.
A3 Mega
Il progetto di architettura A3 Mega disponibile su GitHub include per impostazione predefinita il seguente software:
- Ubuntu 22.04 LTS
- Slurm: versione 24.11.2
- Le seguenti dipendenze Slurm:
mungemariadblibjwtlmod
- Open MPI: l'ultima versione di 4.1.x
- PMIx: versione 4.2.9
- Client e server NFS
- Driver NVIDIA serie 550
- Runtime del container NVIDIA enroot: versione 3.4.1
- NVIDIA pyxis
- I seguenti strumenti NVIDIA:
- Data Center GPU Manager (
dcgmi) libnvidia-cfg1-550-serverlibnvidia-nscq-550nvidia-compute-utils-550-servernsight-computensight-systems
- Data Center GPU Manager (
- Toolkit CUDA: versione 12.4
- Supporto di Infiniband, incluso
ibverbs-utils - TCPXO per A3 Mega: programma di installazione specifico per NCCL TCPXO e lo stack di rete da 1,6 Tbps
- Ops Agent
- Cloud Storage FUSE
A3 High (8 GPU)
Il progetto base A3 High (8 GPU) disponibile su GitHub include per impostazione predefinita il seguente software:
- Ubuntu 22.04 LTS
- Slurm: versione 24.11.2
- Le seguenti dipendenze Slurm:
mungemariadblibjwtlmod
- Open MPI: l'ultima versione di 4.1.x
- PMIx: versione 4.2.9
- Client e server NFS
- Driver NVIDIA serie 535 o 550
- Runtime del container NVIDIA enroot: versione 3.4.1
- NVIDIA pyxis
- I seguenti strumenti NVIDIA:
- Data Center GPU Manager (
dcgmi) libnvidia-cfg1-535/550-serverlibnvidia-nscq-535/550nvidia-compute-utils-535/550-servernsight-computensight-systems
- Data Center GPU Manager (
- CUDA Toolkit: versione 12.2 o 12.4
- Supporto di Infiniband, incluso
ibverbs-utils - TCPX per A3 High (8 GPU): programma di installazione specifico per NCCL TCPX (GPUDirect-TCPX) e lo stack di rete da 800 Gbps (4 NIC)
- Ops Agent
- Cloud Storage FUSE
Immagini sistema operativo dell'acceleratore
AI Hypercomputer consente di eseguire il provisioning di singole istanze di computing o di gruppi di istanze di computing. Se vuoi creare queste istanze, devi specificare un'immagine sistema operativo durante la creazione dell'istanza.
Google Cloud offre una suite di immagini sistema operativo per la creazione di istanze. Google Cloud offre anche un set specializzato di immagini sistema operativo acceleratore per istanze ottimizzate per l'AI. Queste immagini sistema operativo dell'acceleratore includono i driver principali per le funzionalità di GPU e networking, come i driver NVIDIA, i driver Mellanox e le relative dipendenze.
Per saperne di più su ciascun sistema operativo, consulta la pagina Dettagli del sistema operativo nella documentazione di Compute Engine.
Le immagini sistema operativo Accelerator sono disponibili per i sistemi operativi Rocky Linux e Ubuntu LTS.
Acceleratore Rocky Linux
Per ogni serie di macchine sono disponibili le seguenti immagini sistema operativo Rocky Linux Accelerator:
| Infrastruttura | Famiglia di immagini | Architettura | Serie di macchine | Progetto di immagini |
|---|---|---|---|---|
| GPU cluster | rocky-linux-10-optimized-gcp-nvidia-580 |
x86 | A4, A3 Ultra | rocky-linux-accelerator-cloud |
rocky-linux-10-optimized-gcp-nvidia-580-arm64 |
Arm | A4X | rocky-linux-accelerator-cloud |
|
rocky-linux-9-optimized-gcp-nvidia-580 |
x86 | A4, A3 Ultra | rocky-linux-accelerator-cloud |
|
rocky-linux-9-optimized-gcp-nvidia-580-arm64 |
Arm | A4X | rocky-linux-accelerator-cloud |
|
rocky-linux-8-optimized-gcp-nvidia-580 |
x86 | A4, A3 Ultra | rocky-linux-accelerator-cloud |
|
rocky-linux-8-optimized-gcp-nvidia-580-arm64 |
Arm | A4X | rocky-linux-accelerator-cloud |
Acceleratore Ubuntu LTS
Per ogni serie di macchine sono disponibili le seguenti immagini sistema operativo Ubuntu LTS Accelerator:
| Infrastruttura | Famiglia di immagini | Architettura | Serie di macchine | Progetto di immagini |
|---|---|---|---|---|
| GPU cluster | ubuntu-accelerator-2404-arm64-with-nvidia-580 |
Arm | A4X | ubuntu-os-accelerator-images |
ubuntu-accelerator-2404-amd64-with-nvidia-580 |
x86 | A4, A3 Ultra | ubuntu-os-accelerator-images |
|
ubuntu-accelerator-2204-arm64-with-nvidia-580 |
Arm | A4X | ubuntu-os-accelerator-images |
|
ubuntu-accelerator-2204-amd64-with-nvidia-580 |
x86 | A4, A3 Ultra | ubuntu-os-accelerator-images |
Passaggi successivi
- Per scoprire come acquisire capacità per l'immagine scelta, consulta Opzioni di consumo.
- Per esaminare la procedura e le scelte da fare quando avvii un cluster, consulta Pianifica e crea la tua infrastruttura AI.