Questo documento mette a confronto le opzioni di computing principali di Google Cloud per aiutarti a selezionare la soluzione o lo strumento migliore per l'architettura, la scalabilità e altri requisiti della tua applicazione.
Per eseguire il deployment dei workload su Google Cloud, puoi scegliere tra una gamma di soluzioni o strumenti che bilanciano il controllo sull'infrastruttura con la gestione automatizzata da parte di Google. L'opzione di computing selezionata influisce su prestazioni, costi e manutenzione giornaliera. Per comprendere meglio queste opzioni prima di sceglierne una, consulta la panoramica di Google Compute.
Scegli un'opzione di computing
La soluzione o lo strumento di computing migliore per il tuo workload potrebbe dipendere da diversi fattori. Ad esempio, se vuoi eseguire la migrazione del tuo ambiente VMware aGoogle Cloud, utilizza VMware Engine.
Per aiutarti a valutare i compromessi tra la gestione dell'infrastruttura, i container e le istanze Compute Engine, utilizza il seguente diagramma di flusso. Se vuoi confrontare le funzionalità delle opzioni di computing, consulta la tabella di confronto in questo documento.
Le domande nel diagramma di flusso precedente sono le seguenti:
Vuoi che Google gestisca l'intera infrastruttura?
Sì: utilizza Cloud Run.
No: vai alla domanda 2.
Vuoi l'orchestrazione dei cluster per i tuoi workload (ad esempio Kubernetes o Slurm)?
Sì: vai alla domanda 4.
No: vai alla domanda 3.
Vuoi gestire autonomamente le VM o le istanze bare metal?
No: utilizza Batch.
Vuoi eseguire applicazioni containerizzate standard (come microservizi o API)?
Sì: utilizza GKE.
No: vai alla domanda 5.
Vuoi che Google gestisca il ciclo di vita del cluster?
Utilizza Batch
Scegli Batch per workload come l'analisi asincrona dei dati, le attività di conversione video o le simulazioni scientifiche. Con Batch, Google gestisce l'infrastruttura in modo che tu possa pianificare, inserire in coda ed eseguire job di computing batch su Google Cloud. Non è necessario eseguire il deployment o gestire i server autonomamente. Devi invece inviare script eseguibili o workload containerizzati a una coda di job.
Batch offre le seguenti funzionalità:
Supporto degli acceleratori: Batch supporta le GPU NVIDIA fino a RTX PRO 6000 per i workload batch e di computing ad alte prestazioni (HPC) che richiedono un throughput elevato. Batch non supporta le TPU Google.
Controllo del sistema operativo e del kernel: Google gestisce il sistema operativo e l'ambiente di esecuzione dei tuoi job.
Orchestration: la coda dei job pianifica le attività e le riprova se si verifica un errore. Per scalare la capacità, il servizio esegue il provisioning e l'avvio delle VM in base al numero di job in coda e le arresta al completamento dei job.
Per saperne di più, consulta Inizia a utilizzare Batch.
Utilizza Cloud Run
Per eseguire il deployment di applicazioni web o job containerizzati senza amministrazione dei server, scegli Cloud Run. Cloud Run è una piattaforma serverless che ti consente di eseguire applicazioni containerizzate senza gestione di server o cluster. Google gestisce tutta l'infrastruttura per te, inclusi il sistema operativo, il kernel, la configurazione di rete e la gestione della capacità.
Cloud Run offre le seguenti funzionalità:
Supporto degli acceleratori: Cloud Run supporta le GPU NVIDIA RTX PRO 6000 Blackwell e L4. Cloud Run non supporta altri modelli di GPU o TPU Google.
Controllo del sistema operativo e del kernel: pacchettizzi i workload come container e li esegui come servizi web, attività asincrone o job batch.
Orchestration: in quanto piattaforma serverless, Google avvia, esegue e scala le istanze dei container senza intervento manuale. Per i servizi web, Cloud Run aggiunge o rimuove istanze di container in base alle richieste in entrata o al consumo della CPU.
Per saperne di più, consulta Che cos'è Cloud Run.
Utilizza Cluster Director
Se vuoi addestrare modelli di AI o eseguire job di simulazione pianificati da Slurm senza configurazione di rete o sistema operativo, scegli Cluster Director. Cluster Director è un servizio gestito che automatizza il deployment e la gestione del ciclo di vita dei cluster AI, ML e HPC.
Cluster Director offre le seguenti funzionalità:
Supporto degli acceleratori: Cluster Director supporta le GPU NVIDIA (ovvero GB300 Ultra Superchip, GB200 Superchip, B200, H200 e H100) e le TPU Google (anteprima; ovvero TPU7x, TPU v6e e TPU v5p) per i workload di AI, ML e HPC.
Controllo del sistema operativo e del kernel: Google gestisce il ciclo di vita del cluster e configura un sistema operativo Ubuntu personalizzato progettato per il ML. Il servizio fornisce un ambiente pronto all'uso, completo di nodi di accesso, set di nodi di computing e modelli di deployment creati per i workload di AI.
Orchestration: per scalare la capacità, Slurm crea nodi in base alle richieste di job in coda ed elimina i nodi quando rimangono inattivi per un periodo di tempo per evitare addebiti non necessari.
Per saperne di più, consulta la panoramica di Cluster Director.
Utilizza Cluster Toolkit
Se vuoi utilizzare modelli di deployment automatico e mantenere il controllo amministrativo sul sistema operativo e sullo stack software, scegli Cluster Toolkit. Cluster Toolkit è uno strumento open source che utilizzi per eseguire il provisioning e la configurazione di cluster AI, ML e HPC su Google Cloud.
Cluster Toolkit offre le seguenti funzionalità:
Supporto degli acceleratori: Cluster Toolkit supporta le GPU NVIDIA e le TPU Google, di cui esegui il provisioning e la configurazione con modelli di deployment chiamati blueprint. Con questi file di configurazione automatizzati, esegui il deployment di un'infrastruttura di cluster standardizzata e ripetibile basata sui principi di Infrastructure as Code (IaC).
Controllo del sistema operativo e del kernel: Cluster Toolkit esegue il deployment di istanze di computing o risorse GKE all'interno del tuo progetto Google Cloud. Dopo aver eseguito il deployment di queste risorse, mantieni il controllo amministrativo sul sistema operativo, sulle impostazioni del software e sul ciclo di vita del cluster.
Orchestration: per scalare la capacità, configura i gruppi di istanze gestite (MIG) o gli strumenti GKE per aggiungere o rimuovere nodi in base alle impostazioni del template.
Per saperne di più, consulta la panoramica di Cluster Toolkit.
Utilizza Compute Engine
Se le tue applicazioni richiedono configurazioni di architettura personalizzate, impostazioni del kernel specializzate o il controllo amministrativo sui server virtuali, scegli Compute Engine. Compute Engine è la piattaforma Infrastructure as a Service (IaaS) principale di Google Cloud, che ti consente di creare ed eseguire istanze VM e bare metal sull'hardware fisico di Google.
Compute Engine offre le seguenti funzionalità:
Supporto degli acceleratori: Compute Engine supporta le GPU NVIDIA e le TPU Google, che puoi collegare alle tue istanze di computing.
Controllo del sistema operativo e del kernel: mantieni il controllo completo sul sistema operativo, sulle impostazioni del kernel e sui file di avvio, oltre a selezionare i processori della CPU, le configurazioni della memoria, i tipi di archiviazione e il sistema operativo guest.
Orchestration: poiché l'orchestrazione è manuale, devi configurare e gestire le tue istanze di computing, le regole di rete, le route del traffico e i sistemi di backup per garantire l'affidabilità. Per scalare la capacità, aggiungi o rimuovi istanze di computing in base alle tue esigenze, utilizzi strumenti personalizzati o configuri i MIG per regolare la capacità del cluster.
Per saperne di più, consulta la panoramica di Compute Engine.
Utilizza GKE
Quando hai bisogno di una piattaforma di orchestrazione basata su container per applicazioni distribuite o microservizi per uso generico, scegli Google Kubernetes Engine (GKE). GKE è una piattaforma Kubernetes gestita standard di settore per il deployment, la scalabilità e l'orchestrazione di applicazioni containerizzate. Google gestisce il control plane Kubernetes per la sicurezza e la disponibilità del sistema.
GKE offre le seguenti funzionalità:
Supporto degli acceleratori: GKE supporta le GPU NVIDIA e le TPU Google per i workload containerizzati.
Controllo del sistema operativo e del kernel: Google gestisce il sistema operativo sia in modalità Autopilot che Standard. In modalità Autopilot, Google gestisce i nodi del cluster e gli aggiustamenti della capacità senza intervento manuale. In modalità Standard, gestisci i pool di nodi del cluster.
Orchestration: per regolare la capacità in base alle variazioni della domanda, GKE aggiunge o rimuove i container con Horizontal Pod Autoscaler e Vertical Pod Autoscaler (HPA e VPA) e aggiunge o rimuove i nodi con il gestore della scalabilità automatica dei cluster. GKE orchestra anche i job batch tramite Kueue, un controller della coda dei job nativo di Kubernetes.
Per saperne di più, consulta la panoramica di GKE.
Utilizza VMware Engine
Per eseguire la migrazione dei workload VMware on-premise all'infrastruttura Google Cloudcon modifiche operative minime, scegli VMware Engine. VMware Engine è un servizio gestito che ti consente di eseguire macchine virtuali VMware su hardware Google senza modifiche alle applicazioni.
VMware Engine offre le seguenti funzionalità:
Supporto degli acceleratori: VMware Engine non supporta GPU o TPU.
Controllo del sistema operativo e del kernel: esegui le applicazioni VMware su Google Cloud così come vengono eseguite nella configurazione esistente. Google gestisce l'hardware fisico, l'infrastruttura di rete e la piattaforma software VMware, come vSphere, vCenter, vSAN e NSX-T. Mantieni il controllo amministrativo sulle VM, sul sistema operativo guest e sugli strumenti di gestione di VMware.
Orchestration: per regolare le dimensioni del tuo cloud privato, aggiungi o rimuovi nodi ESXi dedicati.
Per saperne di più, consulta la panoramica di Google Cloud VMware Engine.
Confronta le opzioni di computing
Per identificare la soluzione o lo strumento di computing adatto al tuo workload, confronta le funzionalità tecniche delle opzioni di computing nella tabella seguente:
| Opzione di computing | GPU | TPU | Controllo del sistema operativo e del kernel | Orchestrazione | Scalabilità |
|---|---|---|---|---|---|
| Batch | Fino a NVIDIA RTX PRO 6000 | No | Gestita da Google | Coda di job | Automatica in base ai job in coda |
| Cloud Run | NVIDIA RTX PRO 6000 Blackwell e L4 | No | Gestita da Google | Serverless | Automatico in base alle richieste o al consumo della CPU |
| Cluster Director | NVIDIA GB300 Ultra Superchip, GB200 Superchip, B200, H200 e H100 | Google TPU7x, TPU v6e e TPU v5p (anteprima) | Gestita da Google (Ubuntu personalizzato) | Slurm | Automatica in base alle richieste di job in coda |
| Cluster Toolkit | Tutte le GPU NVIDIA disponibili | Tutte le TPU Google disponibili | Autogestito | File di configurazione automatizzati (IaC) | Personalizzabile utilizzando i MIG o gli strumenti GKE |
| Compute Engine | Tutte le GPU NVIDIA disponibili | Tutte le TPU Google disponibili | Autogestito | Manuale | Manuale o automatica utilizzando i MIG |
| Google Kubernetes Engine (GKE) | Tutte le GPU NVIDIA disponibili | Tutte le TPU Google disponibili | Gestito da Google (Autopilot) o semi-gestito (Standard) | Kubernetes | Scalabilità automatica di pod e nodi |
| VMware Engine | No | No | Gestita da Google | Piattaforma VMware | Manuale utilizzando i nodi ESXi |
Esplora AI Hypercomputer per AI e ML
AI Hypercomputer è un'architettura integrata che combina hardware creato per scopi specifici, software aperto e modelli di consumo flessibili. Questa architettura è progettata per aumentare la produttività del ML e massimizzare il goodput, ovvero la velocità di trasferimento dei dati utili, per workload di AI impegnativi.
AI Hypercomputer offre le seguenti funzionalità:
Supporto degli acceleratori: AI Hypercomputer supporta tutte le GPU NVIDIA e le TPU Google. Gli acceleratori si connettono tramite un networking a larghezza di banda elevata per ottimizzare il throughput per i modelli di AI in migliaia di istanze di computing.
Controllo del sistema operativo e del kernel: il controllo sul sistema operativo e sul kernel dipende dallo strumento di deployment scelto:
Ambienti gestiti da Google: se scegli Cluster Director, Google gestisce l'ambiente e il ciclo di vita del cluster. Se scegli GKE in modalità Autopilot, Google gestisce l'ambiente dei container.
Ambienti autogestiti: se scegli Cluster Toolkit, Compute Engine o GKE in modalità Standard, gestisci le risorse del cluster e il sistema operativo.
Orchestration: puoi utilizzare Slurm, GKE o orchestratori personalizzati per aggiungere o rimuovere istanze di computing, pod o container nel tuo cluster quando la domanda di computing cambia.
Per saperne di più, consulta la panoramica di AI Hypercomputer.