Exemplos

Treinamento com JAX

• Treinar o Llama 3-8B usando JAX, Ray e GKE no Trillium

  Realize o treinamento distribuído do modelo Llama 3-8B no GKE usando JAX, Ray Train e TPU v6e (Trillium) com MaxText para escalonamento otimizado de vários hosts.

• Pré-treinar o Llama 3.1-70B usando clusters do GKE no Ironwood

  Treinar o modelo Llama 3.1-70B na TPU7x (Ironwood) usando o framework MaxText.

• Pré-treinar o DeepSeek 3-671B usando clusters do GKE no Ironwood

  Treine o modelo DeepSeek 3-671B na TPU7x usando receitas otimizadas para arquiteturas de Mix de Especialistas (MoE) em grande escala.

• Pré-treinar o GPT OSS-120B usando clusters do GKE no Ironwood

  Treine o modelo de raciocínio GPT OSS-120B na TPU7x usando receitas otimizadas para treinamento distribuído em grande escala.

• Pré-treinar o Qwen 3-235B usando clusters do GKE no Ironwood

  Treine o modelo de MoE Qwen 3-235B-A22B na TPU7x usando receitas otimizadas para raciocínio de alto desempenho.

• Pré-treinar o Wan 2.1-14B usando clusters do GKE no Ironwood

  Treine o modelo de geração de vídeos Wan 2.1-14B na TPU7x usando receitas otimizadas para síntese de vídeo de alto desempenho.

• Pré-treinar o GPT3-175B usando clusters do GKE no Trillium

  Treine o modelo GPT3-175B na TPU v6e usando o MaxText e receitas otimizadas para um desempenho econômico e em grande escala.

• Pré-treinar o Gemma3-12B usando clusters do GKE no Trillium

  Treine o modelo Gemma3-12B na TPU v6e usando o MaxText e receitas otimizadas para o desenvolvimento de modelos abertos de alto desempenho.

• Pré-treinar o Llama 3.1-70B usando clusters do GKE no Trillium

  Treine o Llama 3.1-70B na TPU v6e usando o MaxText e receitas otimizadas para treinamento de modelo em grande escala e alta capacidade de processamento.

• Pré-treinar o Llama 3.1-8B usando clusters do GKE no Trillium

  Treine o Llama 3.1-8B usando o MaxText na TPU v6e com esta receita otimizada para pré-treinamento escalonável e de alto desempenho.

• Pré-treinar o Mixtral-8x22B usando clusters do GKE no Trillium

  Treine o Mixtral-8x22B na TPU v6e usando o MaxText para otimizar o desempenho e a eficiência.

• Pré-treinar o Mixtral-8x7B usando clusters do GKE no Trillium

  Treine o Mixtral-8x7B usando o MaxText na TPU v6e com configurações otimizadas para desempenho de MoE de alta capacidade de processamento no Google Cloud.

• Pré-treinar o DeepSeek 3-671B usando clusters do GKE na v5p

  Treine e implante o modelo DeepSeek 3-671B na TPU v5p usando o MaxText para otimizar o desempenho em grande escala.

• Pré-treinar o GPT3-175B usando clusters do GKE na v5p

  Treine o modelo GPT3-175B na TPU v5p usando o MaxText com configurações otimizadas para treinamento distribuído em grande escala.

• Pré-treinar o Mixtral-8x7B usando clusters do GKE na v5p

  Treinar o Mixtral-8x7B na TPU v5p usando o MaxText com configurações otimizadas para cargas de trabalho de MoE de alto desempenho.

• Pré-treinar o SDXL usando clusters do GKE na v5p

  Treine e escalone o Stable Diffusion XL (SDXL) na TPU v5p usando o MaxDiffusion para cargas de trabalho de IA generativa de alto desempenho.

Como treinar com o PyTorch

• Pré-treinar o Qwen 3-32B com o TorchTitan usando clusters do GKE no Ironwood

  Treinar o modelo Qwen 3-32B na TPU7x (Ironwood) usando o PyTorch, o TorchTPU e o framework TorchTitan.

• Pré-treinar o Qwen 3-30B-A3B com o TorchTitan usando clusters do GKE no Ironwood

  Treine o modelo de Mix de Especialistas (MoE) Qwen 3-30B-A3B na TPU7x usando PyTorch, TorchTPU e TorchTitan.

• Pré-treinar o Qwen 3-8B com o TorchTitan usando clusters do GKE no Ironwood

  Treine o modelo Qwen 3-8B na TPU7x usando PyTorch, TorchTPU e TorchTitan para treinamento distribuído escalonável.

• Pré-treinar o Muse Glimmer 30B com o TorchTitan usando clusters do GKE no Ironwood

  Treinar o modelo Muse Glimmer 30B na TPU7x usando PyTorch, TorchTPU e TorchTitan.

• Pré-treinar o Llama 3-70B com o TorchTitan no Ironwood

  Treinar o modelo Llama 3-70B na TPU7x (Ironwood) usando PyTorch, TorchTPU e TorchTitan.

• Pré-treinar o Llama 3-8B com o TorchTitan no Trillium

  Treinar o modelo Llama 3-8B na TPU v6e (Trillium) usando PyTorch, TorchTPU e TorchTitan.

Inferência com JAX

• Disponibilizar o Llama 3.1-70B usando o GKE e o vLLM no Trillium

  Disponibilize LLMs no GKE usando a TPU v6e e o vLLM, com escalonamento automático otimizado e disponibilização de modelos de alto desempenho no Google Cloud.

• Disponibilizar LLMs usando o GKE com o KubeRay

  Disponibilizar um LLM usando TPUs no GKE com o complemento Ray Operator e o framework de disponibilização vLLM.

• Disponibilizar LLMs abertos usando o GKE com o Terraform

  Provisionar um ambiente de inferência do GKE e implantar LLMs abertos usando TPUs e uma arquitetura pré-configurada do Terraform.

• Disponibilizar o Stable Diffusion XL (SDXL) usando o GKE

  Disponibilize o Stable Diffusion XL (SDXL) no GKE usando Cloud TPUs e o framework MaxDiffusion para geração de imagens de alto desempenho.

• Disponibilizar o GPT OSS-120B com vLLM usando clusters do GKE no Ironwood

  Execute inferências de alto desempenho para modelos GPT-OSS na TPU7x usando o vLLM para capacidade de processamento otimizada e disponibilização de baixa latência no Google Cloud.

• Disponibilizar o Qwen3-Coder-480B com o vLLM usando clusters do GKE no Ironwood

  Disponibilize o Qwen3-Coder-480B-A35B na TPU7x usando o vLLM para geração e inferência de código otimizadas e de alta capacidade de processamento.

• Disponibilizar o Llama 3.1-8B com o vLLM no Trillium

  Disponibilize o Llama 3.1-8B na TPU v6e usando o vLLM para inferência otimizada de baixa latência e disponibilização de alta capacidade de processamento.

• Disponibilizar o Qwen 3 com o vLLM no Trillium

  Disponibilize modelos Qwen 3 na TPU v6e usando o vLLM para inferência escalonável de alto desempenho e capacidade de processamento otimizada.

• Disponibilizar o Qwen2.5-32B com o vLLM no Trillium

  Disponibilize o modelo Qwen2.5-32B na TPU v6e usando o vLLM para inferência otimizada e de alta capacidade de processamento.

• Disponibilizar o Qwen2.5-VL com o vLLM no Trillium

  Disponibilize modelos de linguagem de visão Qwen2.5-VL na TPU v6e usando o vLLM para inferência multimodal otimizada e de alto desempenho.

Inferência com o PyTorch

• Disponibilizar o Qwen 3.5-397B com o vLLM-TorchTPU usando clusters do GKE no Ironwood

  Disponibilize o modelo Qwen 3.5-397B na TPU7x usando o PyTorch e o vLLM-TorchTPU para inferência distribuída de vários hosts.

• Disponibilizar o Gemma 4-26B com o vLLM-TorchTPU no Ironwood

  Disponibilize o modelo Gemma 4-26B na TPU7x usando o PyTorch e o back-end vLLM-TorchTPU para inferência de alta capacidade de processamento.

• Disponibilizar o GLM-5.2 com o vLLM-TorchTPU no Ironwood

  Disponibilize o modelo GLM-5.2 na TPU7x usando o PyTorch e o back-end vLLM-TorchTPU.

• Disponibilizar o Qwen 3-32B com o vLLM-TorchTPU no Trillium

  Disponibilizar o modelo Qwen 3-32B na TPU v6e (Trillium) usando o PyTorch e o back-end vLLM-TorchTPU.

• Disponibilizar o Qwen 3.5-35B-A3B com o vLLM-TorchTPU no Trillium

  Disponibilize o modelo de Mix de Especialistas (MoE) Qwen 3.5-35B-A3B na TPU v6e usando o PyTorch e o back-end vLLM-TorchTPU.

• Disponibilizar o Gemma 4-26B com o vLLM-TorchTPU no Trillium

  Disponibilize o modelo Gemma 4-26B na TPU v6e usando o PyTorch e o back-end vLLM-TorchTPU.