Ejemplos

Entrenamiento con JAX

• Entrena Llama 3-8B con JAX, Ray y GKE en Trillium

  Realiza un entrenamiento distribuido del modelo Llama 3-8B en GKE con JAX, Ray Train y TPU v6e (Trillium) con MaxText para un escalamiento optimizado de varios hosts.

• Entrena previamente Llama 3.1-70B con clústeres de GKE en Ironwood

  Entrenar el modelo Llama 3.1-70B en TPU7x (Ironwood) con el framework de MaxText

• Entrena previamente DeepSeek 3-671B con clústeres de GKE en Ironwood

  Entrena el modelo DeepSeek 3-671B en TPU7x con recetas optimizadas para arquitecturas de mezcla de expertos (MoE) a gran escala.

• Entrena previamente GPT OSS-120B con clústeres de GKE en Ironwood

  Entrena el modelo de razonamiento GPT OSS-120B en TPU7x con recetas optimizadas para el entrenamiento distribuido a gran escala.

• Entrena previamente Qwen 3-235B con clústeres de GKE en Ironwood

  Entrena el modelo de MoE Qwen 3-235B-A22B en TPU7x con recetas optimizadas para el razonamiento de alto rendimiento.

• Entrena previamente Wan 2.1-14B con clústeres de GKE en Ironwood

  Entrena el modelo de generación de videos Wan 2.1-14B en TPU7x con recetas optimizadas para la síntesis de videos de alto rendimiento.

• Entrena previamente GPT3-175B con clústeres de GKE en Trillium

  Entrena el modelo GPT3-175B en la TPU v6e con MaxText y recetas optimizadas para obtener un rendimiento rentable a gran escala.

• Entrena previamente Gemma3-12B con clústeres de GKE en Trillium

  Entrena el modelo Gemma3-12B en la TPU v6e con MaxText y recetas optimizadas para el desarrollo de modelos abiertos de alto rendimiento.

• Entrena previamente Llama 3.1-70B con clústeres de GKE en Trillium

  Entrena Llama 3.1-70B en TPU v6e con MaxText y recetas optimizadas para el entrenamiento de modelos a gran escala y con alta capacidad de procesamiento.

• Entrena previamente Llama 3.1-8B con clústeres de GKE en Trillium

  Entrena Llama 3.1-8B con MaxText en la TPU v6e con esta receta optimizada para un entrenamiento previo escalable y de alto rendimiento.

• Entrena previamente Mixtral-8x22B con clústeres de GKE en Trillium

  Entrena Mixtral-8x22B en TPU v6e con MaxText para obtener un rendimiento y una eficiencia optimizados.

• Entrena previamente Mixtral-8x7B con clústeres de GKE en Trillium

  Entrena Mixtral-8x7B con MaxText en TPU v6e con parámetros de configuración optimizados para un rendimiento de MoE de alta capacidad de procesamiento en Google Cloud.

• Entrena previamente DeepSeek 3-671B con clústeres de GKE en v5p

  Entrena e implementa el modelo DeepSeek 3-671B en TPU v5p con MaxText para obtener un rendimiento optimizado a gran escala.

• Entrena previamente GPT3-175B con clústeres de GKE en v5p

  Entrena el modelo GPT3-175B en TPU v5p con MaxText y parámetros de configuración optimizados para el entrenamiento distribuido a gran escala.

• Entrena previamente Mixtral-8x7B con clústeres de GKE en v5p

  Entrena Mixtral-8x7B en TPU v5p con MaxText y parámetros de configuración optimizados para cargas de trabajo de MoE de alto rendimiento.

• Entrena previamente SDXL con clústeres de GKE en v5p

  Entrena y escala Stable Diffusion XL (SDXL) en TPU v5p con MaxDiffusion para cargas de trabajo de IA generativa de alto rendimiento.

Entrenamiento con PyTorch

• Entrena previamente Qwen 3-32B con TorchTitan usando clústeres de GKE en Ironwood

  Entrena el modelo Qwen 3-32B en TPU7x (Ironwood) con PyTorch, TorchTPU y el framework de TorchTitan.

• Entrena previamente Qwen 3-30B-A3B con TorchTitan usando clústeres de GKE en Ironwood

  Entrena el modelo de mezcla de expertos (MoE) Qwen 3-30B-A3B en TPU7x con PyTorch, TorchTPU y TorchTitan.

• Entrena previamente Qwen 3-8B con TorchTitan usando clústeres de GKE en Ironwood

  Entrena el modelo Qwen 3-8B en TPU7x con PyTorch, TorchTPU y TorchTitan para un entrenamiento distribuido escalable.

• Entrena previamente Muse Glimmer 30B con TorchTitan usando clústeres de GKE en Ironwood

  Entrena el modelo Muse Glimmer 30B en TPU7x con PyTorch, TorchTPU y TorchTitan.

• Preentrena Llama 3-70B con TorchTitan en Ironwood

  Entrena el modelo Llama 3-70B en TPU7x (Ironwood) con PyTorch, TorchTPU y TorchTitan.

• Entrena previamente Llama 3-8B con TorchTitan en Trillium

  Entrenar el modelo Llama 3-8B en TPU v6e (Trillium) con PyTorch, TorchTPU y TorchTitan

Inferencia con JAX

• Entrega Llama 3.1-70B con GKE y vLLM en Trillium

  Entrega LLM en GKE con TPU v6e y vLLM, con ajuste de escala automático optimizado y entrega de modelos de alto rendimiento en Google Cloud.

• Entrega LLM con GKE y KubeRay

  Entrega un LLM con TPU en GKE con el complemento de operador de Ray y el framework de entrega de vLLM.

• Entrega LLM abiertos con GKE y Terraform

  Aprovisiona un entorno de inferencia de GKE e implementa LLM abiertos con TPU y una arquitectura de Terraform preconfigurada.

• Entrega Stable Diffusion XL (SDXL) con GKE

  Entrega Stable Diffusion XL (SDXL) en GKE con Cloud TPU y el framework de MaxDiffusion para la generación de imágenes de alto rendimiento.

• Entrega GPT OSS-120B con vLLM usando clústeres de GKE en Ironwood

  Ejecuta inferencias de alto rendimiento para modelos de GPT-OSS en TPU7x con vLLM para obtener una capacidad de procesamiento optimizada y una entrega de baja latencia en Google Cloud.

• Entrega Qwen3-Coder-480B con vLLM usando clústeres de GKE en Ironwood

  Entrega Qwen3-Coder-480B-A35B en TPU7x con vLLM para generar código y realizar inferencias de alta capacidad de procesamiento optimizadas.

• Entrega Llama 3.1-8B con vLLM en Trillium

  Entrega Llama 3.1-8B en TPU v6e con vLLM para obtener una inferencia optimizada de baja latencia y una entrega de alta capacidad de procesamiento.

• Entrega Qwen 3 con vLLM en Trillium

  Entrega modelos Qwen 3 en TPU v6e con vLLM para obtener una inferencia escalable de alto rendimiento y una capacidad de procesamiento optimizada.

• Entrega Qwen2.5-32B con vLLM en Trillium

  Entrega el modelo Qwen2.5-32B en TPU v6e con vLLM para obtener una inferencia optimizada y de alta capacidad de procesamiento.

• Entrega Qwen2.5-VL con vLLM en Trillium

  Entrega modelos de lenguaje visual Qwen2.5-VL en TPU v6e con vLLM para obtener una inferencia multimodal optimizada y de alto rendimiento.

Inferencia con PyTorch

• Entrega Qwen 3.5-397B con vLLM-TorchTPU usando clústeres de GKE en Ironwood

  Entrega el modelo Qwen 3.5-397B en TPU7x con PyTorch y vLLM-TorchTPU para la inferencia distribuida de varios hosts.

• Entrega Gemma 4-26B con vLLM-TorchTPU en Ironwood

  Entrega el modelo Gemma 4-26B en TPU7x con PyTorch y el backend vLLM-TorchTPU para obtener una inferencia de alta capacidad de procesamiento.

• Entrega GLM-5.2 con vLLM-TorchTPU en Ironwood

  Entregar el modelo GLM-5.2 en TPU7x con PyTorch y el backend de vLLM-TorchTPU

• Entrega Qwen 3-32B con vLLM-TorchTPU en Trillium

  Entregar el modelo Qwen 3-32B en TPU v6e (Trillium) con PyTorch y el backend de vLLM-TorchTPU

• Entrega Qwen 3.5-35B-A3B con vLLM-TorchTPU en Trillium

  Entrega el modelo de mezcla de expertos (MoE) Qwen 3.5-35B-A3B en TPU v6e con PyTorch y el backend de vLLM-TorchTPU.

• Entrega Gemma 4-26B con vLLM-TorchTPU en Trillium

  Entrega el modelo Gemma 4-26B en TPU v6e con PyTorch y el backend de vLLM-TorchTPU.