サンプル

JAX を使用したトレーニング

• Trillium で JAX、Ray、GKE を使用して Llama 3-8B をトレーニングする

  JAX、Ray Train、TPU v6e（Trillium）と MaxText を使用して、GKE で Llama 3-8B モデルの分散トレーニングを実行し、マルチホスト スケーリングを最適化します。

• Ironwood の GKE クラスタを使用して Llama 3.1-70B を事前トレーニングする

  MaxText フレームワークを使用して、TPU7x（Ironwood）で Llama 3.1-70B モデルをトレーニングします。

• Ironwood の GKE クラスタを使用して DeepSeek 3-671B を事前トレーニングする

  大規模な Mixture-of-Experts（MoE）アーキテクチャ向けに最適化されたレシピを使用して、TPU7x で DeepSeek 3-671B モデルをトレーニングします。

• Ironwood の GKE クラスタを使用して GPT OSS-120B を事前トレーニングする

  大規模な分散トレーニング用に最適化されたレシピを使用して、TPU7x で GPT OSS-120B 推論モデルをトレーニングします。

• Iromwood 上の GKE クラスタを使用して Qwen 3-235B を事前トレーニングする

  高パフォーマンスの推論用に最適化されたレシピを使用して、TPU7x で Qwen 3-235B-A22B MoE モデルをトレーニングします。

• Ironwood の GKE クラスタを使用して Wan 2.1-14B を事前トレーニングする

  高パフォーマンスの動画合成用に最適化されたレシピを使用して、TPU7x で Wan 2.1-14B 動画生成モデルをトレーニングします。

• Trillium で GKE クラスタを使用して GPT3-175B を事前トレーニングする

  MaxText と最適化されたレシピを使用して、TPU v6e で GPT3-175B モデルをトレーニングし、大規模で費用対効果の高いパフォーマンスを実現します。

• Trillium で GKE クラスタを使用して Gemma3-12B を事前トレーニングする

  MaxText と最適化されたレシピを使用して、TPU v6e で Gemma3-12B モデルをトレーニングし、高性能なオープンモデルを開発します。

• Trillium で GKE クラスタを使用して Llama 3.1-70B を事前トレーニングする

  MaxText と最適化されたレシピを使用して、TPU v6e で Llama 3.1-70B をトレーニングし、高スループットで大規模なモデル トレーニングを実現します。

• Trillium で GKE クラスタを使用して Llama 3.1-8B を事前トレーニングする

  スケーラブルで高パフォーマンスなプリトレーニング向けに最適化されたこのレシピを使用して、TPU v6e で MaxText を使用して Llama 3.1-8B をトレーニングします。

• Trillium の GKE クラスタを使用して Mixtral-8x22B を事前トレーニングする

  MaxText を使用して TPU v6e で Mixtral-8x22B をトレーニングし、パフォーマンスと効率を最適化します。

• Trillium で GKE クラスタを使用して Mixtral-8x7B を事前トレーニングする

  Google Cloud で高スループットの MoE パフォーマンスを実現するために最適化された構成で、TPU v6e で MaxText を使用して Mixtral-8x7B をトレーニングします。

• v5p で GKE クラスタを使用して DeepSeek 3-671B を事前トレーニングする

  MaxText を使用して TPU v5p で DeepSeek 3-671B モデルをトレーニングしてデプロイし、大規模なパフォーマンスを最適化します。

• v5p で GKE クラスタを使用して GPT3-175B を事前トレーニングする

  大規模な分散トレーニング用に最適化された構成で MaxText を使用して、TPU v5p で GPT3-175B モデルをトレーニングします。

• v5p で GKE クラスタを使用して Mixtral-8x7B を事前トレーニングする

  高パフォーマンスの MoE ワークロード向けに最適化された構成で MaxText を使用して、TPU v5p で Mixtral-8x7B をトレーニングします。

• v5p で GKE クラスタを使用して SDXL を事前トレーニングする

  MaxDiffusion を使用して TPU v5p で Stable Diffusion XL（SDXL）をトレーニングしてスケーリングし、高パフォーマンスの生成 AI ワークロードを実現します。

PyTorch を使用したトレーニング

• Ironwood の GKE クラスタで TorchTitan を使用して Qwen 3-32B を事前トレーニングする

  PyTorch、TorchTPU、TorchTitan フレームワークを使用して、TPU7x（Ironwood）で Qwen 3-32B モデルをトレーニングします。

• Ironwood の GKE クラスタで TorchTitan を使用して Qwen 3-30B-A3B を事前トレーニングする

  PyTorch、TorchTPU、TorchTitan を使用して、TPU7x で Qwen 3-30B-A3B Mixture-of-Experts（MoE）モデルをトレーニングします。

• Ironwood の GKE クラスタで TorchTitan を使用して Qwen 3-8B を事前トレーニングする

  PyTorch、TorchTPU、TorchTitan を使用して TPU7x で Qwen 3-8B モデルをトレーニングし、スケーラブルな分散トレーニングを実現します。

• Ironwood で GKE クラスタを使用して TorchTitan で Muse Glimmer 30B を事前トレーニングする

  PyTorch、TorchTPU、TorchTitan を使用して、TPU7x で Muse Glimmer 30B モデルをトレーニングします。

• Ironwood で TorchTitan を使用して Llama 3-70B を事前トレーニングする

  PyTorch、TorchTPU、TorchTitan を使用して、TPU7x（Ironwood）で Llama 3-70B モデルをトレーニングします。

• Trillium で TorchTitan を使用して Llama 3-8B を事前トレーニングする

  PyTorch、TorchTPU、TorchTitan を使用して、TPU v6e（Trillium）で Llama 3-8B モデルをトレーニングします。

JAX を使用した推論

• Trillium で GKE と vLLM を使用して Llama 3.1-70B をサービングする

  TPU v6e と vLLM を使用して GKE で LLM をサービングします。最適化された自動スケーリングと、Google Cloud での高性能なモデル提供が特徴です。

• KubeRay を使用して GKE で LLM をサービングする

  Ray Operator アドオンと vLLM サービング フレームワークを使用して、GKE で TPU を使用して LLM をサービングします。

• Terraform で GKE を使用してオープン LLM をサービングする

  GKE 推論環境をプロビジョニングし、TPU と事前構成された Terraform アーキテクチャを使用してオープン LLM をデプロイします。

• GKE を使用して Stable Diffusion XL（SDXL）を提供する

  Cloud TPU と MaxDiffusion フレームワークを使用して、GKE で Stable Diffusion XL（SDXL）をサービングし、高パフォーマンスの画像生成を実現します。

• Ironwood で GKE クラスタを使用して vLLM で GPT OSS-120B を提供する

  vLLM を使用して TPU7x で GPT-OSS モデルの高パフォーマンス推論を実行し、Google Cloud で最適化されたスループットと低レイテンシのサービングを実現します。

• Ironwood で GKE クラスタを使用して vLLM で Qwen3-Coder-480B を提供する

  vLLM を使用して TPU7x で Qwen3-Coder-480B-A35B をサービングし、最適化された高スループットのコード生成と推論を実現します。

• Trillium で vLLM を使用して Llama 3.1-8B をサービングする

  vLLM を使用して TPU v6e で Llama 3.1-8B を提供し、最適化された低レイテンシの推論と高スループットのサービングを実現します。

• Trillium で vLLM を使用して Qwen 3 をサービングする

  vLLM を使用して TPU v6e で Qwen 3 モデルをサービングし、高パフォーマンスでスケーラブルな推論と最適化されたスループットを実現します。

• Trillium で vLLM を使用して Qwen2.5-32B をサービングする

  vLLM を使用して TPU v6e で Qwen2.5-32B モデルをサービングし、最適化された高スループットの推論を実現します。

• Trillium で vLLM を使用して Qwen2.5-VL をサービングする

  vLLM を使用して TPU v6e で Qwen2.5-VL ビジョン言語モデルをサービングし、最適化された高性能なマルチモーダル推論を実現します。

PyTorch による推論

• Ironwood で GKE クラスタを使用して vLLM-TorchTPU で Qwen 3.5-397B をサービングする

  PyTorch と vLLM-TorchTPU を使用して、TPU7x で Qwen 3.5-397B モデルをサービングし、マルチホスト分散推論を行います。

• Ironwood で vLLM-TorchTPU を使用して Gemma 4-26B をサービングする

  PyTorch と vLLM-TorchTPU バックエンドを使用して、TPU7x で Gemma 4-26B モデルをサービングし、高スループットの推論を実現します。

• Ironwood で vLLM-TorchTPU を使用して GLM-5.2 をサービングする

  PyTorch と vLLM-TorchTPU バックエンドを使用して、TPU7x で GLM-5.2 モデルをサービングします。

• Trillium で vLLM-TorchTPU を使用して Qwen 3-32B をサービングする

  PyTorch と vLLM-TorchTPU バックエンドを使用して、TPU v6e（Trillium）で Qwen 3-32B モデルをサービングします。

• Trillium で vLLM-TorchTPU を使用して Qwen 3.5-35B-A3B をサービングする

  PyTorch と vLLM-TorchTPU バックエンドを使用して、TPU v6e で Qwen 3.5-35B-A3B Mixture-of-Experts（MoE）モデルをサービングします。

• Trillium で vLLM-TorchTPU を使用して Gemma 4-26B をサービングする

  PyTorch と vLLM-TorchTPU バックエンドを使用して、TPU v6e で Gemma 4-26B モデルをサービングする。