Membuat Cluster GKE dengan Jalur

Anda dapat menggunakan Cluster Toolkit untuk membuat cluster Google Kubernetes Engine (GKE) yang telah dikonfigurasi sebelumnya untuk workload berbasis Pathways. Anda juga dapat menggunakan gcloud untuk membuat cluster GKE secara manual untuk workload berbasis Pathways.

Sebelum memulai

Pastikan Anda memiliki:

Menyiapkan lingkungan lokal Anda

Login dengan kredensial Google Cloud Anda.

gcloud auth application-default login

Tentukan variabel lingkungan berikut dengan nilai yang sesuai untuk workload Anda.

Membuat cluster GKE

Dalam contoh berikut, Anda membuat cluster dengan node pool TPU v6e 2x4. Anda dapat membuat cluster menggunakan Cluster Toolkit atau gcloud CLI.

Cluster Toolkit

  1. Siapkan Cluster Toolkit.

  2. Deploy cluster TPU GKE dengan mengikuti petunjuk di Men-deploy cluster TPU v6e GKE (untuk ringkasan semua opsi deployment TPU, lihat Ringkasan deployment Cloud TPU).

    Saat mengonfigurasi blueprint deployment, lakukan hal berikut:

    • Pastikan enable_pathways_for_tpus ditetapkan ke true (diaktifkan secara default di blueprint TPU Cluster Toolkit). Tindakan ini akan otomatis menyediakan node pool CPU cpu-np (n4-standard-64) yang diperlukan dan konfigurasi Kueue untuk pengontrol Pathways.
    • Tetapkan num_slices ke jumlah node pool slice TPU yang diperlukan untuk workload Anda.
    • Tetapkan tpu_topology ke topologi slice TPU yang Anda pilih (misalnya, 2x4 atau 4x4).
    • Jika Anda menggunakan kapasitas yang dipesan, tetapkan reservation ke nama pemesanan TPU Anda.

    Setelah cluster dibuat, Anda dapat mengirimkan workload Pathways menggunakan perintah gcluster job submit dengan flag --pathways.

gcloud

  1. Menetapkan beberapa variabel lingkungan

    CLUSTER=GKE_CLUSTER_NAME
PROJECT=PROJECT_ID
ZONE=ZONE
REGION=REGION
CLUSTER_VERSION=GKE_CLUSTER_VERSION
PW_CPU_MACHINE_TYPE="n2-standard-64"
NETWORK=NETWORK
SUBNETWORK=SUB_NETWORK
CLUSTER_NODEPOOL_COUNT=3
TPU_MACHINE_TYPE="ct6e-standard-4t"
WORKERS_PER_SLICE=2
TOPOLOGY="2x4"
NUM_CPU_NODES=1

    Ganti kode berikut:

    • CLUSTER: nama cluster GKE
    • PROJECT_ID: nama project Google Cloud Anda
    • ZONE: zona tempat Anda membuat resource
    • REGION: region tempat Anda membuat resource
    • CLUSTER_VERSION: [Opsional] versi cluster GKE, gunakan 1.32.2-gke.1475000 atau yang lebih baru
    • NETWORK: [Opsional] tetapkan nama Virtual Private Cloud, yang harus dibuat sebelum membuat cluster Anda
    • SUBNETWORK: [Opsional] tetapkan nama subnetwork, yang harus dibuat sebelum membuat cluster Anda

Langkah-langkah berikut menjelaskan cara membuat cluster GKE dan menyiapkannya untuk menjalankan workload Pathways.

  1. Buat cluster GKE:

    gcloud beta container clusters create ${CLUSTER} \
--project=${PROJECT} \
--zone=${ZONE} \
--cluster-version=${CLUSTER_VERSION} \
--scopes=storage-full,gke-default,cloud-platform \
--machine-type ${PW_CPU_MACHINE_TYPE} \
--network=${NETWORK} \
--subnetwork=${SUBNETWORK}

  2. Membuat TPU node pool:

    for i in $(seq 1 ${CLUSTER_NODEPOOL_COUNT}); do
gcloud container node-pools create "tpu-np-${i}" \
--project=${PROJECT} \
--zone=${ZONE} \
--cluster=${CLUSTER} \
--machine-type=${TPU_MACHINE_TYPE} \
--num-nodes=${WORKERS_PER_SLICE} \
--placement-type=COMPACT \
--tpu-topology=${TOPOLOGY} \
--scopes=storage-full,gke-default,cloud-platform \
--workload-metadata=GCE_METADATA
done

  3. Buat node pool CPU:

    gcloud container node-pools create "cpu-pathways-np" \
--project ${PROJECT} \
--zone ${ZONE} \
--cluster ${CLUSTER} \
--machine-type ${PW_CPU_MACHINE_TYPE} \
--num-nodes ${NUM_CPU_NODES} \
--scopes=storage-full,gke-default,cloud-platform \
--workload-metadata=GCE_METADATA

  4. Menginstal JobSet API

    Dapatkan kredensial untuk cluster dan tambahkan ke konteks kubectl lokal Anda.

    gcloud container clusters get-credentials ${CLUSTER} \
    [--zone=${ZONE} | --region=${REGION}] \
    --project=${PROJECT} \
    && kubectl config set-context --current --namespace=default

    Untuk menggunakan arsitektur Pathways di cluster GKE, Anda perlu menginstal API JobSet.

    kubectl apply --server-side -f https://github.com/kubernetes-sigs/jobset/releases/download/v0.8.0/manifests.yaml

Langkah berikutnya