Melihat topologi node GKE

Dokumen ini menunjukkan cara melihat topologi fisik node Google Kubernetes Engine (GKE) Anda di instance A4X Max, A4X, A4, A3 Ultra, A3 Mega, dan A3 High Compute Engine. Memahami lokasi fisik node membantu Anda mengoptimalkan penempatan Pod untuk workload AI.

Sebelum memulai

Sebelum memulai, pastikan Anda telah melakukan tugas berikut:

• Aktifkan Google Kubernetes Engine API.
Aktifkan Google Kubernetes Engine API
• Untuk menggunakan Google Cloud CLI untuk tugas ini, instal lalu lakukan inisialisasi gcloud CLI. Jika sebelumnya Anda telah menginstal gcloud CLI, dapatkan versi terbaru dengan menjalankan perintah gcloud components update. Versi gcloud CLI yang lebih lama mungkin tidak mendukung menjalankan perintah dalam dokumen ini.
  Catatan: Untuk penginstalan gcloud CLI yang ada, pastikan untuk menyetel properti compute/region. Jika Anda terutama menggunakan cluster zona, tetapkan compute/zone. Dengan menyetel lokasi default, Anda dapat menghindari error di gcloud CLI yang seperti ini: One of [--zone, --region] must be supplied: Please specify location. Anda mungkin perlu menentukan lokasi dalam perintah tertentu jika lokasi cluster Anda berbeda dengan default yang Anda tetapkan.

Hubungkan ke cluster Anda

• Jalankan perintah berikut untuk terhubung ke cluster Anda:

  gcloud container clusters get-credentials CLUSTER_NAME
  

  Ganti CLUSTER_NAME dengan nama cluster Anda.

Memahami topologi node GKE

Anda dapat memahami topologi fisik node GKE pada instance Compute Engine A4X Max, A4X, A4, dan A3 Ultra dengan melihat label node berikut:

• cloud.google.com/gce-topology-block: ID khusus organisasi dari blok yang dipesan tempat VM berada. Blok adalah kumpulan sub-blok yang terhubung oleh lapisan fabric jaringan terdistribusi.
• cloud.google.com/gce-topology-subblock: ID khusus organisasi dari sub-blok tempat VM berada. Sub-blok adalah sekelompok host dan hardware konektivitas terkait:
  • Untuk VM A4 dan A3 Ultra, host terhubung melalui fabric jaringan Jupiter terdistribusi berskala besar.
  • Instance A4X Max dan A4X Compute Engine disusun ke dalam sub-blok, yang masing-masing membentuk Domain NVIDIA NVLink (NVL72). Dalam setiap NVL72, GPU saling terhubung secara erat melalui fabric NVLink khusus dengan bandwidth tinggi. Di seluruh sub-blok, GPU dapat terhubung melalui NIC RDMA dengan menggunakan fabric RoCE. Komunikasi host di seluruh sub-blok, serta traffic jaringan lainnya seperti penyimpanan, menggunakan fabric jaringan Jupiter melalui NIC Ethernet frontend berkecepatan tinggi.
• cloud.google.com/gce-topology-host: ID khusus organisasi dari host tempat VM berada. A host atau node adalah satu mesin server fisik di pusat data. Setiap node GKE disediakan di instance VM yang disediakan di atas host fisik.
• kubernetes.io/hostname: nama host node Kubernetes. Ini biasanya juga merupakan nama node GKE.

Catatan: Untuk node A4X Max, A4X, A4, dan A3 Ultra, GKE menambahkan label topologi secara otomatis karena penempatan rapat diaktifkan secara default. Untuk A3 Mega, A3 High, atau jenis mesin yang didukung lainnya, saat menyediakan node sebagai Spot VM, Anda harus menentukan penempatan rapat di node GKE sebelum dapat melihat topologi fisiknya untuk Penjadwalan yang Mendukung Topologi (TAS). Jika tidak, label topologi tidak akan muncul di node. Untuk mengetahui informasi selengkapnya tentang cara mem-provisioning node A3 Mega dan A3 High dengan kebijakan penempatan, lihat Membuat node pool GPU.

Melihat topologi fisik node cluster GKE Anda

Jalankan perintah berikut untuk mendapatkan label node bagi node cluster GKE Anda dengan akselerator tertentu:

kubectl get nodes -l cloud.google.com/gke-accelerator=ACCELERATOR \
    -ocustom-columns='0-NAME:.metadata.name,0-BLOCK:.metadata.labels.cloud\.google\.com/gce-topology-block,0-SUBBLOCK:.metadata.labels.cloud\.google\.com/gce-topology-subblock,0-HOST:.metadata.labels.cloud\.google\.com/gce-topology-host'| sort -k2,4

Ganti ACCELERATOR dengan nama akselerator, seperti nvidia-h200-141gb.

Output menampilkan blok, sub-blok, dan host dari setiap node GKE dengan akselerator yang ditentukan.

Untuk mengetahui informasi selengkapnya, lihat Melihat topologi reservasi.

Langkah berikutnya

• Pelajari cara menjadwalkan workload GKE dengan Topology Aware Scheduling.
• Pelajari cara mengelola peristiwa pemeliharaan host, upgrade cluster, pelaporan host yang rusak untuk cluster GKE