Memantau kapasitas seluruh fleet

Metrik kapasitas seluruh fleet memberi Anda informasi penting tentang status kesehatan, ketersediaan, dan efisiensi seluruh fleet TPU Anda. Anda dapat menggunakan metrik kapasitas untuk mengidentifikasi peluang pengoptimalan, meningkatkan alokasi resource, dan meningkatkan performa workload.

Metrik

Metrik kapasitas seluruh fleet berikut tersedia di namespace compute.googleapis.com. Metrik ini juga berfungsi sebagai elemen penyusun untuk metrik kapasitas turunan, yang menggunakan metrik kapasitas seluruh fleet untuk mengukur penggunaan dan efisiensi seluruh fleet pada titik waktu tertentu.

Jumlah Chip yang Dipesan

Jumlah Chip yang Dipesan (compute.googleapis.com/tpu/slice/capacity/committed_chips) menunjukkan jumlah chip TPU yang dibeli saat ini dalam pemesanan.

Label Jenis Deskripsi Nilai
accelerator_type String Jenis dan generasi akselerator. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String ID pemesanan mesin fisik. <String>
provisioning_model String Model penyediaan terkait. [RESERVED, ON-DEMAND]
protection_tier String Model perlindungan terkait. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
is_exr Bool Apakah chip merupakan bagian dari pemesanan mode Semua Kapasitas (pemesanan diperpanjang). [TRUE, FALSE]
block_id String ID blok slice terkait. <String>
subblock_id String ID sub-blok slice terkait. <String>

Jumlah Chip yang Tersedia

Jumlah Chip yang Tersedia (compute.googleapis.com/tpu/slice/capacity/available_chips) menunjukkan jumlah chip TPU saat ini dalam pemesanan yang tersedia dan siap digunakan.

Label Jenis Deskripsi Nilai
accelerator_type String Jenis dan generasi akselerator. [TPU_7X, TPU_V6_LITEPOD, ...]
reservation_id String ID pemesanan mesin fisik. <String>
provisioning_model String Model penyediaan terkait. [RESERVED, ON-DEMAND]
protection_tier String Model perlindungan terkait. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
is_exr Bool Apakah chip merupakan bagian dari pemesanan mode Semua Kapasitas (pemesanan diperpanjang). [TRUE, FALSE]
block_id String ID blok slice terkait. <String>
subblock_id String ID sub-blok slice terkait. <String>

Jumlah Chip Terjadwal

Jumlah Chip Terjadwal (compute.googleapis.com/instance/tpu/scheduled_chips) menunjukkan jumlah chip saat ini dengan status HEALTHY yang dialokasikan ke VM. Metrik ini tidak menyertakan chip yang diberi label DISABLED.

Label Jenis Deskripsi Nilai
accelerator_type String Jenis dan generasi akselerator. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String ID pemesanan mesin fisik. <String>
provisioning_model String Model penyediaan terkait. [RESERVED, ON-DEMAND]
protection_tier String Model perlindungan terkait. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
block_id String ID blok dalam cluster yang menghosting VM. <String>
subblock_id String ID sub-blok yang menghosting VM. <String>
is_exr Bool Apakah chip merupakan bagian dari pemesanan mode Semua Kapasitas (pemesanan diperpanjang). [TRUE, FALSE]

Jumlah Chip Aktif

Jumlah Chip Aktif (compute.googleapis.com/instance/tpu/active_chips) menunjukkan jumlah chip yang digunakan secara aktif saat ini.

Label Jenis Deskripsi Nilai
accelerator_type String Jenis dan generasi akselerator. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String ID pemesanan mesin fisik. <String>
provisioning_model String Model penyediaan terkait. [RESERVED, ON-DEMAND]
protection_tier String Model perlindungan terkait. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
block_id String ID blok dalam cluster yang menghosting VM. <String>
subblock_id String ID sub-blok yang menghosting VM. <String>
is_exr Bool Apakah chip merupakan bagian dari pemesanan mode Semua Kapasitas (pemesanan diperpanjang). [TRUE, FALSE]

Metrik kapasitas turunan

Anda dapat menggunakan metrik kapasitas seluruh fleet untuk memperoleh metrik yang lebih canggih guna mengukur penggunaan dan efisiensi seluruh fleet pada titik waktu tertentu. Anda dapat menggunakan kueri PromQL (Prometheus Query Language) untuk menentukan dan menggabungkan metrik ini. Misalnya, kueri berikut membuat metrik Efisiensi Aktivasi Fleet Rata-Rata:

(
  sum(
    avg_over_time(
      {"__name__"="compute.googleapis.com/instance/tpu/active_chips",
      "monitored_resource"="gce_instance"
      }
      [5m]
    )
  )
  /
  sum(
    avg_over_time(
      {"__name__"="compute.googleapis.com/instance/tpu/scheduled_chips",
      "monitored_resource"="gce_instance"
      }
      [5m]
    )
  )
) * 100

Metrik berikut dapat memberikan insight yang lebih terperinci dan mendetail tentang status fleet TPU Anda.

Tingkat Ketersediaan Fleet

Tingkat Ketersediaan Fleet mengukur proporsi Chip yang Dipesan yang tersedia dan siap digunakan. Metrik ini menunjukkan kegunaan seluruh fleet yang dipesan.

$$ \text{Fleet Availability Rate} = \frac{\text{Available Chips}}{\text{Committed Chips}} $$

Tingkat Penjadwalan Fleet

Tingkat Penjadwalan Fleet mengukur proporsi Chip yang Dipesan yang dijadwalkan ke VM. Metrik ini menunjukkan seberapa efisien chip dijadwalkan.

$$ \text{Fleet Scheduling Rate} = \frac{\text{Scheduled Chips}}{\text{Committed Chips}} $$

Tingkat Aktivasi Fleet

Tingkat Aktivasi Fleet mengukur proporsi Chip Terjadwal yang aktif. Metrik ini menunjukkan efisiensi lingkungan runtime.

$$ \text{Fleet Activation Rate} = \frac{\text{Active Chips}}{\text{Scheduled Chips}} $$