Kapazität der gesamten Flotte überwachen

Die Messwerte zur Kapazität der gesamten Flotte liefern Ihnen wichtige Informationen zu Zustand, Verfügbarkeit und Effizienz Ihrer gesamten TPU-Flotte. Sie können diese Messwerte verwenden, um Optimierungsmöglichkeiten zu erkennen, die Ressourcenzuweisung zu verbessern und die Leistung von Arbeitslasten zu steigern.

Messwerte

Die folgenden Messwerte zur Kapazität der gesamten Flotte sind im Namespace compute.googleapis.com verfügbar. Sie dienen auch als Bausteine für die abgeleiteten Messwerte zur Kapazität, mit denen die Nutzung und Effizienz der gesamten Flotte zu einem bestimmten Zeitpunkt gemessen werden.

Anzahl der zugesicherten Chips

Der Messwert „Anzahl der zugesicherten Chips“ (compute.googleapis.com/tpu/slice/capacity/committed_chips) gibt die aktuelle Anzahl der gekauften TPU-Chips in der Reservierung an.

Label Typ Beschreibung Werte
accelerator_type String Beschleunigertyp und -generation. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String Die ID der Reservierung der physischen Maschine. <String>
provisioning_model String Das zugehörige Bereitstellungsmodell. [RESERVED, ON-DEMAND]
protection_tier String Das zugehörige Schutzmodell. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
is_exr Boolesch Gibt an, ob die Chips Teil einer Reservierung im Modus „Alle Kapazitäten“ (erweiterte Reservierung) sind. [TRUE, FALSE]
block_id String Die ID des Blocks des zugehörigen Slice. <String>
subblock_id String Die ID des Unterblocks des zugehörigen Slice. <String>

Anzahl der verfügbaren Chips

Der Messwert „Anzahl der verfügbaren Chips“ (compute.googleapis.com/tpu/slice/capacity/available_chips) gibt die aktuelle Anzahl der TPU-Chips in der Reservierung an, die verfügbar und einsatzbereit sind.

Label Typ Beschreibung Werte
accelerator_type String Beschleunigertyp und -generation. [TPU_7X, TPU_V6_LITEPOD, ...]
reservation_id String Die ID der Reservierung der physischen Maschine. <String>
provisioning_model String Das zugehörige Bereitstellungsmodell. [RESERVED, ON-DEMAND]
protection_tier String Das zugehörige Schutzmodell. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
is_exr Boolesch Gibt an, ob die Chips Teil einer Reservierung im Modus „Alle Kapazitäten“ (erweiterte Reservierung) sind. [TRUE, FALSE]
block_id String Die ID des Blocks des zugehörigen Slice. <String>
subblock_id String Die ID des Unterblocks des zugehörigen Slice. <String>

Anzahl der geplanten Chips

Der Messwert „Anzahl der geplanten Chips“ (compute.googleapis.com/instance/tpu/scheduled_chips) gibt die aktuelle Anzahl der Chips mit dem Status HEALTHY an, die einer VM zugewiesen sind. Chips mit dem Label DISABLED werden in diesem Messwert nicht berücksichtigt.

Label Typ Beschreibung Werte
accelerator_type String Beschleunigertyp und -generation. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String Die ID der Reservierung der physischen Maschine. <String>
provisioning_model String Das zugehörige Bereitstellungsmodell. [RESERVED, ON-DEMAND]
protection_tier String Das zugehörige Schutzmodell. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
block_id String Die ID des Blocks im Cluster, in dem die VM gehostet wird. <String>
subblock_id String Die ID des Unterblocks, in dem die VM gehostet wird. <String>
is_exr Boolesch Gibt an, ob der Chip Teil einer Reservierung im Modus „Alle Kapazitäten“ (erweiterte Reservierung) ist. [TRUE, FALSE]

Anzahl der aktiven Chips

Der Messwert „Anzahl der aktiven Chips“ (compute.googleapis.com/instance/tpu/active_chips) gibt die aktuelle Anzahl der Chips an, die aktiv genutzt werden.

Label Typ Beschreibung Werte
accelerator_type String Beschleunigertyp und -generation. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String Die ID der Reservierung der physischen Maschine. <String>
provisioning_model String Das zugehörige Bereitstellungsmodell. [RESERVED, ON-DEMAND]
protection_tier String Das zugehörige Schutzmodell. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
block_id String Die ID des Blocks im Cluster, in dem die VM gehostet wird. <String>
subblock_id String Die ID des Unterblocks, in dem die VM gehostet wird. <String>
is_exr Boolesch Gibt an, ob der Chip Teil einer Reservierung im Modus „Alle Kapazitäten“ (erweiterte Reservierung) ist. [TRUE, FALSE]

Abgeleitete Messwerte zur Kapazität

Sie können die Messwerte zur Kapazität der gesamten Flotte verwenden, um komplexere Messwerte abzuleiten, mit denen die Nutzung und Effizienz der gesamten Flotte zu einem bestimmten Zeitpunkt gemessen werden. Sie können diese Messwerte mit einer PromQL -Abfrage (Prometheus Query Language) definieren und aggregieren. Mit der folgenden Abfrage wird beispielsweise der Messwert „Durchschnittliche Aktivierungseffizienz der Flotte“ erstellt:

(
  sum(
    avg_over_time(
      {"__name__"="compute.googleapis.com/instance/tpu/active_chips",
      "monitored_resource"="gce_instance"
      }
      [5m]
    )
  )
  /
  sum(
    avg_over_time(
      {"__name__"="compute.googleapis.com/instance/tpu/scheduled_chips",
      "monitored_resource"="gce_instance"
      }
      [5m]
    )
  )
) * 100

Die folgenden Messwerte können detailliertere Einblicke in den Zustand Ihrer TPU-Flotte liefern.

Verfügbarkeitsrate der Flotte

Die Verfügbarkeitsrate der Flotte gibt den Anteil der zugesicherten Chips an, die verfügbar und einsatzbereit sind. Der Messwert gibt die Nutzbarkeit der gesamten reservierten Flotte an.

$$ \text{Fleet Availability Rate} = \frac{\text{Available Chips}}{\text{Committed Chips}} $$

Planungsrate der Flotte

Die Planungsrate der Flotte gibt den Anteil der zugesicherten Chips an, die einer VM zugewiesen sind. Der Messwert gibt an, wie effizient die Chips geplant werden.

$$ \text{Fleet Scheduling Rate} = \frac{\text{Scheduled Chips}}{\text{Committed Chips}} $$

Aktivierungsrate der Flotte

Die Aktivierungsrate der Flotte gibt den Anteil der geplanten Chips an, die aktiv sind. Der Messwert gibt die Effizienz der Laufzeitumgebung an.

$$ \text{Fleet Activation Rate} = \frac{\text{Active Chips}}{\text{Scheduled Chips}} $$