מעקב אחר הקיבולת של כל הצי

מדדי הקיבולת של כל צי ה-TPU מספקים לכם מידע חשוב על מצבי התקינות, הזמינות והיעילות של כל צי ה-TPU. אפשר להשתמש במדדי הקיבולת כדי לזהות הזדמנויות לאופטימיזציה, לשפר את הקצאת המשאבים ולשפר את הביצועים של עומסי העבודה.

מדדים

מדדי הקיבולת הבאים זמינים במרחב השמות compute.googleapis.com. הם משמשים גם כאבני הבניין של מדדי הקיבולת הנגזרים, שמתבססים על מדדי הקיבולת של כלל הצי כדי לאמוד את השימוש והיעילות של הצי בנקודת זמן מסוימת.

מספר הצ'יפים בהתחייבות

המספר של שבבי ה-TPU שהוקצו (compute.googleapis.com/tpu/slice/capacity/committed_chips) מייצג את המספר הנוכחי של שבבי ה-TPU שנרכשו בהזמנה.

תווית סוג תיאור ערכים
accelerator_type String סוג המאיץ והדור שלו. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String המזהה של המקום השמור במכונה הפיזית. <String>
provisioning_model String מודל ההקצאה המשויך. [RESERVED, ON-DEMAND]
protection_tier String מודל ההגנה המשויך. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
is_exr בוליאני האם השבבים הם חלק מהזמנה במצב 'כל הקיבולת' (הזמנה מורחבת). [TRUE, FALSE]
block_id String המזהה של הבלוק של הפלח המשויך. <String>
subblock_id String המזהה של בלוק המשנה של הפלח המשויך. <String>

מספר הצ'יפים הזמינים

המספר של שבבי ה-TPU הזמינים (compute.googleapis.com/tpu/slice/capacity/available_chips) מייצג את המספר הנוכחי של שבבי ה-TPU בהזמנה שזמינים ומוכנים לשימוש.

תווית סוג תיאור ערכים
accelerator_type String סוג המאיץ והדור שלו. [TPU_7X, TPU_V6_LITEPOD, ...]
reservation_id String המזהה של המקום השמור במכונה הפיזית. <String>
provisioning_model String מודל ההקצאה המשויך. [RESERVED, ON-DEMAND]
protection_tier String מודל ההגנה המשויך. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
is_exr בוליאני האם השבבים הם חלק מהזמנה במצב 'כל הקיבולת' (הזמנה מורחבת). [TRUE, FALSE]
block_id String המזהה של הבלוק של הפלח המשויך. <String>
subblock_id String המזהה של בלוק המשנה של הפלח המשויך. <String>

מספר הצ'יפים המתוזמן

המספר של צ'יפים מתוזמנים (compute.googleapis.com/instance/tpu/scheduled_chips) מייצג את המספר הנוכחי של צ'יפים עם סטטוס HEALTHY שהוקצו למכונה וירטואלית. המדד הזה לא כולל שבבים עם התווית DISABLED.

תווית סוג תיאור ערכים
accelerator_type String סוג המאיץ והדור שלו. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String המזהה של המקום השמור במכונה הפיזית. <String>
provisioning_model String מודל ההקצאה המשויך. [RESERVED, ON-DEMAND]
protection_tier String מודל ההגנה המשויך. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
block_id String המזהה של הבלוק באשכול שמארח את המכונה הווירטואלית. <String>
subblock_id String המזהה של תת-הבלוק שמארח את מכונת ה-VM. <String>
is_exr בוליאני האם השבב הוא חלק מהזמנה במצב 'כל הקיבולת' (הזמנה מורחבת). [TRUE, FALSE]

ספירת הצ'יפים הפעילים

המדד 'מספר הצ'יפים הפעילים' (compute.googleapis.com/instance/tpu/active_chips) מייצג את המספר הנוכחי של צ'יפים שנמצאים בשימוש פעיל.

תווית סוג תיאור ערכים
accelerator_type String סוג המאיץ והדור שלו. [TPU_7X, TPU_V6_LITEPOD, …]
reservation_id String המזהה של המקום השמור במכונה הפיזית. <String>
provisioning_model String מודל ההקצאה המשויך. [RESERVED, ON-DEMAND]
protection_tier String מודל ההגנה המשויך. [STANDARD, CAPACITY_OPTIMIZED, UNKNOWN]
block_id String המזהה של הבלוק באשכול שמארח את המכונה הווירטואלית. <String>
subblock_id String המזהה של תת-הבלוק שמארח את מכונת ה-VM. <String>
is_exr בוליאני האם השבב הוא חלק מהזמנה במצב 'כל הקיבולת' (הזמנה מורחבת). [TRUE, FALSE]

מדדי קיבולת נגזרים

אתם יכולים להשתמש במדדי הקיבולת של כלל המכונות כדי לגזור מדדים מתקדמים יותר שיעזרו לכם להעריך את השימוש והיעילות של כלל המכונות בנקודת זמן מסוימת. אפשר להשתמש בשאילתת PromQL (שפת שאילתות של Prometheus) כדי להגדיר את המדדים האלה ולצבור אותם. לדוגמה, השאילתה הבאה יוצרת את המדד Average Fleet Activation Efficiency (יעילות ההפעלה הממוצעת של צי הרכב):

(
  sum(
    avg_over_time(
      {"__name__"="compute.googleapis.com/instance/tpu/active_chips",
      "monitored_resource"="gce_instance"
      }
      [5m]
    )
  )
  /
  sum(
    avg_over_time(
      {"__name__"="compute.googleapis.com/instance/tpu/scheduled_chips",
      "monitored_resource"="gce_instance"
      }
      [5m]
    )
  )
) * 100

המדדים הבאים יכולים לספק תובנות מפורטות יותר לגבי המצבים של צי ה-TPU.

שיעור הזמינות של הצי

שיעור הזמינות של הצי מודד את החלק היחסי של השבבים שהתחייבתם להשתמש בהם שזמינים ומוכנים לשימוש. המדד מייצג את מידת השימושיות של כל צי הרכבים השמור.

$$ \text{Fleet Availability Rate} = \frac{\text{Available Chips}}{\text{Committed Chips}} $$

שיעור התזמון של Fleet

שיעור התזמון של צי המכונות הווירטואליות מודד את החלק של שבבים עם התחייבות לשימוש שתזמנו למכונה וירטואלית. המדד הזה מייצג את היעילות של תזמון הצ'יפים.

$$ \text{Fleet Scheduling Rate} = \frac{\text{Scheduled Chips}}{\text{Committed Chips}} $$

שיעור ההפעלה של הצי

שיעור ההפעלה של הצי מודד את החלק היחסי של הצ'יפים המתוזמנים שפעילים. המדד הזה מייצג את היעילות של סביבת זמן הריצה.

$$ \text{Fleet Activation Rate} = \frac{\text{Active Chips}}{\text{Scheduled Chips}} $$