מכונות TPU במשפחת מכונות שעברה אופטימיזציה למאיץ

במאמר הזה מתוארות מכונות Compute Engine במשפחת המכונות שמותאמות למאיצים, שיש להן יחידות TPU. יחידות TPU הן מעגלים משולבים לאפליקציות ספציפיות (ASIC) שפותחו על ידי Google, ומותאמים במיוחד לעומסי עבודה של בינה מלאכותית (AI) ולמידת מכונה (ML).

ב-Compute Engine אפשר להשתמש בגרסאות הבאות של TPU:

  • TPU7x
  • TPU v6e
  • TPU v5p

לכל סוג מכונה בגרסה מסוימת יש טופולוגיה ספציפית ומספר שבבי TPU שמחוברים אליה.

יסודות הארכיטקטורה של TPU

הבנת היסודות של ארכיטקטורת TPU עוזרת לבחור את גרסת ה-TPU וסוג המכונה לעומס העבודה שלכם.

  • שבב TPU: שבב TPU הוא מאיץ ייעודי ש-Google פיתחה ללמידת מכונה. כל שבב TPU מכיל ליבת Tensor אחת או יותר, כדי לטפל בפעולות מטריצה מסיביות. כל TensorCore מורכב מיחידה אחת או יותר של כפל מטריצות (MXU), שמשתמשות בארכיטקטורה של מערך סיסטולי כדי לבצע אלפי פעולות של כפל וצבירה בכל מחזור, בלי גישה קבועה לזיכרון. למרות שהשימוש העיקרי הוא לעיבוד מטריצות במהירות גבוהה, שבב ה-TPU כולל גם יחידות וקטוריות וסקלריות לפעולות חישוב כלליות ובקרת זרימה.

  • ‫TPU Pod: קבוצה רציפה של יחידות TPU שמקובצות יחד ברשת ייעודית. מספר שבבי ה-TPU ב-TPU Pod תלוי בגרסת ה-TPU.

  • מכונת TPU: מכונה של Linux שפועלת במארח TPU ויש לה גישה ישירה לחומרת ה-TPU הבסיסית. היא מאפשרת גישה לספריות עם ביצועים גבוהים, קישוריות SSH ויומני ניפוי באגים של זמן הריצה.

  • ‫TPU slice: קבוצה לוגית של שבבי TPU שמחוברים ביניהם, שאפשר לגשת אליה דרך מכונה אחת או יותר של TPU. לפרוסות יכול להיות אחד מההיקפים הבאים:

    • פרוסה של מארח יחיד: פרוסה שמורכבת ממכונה מארחת אחת. באופן כללי, זה ממפה למכונה אחת של TPU.
    • פרוסה עם כמה מארחים: פרוסה שמורכבת מכמה מכונות TPU שמחוברות ביניהן באמצעות חיבור מהיר בין שבבים (ICI).
  • ‫TPU cube: טופולוגיה של 4x4x4 שבבי TPU שמחוברים ביניהם. ההגדרה הזו רלוונטית רק לטופולוגיות תלת-ממדיות.

  • ‫SparseCore: מעבדי Dataflow שמאיצים מודלים באמצעות פעולות דלילות. תרחיש לדוגמה עיקרי הוא האצת מודלים של המלצות, שמסתמכים במידה רבה על הטמעות.

  • ‫גרסאות TPU: הארכיטקטורה המדויקת של שבב TPU תלויה בגרסת ה-TPU שבה אתם משתמשים. כל גרסת TPU תומכת גם בגדלים ובהגדרות אישיות שונות של פרוסות.

במאמר ארכיטקטורת TPU שבמסמכי התיעוד של Cloud TPU מוסבר איך יחידות TPU פועלות.

גרסאות TPU מומלצות לפי סוגי עומסי עבודה

בחירת מודל ה-TPU המתאים תלויה במאפייני החישוב, בדרישות הזיכרון ובצורכי הסקיילביליות של עומס העבודה. בוחרים אחת מהכרטיסיות הבאות כדי לראות את ההמלצות.

אימון AI/ML

  • אימון מראש של מודלים גדולים: אימון מודלים גדולים מההתחלה. עומסי העבודה האלה קשורים למחשוב ולתקשורת.

    • יכולת TPU נדרשת: FLOPS גבוה בשיא, תמיכה ברמת דיוק נמוכה ורוחב פס גבוה של חיבורים.
    • גרסאות TPU מומלצות:
      • TPU7x. הגרסה הזו מספקת ביצועים גבוהים של FP8.
      • TPU v5p. הגרסה הזו תומכת בהגדרות של אשכולות בקנה מידה גדול.
  • כוונון וזיקוק מודלים: התאמת מודלים קיימים באמצעות שיטות יעילות לפרמטרים או אימון גרסאות קטנות יותר של מודלים.

    • יכולת TPU נדרשת: יכולת עיבוד בינונית וקיבולת זיכרון מספקת.
    • גרסאות TPU מומלצות:
      • TPU v6e. הגרסה הזו חסכונית למשימות אימון סטנדרטיות.
      • TPU7x. הגרסה הזו מציעה ביצועים גבוהים לכוונון בקנה מידה גדול.

הסקה של AI/ML

  • הצגת מודלים אונליין: פריסת מודלים לאינטראקציה בזמן אמת, במקרים שבהם זמן אחזור קצר הוא קריטי. עומסי העבודה האלה מוגבלים לרוחב הפס של הזיכרון במהלך היצירה הרציפה של טוקנים.

    • יכולת TPU נדרשת: רוחב פס גבוה של HBM ו-SRAM גדול על השבב כדי לצמצם את זמן האחזור של שליפת הנתונים.
    • גרסאות TPU מומלצות:
      • TPU v6e. הגרסה הזו מותאמת להצגה חסכונית בקנה מידה רחב.
      • TPU7x. הגרסה הזו מספקת רוחב פס גבוה של HBM ו-SRAM גדול כדי להאיץ את יצירת הטוקנים.
  • הרצת הסקה באצווה: עיבוד מערכי נתונים גדולים אופליין, כשהמטרה העיקרית היא תפוקה גבוהה. עומסי העבודה האלה מוגבלים על ידי המחשוב בשלב המילוי מראש של ההנחיה.

    • יכולת TPU נדרשת: צפיפות מחשוב גבוהה כדי למקסם את התפוקה לכל דולר.
    • גרסאות TPU מומלצות:
      • TPU v6e. הגרסה הזו חסכונית לעיבוד ברצף (batch processing) עם תפוקה גבוהה.
      • TPU7x. הגרסה הזו מציעה צפיפות מחשוב גבוהה כדי לעבד במהירות קבוצות גדולות של נתונים.

מערכות המלצות

  • עיבוד הטמעות גדולות: אימון והצגה של מודלים להמלצות שמשתמשים בטבלאות הטמעה גדולות. עומסי העבודה האלה מוגבלים מבחינת הקיבולת והתקשורת.
    • יכולת TPU נדרשת: חומרת SparseCore ייעודית לעיבוד פעולות דלילות במקביל, קיבולת HBM גדולה ותמיכה בהעברה לזיכרון המארח.
    • גרסאות TPU מומלצות:
      • TPU7x. הגרסה הזו כוללת ארבעה ליבות SparseCore לכל שבב ומציעה את קיבולת ה-HBM הגדולה ביותר.
      • TPU v6e. הגרסה הזו כוללת שני שבבי SparseCore לכל שבב, כדי לאפשר הצגה חסכונית.
      • TPU v5p. הגרסה הזו כוללת ארבעה ליבות SparseCore לכל שבב לאימון בקנה מידה גדול.

למידה עם חיזוקים

  • הפעלת לולאות של למידת חיזוק: ניהול עומסי עבודה היברידיים שדורשים לולאות הדוקות של יצירת דוגמיות ועדכון משקלי המדיניות.

    • יכולת TPU נדרשת: ICI עם זמן אחזור קצר להעברות מהירות של משקלים והפעלות בין שבבים, וחיבורים למארח עם רוחב פס גבוה.
    • גרסאות TPU מומלצות:

      גרסאות ה-TPU האלה משתמשות בחיבור טורוס תלת-ממדי במהירות גבוהה.

אפשרויות צריכה

כדי להגדיל את הסיכויים לקבלת TPU ולשפר את העלויות ואת ביצועי עומסי העבודה, השתמשו ב-Flex-start, ב-Spot, במקומות שמורים לעתיד במצב תזמון או במקומות שמורים לעתיד בשביל גושי קיבולת, במקום בקיבולת על פי דרישה. ב-Compute Engine יש תמיכה באפשרויות הבאות לצריכת TPU:

  • ‫Flex-start: הקצאת מכונות וירטואליות מסוג Flex-start למשך עד שבעה ימים. ‫Compute Engine מקצה את החומרה כשהקיבולת מתפנה, ומספק הנחות של עד 53%. מידע נוסף זמין במאמר מידע על Flex-start VM.

  • מקום שמור לעתיד במצב תזמון: שומר משאבי TPU לתקופה של עד 90 יום. מידע נוסף זמין במאמר מידע על בקשות למקום שמור לעתיד במצב תזמון.

  • מקום שמור לעתיד לגושי קיבולת: שריון של קיבולת TPU לשנה או יותר. מידע נוסף זמין במאמר בקשה למקום שמור לעתיד לשנה או יותר במסמכי התיעוד של Cloud TPU.

  • ‫Spot: הקצאת מכונות וירטואליות במודל Spot בהנחות משמעותיות, אבל Compute Engine יכול להחליף את המכונות הווירטואליות במודל Spot בכל שלב, עם אזהרה של 30 שניות. מידע נוסף זמין במאמר VM במודל Spot.

  • לפי דרישה: בקשות ליחידות TPU בלי מקום שמור לעתיד. לפני שאתם מבקשים משאבים, אתם צריכים לוודא שיש לכם מספיק מכסה על פי דרישה לסוג ולכמות הספציפיים של מכונות ה-TPU. הקיבולת על פי דרישה תלויה בחומרה הפיזית שזמינה בכל אזור, ולכן כדאי להשתמש בה רק אם עומס העבודה שלכם יכול לסבול עיכובים או אם אתם לא יכולים להשתמש באפשרויות צריכה אחרות.

ב-Compute Engine אין תמיכה במקומות שמורים לפי הצורך או במקומות שמורים רגילים לעתיד בשביל TPU. אם לא תציינו אפשרות צריכה, Compute Engine ישתמש כברירת מחדל באפשרות "על פי דרישה".

למידע על המודלים הבסיסיים להקצאת משאבים לאפשרויות הצריכה האלה, קראו את המאמר מודלים להקצאת משאבים למכונות Compute Engine.

זמינות אפשרויות הצריכה לפי גרסאות TPU

בטבלה הבאה מפורטת הזמינות של כל אפשרות צריכה לפי גרסאות TPU.

גרסת ה-TPU על פי דרישה Spot התחלה גמישה (Flex-start) מקום שמור לפי הצורך מקומות שמורים לעתיד מקומות שמורים לעתיד במצב תזמון1 מקומות שמורים לעתיד בגושי קיבולת
2 2 2 2

1 אי אפשר ליצור בקשות למקום שמור לעתיד במצב תזמון כשמשתמשים במצב All Capacity.

‫2 מכונות Spot, התחלה גמישה (Flex-start), מקומות שמורים לעתיד במצב תזמון ומקומות שמורים לעתיד של בלוקים של קיבולת ל-TPU7x מוגבלים על ידי רשימת היתרים. כדי לבקש גישה, פנו לצוות ניהול החשבון או לצוות המכירות.

מצב "כל הקיבולת"

כברירת מחדל, המערכת מנסה לתקן באופן אוטומטי תקלות במכונות TPU שהוקצו.Google Cloud מחליפה באופן אוטומטי מכונות TPU פגומות במכונות תקינות מהקיבולת שהוקצתה, כדי לוודא שיהיו משאבים זמינים להפעלה מחדש של פרוסות ה-TPU.

לחלופין, ב-TPU v6e וב-TPU7x, אתם יכולים לבקש קיבולת TPU במצב All Capacity. במצב הזה יש גישה לכל הקיבולת השמורה ולכל הטופולוגיה. במצב הזה, אפשר גם לטרגט בלוקים או תת-בלוקים ספציפיים כדי למקם את עומסי העבודה בצורה מדויקת לפי הטופולוגיה. עם זאת, אתם אחראים לניהול של תקלות בחומרה ולתחזוקה.

למידע נוסף על המצבים האלה, קראו את המאמר מצבי קיבולת של TPU במסמכי התיעוד של Cloud TPU.

השוואה בין גרסאות TPU

השוואה בין המאפיינים של גרסאות TPU שונות. אתם יכולים לבחור מאפיינים ספציפיים בשדה Choose properties to compare כדי להשוות בין המאפיינים האלה בכל גרסאות ה-TPU בטבלה הבאה.

עם אופטימיזציה למאיץ עם אופטימיזציה למאיץ עם אופטימיזציה למאיץ
VM VM VM
Intel Emerald Rapids AMD EPYC Genoa Intel Sapphire Rapids
x86 x86 x86
224 44 עד 180 208
שרשור שרשור שרשור
960 GB ‫176GB עד 1,440GB 448 GB
NUMA NUMA NUMA
— — —
— — —
— — —
— — —
— —
NVMe NVMe NVMe
—
— — —
— — —
— — —
— — —
— — —
— —
— — —
— — —
gVNIC gVNIC gVNIC
400 Gbps ‫‎50–400Gbps 200 Gbps
4 8 4
— — —
הנחות הנחות הנחות
— הנחות— הנחות— הנחות

מפרטי ארכיטקטורת TPU

בטבלה הבאה מפורטים המפרטים העיקריים של כל גרסת TPU.

מפרט TPU7x TPU v6e TPU v5p
מספר הצ'יפים בכל פוד 9216 256 8960
שיא העיבוד לכל שבב (BF16) ‏(TFLOPs) 2307 918 459
שיא המחשוב לכל שבב (FP8) ‏(TFLOPs) 4614 918 459
קיבולת HBM לכל שבב (GiB) 192 32 95
רוחב פס של HBM לכל שבב (GBps) 7380 1638 2765
מספר המעבדים הווירטואליים (מכונה וירטואלית עם 4 שבבים) 224 180 208
‫RAM (GiB) (מכונה וירטואלית עם 4 שבבים) 960 720 448
מספר ליבות TensorCore בכל שבב 2 1 2
מספר ליבות SparseCore בכל שבב 4 2 4
רוחב פס דו-כיווני של חיבור בין שבבים (ICI) לכל שבב (GBps) 1200 800 1200
רוחב הפס של רשת מרכז הנתונים (DCN) לכל שבב (Gbps) 100 100 50

סוגי מכונות TPU

בקטעים הבאים מתוארים סוגי המכונות שזמינים לכל גרסת TPU.

‫TPU7x‏ (Ironwood)

כל מכונה וירטואלית (VM) של TPU7x מכילה 4 שבבי TPU. כל פרוסות TPU7x משתמשות במכונות וירטואליות של מארח מלא עם 4 צ'יפים.

כל שבב TPU7x מכיל שני TensorCores וארבעה SparseCores.

מודל התכנות של Ironwood מאפשר לגשת לשני מכשירי TPU במקום לארכיטקטורת הליבה הלוגית היחידה שהייתה בשימוש בדורות הקודמים. מידע נוסף זמין במאמר ארכיטקטורת צ'יפלט כפול במסמכי התיעוד של Cloud TPU.

בטבלה הבאה מפורטים המאפיינים של סוג המכונה TPU7x:

סוג המכונה מספר המעבדים הווירטואליים (vCPU) זיכרון המכונה (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר שבבי ה-TPU לכל VM מספר צומתי NUMA זיכרון TPU כולל (GiB HBM)
tpu7x-standard-4t 224 960 2 400 4 2 768

מידע נוסף על הארכיטקטורה של TPU7x זמין במאמר TPU7x (Ironwood) במסמכי התיעוד של Cloud TPU.

‫TPU v6e‏ (Trillium)

כל מכונת TPU v6e וירטואלית יכולה להכיל שבב TPU אחד, 4 שבבים או 8 שבבים. לפרוסות של 4 שבבים או פחות יש אותו צומת של גישה לא אחידה לזיכרון (NUMA).

פרוסות TPU v6e משתמשות במכונות וירטואליות בחצי מקיבולת המארח, כל אחת עם 4 שבבי TPU, חוץ מסוגי המכונות הבאים:

  • ‫ct6e-standard-1t מכיל שבב TPU אחד לבדיקת עומסי עבודה.
  • ‫ct6e-standard-8t היא מכונה וירטואלית עם מארח מלא, שמותאמת לעומסי עבודה של הסקת מסקנות. סוג המכונה הזה מאפשר להשתמש בכל 8 שבבי ה-TPU שמחוברים למכונה וירטואלית אחת בעומס עבודה אחד של הצגת מודעות.

בטבלה הבאה מפורטים המאפיינים של סוגי המכונות TPU v6e:

סוג המכונה מספר המעבדים הווירטואליים (vCPU) זיכרון המכונה (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר שבבי ה-TPU לכל VM מספר צומתי NUMA זיכרון TPU כולל (GiB HBM)
ct6e-standard-1t 44 176 1/4 50 1 1 32
ct6e-standard-4t 180 720 2 400 4 1 128
ct6e-standard-8t 360 1440 1 200 8 2 256

מידע נוסף על הארכיטקטורה של TPU v6e זמין במאמר TPU v6e במסמכי התיעוד של Cloud TPU.

TPU v5p

מערך TPU v5p Pod מכיל 8,960 שבבי TPU שמחוברים ביניהם באמצעות קישורים מהירים שאפשר להגדיר מחדש. הרשת הגמישה של TPU v5p מאפשרת לחבר את שבבי ה-TPU בפרוסה באותו גודל בכמה דרכים, ולאמן מודלים בפרוסה אחת של עד 6,144 שבבי TPU.

בטבלה הבאה מפורטים המאפיינים של סוג המכונה TPU v5p:

סוג המכונה מספר המעבדים הווירטואליים (vCPU) זיכרון המכונה (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר שבבי ה-TPU לכל VM מספר צומתי NUMA זיכרון TPU כולל (GiB HBM)
ct5p-hightpu-4t 208 448 1 200 4 2 380

מידע נוסף על ארכיטקטורת TPU v5p זמין במאמר TPU v5p במסמכי התיעוד של Cloud TPU.

טופולוגיית TPU

הטופולוגיה מגדירה את הסידור הפיזי של יחידות ה-TPU בתוך פרוסת TPU. בהתאם לגרסת ה-TPU, הטופולוגיה היא דו-ממדית או תלת-ממדית. כדי לזהות את מספר שבבי ה-TPU בפרוסה, מחשבים את המכפלה של כל גודל בטופולוגיה. לדוגמה:

  • סוג המכונה tpu7x-standard-4t עם הטופולוגיה 2x2x2 הוא פרוסת TPU7x עם 8 צ'יפים ומארחים מרובים.

בטבלה הבאה מפורטות הטופולוגיות שזמינות לכל גרסת TPU.

גרסת ה-TPU סוג המכונה היקף מפרט טכני
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מארח יחיד
  • טופולוגיה: 2x2x1
  • מספר שבבי ה-TPU בטופולוגיה: 4
  • מספר המארחים: 1
  • מספר המכונות הווירטואליות: 1
  • מספר הקוביות: 1/16
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 2x2x2
  • מספר שבבי ה-TPU לטופולוגיה: 8
  • מספר המארחים: 2
  • מספר המכונות הווירטואליות: 2
  • מספר הקוביות: 1/8
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 2x2x4
  • מספר שבבי ה-TPU בטופולוגיה: 16
  • מספר המארחים: 4
  • מספר המכונות הווירטואליות: 4
  • מספר הקוביות: 1/4
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 2x4x4
  • מספר שבבי ה-TPU בטופולוגיה: 32
  • מספר המארחים: 8
  • מספר המכונות הווירטואליות: 8
  • מספר הקוביות: 1/2
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 4x4x4
  • מספר שבבי ה-TPU בטופולוגיה: 64
  • מספר המארחים: 16
  • מספר המכונות הווירטואליות: 16
  • מספר הקוביות: 1
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 4x4x8
  • מספר שבבי ה-TPU בטופולוגיה: 128
  • מספר המארחים: 32
  • מספר המכונות הווירטואליות: 32
  • מספר הקוביות: 2
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 4x8x8
  • מספר שבבי ה-TPU לטופולוגיה: 256
  • מספר המארחים: 64
  • מספר המכונות הווירטואליות: 64
  • מספר הקוביות: 4
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 8x8x8
  • מספר שבבי ה-TPU בטופולוגיה: 512
  • מספר המארחים: 128
  • מספר המכונות הווירטואליות: 128
  • מספר הקוביות: 8
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: 8x8x16
  • מספר שבבי ה-TPU בטופולוגיה: 1,024
  • מספר המארחים: 256
  • מספר המכונות הווירטואליות: 256
  • מספר הקוביות: 16
‫TPU7x‏ (Ironwood) tpu7x-standard-4t מספר מארחים
  • טופולוגיה: {A}x{B}x{C} (כאשר A,‏ B ו-C הם כפולות של שתיים)
  • מספר שבבי ה-TPU בטופולוגיה: A*B*C
  • מספר המארחים: (A*B*C)/4
  • מספר המכונות הווירטואליות: (A*B*C/4)
  • מספר הקוביות: (A*B*C/64)
‫TPU v6e‏ (Trillium) ct6e-standard-1t מארח יחיד
  • טופולוגיה: 1x1
  • מספר שבבי ה-TPU לטופולוגיה: 1
  • מספר המכונות הווירטואליות: 1
‫TPU v6e‏ (Trillium) ct6e-standard-8t מארח יחיד
  • טופולוגיה: 2x4
  • מספר שבבי ה-TPU לטופולוגיה: 8
  • מספר המכונות הווירטואליות: 1
‫TPU v6e‏ (Trillium) ct6e-standard-4t מארח יחיד
  • טופולוגיה: 2x2
  • מספר שבבי ה-TPU בטופולוגיה: 4
  • מספר המכונות הווירטואליות: 1
‫TPU v6e‏ (Trillium) ct6e-standard-4t מספר מארחים
  • טופולוגיה: 2x4
  • מספר שבבי ה-TPU לטופולוגיה: 8
  • מספר המכונות הווירטואליות: 2
‫TPU v6e‏ (Trillium) ct6e-standard-4t מספר מארחים
  • טופולוגיה: 4x4
  • מספר שבבי ה-TPU בטופולוגיה: 16
  • מספר המכונות הווירטואליות: 4
‫TPU v6e‏ (Trillium) ct6e-standard-4t מספר מארחים
  • טופולוגיה: 4x8
  • מספר שבבי ה-TPU בטופולוגיה: 32
  • מספר המכונות הווירטואליות: 8
‫TPU v6e‏ (Trillium) ct6e-standard-4t מספר מארחים
  • טופולוגיה: 8x8
  • מספר שבבי ה-TPU בטופולוגיה: 64
  • מספר המכונות הווירטואליות: 16
‫TPU v6e‏ (Trillium) ct6e-standard-4t מספר מארחים
  • טופולוגיה: 8x16
  • מספר שבבי ה-TPU בטופולוגיה: 128
  • מספר המכונות הווירטואליות: 32
‫TPU v6e‏ (Trillium) ct6e-standard-4t מספר מארחים
  • טופולוגיה: 16x16
  • מספר שבבי ה-TPU לטופולוגיה: 256
  • מספר המכונות הווירטואליות: 64
TPU v5p ct5p-hightpu-4t מארח יחיד
  • טופולוגיה: 2x2x1
  • מספר שבבי ה-TPU בטופולוגיה: 4
  • מספר המכונות הווירטואליות: 1
TPU v5p ct5p-hightpu-4t מספר מארחים
  • טופולוגיה: 2x2x2
  • מספר שבבי ה-TPU לטופולוגיה: 8
  • מספר המכונות הווירטואליות: 2
TPU v5p ct5p-hightpu-4t מספר מארחים
  • טופולוגיה: 2x2x4
  • מספר שבבי ה-TPU בטופולוגיה: 16
  • מספר המכונות הווירטואליות: 4
TPU v5p ct5p-hightpu-4t מספר מארחים
  • טופולוגיה: 2x4x4
  • מספר שבבי ה-TPU בטופולוגיה: 32
  • מספר המכונות הווירטואליות: 8
TPU v5p ct5p-hightpu-4t מספר מארחים
  • טופולוגיה: {A}x{B}x{C} (כאשר A,‏ B ו-C הם כפולות של שתיים)
  • מספר שבבי ה-TPU בטופולוגיה: A*B*C
  • מספר המכונות הווירטואליות: (A*B*C/4)1
  1. החישוב: מכפלת הטופולוגיה חלקי ארבע. ↩

המאמרים הבאים