מצבי קיבולת של TPU
מערכות TPU מציעות שני מצבי קיבולת: מצב קיבולת מנוהלת ומצב כל הקיבולת. כל מצב מגדיר איך מתבצעת תחזוקת החומרה ואיך מטופלות שגיאות במארח, וגם את רמת הנראות והשליטה שלכם בטופולוגיה של חומרת ה-TPU.
סקירה כללית של מצבי הקיבולת של TPU
בטבלה הבאה מסוכמים ההבדלים העיקריים בין מצב קיבולת מנוהלת לבין מצב כל הקיבולת:
| מצב קיבולת מנוהלת | מצב 'כל הקיבולת' | |
|---|---|---|
| גישה לקיבולת | Google מנהלת את הקצאת הקיבולת ואת שחזור המארחים בתשתית הזמינה. | עומסי עבודה יכולים לגשת ל-100% מהקיבולת המוזמנת. אתם אחראים לניהול קיבולת עודפת לצורך שחזור במקרה של כשל. אתם יכולים לטרגט בלוקים ספציפיים או בלוקים משנה כדי למקם עומסי עבודה בצורה מדויקת ומודעת לטופולוגיה. |
| חשיפת הטופולוגיה של החומרה | ב-Compute Engine, הטופולוגיה הפיזית מופשטת. | שקיפות מלאה לגבי הטופולוגיה והניצול של אשכולות, בלוקים, תת-בלוקים ומארחים. |
| שחזור לאחר תקלה | Compute Engine מזהה באופן אוטומטי פרוסות TPU פגומות ומפעיל אותן מחדש בחומרה תקינה. | Google מזהה ותיקן באופן אוטומטי חומרה פגומה. אתם אחראים למעקב אחר תקינות של חלקי TPU ולתזמון מחדש של חלקים לא תקינים לחומרה חלופית תקינה שהקציתם בהזמנה. |
| שליטה בתחזוקה | מערכת Compute Engine מתזמנת ומנהלת אירועי תחזוקה. אפשר גם להתחיל את התחזוקה לפני הזמן שנקבע. | יש לכם שליטה מדויקת בתזמון ובהתחלה של עבודות תחזוקה ברמת ההזמנה, החסימה או החסימה המשנית. |
| גרסאות TPU נתמכות | כל הגרסאות של TPU. | TPU v6e (Trillium) ו-TPU7x (Ironwood) |
| אפשרויות צריכה נתמכות | כל האפשרויות לצריכה. | אתם צריכים לשריין מראש מקום שמור לעתיד עם קיבולת מינימלית למשך שנה או יותר. אין תמיכה בהזמנות עתידיות במצב יומן. כדי לקבל פרטים ולבקש הזמנה במצב 'כל הקיבולת', אפשר לפנות לצוות Google Cloud ניהול החשבון. |
מצב קיבולת מנוהלת
כברירת מחדל, קיבולת ה-TPU פועלת במצב קיבולת מנוהלת. במצב הזה, Compute Engine מזהה באופן אוטומטי תקלות בחומרה ומחליף את מופעי ה-TPU המושפעים כדי להבטיח שעומסי העבודה יוכלו להפעיל מחדש חומרה תקינה.
מצב קיבולת מנוהלת כולל את התכונות הבאות:
- שחזור אוטומטי של מכונות TPU: במכונות TPU לשימוש על פי דרישה, במכונות TPU עם הפעלה גמישה ובמכונות TPU עם צריכת הזמנות, מערכת Compute Engine מזהה באופן אוטומטי תקלות בחומרה ומחליפה את מכונות ה-TPU שהושפעו.
- ניהול יעיל: לא נדרשת התערבות ידנית לצורך תחזוקה או תיקון של המארח.
מצב 'כל הקיבולת'
מצב הקיבולת נועד לתת לכם שליטה ישירה במשאבי ה-TPU שלכם על בסיס הזמנה. במצב 'כל הקיבולת', יש לכם גישה ל-100% מהקיבולת שהזמנתם. באחריותכם לנהל את השחזור של פרוסות TPU באמצעות קיבולת חילוף בריאה מספקת, ולתזמן אירועי תחזוקה.
במצב 'קיבולת' יש את התכונות הבאות:
- הקצאת קיבולת מלאה: גישה לכל הקיבולת שהוזמנה ללא הגבלות, כולל קיבולת פנויה שהוקצתה לשחזור במקרה של כשל או להרחבת עומס העבודה.
- מיקום שמודע לטופולוגיה: קבלת תצוגה מלאה של הטופולוגיה של אשכולות, בלוקים, תת-בלוקים ומארחים כדי לבצע אופטימיזציה של מיקום עומסי העבודה.
- שליטה מתקדמת בתחזוקה: אפשר לתזמן ולהפעיל אירועי תחזוקה ברמת ההזמנה, הבלוק או תת-הבלוק.
- דיווח ותיקון: דיווח על חומרה עם ביצועים נמוכים לצורך תיקון.
כדי לבקש הזמנה במצב 'כל הקיבולת', צריך לפנות ל Google Cloud צוות ניהול החשבון. מידע נוסף זמין במאמר סקירה כללית של מצב 'כל הקיבולת'.