אשכולות GPU, כמו סדרות המכונות A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega ו-A3 High (8 GPUs), נועדו לאפשר לכם להריץ אשכולות של בינה מלאכותית (AI) ולמידת מכונה (ML) בקנה מידה גדול, והם מספקים את היכולות הבאות לתוכנה לניהול אשכולות:
- אירוח משותף של תשתית אשכול GPU
- מיקום שמבוסס על טופולוגיית האשכול
- מצב הפעולה של האשכול
- תזמון ואמצעי בקרה לתחזוקת אשכולות
- כלי מעקב ואבחון של אשכולות
סדרות המכונות הנתמכות
יכולות ניהול האשכולות שמתוארות בדף הזה זמינות לסדרת המכונות "אשכול GPU", שמותאמות לעומסי עבודה מרובי-צמתים בקנה מידה גדול.
התכונות האלה לא רלוונטיות לסדרת המכונות הכללית של GPU, שמורכבת ממשאבי מחשוב עצמאיים שמשתמשים ברשת VPC רגילה ולא תומכים במצבי תחזוקה או במיקום משותף צפוף.
בטבלה הבאה מפורטות סדרות המכונות שנתמכות ב-AI Hypercomputer:
| קטגוריה | סדרת מכונות | תמיכה בניהול אשכולות |
|---|---|---|
| אשכולות GPU | A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High | כן |
| מעבדים גרפיים כלליים | A3 Edge, A2, G2, G4, N1 | לא |
מידע נוסף על כל סדרת מכונות זמין במאמר מידע על מאיצי GPU.
רוב היכולות של ניהול האשכולות נתמכות רק בקיבולת מבוססת-הזמנה – תשתית שמשתמשת במודל הקצאה מבוסס-הזמנה, שתומך רק בסוגי מכונות של אשכולות GPU. בקיבולת שמשתמשת בכל מודל הקצאה אחר, אפשר להשתמש רק ביכולות הבאות לניהול אשכולות:
- אירוח משותף של משאבי תשתית AI
- מיקום שמבוסס על טופולוגיית האשכול
- ניהול אירועים של מארחים במכונות שונות
אירוח משותף של תשתית אשכול GPU
כשמשתמשים באשכולות GPU, כמו A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega ו-A3 High (8 GPUs), אפשר לבקש מכונות מארחות ש-Compute Engine מקצה קרוב ככל האפשר. המכונות האלה מציעות את התכונות הבאות:
המכונות מוקצות על ידי Compute Engine כבלוקים של משאבים.
מארג רשת דינמי של למידת מכונה (ML) מחבר בין המכונות.
סידור המשאבים הזה מצמצם את מספר הצעדים ברשת ומבצע אופטימיזציה לזמן האחזור הנמוך ביותר ברשת. כדי לפרוס בלוקים של מכונות עם אופטימיזציה למאיצים ש-Compute Engine מקצה בצפיפות, אתם יכולים להשתמש באפשרויות הבאות:
צריך להקצות משאבים בצפיפות גבוהה כשמבצעים אחת או יותר מהפעולות הבאות:
יוצרים משאבים שמשתמשים באותו מקום שמור לעתיד ב-AI Hypercomputer או באותו מקום שמור לעתיד במצב תזמון.
פורסים קבוצת מופעי מכונה מנוהלים (MIG) שמשתמשת בבקשות לשינוי כמות, ויוצרים את המשאבים באותה בקשה.
מציינים שהמשאבים משתמשים באותה מדיניות למיקום קומפקטי או מדיניות לעומס עבודה שמציינת ערך מרחק מקסימלי. באופן ספציפי, המשאבים צריכים להיות קרובים רק עד לערך המרחק המקסימלי שצוין במדיניות.
אם מבצעים אחת או יותר מהפעולות הבאות, המשאבים מוקצים בצפיפות זה לצד זה, בהתאם לזמינות:
ליצור משאבים באותה בקשה למכונות וירטואליות מסוג Flex-start.
מציינים שהמשאבים משתמשים באותה מדיניות למיקום קומפקטי או מדיניות לעומסי עבודה שלא מציינת מרחק מקסימלי.
מיקום שמותאם לטופולוגיה של האשכול
אחרי שיוצרים אשכולות GPU, אפשר לקבל מידע על הטופולוגיה ברמת הצומת וברמת האשכול. המידע הזה עוזר לכם:
לשנות את התכנון של האפליקציה או של עומס העבודה כדי לצמצם עוד יותר את זמן האחזור ברשת.
להבין ולפתור בעיות שקשורות לזמן האחזור ולביצועים של הרשת במכונות שמתקשרות ביניהן לעיתים קרובות. הבעיות האלה יכולות לקרות אם המכונות ממוקמות במרחק גדול זו מזו באופן בלתי צפוי.
באופן ספציפי, התמיכה ביכולות הטופולוגיה היא:
המידע על הטופולוגיה פועל בצורה הטובה ביותר עם קיבולת שמוגבלת למקומות שמורים, שנדרשת כדי לראות את הטופולוגיה של מקום שמור.
יכולות הטופולוגיה נתמכות רק בסוגי מכונות שתומכים במדיניות למיקום קומפקטי.
במכונות וירטואליות במודל Spot, פרטי הטופולוגיה מופיעים רק אם המכונה משתמשת במדיניות למיקום קומפקטי.
מידע נוסף זמין במאמר הצגת הטופולוגיה של מכונות Compute.
מצב הפעולה של האשכול
כשאתם משריינים קיבולת כדי ליצור מכונות או אשכולות באמצעות אשכולות GPU, סוג המכונה שאתם משריינים קובע את מצב ההפעלה של האשכול בשביל המכונות. המצב הזה קובע איך המכונות יתנהגו אחרי שגיאות מארח או דיווחים על מארחים פגומים. מצבי הפעולה הזמינים למכונה הם מצב מנוהל, שבו Compute Engine מחליף באופן אוטומטי מכונות פגומות, אבל שומר חלק מהקיבולת השמורה כדי לספק למכונות את המשאבים הדרושים להפעלה מחדש. או מצב קיבולת מלאה, שבו יש לכם גישה לכל הקיבולת השמורה, אבל אתם אחראים לניהול של כשלים ותחזוקה מתוכננת.
תזמון ואמצעי בקרה לתחזוקה של אשכולות
אתם יכולים לשלוט בתחזוקה של אשכולות GPU באמצעות תזמון מבוסס-טופולוגיה בבלוק של משאבים. היכולת הזו עוזרת לסנכרן את השדרוגים, כך שעומסי העבודה יהיו עמידים יותר לאירועים במארח, ולצמצם את השיבושים. הגישה הזו עוזרת לשפר את התפוקה האפקטיבית (goodput) של עומס העבודה.
כדי לשלוט באופן מלא באירועי התחזוקה, אתם יכולים להשתמש בתכונות הבאות:
סוג התזמון של פעולות התחזוקה
כשאתם משריינים קיבולת כדי ליצור מכונות או אשכולות של GPUs, אתם יכולים להגדיר איך Compute Engine יתחזק את התשתית שבה המכונות פועלות. בהתאם לסוג המכונה שבה אתם רוצים להשתמש במכונות שלכם, אתם יכולים לבחור בין תחזוקה מסונכרנת בין מכונות (מקובצות) לבין לוחות זמנים שונים לתחזוקה (עצמאיות).
מידע נוסף זמין במאמר סוגי תזמון תחזוקה.
ניהול אירועים של המארח
אחרי שיוצרים אשכולות GPU ומתחילים את עומס העבודה, אפשר להגדיר התראות ולקבל עדכונים כשהתחזוקה של המכונות או הבלוקים השמורים מתוזמנת, מתחילה או מסתיימת. אתם יכולים גם לראות את עבודות התחזוקה, ובמידת הצורך להתחיל אותן באופן ידני במכונה או בבלוק שמור לפני המועד המתוכנן. האפשרויות האלה עוזרות לכם לשלוט באופן יזום בזמני ההשבתה של עומסי העבודה ולצמצם אותם.
למידע נוסף, קראו את המאמרים הבאים:
כלי ניטור ואבחון של אשכולות
למעקב ולפתרון בעיות, אשכולות GPU כוללים את השירותים הבאים:
חיזוי של ירידה בביצועים של מכונות וירטואליות, שעוזר לזהות מכונות וירטואליות שהביצועים שלהן צפויים לרדת ב-5 השעות הקרובות.
דיווח על מארח פגום, שבו אפשר להשתמש כדי לדווח על בעיות במכונות מארחות ספציפיות.
תמיכה במדדים של Cloud Monitoring, שעוזרים לעקוב אחרי הביצועים של הרשתות וה-GPU.