מידע נוסף
במסמכים הבאים מוסברים המונחים שרלוונטיים לנושאים המתאימים:
הסברים על המונחים
התנאים הבאים חלים על AI Hypercomputer.
Accelerator
מכשיר חומרה ייעודי, כמו GPU או TPU, שנועד לבצע משימות ספציפיות, כמו עומסי עבודה של למידת מכונה, בצורה יעילה יותר מאשר מעבד לשימוש כללי.
חסימה
אוסף של תת-בלוקים שמחוברים ביניהם באמצעות רשת מהירה ללא חסימות, שמספקת רוחב פס גבוה לכל המכונות המארחות בבלוק.
אשכול אוסף של בלוקים שמחוברים ביניהם באמצעות מארג רשת במהירות גבוהה. כל אשכול הוא ייחודי באופן גלובלי.
במכונות מסוג A4X, A4, A3 Ultra, A3 Mega ו-A3 High (עם 8 מעבדי GPU), האשכול מספק מארג רשת משותף ללא חסימה לבלוקים של קיבולת המאיצים. בתוך אשכול, התקשורת בין הצמתים (תנועה ממזרח למערב) לא חוסמת את כל אוסף הבלוקים.
אשכול GPU קטגוריה של משפחות מכונות למעבדי GPU, כולל A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega ו-A3 High (8 מעבדי GPU). אשכולות GPU מאפשרים לצוותים לפרוס ולהרחיב אלפי מאיצים מקושרים כמערכת אחת עם צימוד חזק, באמצעות מארג רשתות ייעודי ותחזוקה מסונכרנת.
הם אידיאליים לעומסי עבודה שדורשים מחשוב וזיכרון קיצוניים וסנכרון רשת במהירות גבוהה. תרחישים נפוצים לדוגמה כוללים אימון מוקדם של מודלים בסיסיים עם טריליוני פרמטרים, פרסום מודלים פורצי דרך וסימולציות לגילוי תרופות.
תחזוקה דחופה
לפעמים נקרא תחזוקת חירום. אירוע תחזוקה לא מתוכנן שנגרם בגלל בעיה קריטית בחומרה, בתוכנה או באבטחה.
בסוגי מכונות עם מאיצים נתמכים, בתחזוקה דחופה נשלחת התראה מראש במקום הפרעה מיידית. ההתראה הזו נותנת לכם זמן לרוקן את עומסי העבודה בצורה מסודרת, ואם רוצים, להפעיל את התיקון לפני שהמערכת תסיים את המכונות הווירטואליות.
מעבד גרפי כללי קטגוריה של משפחות מכונות GPU, כולל G2, G4, A2, N1+T4 ו-A3 Edge.
מעבדים גרפיים כלליים מאפשרים לצוותים לפרוס ולהתאים את מאיצי NVIDIA עם אוטונומיה תפעולית מלאה, בלי המורכבות הארכיטקטונית של אשכולות מחשבי-על מתואמים. הם אידיאליים לעומסי עבודה שמתעדפים זמינות גבוהה, הקצאה בשירות עצמי והתאמה לעומס (scaling) באופן עצמאי. תרחישים נפוצים לדוגמה כוללים הסקת מסקנות בזמן אמת, RAG, יצירת אב טיפוס ואימון מודלים קטנים עד בינוניים.
מארג רשת תשתית רשת במהירות גבוהה שמספקת רוחב פס גבוה וזמן אחזור נמוך בכל הבלוקים והשירותים באשכול. Google Cloud המארג משתמש בארכיטקטורה של רשת Jupiter. כדי לשפר את הביצועים, המארג משתמש ברשת מוגדרת-תוכנה ובמתגים אופטיים.
צומת או מארח
מכונת שרת פיזית אחת במרכז הנתונים. לכל מארח משויכים משאבי מחשוב, כמו מאיצים. המספר וההגדרה של משאבי המחשוב האלה תלויים במשפחת המכונות.
המכונות של Compute Engine מוקצות על גבי מארח פיזי.
דומיין NVLink
דומיין NVLink, שנקרא גם בלוק משנה, הוא יחידת הקיבולת הבסיסית של מכונות A5X, A4X Max ו-A4X. דומיין NVLink מורכב מ-18 מכונות A5X, A4X Max או A4X (72 יחידות GPU) שמחוברות באמצעות מערכת NVLink עם כמה צמתים.
בלוק משני
קבוצה של מארחים וחומרת קישוריות משויכת שנמצאים בבלוק פיזי אחד. בהקשר של מכונות A5X, A4X Max ו-A4X, בלוק משנה נקרא גם דומיין NVLink.
Superblock
קבוצה פיזית של מכונות מקושרות בתוך מרכזי נתונים. כשמציבים מכונות בתוך סופר-בלוק, מקבלים את רוחב הפס הקיצוני ברשת ואת זמן האחזור של פחות מאלפית השנייה שנדרשים כדי להריץ עומסי עבודה של אימון בצימוד חזק.