במאמר הזה אנחנו משווים בין אפשרויות המחשוב העיקריות ב- Google Cloud , כדי לעזור לכם לבחור את הפתרון או הכלי הכי מתאים לארכיטקטורה, לשינוי קנה המידה ולדרישות אחרות של האפליקציה.
כדי לפרוס עומסי עבודה ב- Google Cloud, אתם יכולים לבחור מתוך מגוון פתרונות או כלים שמאזנים בין השליטה שלכם בתשתית לבין הניהול האוטומטי של Google. אפשרות המחשוב שתבחרו תשפיע על הביצועים, העלות והתחזוקה היומית. כדי להבין טוב יותר את האפשרויות האלה לפני שבוחרים אחת, קראו את סקירה כללית על Google Compute.
בחירת אפשרות מחשוב
הכלי או הפתרון הטובים ביותר לעומס העבודה שלכם תלויים בכמה גורמים. לדוגמה, אם אתם רוצים להעביר את סביבת VMware אלGoogle Cloud, אתם יכולים להשתמש ב-VMware Engine.
כדי להבין את ההבדלים בין ניהול התשתית, קונטיינרים ומכונות Compute Engine, אתם יכולים להיעזר בתרשים הזרימה הבא. כדי להשוות בין התכונות של אפשרויות המחשוב, עיינו בטבלת ההשוואה שבמאמר הזה.
השאלות בתרשים הזרימה שלמעלה הן:
רוצים ש-Google תנהל את כל התשתית?
כן: משתמשים ב-Cloud Run.
לא: עוברים לשאלה 2.
האם אתם רוצים תזמור אשכולות לעומסי העבודה שלכם (כמו Kubernetes או Slurm)?
כן: דלגו לשאלה 4.
לא: עוברים לשאלה 3.
רוצה לנהל בעצמך מכונות וירטואליות או מכונות פיזיות?
לא: משתמשים ב-Batch.
רוצים להריץ אפליקציות סטנדרטיות בקונטיינרים (כמו מיקרו-שירותים או ממשקי API)?
כן: משתמשים ב-GKE.
לא: עוברים לשאלה 5.
האם אתם רוצים ש-Google תנהל את מחזור החיים של האשכול?
שימוש ב-Batch
בחרו ב-Batch לעומסי עבודה כמו ניתוח נתונים אסינכרוני, משימות של המרת וידאו או סימולציות מדעיות. ב-Batch, Google מנהלת את התשתית כדי שתוכלו לתזמן משימות חישוב באצווה, להוסיף אותן לתור ולהפעיל אותן ב- Google Cloud. אתם לא צריכים לפרוס או לנהל שרתים בעצמכם, אלא לשלוח סקריפטים להפעלה או עומסי עבודה בקונטיינרים לתור משימות.
היכולות של Batch:
תמיכה במאיצים: Batch תומך במעבדי GPU של NVIDIA עד RTX PRO 6000 לעומסי עבודה של Batch ומחשוב עתיר ביצועים (HPC) שדורשים תפוקה גבוהה. אי אפשר להשתמש ב-TPU של Google ב-Batch.
שליטה במערכת ההפעלה ובליבה: Google מנהלת את מערכת ההפעלה ואת סביבת ההפעלה של המשימות שלכם.
תזמור: תור המשימות מתזמן משימות ומנסה אותן שוב אם מתרחשת שגיאה. כדי לשנות את הקיבולת, השירות מקצה ומפעיל מכונות וירטואליות על סמך מספר המשימות בתור, ומפסיק את המכונות הווירטואליות כשהמשימות האלה מסתיימות.
מידע נוסף זמין במאמר תחילת העבודה עם Batch.
שימוש ב-Cloud Run
כדי לפרוס אפליקציות אינטרנט או משימות בקונטיינרים בלי ניהול שרתים, בחרו ב-Cloud Run. Cloud Run היא פלטפורמה ללא שרת (serverless) שמאפשרת להריץ אפליקציות בקונטיינרים בלי לנהל שרתים או אשכולות. Google מטפלת בכל ניהול התשתית בשבילכם, כולל מערכת ההפעלה, הליבה, הגדרת הרשת וניהול הקיבולת.
אלה המאפיינים של Cloud Run:
תמיכה במאיצים: Cloud Run תומך במעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell ו-L4. ב-Cloud Run אין תמיכה במודלים אחרים של GPU או ב-Google TPU.
שליטה במערכת ההפעלה ובליבה: אתם אורזים את עומסי העבודה כקונטיינרים ומריצים אותם כשירותי אינטרנט, כמשימות אסינכרוניות או כמשימות באצווה.
תזמור: כפלטפורמה בלי שרת (serverless), Google מפעילה, מריצה ומשנה את קנה המידה של מכונות הקונטיינרים בלי התערבות ידנית. בשירותי אינטרנט, Cloud Run מוסיף או מסיר מכונות של קונטיינרים על סמך בקשות נכנסות או צריכת מעבד (CPU).
שימוש ב-Cluster Director
אם אתם רוצים לאמן מודלים של AI או להריץ משימות סימולציה ש-Slurm מתזמן בלי להגדיר רשת או מערכת הפעלה, בחרו ב-Cluster Director. Cluster Director הוא שירות מנוהל שמאפשר לפרוס ולנהל באופן אוטומטי את מחזור החיים של אשכולות AI, ML ו-HPC.
Cluster Director מספק את היכולות הבאות:
תמיכה במאיצים: Cluster Director תומך במעבדי GPU של NVIDIA (כלומר, GB300 Ultra Superchips, GB200 Superchips, B200, H200 ו-H100) ובמעבדי TPU של Google (גרסת טרום-השקה (Preview); כלומר, TPU7x, TPU v6e ו-TPU v5p) לעומסי עבודה של AI, ML ו-HPC.
שליטה במערכת ההפעלה ובליבה (kernel): Google מנהלת את מחזור החיים של האשכול ומגדירה מערכת הפעלה מותאמת אישית של Ubuntu שמיועדת ל-ML. השירות מספק סביבה מוכנה לשימוש, עם צומתי התחברות, קבוצות של צומתי מחשוב ותבניות פריסה שמיועדות לעומסי עבודה של AI.
תזמור: כדי לשנות את הקיבולת, Slurm יוצר צמתים על סמך בקשות למשימות בתור, ומוחק צמתים כשהם נשארים במצב של חוסר פעילות למשך פרק זמן מסוים כדי למנוע חיובים מיותרים.
מידע נוסף מופיע במאמר סקירה כללית על Cluster Director.
שימוש ב-Cluster Toolkit
אם אתם רוצים להשתמש בתבניות פריסה אוטומטיות ולשמור על שליטה ניהולית במערכת ההפעלה ובמקבץ התוכנות, בחרו ב-Cluster Toolkit. Cluster Toolkit הוא כלי בקוד פתוח שמשמש להקצאה ולהגדרה של אשכולות AI, למידת מכונה ו-HPC ב- Google Cloud.
Cluster Toolkit כולל את התכונות הבאות:
תמיכה במאיצים: Cluster Toolkit תומך במעבדי GPU של NVIDIA ובמעבדי TPU של Google, שאותם אתם מקצים ומגדירים באמצעות תבניות פריסה שנקראות תוכניות. בעזרת קובצי התצורה האוטומטיים האלה, אתם פורסים תשתית אשכולות סטנדרטית וניתנת לשחזור, שמבוססת על עקרונות של תשתית כקוד (IaC).
שליטה במערכת ההפעלה ובקרנל: Cluster Toolkit פורס מכונות או משאבי GKE בפרויקט Google Cloud. אחרי פריסת המשאבים האלה, אתם שומרים על השליטה הניהולית במערכת ההפעלה, בהגדרות התוכנה ובמחזור החיים של האשכול.
תזמור: כדי לשנות את הקיבולת, אתם מגדירים קבוצות של מכונות מנוהלות (MIG) או כלים של GKE להוספה או להסרה של צמתים על סמך הגדרות התבנית.
מידע נוסף זמין במאמר סקירה כללית על Cluster Toolkit.
שימוש ב-Compute Engine
אם האפליקציות שלכם דורשות הגדרות ארכיטקטורה מותאמות אישית, הגדרות ליבה מיוחדות או שליטה ניהולית בשרתים וירטואליים, בחרו ב-Compute Engine. Compute Engine היא פלטפורמת הליבה של Google Cloudלתשתית כשירות (IaaS), שמאפשרת ליצור ולהריץ מכונות וירטואליות ומכונות Bare Metal בחומרה הפיזית של Google.
ב-Compute Engine יש את היכולות הבאות:
תמיכה במאיצים: ב-Compute Engine יש תמיכה במעבדי GPU של NVIDIA ובמעבדי TPU של Google, שאפשר לצרף למכונות.
שליטה במערכת ההפעלה ובליבה (kernel): אתם שולטים באופן מלא במערכת ההפעלה, בהגדרות הליבה ובקובצי האתחול, ובוחרים את מעבדי ה-CPU, הגדרות הזיכרון, סוגי האחסון ומערכת ההפעלה של האורח.
תזמור: מכיוון שהתזמור הוא ידני, אתם מגדירים ומנהלים בעצמכם את המכונות, כללי הרשת, נתיבי התנועה ומערכות הגיבוי כדי להבטיח אמינות. כדי לשנות את הקיבולת, מוסיפים או מסירים מכונות לפי הצורך, משתמשים בכלים בהתאמה אישית או מגדירים קבוצות MIG כדי לשנות את הקיבולת של האשכול.
למידע נוסף, קראו את הסקירה הכללית על Compute Engine.
שימוש ב-GKE
אם אתם צריכים פלטפורמת תזמור מבוססת-קונטיינרים לאפליקציות מבוזרות או למיקרו-שירותים (microservices) למטרות כלליות, בחרו ב-Google Kubernetes Engine (GKE). GKE היא פלטפורמת Kubernetes מנוהלת, שנחשבת לסטנדרט בתחום, לפריסה, להתאמה לעומס (scaling) ולתזמור של אפליקציות בקונטיינרים. Google מנהלת את מישור הבקרה של Kubernetes כדי לשמור על האבטחה ועל הזמינות של המערכת.
אלה התכונות של GKE:
תמיכה במאיצים: GKE תומך במעבדי GPU של NVIDIA ובמעבדי TPU של Google לעומסי עבודה בקונטיינרים.
שליטה במערכת ההפעלה ובליבה: Google מנהלת את מערכת ההפעלה גם במצב Autopilot וגם במצב רגיל. במצב אוטומטי, Google מנהלת את צומתי האשכולות ואת התאמות הקיבולת בלי התערבות ידנית. במצב רגיל, אתם מנהלים את מאגרי הצמתים של האשכול.
תזמור: כדי להתאים את הקיבולת לשינויים בביקוש, GKE מוסיף או מסיר קונטיינרים באמצעות Horizontal Pod Autoscaler ו-Vertical Pod Autoscaler (HPA ו-VPA), ומוסיף או מסיר צמתים באמצעות הכלי להגדלת אשכולות באופן אוטומטי. ב-GKE אפשר גם לתזמר משימות באצווה באמצעות Kueue, בקר תור משימות מקורי של Kubernetes.
למידע נוסף, קראו את הסקירה הכללית על GKE.
שימוש ב-VMware Engine
כדי להעביר את עומסי העבודה המקומיים של VMware לתשתית של Google Cloudעם שינויים תפעוליים מינימליים, בוחרים ב-VMware Engine. VMware Engine הוא שירות מנוהל שמאפשר להריץ מכונות וירטואליות של VMware על מכשירי Google בלי לשנות את האפליקציות.
ב-VMware Engine יש את היכולות הבאות:
תמיכה במאיצים: VMware Engine לא תומך במעבדי GPU או TPU.
שליטה במערכת ההפעלה ובליבה: אתם מריצים אפליקציות של VMware ב- Google Cloudכמו שאתם מריצים אותן בהגדרה הקיימת. Google מנהלת את החומרה הפיזית, את תשתית הרשת ואת פלטפורמת התוכנה של VMware, כמו vSphere, vCenter, vSAN ו-NSX-T. אתם שומרים על השליטה הניהולית במכונות הווירטואליות, במערכת ההפעלה של האורח ובכלי הניהול של VMware.
תזמור: כדי לשנות את הגודל של הענן הפרטי, מוסיפים או מסירים צומתי ESXi ייעודיים.
למידע נוסף, קראו את הסקירה הכללית על Google Cloud VMware Engine.
השוואה בין אפשרויות המחשוב
כדי לזהות את פתרון המחשוב או הכלי שמתאים לעומס העבודה שלכם, השוו בין היכולות הטכניות של אפשרויות המחשוב בטבלה הבאה:
| אפשרות חישוב | מעבדים גרפיים (GPU) | מעבדי TPU | שליטה במערכת ההפעלה ובליבה (kernel) | תזמור | התאמה לעומס (scaling) |
|---|---|---|---|---|---|
| Batch | עד NVIDIA RTX PRO 6000 | לא | בניהול Google | תור המשימות | אוטומטי, על סמך משימות בתור |
| Cloud Run | NVIDIA RTX PRO 6000 Blackwell ו-L4 | לא | בניהול Google | ללא שרת (serverless) | אוטומטי, על סמך בקשות או צריכת מעבד (CPU) |
| Cluster Director | NVIDIA GB300 Ultra Superchips, GB200 Superchips, B200, H200 ו-H100 | Google TPU7x, TPU v6e ו-TPU v5p (גרסת טרום-השקה (Preview)) | בניהול Google (אובונטו בהתאמה אישית) | Slurm | אוטומטי, על סמך בקשות למשימות בתור |
| Cluster Toolkit | כל מעבדי ה-GPU הזמינים של NVIDIA | כל יחידות ה-TPU הזמינות של Google | נהלו את הכל בעצמכם | קובצי תצורה אוטומטיים (IaC) | אפשר להתאים אישית באמצעות כלים של MIG או GKE |
| Compute Engine | כל מעבדי ה-GPU הזמינים של NVIDIA | כל יחידות ה-TPU הזמינות של Google | נהלו את הכל בעצמכם | גלילה ידנית | ידנית או אוטומטית באמצעות קבוצות של מכונות וירטואליות מנוהלות (MIG) |
| Google Kubernetes Engine (GKE) | כל מעבדי ה-GPU הזמינים של NVIDIA | כל יחידות ה-TPU הזמינות של Google | מנוהל על ידי Google (מצב Autopilot) או מנוהל חלקית (מצב Standard) | Kubernetes | שינוי קנה מידה אוטומטי של פודים וצמתים |
| VMware Engine | לא | לא | בניהול Google | פלטפורמת VMware | ידנית, באמצעות צומתי ESXi |
AI Hypercomputer ל-AI ול-ML
AI Hypercomputer היא ארכיטקטורה משולבת שמשלבת חומרה ייעודית, תוכנה פתוחה ומודלים גמישים של צריכה. הארכיטקטורה הזו נועדה לשפר את הפרודוקטיביות של ML ולמקסם את התפוקה, קצב העברת הנתונים השימושיים, לעומסי עבודה תובעניים של AI.
AI Hypercomputer מספק את היכולות הבאות:
תמיכה במאיצים: AI Hypercomputer תומך בכל ה-GPU של NVIDIA וה-TPU של Google. המאיצים מתחברים דרך רשתות ברוחב פס גבוה כדי לבצע אופטימיזציה של תפוקה במודלי AI באלפי מכונות.
שליטה במערכת ההפעלה ובליבה: השליטה שלכם במערכת ההפעלה ובליבה תלויה בכלי הפריסה שבחרתם:
סביבות בניהול Google: אם בוחרים ב-Cluster Director, Google מנהלת את הסביבה ואת מחזור החיים של האשכול. אם בוחרים ב-GKE במצב Autopilot, Google מנהלת את סביבת הקונטיינרים.
סביבות בניהול עצמי: אם אתם בוחרים ב-Cluster Toolkit, ב-Compute Engine או ב-GKE במצב רגיל, אתם מנהלים את משאבי האשכול ואת מערכת ההפעלה.
תזמור: אתם יכולים להשתמש ב-Slurm, ב-GKE או בתזמורים בהתאמה אישית כדי להוסיף או להסיר מכונות, pod-ים או קונטיינרים באשכול כשדרישת המחשוב משתנה.
מידע נוסף זמין במאמר סקירה כללית על AI Hypercomputer.