בדף הזה מוסבר איך לפרוס ולהתאים לעומס עומסי עבודה מהר יותר באשכולות של Google Kubernetes Engine (GKE) באמצעות צמתים שמופעלים במהירות. צמתים שמופעלים במהירות משמשים ב-GKE במצב אוטומטי על בסיס המאמץ המרבי, כשעומסי העבודה משתמשים בהגדרות תואמות.
בצומתי GKE שמופעלים במהירות, זמן ההפעלה קצר משמעותית במשפחות מכונות תואמות. זמן ההפעלה המהיר יותר מספק את היתרונות הבאים:
- הפעלה מהירה יותר במצב התחלתי (cold start)
- התאמה מהירה יותר לעומס (autoscaling)
- שיפור זמן האחזור של הזנב הארוך בתזמון Pod
- שיפור ביעילות העלות של התשתית
בצמתים שמופעלים במהירות, GKE מפעיל מראש את משאבי החומרה כדי להאיץ את זמן ההפעלה. המשאבים שהופעלו מראש זמינים על בסיס המאמץ המרבי. יכול להיות שרק חלק מהבקשות לעלייה חדה יטופלו. בלי צמתים להפעלה מהירה, המשאבים מאותחלים על פי דרישה והצמתים מופעלים בזמן הפעלה רגיל.
דרישות
צמתים שמופעלים במהירות לא דורשים הגדרות נוספות. אם עומסי העבודה שלכם משתמשים בהגדרות תואמות, GKE משתמש באופן אוטומטי בצמתים שמופעלים במהירות. כדי להשתמש בצמתים שמופעלים במהירות, אתם צריכים לעמוד בכל הדרישות הבאות:
- להשתמש באשכולות Autopilot, או להריץ עומסי עבודה במצב Autopilot באשכולות Standard.
- אל תשתמשו בתכונות שלא תואמות לצמתים שמופעלים במהירות. מידע נוסף מופיע בקטע מגבלות.
משתמשים באחד ממשאבי המחשוב הבאים, שמתוארים בטבלאות המתאימות בקטע דרישות ההגדרה של משאבי מחשוב שעומדים בדרישות:
מגבלות
התכונות הבאות לא תואמות לצומתי GKE שמופעלים במהירות. אם אתם משתמשים באחת מהתכונות האלה, GKE מקצה צמתים עם זמן ההפעלה הרגיל:
- G2 עם גרסת מנהל ההתקן של ה-GPU
DEFAULTבגרסאות GKE שקודמות ל-1.33.0-gke.1304000. בגרסה 1.33.0-gke.1304000 ואילך, גםLATESTוגםDEFAULTפועלים עם צמתים שמופעלים במהירות. - דיסקים משניים לאתחול בגרסאות שקודמות ל-1.33.2-gke.1015000.
- מכונות וירטואליות במודל Spot
- המדיניות בנושא מיקומי מודעות
- תמיכה במספר רשתות
עומסי עבודה של GPU ב-Autopilot
בקשת מעבדי GPU תואמים במצב Autopilot גורמת לזמן הפעלה של צומת מהיר עד פי ארבעה ולזמן תזמון Pod מהיר עד פי שניים בהשוואה לבקשות דומות במצב GKE Standard, כי עומסי העבודה של ה-GPU ב-Autopilot יכולים להשתמש בצמתים שמופעלים במהירות.
הנה כמה תרחישים לדוגמה. עם זאת, כל Pod שעומד בתנאים שמפורטים בקטע דרישות תואם לצמתים עם הפעלה מהירה.
ComputeClass
מבקשים סוג וספירה של מאיץ תואם ב-ComputeClass, כמו בדוגמה הבאה:
apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
priorities:
- gpu:
type: ACCELERATOR_TYPE
count: ACCELERATOR_COUNT
nodePoolAutoCreation:
enabled: true
כשבוחרים את ComputeClass הזה ב-Pod, כמו בדוגמה הבאה, GKE משתמש בצמתים שמופעלים במהירות:
apiVersion: v1
kind: Pod
metadata:
name: POD_NAME
spec:
nodeSelector:
# Select a ComputeClass that requests compatible GPUs
cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
containers:
- name: my-container
image: registry.k8s.io/pause
resources:
limits:
nvidia.com/gpu: ACCELERATOR_COUNT
מחליפים את הערכים הבאים:
-
ACCELERATOR_COMPUTE_CLASS_NAME: השם של ComputeClass שמבקש את המאיצים. -
ACCELERATOR_TYPE: סוג מאיץ החומרה. -
ACCELERATOR_COUNT: מספר המאיצים שנדרשים ל-Pod. הערך הזה חייב להיות קטן או שווה לערך בשדהspec.priorities.gpu.countב-ComputeClass. -
POD_NAME: שם ה-Pod.
מידע נוסף על ComputeClass מופיע במאמר מידע על מחלקות מחשוב בהתאמה אישית.
מפרט Pod
בוחרים סוג מאיץ תואם וסופרים במפרט ה-Pod, כמו בדוגמה הבאה:
apiVersion: v1
kind: Pod
metadata:
name: POD_NAME
spec:
nodeSelector:
cloud.google.com/gke-accelerator: ACCELERATOR_NAME
containers:
- name: my-container
image: registry.k8s.io/pause
resources:
limits:
nvidia.com/gpu: ACCELERATOR_COUNT
מחליפים את הערכים הבאים:
-
POD_NAME: שם ה-Pod. -
ACCELERATOR_NAME: שם המאיץ שנדרש לפוד. -
ACCELERATOR_COUNT: מספר המאיצים שנדרשים ל-Pod.
דרישות ההגדרה של משאבי המחשוב שעומדים בקריטריונים
בטבלאות שבקטעים הבאים מתוארות הדרישות הספציפיות להקצאת משאבי המחשוב הרלוונטיים כצמתים להפעלה מהירה ב-GKE.
פלטפורמת מחשוב מותאמת לקונטיינרים במצב Autopilot
כדי ש-GKE יקצה צמתים שמופעלים במהירות באמצעות פלטפורמת המחשוב Autopilot שמותאמת לקונטיינרים, צריך לעמוד בדרישות הבאות:
| משאב מחשוב | תמיכה בערוצי הפצה ובגרסאות | דיסקים נתמכים |
|---|---|---|
| פלטפורמת מחשוב שמותאמת לקונטיינרים ב-Autopilot |
|
|
סדרת מכונות G2
כדי להקצות מכונות G2 כצמתים שמופעלים במהירות, צריך לעמוד בדרישות הבאות של GKE.
| משאב מחשוב | תמיכה בערוצי הפצה ובגרסאות | דיסקים נתמכים |
|---|---|---|
| סדרת המכונות G2 |
|
|
סדרת מכונות A2
כדי להקצות מכונות A2 כצמתים שמופעלים במהירות ב-GKE, צריך לעמוד בדרישות הבאות.
| משאב מחשוב | תמיכה בערוצי הפצה ובגרסאות | דיסקים נתמכים |
|---|---|---|
| סוגי מכונות A2 Standard |
|
|
| סוגי מכונות A2 Ultra |
|
|
סדרת מכונות A3
כדי להקצות מכונות A3 כצמתים שמופעלים במהירות ב-GKE, צריך לעמוד בדרישות הבאות.
| משאב מחשוב | תמיכה בערוצי הפצה ובגרסאות | דיסקים נתמכים |
|---|---|---|
| סוג המכונה A3 Mega |
|
|
סוג המכונה A3 High (a3-highgpu-8g) |
|
|
סדרת מכונות G4
כדי להקצות מכונות G4 כצמתים שמופעלים במהירות, צריך לעמוד בדרישות הבאות של GKE.
| משאב מחשוב | תמיכה בערוצי הפצה ובגרסאות | דיסקים נתמכים |
|---|---|---|
| סדרת המכונות G4 |
|
|
תמחור
צמתים שמופעלים במהירות זמינים ב-GKE Autopilot ללא תשלום נוסף. מידע נוסף על התמחור של GKE Autopilot מופיע בקטע "מצב אוטומטי" במאמר התמחור של Google Kubernetes Engine.
המאמרים הבאים
- אסטרטגיות לצמצום זמן האחזור בהפעלה
- מידע על פלטפורמת המחשוב שמותאמת לקונטיינרים של Autopilot
- מידע על סוגי מכונות בהתאמה אישית
- סקירה כללית של הביצועים של Persistent Disk