מידע על הפעלה מהירה יותר של עומסי עבודה באמצעות צמתים עם הפעלה מהירה

בדף הזה מוסבר איך לפרוס ולהתאים לעומס עומסי עבודה מהר יותר באשכולות של Google Kubernetes Engine (GKE) באמצעות צמתים שמופעלים במהירות. צמתים שמופעלים במהירות משמשים ב-GKE במצב אוטומטי על בסיס המאמץ המרבי, כשעומסי העבודה משתמשים בהגדרות תואמות.

בצומתי GKE שמופעלים במהירות, זמן ההפעלה קצר משמעותית במשפחות מכונות תואמות. זמן ההפעלה המהיר יותר מספק את היתרונות הבאים:

  • הפעלה מהירה יותר במצב התחלתי (cold start)
  • התאמה מהירה יותר לעומס (autoscaling)
  • שיפור זמן האחזור של הזנב הארוך בתזמון Pod
  • שיפור ביעילות העלות של התשתית

בצמתים שמופעלים במהירות, GKE מפעיל מראש את משאבי החומרה כדי להאיץ את זמן ההפעלה. המשאבים שהופעלו מראש זמינים על בסיס המאמץ המרבי. יכול להיות שרק חלק מהבקשות לעלייה חדה יטופלו. בלי צמתים להפעלה מהירה, המשאבים מאותחלים על פי דרישה והצמתים מופעלים בזמן הפעלה רגיל.

דרישות

צמתים שמופעלים במהירות לא דורשים הגדרות נוספות. אם עומסי העבודה שלכם משתמשים בהגדרות תואמות, GKE משתמש באופן אוטומטי בצמתים שמופעלים במהירות. כדי להשתמש בצמתים שמופעלים במהירות, אתם צריכים לעמוד בכל הדרישות הבאות:

מגבלות

התכונות הבאות לא תואמות לצומתי GKE שמופעלים במהירות. אם אתם משתמשים באחת מהתכונות האלה, GKE מקצה צמתים עם זמן ההפעלה הרגיל:

עומסי עבודה של GPU ב-Autopilot

בקשת מעבדי GPU תואמים במצב Autopilot גורמת לזמן הפעלה של צומת מהיר עד פי ארבעה ולזמן תזמון Pod מהיר עד פי שניים בהשוואה לבקשות דומות במצב GKE Standard, כי עומסי העבודה של ה-GPU ב-Autopilot יכולים להשתמש בצמתים שמופעלים במהירות.

הנה כמה תרחישים לדוגמה. עם זאת, כל Pod שעומד בתנאים שמפורטים בקטע דרישות תואם לצמתים עם הפעלה מהירה.

ComputeClass

מבקשים סוג וספירה של מאיץ תואם ב-ComputeClass, כמו בדוגמה הבאה:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
  priorities:
  - gpu:
      type: ACCELERATOR_TYPE
      count: ACCELERATOR_COUNT
  nodePoolAutoCreation:
    enabled: true

כשבוחרים את ComputeClass הזה ב-Pod, כמו בדוגמה הבאה, GKE משתמש בצמתים שמופעלים במהירות:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    # Select a ComputeClass that requests compatible GPUs
    cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

מחליפים את הערכים הבאים:

  • ‫ACCELERATOR_COMPUTE_CLASS_NAME: השם של ComputeClass שמבקש את המאיצים.
  • ‫ACCELERATOR_TYPE: סוג מאיץ החומרה.
  • ‫ACCELERATOR_COUNT: מספר המאיצים שנדרשים ל-Pod. הערך הזה חייב להיות קטן או שווה לערך בשדה spec.priorities.gpu.count ב-ComputeClass.
  • ‫POD_NAME: שם ה-Pod.

מידע נוסף על ComputeClass מופיע במאמר מידע על מחלקות מחשוב בהתאמה אישית.

מפרט Pod

בוחרים סוג מאיץ תואם וסופרים במפרט ה-Pod, כמו בדוגמה הבאה:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    cloud.google.com/gke-accelerator: ACCELERATOR_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

מחליפים את הערכים הבאים:

  • ‫POD_NAME: שם ה-Pod.
  • ‫ACCELERATOR_NAME: שם המאיץ שנדרש לפוד.
  • ‫ACCELERATOR_COUNT: מספר המאיצים שנדרשים ל-Pod.

דרישות ההגדרה של משאבי המחשוב שעומדים בקריטריונים

בטבלאות שבקטעים הבאים מתוארות הדרישות הספציפיות להקצאת משאבי המחשוב הרלוונטיים כצמתים להפעלה מהירה ב-GKE.

פלטפורמת מחשוב מותאמת לקונטיינרים במצב Autopilot

כדי ש-GKE יקצה צמתים שמופעלים במהירות באמצעות פלטפורמת המחשוב Autopilot שמותאמת לקונטיינרים, צריך לעמוד בדרישות הבאות:

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
פלטפורמת מחשוב שמותאמת לקונטיינרים ב-Autopilot
  • ערוץ מהיר
  • ‫1.33.0-gke.1696000 ואילך

סדרת מכונות G2

כדי להקצות מכונות G2 כצמתים שמופעלים במהירות, צריך לעמוד בדרישות הבאות של GKE.

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
סדרת המכונות G2
  • ערוצים מהירים ורגילים
  • ‫1.31 ואילך

סדרת מכונות A2

כדי להקצות מכונות A2 כצמתים שמופעלים במהירות ב-GKE, צריך לעמוד בדרישות הבאות.

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
סוגי מכונות A2 Standard
  • ערוצים מהירים ורגילים
  • ‫1.32.0-gke.1008000 ואילך
סוגי מכונות A2 Ultra
  • ערוצים מהירים ורגילים
  • ‫1.32.0-gke.1008000 ואילך
  • דיסקים לאתחול מסוג pd-balanced או pd-ssd בנפח של עד 1,000GiB, עם מגבלות גבוהות יותר ל-a2‑ultragpu‑4g (1,500GiB) ול-a2‑ultragpu‑8g (3,000GiB).
  • עם כונני SSD מקומיים שמצורפים באופן אוטומטי.

סדרת מכונות A3

כדי להקצות מכונות A3 כצמתים שמופעלים במהירות ב-GKE, צריך לעמוד בדרישות הבאות.

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
סוג המכונה A3 Mega
  • ערוץ מהיר
  • ‫1.34.4-gke.1130000 ואילך
  • דיסקי אתחול מסוג hyperdisk-balanced,‏ pd-ssd או pd-balanced.
  • עם כונני SSD מקומיים שמצורפים באופן אוטומטי.
סוג המכונה A3 High (a3-highgpu-8g)
  • ערוץ מהיר
  • ‫1.34.4-gke.1130000 ואילך
  • דיסקי אתחול מסוג hyperdisk-balanced,‏ pd-ssd או pd-balanced.
  • עם כונני SSD מקומיים שמצורפים באופן אוטומטי.

סדרת מכונות G4

כדי להקצות מכונות G4 כצמתים שמופעלים במהירות, צריך לעמוד בדרישות הבאות של GKE.

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
סדרת המכונות G4
  • ערוץ מהיר
  • ‫1.34.4-gke.1130000 ואילך

תמחור

צמתים שמופעלים במהירות זמינים ב-GKE Autopilot ללא תשלום נוסף. מידע נוסף על התמחור של GKE Autopilot מופיע בקטע "מצב אוטומטי" במאמר התמחור של Google Kubernetes Engine.

המאמרים הבאים