יצירת מכונות וירטואליות (VM) מסוג A2 בכמות גדולה עם אופטימיזציה ל-AI

במאמר הזה מוסבר איך ליצור בכמות גדולה מכונות וירטואליות (VM) מסדרת A2, שכוללת את סוגי המכונות A2 Ultra או A2 Standard. מידע נוסף על סוגי המכונות האלה שעברו אופטימיזציה לשימוש במאיצים זמין במאמר בנושא סדרת A2.

מידע נוסף על יצירת מכונות וירטואליות בכמות גדולה זמין במאמר בנושא יצירת מכונות וירטואליות בכמות גדולה בתיעוד של Compute Engine.

למידע על דרכים אחרות ליצירת מכונות וירטואליות או אשכולות, ראו סקירה כללית על אפשרויות הפריסה.

מגבלות

כשיוצרים מכונות וירטואליות מסוג A2 Ultra או A2 Standard בכמות גדולה, חלות המגבלות הבאות:

A2 Ultra

  • לא תקבלו הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מקרים לדוגמה שבהם נעשה שימוש בסוג מכונה A2 Ultra.
  • אפשר להשתמש בסוג המכונה A2 Ultra רק באזורים ותחומים מסוימים.
  • סוג המכונה A2 Ultra זמין רק בפלטפורמת Cascade Lake.
  • אם המופע שלכם משתמש בסוג מכונה A2 Ultra, לא תוכלו לשנות את סוג המכונה. אם אתם צריכים להשתמש בסוג מכונה אחר של A2 Ultra, או בכל סוג מכונה אחר, אתם צריכים ליצור מופע חדש.
  • אי אפשר לשנות אף סוג מכונה אחר לסוג מכונה A2 Ultra. אם אתם צריכים מופע שמשתמש בסוג מכונה A2 Ultra, אתם צריכים ליצור מופע חדש.
  • אי אפשר לבצע פורמט מהיר של כונני SSD מקומיים שמצורפים למופעי Windows שמשתמשים בסוגי מכונות A2 Ultra. כדי לפרמט את כונני ה-SSD המקומיים האלה, צריך לבצע פרמוט מלא באמצעות כלי השירות diskpart ולציין format fs=ntfs label=tmpfs.

A2 Standard

אם רוצים להשתמש במדיניות מיקום קומפקטית, צריך לעיין בהגבלות על מדיניות מיקום.

לפני שמתחילים

לפני שיוצרים מכונות וירטואליות בכמות גדולה, אם עדיין לא עשיתם זאת, צריך לבצע את השלבים הבאים:

  1. בחירת אפשרות צריכה: האפשרות שתבחרו לצריכה תקבע איך תקבלו משאבי GPU ותשתמשו בהם. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.
  2. קבלת קיבולת: התהליך לקבלת קיבולת שונה לכל אפשרות צריכה. כדי לקבל מידע על התהליך להשגת קיבולת לאפשרות הצריכה שבחרתם, אפשר לעיין במאמר סקירה כללית על קיבולת.

צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

המסוף

כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים ולממשקי ה-API, לא צריך להגדיר אימות. Google Cloud

gcloud

התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם. אחרי שנכנסתם לחשבון, אתחלו את ה-CLI של Google Cloud באמצעות הפקודה הבאה: 

gcloud init

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

    התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Google Cloud .

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת מכונות וירטואליות בכמות גדולה, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת מכונות וירטואליות בכמות גדולה. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור מכונות וירטואליות בכמות גדולה, צריך את ההרשאות הבאות:

  • ‫compute.instances.create בפרויקט
  • כדי להשתמש באימג' בהתאמה אישית ליצירת המכונה הווירטואלית (VM)‏: ‫compute.images.useReadOnly בקובץ אימג'
  • כדי להשתמש ב-snapshot ליצירת המכונה הווירטואלית: ‫compute.snapshots.useReadOnly בקובץ snapshot
  • כדי להשתמש בתבנית של הגדרות מכונה ליצירת המכונה הווירטואלית: compute.instanceTemplates.useReadOnly בתבנית של הגדרות המכונה
  • כדי לציין רשת משנה למכונה הווירטואלית: ‫compute.subnetworks.use בפרויקט או ברשת המשנה שנבחרה
  • כדי לציין כתובת IP סטטית למכונה הווירטואלית: ‫compute.addresses.use בפרויקט
  • כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת VPC: ‫compute.subnetworks.useExternalIp בפרויקט או ברשת המשנה שנבחרה
  • כדי להקצות רשת מדור קודם למכונה הווירטואלית: ‫compute.networks.use בפרויקט
  • כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת מדור קודם: ‫compute.networks.useExternalIp בפרויקט
  • כדי להגדיר מטא-נתונים של המכונה הווירטואלית: ‫compute.instances.setMetadata בפרויקט
  • כדי להגדיר תגים למכונה הווירטואלית: ‫compute.instances.setTags במכונה הווירטואלית
  • כדי להגדיר תוויות למכונה הווירטואלית: ‫compute.instances.setLabels במכונה הווירטואלית
  • כדי להגדיר חשבון שירות לשימוש של המכונה הווירטואלית: ‫compute.instances.setServiceAccount במכונה הווירטואלית
  • כדי ליצור דיסק חדש למכונה הווירטואלית: ‫compute.disks.create בפרויקט
  • כדי לצרף דיסק קיים במצב קריאה-בלבד או במצב קריאה וכתיבה: ‫compute.disks.use בדיסק
  • כדי לצרף דיסק קיים במצב קריאה-בלבד: ‫compute.disks.useReadOnly בדיסק

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

סקירה כללית

יצירת מספר רב של מופעים באמצעות סוג המכונה A2 כוללת את השלבים הבאים:

  1. אופציונלי: יצירת מדיניות למיקום קומפקטי
  2. יצירת מכונות בכמות גדולה
  3. התקנת דרייברים של GPU
  4. אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

אופציונלי: יצירת מדיניות למיקום קומפקטי

אתם יכולים להגדיר את מיקום מכונת ה-VM על ידי יצירת מדיניות למיקום קומפקטי. כשמחילים מדיניות מיקום קומפקטית על מכונות וירטואליות, מערכת Compute Engine מנסה ככל האפשר ליצור מכונות וירטואליות שקרובות זו לזו. אם האפליקציה שלכם רגישה לזמן אחזור ונדרשת בה דחיסה מקסימלית, אתם צריכים לציין את השדה maxDistance (תצוגה מקדימה) כשאתם יוצרים מדיניות למיקום קומפקטי. ערך נמוך יותר של maxDistance מבטיח מיקום קרוב יותר של מכונות וירטואליות, אבל גם מגדיל את הסיכוי שחלק מהמכונות הווירטואליות לא ייווצרו.

כדי ליצור מדיניות מיקום קומפקטית, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור מדיניות למיקום קומפקטי, משתמשים בפקודה gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

מחליפים את מה שכתוב בשדות הבאים:

  • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
  • ‫MAX_DISTANCE: הגדרת המרחק המקסימלי למכונות ה-VM. אפשר לציין את המרחק (תצוגה מקדימה, מומלץ) או לא לציין אותו (מסירים את הדגל --max-distance). מוודאים שההגדרה של המרחק המקסימלי תומכת בסדרת המכונות ובמספר המכונות הווירטואליות שאתם מתכננים ליצור. מידע נוסף זמין במאמר מידע על מדיניות מיקום קומפקטית במאמרי העזרה של Compute Engine. לדוגמה, מרחק מקסימלי של 3 ממקם מכונות וירטואליות בבלוקים סמוכים, ומרחק של 2 ממקם מכונות וירטואליות באותו בלוק.
  • ‫REGION: האזור שבו רוצים ליצור את מדיניות המיקום הקומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.

REST

כדי ליצור מדיניות מיקום קומפקטית, שולחים בקשת POST אל ה-method‏ resourcePolicies.insert. בגוף הבקשה, כוללים את השדה collocation שמוגדר ל-COLLOCATED, ואת השדה maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

מחליפים את מה שכתוב בשדות הבאים:

  • PROJECT_ID: מזהה הפרויקט.
  • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
  • ‫MAX_DISTANCE: הגדרת המרחק המקסימלי למכונות ה-VM. אפשר לציין את המרחק (בגרסת Preview, מומלץ) או לא לציין אותו (מסירים את השדה maxDistance). מוודאים שההגדרה של המרחק המקסימלי תומכת בסדרת המכונות ובמספר המכונות הווירטואליות שאתם מתכננים ליצור. מידע נוסף זמין במאמר מידע על מדיניות מיקום קומפקטית במאמרי העזרה של Compute Engine. לדוגמה, מרחק מקסימלי של 3 ממקם מכונות וירטואליות בבלוקים סמוכים, ומרחק של 2 ממקם מכונות וירטואליות באותו בלוק.
  • ‫REGION: האזור שבו רוצים ליצור את מדיניות המיקום הקומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.

יצירת מכונות וירטואליות מסוג A2 בכמות גדולה

כדי ליצור מכונת VM מסוג A2, משתמשים באחת מהשיטות הבאות.

הפקודות הבאות מגדירות גם את היקף הגישה של המופעים. כדי לפשט את ניהול ההרשאות, Google ממליצה להגדיר את היקף הגישה במופע לגישת cloud-platform ואז להשתמש בתפקידי IAM כדי להגדיר לאילו שירותים המופע יכול לגשת. מידע נוסף זמין במאמר בנושא שיטות מומלצות לשימוש בהיקפים.

gcloud

כדי ליצור כמות גדולה של מכונות, משתמשים ב פקודה gcloud compute instances bulk create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A2 תומכים בסוגי ההזמנות הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

כדי להשתמש בסוגי ההזמנות האלה, צריך להשתמש במודל הקצאת המשאבים הרגיל. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫NAME_PATTERN: תבנית השם שתשמש למכונות A2. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות A2 עם שמות כמו instance-1 ו-instance-2, עד למספר מכונות A2 שצוין על ידי --count.
    • ‫COUNT: מספר המופעים מסוג A2 שרוצים ליצור.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A2. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.

    • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

      • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

      • ‫specific (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

    • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

      • אם ציינתם any, מחליפים את RESERVATION במחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את הדגל --reservation.

      • אם ציינתם specific, מחליפים את RESERVATION בערך הבא:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        מחליפים את מה שכתוב בשדות הבאים:

        • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
        • ‫RESERVATION_NAME: השם של ההזמנה.

  2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

    --no-restart-on-failure

  3. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

    --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

  4. אופציונלי: אם ציינתם סוג מכונה A2 Standard ואתם רוצים לצרף דיסקים מקומיים מסוג SSD, צריך להוסיף את הדגל --local-ssd הבא לכל דיסק מקומי מסוג SSD.

    חשוב לוודא שמספר דיסקי ה-SSD המקומיים שמצורפים מותר לסוג המכונה שלכם. פרטים נוספים זמינים במאמר מידע על דיסקי SSD מקומיים במסמכי Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שרוצים להשתמש בו עבור דיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים אופטימליים של NVMe, צריך לציין NVME. מציינים SCSI לתמונות אחרות.

    אחרי שיוצרים מכונה וירטואלית עם דיסקים מקומיים מסוג SSD, צריך לעצב כל מכשיר ולהוסיף אותו כדי שאפשר יהיה להשתמש בו.

  5. מריצים את הפקודה.

על פי דרישה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫NAME_PATTERN: תבנית השם שתשמש למכונות A2. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות A2 עם שמות כמו instance-1 ו-instance-2, עד למספר מכונות A2 שצוין על ידי --count.
    • ‫COUNT: מספר המופעים מסוג A2 שרוצים ליצור.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A2. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.

    • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

      • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

      • ‫none (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

  2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

    --no-restart-on-failure

  3. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

    --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

  4. אופציונלי: אם ציינתם סוג מכונה A2 Standard ואתם רוצים לצרף דיסקים מקומיים מסוג SSD, צריך להוסיף את הדגל --local-ssd הבא לכל דיסק מקומי מסוג SSD.

    חשוב לוודא שמספר דיסקי ה-SSD המקומיים שמצורפים מותר לסוג המכונה שלכם. פרטים נוספים זמינים במאמר מידע על דיסקי SSD מקומיים במסמכי Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שרוצים להשתמש בו עבור דיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים אופטימליים של NVMe, צריך לציין NVME. מציינים SCSI לתמונות אחרות.

    אחרי שיוצרים מכונה וירטואלית עם דיסקים מקומיים מסוג SSD, צריך לעצב כל מכשיר ולהוסיף אותו כדי שאפשר יהיה להשתמש בו.

  5. מריצים את הפקודה.

Spot

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫NAME_PATTERN: תבנית השם שתשמש למכונות A2. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות A2 עם שמות כמו instance-1 ו-instance-2, עד למספר מכונות A2 שצוין על ידי --count.
    • ‫COUNT: מספר המופעים מסוג A2 שרוצים ליצור.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A2. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.

    • ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

  2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

    --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה A2 Standard ואתם רוצים לצרף דיסקים מקומיים מסוג SSD, צריך להוסיף את הדגל --local-ssd הבא לכל דיסק מקומי מסוג SSD.

    חשוב לוודא שמספר דיסקי ה-SSD המקומיים שמצורפים מותר לסוג המכונה שלכם. פרטים נוספים זמינים במאמר מידע על דיסקי SSD מקומיים במסמכי Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שרוצים להשתמש בו עבור דיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים אופטימליים של NVMe, צריך לציין NVME. מציינים SCSI לתמונות אחרות.

    אחרי שיוצרים מכונה וירטואלית עם דיסקים מקומיים מסוג SSD, צריך לעצב כל מכשיר ולהוסיף אותו כדי שאפשר יהיה להשתמש בו.

  4. מריצים את הפקודה.

REST

כדי ליצור כמה מכונות בבת אחת, שולחים בקשת POST אל ה-method‏ instances.bulkInsert.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A2 תומכים בסוגי ההזמנות הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

כדי להשתמש בסוגי ההזמנות האלה, צריך להשתמש במודל הקצאת המשאבים הרגיל. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A2.
    • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫NAME_PATTERN: תבנית השם שתשמש למכונות A2. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות A2 עם שמות כמו instance-1 ו-instance-2, עד למספר מכונות A2 שצוין על ידי --count.
    • ‫COUNT: מספר המופעים מסוג A2 שרוצים ליצור.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A2. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.

    • ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

    • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

      • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

      • ‫SPECIFIC_RESERVATION (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

    • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

      • אם ציינתם את ANY_RESERVATION, צריך למחוק את RESERVATION כדי שהערך יהיה מחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את השדות key ו-values.

      • אם ציינתם SPECIFIC_RESERVATION, מחליפים את RESERVATION בערך הבא:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        מחליפים את מה שכתוב בשדות הבאים:

        • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
        • ‫RESERVATION_NAME: השם של ההזמנה.

  2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
    • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה A2 Standard ואתם רוצים לצרף דיסקים של SSD מקומי, צריך להוסיף את השדה הבא לשדה disks[] עבור כל דיסק SSD מקומי. מפרידים בין כל שדה משנה disks[] (כולל דיסק האתחול) באמצעות פסיק.

    חשוב לוודא שמספר דיסקי ה-SSD המקומיים שמצורפים מותר לסוג המכונה שלכם. פרטים נוספים זמינים במאמר מידע על דיסקי SSD מקומיים במסמכי Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫ZONE: האזור שציינתם.
    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שרוצים להשתמש בו עבור דיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים אופטימליים של NVMe, צריך לציין NVME. מציינים SCSI לתמונות אחרות.

    אחרי שיוצרים מכונה וירטואלית עם דיסקים מקומיים מסוג SSD, צריך לעצב כל מכשיר ולהוסיף אותו כדי שאפשר יהיה להשתמש בו.

  4. שולחים את הבקשה.

על פי דרישה

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A2.
    • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫NAME_PATTERN: תבנית השם שתשמש למכונות A2. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות A2 עם שמות כמו instance-1 ו-instance-2, עד למספר מכונות A2 שצוין על ידי --count.
    • ‫COUNT: מספר המופעים מסוג A2 שרוצים ליצור.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A2. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.

    • ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

    • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

      • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

      • ‫NO_RESERVATION (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

  2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
    • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה A2 Standard ואתם רוצים לצרף דיסקים של SSD מקומי, צריך להוסיף את השדה הבא לשדה disks[] עבור כל דיסק SSD מקומי. מפרידים בין כל שדה משנה disks[] (כולל דיסק האתחול) באמצעות פסיק.

    חשוב לוודא שמספר דיסקי ה-SSD המקומיים שמצורפים מותר לסוג המכונה שלכם. פרטים נוספים זמינים במאמר מידע על דיסקי SSD מקומיים במסמכי Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫ZONE: האזור שציינתם.
    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שרוצים להשתמש בו עבור דיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים אופטימליים של NVMe, צריך לציין NVME. מציינים SCSI לתמונות אחרות.

    אחרי שיוצרים מכונה וירטואלית עם דיסקים מקומיים מסוג SSD, צריך לעצב כל מכשיר ולהוסיף אותו כדי שאפשר יהיה להשתמש בו.

  4. שולחים את הבקשה.

Spot

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A2.
    • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫NAME_PATTERN: תבנית השם שתשמש למכונות A2. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות A2 עם שמות כמו instance-1 ו-instance-2, עד למספר מכונות A2 שצוין על ידי --count.
    • ‫COUNT: מספר המופעים מסוג A2 שרוצים ליצור.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A2. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.

    • ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

  2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
    • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה A2 Standard ואתם רוצים לצרף דיסקים של SSD מקומי, צריך להוסיף את השדה הבא לשדה disks[] עבור כל דיסק SSD מקומי. מפרידים בין כל שדה משנה disks[] (כולל דיסק האתחול) באמצעות פסיק.

    חשוב לוודא שמספר דיסקי ה-SSD המקומיים שמצורפים מותר לסוג המכונה שלכם. פרטים נוספים זמינים במאמר מידע על דיסקי SSD מקומיים במסמכי Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫ZONE: האזור שציינתם.
    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שרוצים להשתמש בו עבור דיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים אופטימליים של NVMe, צריך לציין NVME. מציינים SCSI לתמונות אחרות.

    אחרי שיוצרים מכונה וירטואלית עם דיסקים מקומיים מסוג SSD, צריך לעצב כל מכשיר ולהוסיף אותו כדי שאפשר יהיה להשתמש בו.

  4. שולחים את הבקשה.

מידע נוסף על אפשרויות ההגדרה כשיוצרים מכונות וירטואליות בכמות גדולה זמין במאמר יצירת מכונות וירטואליות בכמות גדולה במסמכי התיעוד של Compute Engine.

התקנת דרייברים של GPU

אחרי שיוצרים מופע, המופע לא יכול להשתמש ב-GPU שלו אלא אם מנהלי ההתקנים הנכונים של ה-GPU כבר מותקנים. אם לא ציינתם תמונת מערכת הפעלה שכוללת מנהלי התקנים של GPU, תוכלו לעיין במאמר התקנת מנהלי התקנים של GPU במסמכי Compute Engine.

אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

מצב Multi-Instance GPU ‏ (MIG) הוא תכונה שאפשר להפעיל בGPU נתמך של NVIDIA. אחרי שיוצרים מכונה, אפשר להפעיל את מצב MIG במעבד גרפי יחיד שמצורף למכונה. כשמצב MIG מופעל, ה-GPU היחיד מחולק לשבעה מופעי GPU עצמאיים לכל היותר. כל מופע פועל בו-זמנית, ולכל אחד מהם יש זיכרון, מטמון ומעבדים מרובי-ליבות משלו לסטרימינג. לאחר מכן, תוכלו להריץ במקביל עומסי עבודה שונים במכונות ה-GPU האלה. מידע נוסף על שימוש במצב MIG זמין במדריך למשתמש של Multi-Instance GPU (MIG) במסמכי התיעוד של NVIDIA.

המאמרים הבאים