הצגת אשכולות

אם אתם רוצים להשתמש באשכולות אימון ב-Gemini Enterprise Agent Platform, פנו לנציג המכירות שלכם כדי לקבל גישה.

בדף הזה מוסבר איך להציג את רשימת אשכולות האימון בפרויקט שלכם באמצעות מסוף Google Cloud או Agent Platform API (אין תמיכה ב-Google Cloud CLI).

כשמציגים אשכול, אפשר לוודא את הפרטים הבאים:

  • הגדרת האשכול
  • מצב האשכול והצומת
  • מידע על צומת ההתחברות
  • שימוש במשאבים של אשכולות

אם אתם מחפשים הוראות לעדכון אשכול, קראו את המאמר ניהול אשכול.

לפני שמתחילים

מבצעים אימות ב-Gemini Enterprise Agent Platform, אם עדיין לא עשיתם את זה.

צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

המסוף

כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים ולממשקי ה-API של Google Cloud , לא צריך להגדיר אימות.

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

    התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Google Cloud .

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות לצפייה באשכולות אימון, בקשו מהאדמין להקצות לכם את התפקיד צפייה בפלטפורמת הסוכנים (roles/aiplatform.viewer) ב-IAM בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות לצפייה באשכולות אימון. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי לראות את אשכולות האימון, צריך את ההרשאות הבאות:

  • כדי להציג רשימה של אשכולות: aiplatform.modelDevelopmentClusters.list
  • כדי לראות את הפרטים של אשכול אחד: aiplatform.modelDevelopmentClusters.get

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

הרשאות גישה למסוף

הרשאות IAM לבדן לא מאפשרות לראות את אשכולות האימון במסוף Google Cloud . הדף Training Clusters מופיע רק בפרויקטים שרשומים לאשכולות אימון ב-Gemini Enterprise Agent Platform. אם הדף לא מופיע, פנו לנציג המכירות שלכם.

כדי להשתמש במסוף Google Cloud , צריך להפעיל בפרויקט גם את ממשקי ה-API הבאים: אם אחד מהם חסר, בדף Training Clusters יוצג הכפתור Enable APIs במקום האשכולות:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

אימות ל-API

בדוגמאות של Agent Platform API שבדף הזה נעשה שימוש בשם החלופי הבא, שקורא ל-Google Cloud CLI כדי להנפיק אסימון גישה:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

הצגת רשימה של אשכולות

בשני הממשקים, האשכולות מוצגים לפי אזור. במסוף Google Cloud בוחרים את האזור מתוך רשימה, וב-Agent Platform API האזור הוא חלק מכתובת ה-URL של הבקשה.

המסוף

  1. נכנסים לדף Training Clusters במסוף Google Cloud .

    מעבר לאשכולות אימון

  2. ברשימה Region, בוחרים את האזור שבו רוצים לראות את האשכולות.

    בדף מופיעה רשימת האשכולות באזור הזה. כל עמודה בטבלה מתארת מאפיין של האשכול:

    עמודה תיאור
    מזהה מזהה האשכול, שמשמש כ-CLUSTER_ID בבקשות API של Agent Platform.
    שם השם המוצג של האשכול.
    סטטוס מצב האשכול: Creating,‏ Running,‏ Updating,‏ Stopping או Error.
    צמתים מספר הצמתים באשכול.
    תאריך היצירה מתי האשכול נוצר.
    סוגי מכונות סוגי המכונות שמשמשים את מאגרי הצמתים של האשכול.
    מודלי צריכה איך מתקבלת הקיבולת של האשכול: Reservation,‏ Spot,‏ Flex-start או On-demand.

  3. כדי לפתוח אשכול, לוחצים על השם שלו בעמודה Name.

REST

כדי לראות רשימה של האשכולות באזור מסוים, שולחים בקשת GET לאוסף modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫REGION: האזור שבו נמצאים האשכולות.

ה-method‏ list תומך בפרמטרים האופציונליים הבאים של שאילתות כדי לשלוט בחלוקה לדפים:

  • ‫pageSize (מספר שלם, אופציונלי): המספר המקסימלי של אשכולות שיוחזרו בתגובה. יכול להיות שהשירות יחזיר פחות מהערך הזה, גם אם יש יותר פריטים. אם לא מציינים גודל דף, המערכת משתמשת בגודל ברירת המחדל.
  • ‫pageToken (מחרוזת, אופציונלי): טוקן שהתקבל מקריאה קודמת של רשימה. צריך להזין את הטוקן הזה כדי לאחזר את דף התוצאות הבא.

בדוגמה הבאה נשלחת בקשה לדף התוצאות הראשון, עם מקסימום של חמישה אשכולות בכל דף:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

תגובה תקינה מכילה מערך modelDevelopmentClusters עם עד חמישה משאבי אשכולות, ויכולה לכלול גם מחרוזת nextPageToken.

הצגת הפרטים של אשכול

גם מסוף Google Cloud וגם Agent Platform API מדווחים על ההגדרות של האשכול ועל המצב הנוכחי שלו, כולל המצב של כל אחד מהצמתים שלו. מרכזי הבקרה של Cloud Monitoring זמינים רק במסוף Google Cloud .

המסוף

  1. נכנסים לדף Training Clusters במסוף Google Cloud .

    מעבר לאשכולות אימון

  2. ברשימה Region, בוחרים את האזור שבו נמצא האשכול.

  3. בעמודה Name, לוחצים על שם האשכול שרוצים להציג. הדף Cluster details נפתח בכרטיסייה Overview.

  4. בוחרים כרטיסייה כדי לראות את הפרטים הרלוונטיים:

    • סקירה כללית: השם, התיאור והמיקום של האשכול, יחד עם הגדרות המחשוב, הרשת והתזמור שהוגדרו, צומת ההתחברות והמחיצות של Slurm.

    • צמתים: שתי טבלאות שמתארות את הצמתים באשכול.

    • ‫צומתי התחברות, עם העמודות Status,‏ Name,‏ Zone,‏ Machine type,‏ כתובת IP פנימית,‏ כתובת IP חיצונית ו-Connect. משתמשים ב-Connect כדי לפתוח סשן SSH בצומת התחברות.

    • צומתי Compute, עם העמודות Status,‏ Name,‏ Zone,‏ Machine type,‏ כתובת IP פנימית ו-Partition.

    • ניטור: מרכזי בקרה מוכנים מראש של Cloud Monitoring שכוללים את השימוש במעבד (CPU), בזיכרון וברשת באשכול, וגם את השימוש ב-GPU, מדדים של NVIDIA Data Center GPU Manager ‏(DCGM), רשת GPU ותקינות GPU.

כדי לטעון מחדש את הדף עם המצב הנוכחי של האשכול, לוחצים על Refresh. כדי למחוק את האשכול, לוחצים על Delete.

REST

כדי לראות את הפרטים של אשכול אחד, שולחים בקשת GET למשאב האשכול:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫REGION: האזור שבו נמצא האשכול.
  • ‫CLUSTER_ID: המזהה של האשכול שרוצים להציג. זה הערך שמוצג בעמודה ID בדף Training Clusters במסוףGoogle Cloud .

התשובה היא משאב מסוג ModelDevelopmentCluster. לצד הגדרות האשכול, השדה clusterStatus מדווח על המצב הנוכחי של האשכול ושל כל אחד מהצמתים שלו:

  • ‫clusterStatus.state: מצב האשכול, אחד מהערכים הבאים: PROVISIONING, ‏RUNNING, ‏UPDATING, ‏STOPPING או ERROR. במסוף Google Cloud , הסטטוס של PROVISIONING הוא Creating.
  • ‫clusterStatus.nodesStatus[]: רשומה אחת לכל צומת באשכול, שמציינת את ה-nodeState של הצומת (PREPARING,‏ RUNNING,‏ UPDATING או ERROR), את שם המכונה שלו ב-Compute Engine, את מאגר הצמתים שלו ואת הזמן שבו המצב שלו השתנה לאחרונה.
  • ‫clusterStatus.detail: תיאור קריא לאנשים של סטטוס האשכול, אם יש כזה.
  • ‫clusterStatus.infrastructureNotices[]: הודעות פעילות על תחזוקת התשתית של האשכול, אם יש כאלה. מידע נוסף זמין במאמר תחזוקת אשכולות.

לתיאור של שדות התצורה, עיינו בחומר העזר בנושא פרמטרים.

תחזוקה של אשכולות

אשכולות האימון של Gemini Enterprise Agent Platform מעדכנים מדי פעם את התוכנה לניהול אשכולות באשכול פעיל, כמו בקר Slurm. במהלך עדכון תחזוקה או אחריו, במסוף Google Cloud מופיעה הודעה בעמודה Status בדף Training Clusters ובבאנר בדף Cluster details. ב-Agent Platform API, הודעות פעילות מופיעות בשדה clusterStatus.infrastructureNotices.

אלה הודעות התחזוקה שיכולות להופיע:

  • מתבצעת תחזוקה: מתבצעת תחזוקה של התשתית באשכול, ויכול להיות שהוא לא יהיה זמין באופן זמני. צריך להמתין עד שעדכון התחזוקה יסתיים לפני ששולחים משימות Slurm חדשות או מעדכנים את האשכול.
  • תחזוקה לא הושלמה: בעיה לא צפויה מנעה את השלמת עדכון התחזוקה. האשכול ממשיך לפעול, ואין צורך לבצע פעולה אם עומסי העבודה פועלים כרגיל. אם האשכול לא נגיש באופן חלקי או שפקודות Slurm נכשלות, פנו לנציג Google או לGoogle Cloud צוות התמיכה וציינו את מזהה הפרויקט, מזהה האשכול והאזור.

הודעות התחזוקה נמחקות באופן אוטומטי כשהתחזוקה מסתיימת.

המאמרים הבאים