הצגת אשכולות

אם אתם מעוניינים באשכולות אימון של Gemini Enterprise Agent Platform, אתם יכולים לפנות לנציג המכירות שלכם כדי לקבל גישה.

בדף הזה מוסבר איך להציג את רשימת אשכולות האימון בפרויקט באמצעות מסוף Google Cloud או Agent Platform API (לא נתמך ב-Google Cloud CLI).

כשמציגים אשכול, אפשר לוודא את הדברים הבאים:

  • הגדרת האשכול
  • מצב האשכול והצומת
  • פרטי צומת הכניסה
  • שימוש במשאבים באשכול

אם אתם מחפשים הוראות לעדכון אשכול, אפשר לעיין במאמר ניהול אשכול.

לפני שמתחילים

מאמתים את Gemini Enterprise Agent Platform, אלא אם כבר עשיתם זאת.

צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

המסוף

כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים ולממשקי ה-API, לא צריך להגדיר אימות. Google Cloud

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

    התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Google Cloud .

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות להצגת אשכולות אימון, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד Agent Platform Viewer (‏roles/aiplatform.viewer) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות לצפייה באשכולות אימון. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי להציג אשכולות אימון, נדרשות ההרשאות הבאות:

  • כדי לראות רשימה של אשכולות: aiplatform.modelDevelopmentClusters.list
  • כדי לראות את הפרטים של אשכול יחיד: aiplatform.modelDevelopmentClusters.get

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

מצב החשיפה של המסוף

הרשאות IAM לבדן לא מאפשרות לראות את אשכולות האימון במסוף Google Cloud . הדף Training Clusters מופיע רק בפרויקטים שרשומים ל-Gemini Enterprise Agent Platform training clusters. אם הדף לא מופיע, צריך לפנות לנציג המכירות.

בנוסף, Google Cloud צריך להפעיל בפרויקט את ממשקי ה-API הבאים: אם אחד מהם חסר, בדף Training Clusters מוצג הכפתור Enable APIs במקום האשכולות:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

אימות של ממשק ה-API

בדוגמאות של Agent Platform API שבדף הזה נעשה שימוש בכינוי הבא, שקורא ל-Google Cloud CLI כדי ליצור אסימון גישה:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

צפייה ברשימת האשכולות

בשני הממשקים, האשכולות מוצגים לפי אזור אחד בכל פעם. במסוף Google Cloud בוחרים את האזור מתוך רשימה, וב-Agent Platform API האזור הוא חלק מכתובת ה-URL של הבקשה.

המסוף

  1. נכנסים לדף Training Clusters במסוף Google Cloud .

    מעבר אל Training Clusters

  2. ברשימה Region, בוחרים את האזור שבו רוצים להציג את האשכולות.

    בדף מופיעה רשימת האשכולות באזור הזה. כל עמודה בטבלה מתארת מאפיין של האשכול:

    עמודה תיאור
    מזהה מזהה האשכול שמשמש כ-CLUSTER_ID בבקשות ל-Agent Platform API.
    שם השם המוצג של האשכול.
    סטטוס מצב האשכול: Creating,‏ Running,‏ Updating,‏ Stopping או Error.
    צמתים מספר הצמתים באשכול.
    תאריך יצירה מתי נוצר האשכול.
    סוגי מכונות סוגי המכונות שמשמשים במאגרי הצמתים של האשכול.
    מודלים של צריכה איך הקיבולת של האשכול מתקבלת: Reservation,‏ Spot,‏ Flex-start או On-demand.

  3. כדי לפתוח אשכול, לוחצים על השם שלו בעמודה שם.

REST

כדי לראות רשימה של האשכולות באזור מסוים, שולחים בקשת GET לאוסף modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫REGION: האזור שבו נמצאים האשכולות.

השיטה list תומכת בפרמטרים של שאילתה האופציונליים הבאים כדי לשלוט על חלוקה לדפים:

  • ‫pageSize (מספר שלם, אופציונלי): המספר המקסימלי של אשכולות שצריך להחזיר בתשובה. יכול להיות שהשירות יחזיר פחות מהערך הזה, גם אם יש עוד פריטים. אם לא צוין גודל דף, ייעשה שימוש בגודל דף שמוגדר כברירת מחדל.
  • ‫pageToken (מחרוזת, אופציונלי): טוקן שהתקבל מקריאה קודמת של רשימה. צריך להזין את הטוקן הזה כדי לאחזר את דף התוצאות הבא.

בדוגמה הבאה מוצגת בקשה לקבלת הדף הראשון של התוצאות, עם מקסימום חמש קבוצות לכל דף:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

תשובה תקינה מכילה מערך modelDevelopmentClusters עם עד חמישה משאבי אשכול, ויכולה לכלול גם מחרוזת nextPageToken.

הצגת הפרטים של אשכול

גם ב Google Cloud מסוף וגם ב-Agent Platform API מדווחים על ההגדרה של אשכול ועל המצב הנוכחי שלו, כולל המצב של כל אחד מהצמתים שלו. לוחות הבקרה של Cloud Monitoring זמינים רק במסוף Google Cloud .

המסוף

  1. נכנסים לדף Training Clusters במסוף Google Cloud .

    מעבר אל Training Clusters

  2. ברשימה Region, בוחרים את האזור שבו נמצא האשכול.

  3. בעמודה Name (שם), לוחצים על שם האשכול שרוצים לראות. הדף Cluster details נפתח בכרטיסייה Overview.

  4. בוחרים כרטיסייה כדי לראות את הפרטים המתאימים:

    • סקירה כללית: השם, התיאור והמיקום של האשכול, יחד עם הגדרות החישוב, הרשת והתזמור שהוגדרו, צומת הכניסה והמחיצות של Slurm.

    • Nodes: שתי טבלאות שמתארות את הצמתים באשכול.

    • Login nodes, עם העמודות Status,‏ Name,‏ Zone,‏ סוג מכונה,‏ כתובת IP פנימית,‏ כתובת IP חיצונית ו-Connect. משתמשים באפשרות Connect כדי לפתוח סשן SSH בצומת התחברות.

    • צמתי מחשוב, עם העמודות סטטוס, שם, אזור, סוג מכונה, כתובת IP פנימית ומחיצה.

    • יכולת צפייה (Observability): מרכזי בקרה מוכנים מראש של Cloud Monitoring שכוללים נתוני שימוש ב-CPU, בזיכרון וברשת בכל האשכול, יחד עם נתוני ניצול של GPU, מדדים של NVIDIA Data Center GPU Manager‏ (DCGM), רשת GPU וסטטוס GPU.

כדי לטעון מחדש את הדף עם המצב הנוכחי של האשכול, לוחצים על רענון. כדי למחוק את האשכול, לוחצים על מחיקה.

REST

כדי לראות את הפרטים של אשכול יחיד, שולחים בקשת GET למשאב של האשכול:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫REGION: האזור שבו האשכול נמצא.
  • ‫CLUSTER_ID: המזהה של האשכול שרוצים להציג. זהו הערך שמוצג בעמודה ID בדף Training Clusters במסוףGoogle Cloud .

התגובה היא משאב ModelDevelopmentCluster. לצד ההגדרה של האשכול, בשדה clusterStatus שלו מדווח על המצב הנוכחי של האשכול ושל כל אחד מהצמתים שלו:

  • ‫clusterStatus.state: מצב האשכול, אחד מהערכים הבאים: PROVISIONING, ‏RUNNING, ‏UPDATING, ‏STOPPING או ERROR. במסוף Google Cloud , הסטטוס של PROVISIONING הוא Creating.
  • ‫clusterStatus.nodesStatus[]: רשומה אחת לכל צומת באשכול, עם nodeState הצומת (PREPARING,‏ RUNNING,‏ UPDATING או ERROR), שם המופע של Compute Engine, מאגר הצמתים והשעה שבה השתנה המצב לאחרונה.
  • ‫clusterStatus.detail: תיאור קריא של סטטוס האשכול, אם יש כזה.

תיאור של שדות ההגדרה מופיע בחומר העזר בנושא פרמטרים.

המאמרים הבאים