סקירה כללית על ניראות

יכולת התבוננות לעומק בסוכנים ב-Gemini Enterprise Agent Platform מספקת תצוגה מקיפה של הביצועים, ההתנהגות והתקינות של הסוכנים שנפרסו ושל שרתי Model Context Protocol‏ (MCP). מעקב אחרי מדדים מרכזיים, מעקב אחרי נתיבי ביצוע וצפייה במערכת מרובת הסוכנים (MAS) בכללותה, מאפשרים לכם לאבחן בעיות, לבצע אופטימיזציה של צריכת המשאבים ולשפר את האמינות של הסוכנים.

במסמך הזה מפורטת סקירה כללית על כלי הניראות שזמינים ב-Gemini Enterprise Agent Platform, כולל טופולוגיה ברמת המערכת, מעקב אחרי סוכנים ספציפיים ומדדים של שרת MCP.

הגדרת טלמטריה

כדי לאכלס את מרכזי הבקרה, הטופולוגיות והמעקבים האלה, צריך להגדיר את הסוכנים כך שישלחו נתוני טלמטריה בפורמט OpenTelemetry למערכות האחסון ב-Google Cloud Observability.

חשוב לוודא שהסביבות של הנציג ושל שרת ה-MCP מוגדרות כמו שצריך כדי לשלוח את הנתונים האלה. רכיבים מובנים של Google Cloud פולטים באופן אוטומטי נתוני טלמטריה בפורמט OpenTelemetry. לדוגמה, Model Armor פולט באופן טבעי נתוני טלמטריה סטנדרטיים, שמאפשרים לחשוף ולנטר בזמן אמת יירוטים של מדיניות ישירות בנתוני המעקב, בלי צורך בכלים מותאמים אישית.

במקורות המידע הבאים מפורטות הוראות ודרישות להגדרת טלמטריה של סוכנים:

אותות ניראות (observability)

פלטפורמת הסוכנים של Gemini Enterprise מספקת יכולת תצפית באמצעות מדדים, מעקבים ויומנים.

כשבוחרים סוכן ספציפי מה-Registry, בכרטיסייה Observability מופיעה קבוצה של מרכזי בקרה ייעודיים למעקב אחרי התקינות התפעולית, הביצועים וניצול התשתית. בכרטיסייה Observability, משתמשים בתפריט הניווט שמימין כדי לעבור בין התצוגות הבאות:

  • סקירה כללית: מעקב אחרי השימוש ברמה גבוהה במסגרת הזמן שנבחרה, כולל סך כל הסשנים, מספר הפניות הממוצע בכל סשן וסך כל ההפעלות של הנציג. בתרשימים של סדרות הזמן מוצגים השימוש בטוקנים (קלט לעומת פלט), נפח התנועה הכולל של הנציג, אחוזוני זמן האחזור (p50,‏ p95,‏ p99) ושיעורי השגיאות.
  • הערכה: הצגת מוניטורים אונליין להערכת איכות רציפה. הווידג'טים האלה כוללים ווידג'טים של סדרות זמנים שעוקבים אחרי האיכות הממוצעת של התשובות, מדדי הבטיחות, שיעורי ההזיות ואיכות השימוש בכלים.
  • מודלים: פירוט של הביצועים לפי מודל הבסיס. אתם יכולים לעקוב אחרי זמן האחזור באחוזון ה-95, מספר הקריאות הכולל, שיעורי השגיאות, כשלים במכסות לקצב הגשת בקשות ושימוש בטוקנים, לפי מודלים ספציפיים.
  • כלים: מעקב אחרי הכלים והשירותים החיצוניים שמחוברים לנציג. בתצוגה הזו מפורטים זמן האחזור באחוזון ה-95, מספר הקריאות ושיעורי השגיאות לכל כלי, וגם תדירות האינטראקציות שבהן לא בוצעה קריאה לאף כלי.
  • שימוש: מספק מדדים ברמת התשתית לסביבת זמן הריצה של הנציג, כולל הקצאת מעבד (CPU) לקונטיינר, הקצאת זיכרון לקונטיינר ושימוש בטוקנים.
  • יומנים: הצגת זרם של יומני פעילות גולמיים של הסוכן שאפשר לסנן, כולל רמת החומרה, חותמות זמן וסיכומי ביצוע, כדי לפתור בעיות לעומק. צפייה ביומני הפעילות של סוכן

בנוסף למרכזי הבקרה בכרטיסייה Observability, אתם יכולים להשתמש בכרטיסייה Traces של הנציג כדי לבדוק את הביצוע של סשנים ספציפיים שלב אחרי שלב, כולל גרפים אציקליים מכוונים של טווחי זמן וקלט/פלט. מידע נוסף מופיע במאמר הצגת מעקבים של נציגים. אפשר גם להשתמש בכרטיסייה Topology כדי לראות את יחסי התלות הספציפיים של הסוכן הבודד הזה, הנכנסים והיוצאים.

בשרתי MCP, אפשר לעקוב אחרי מספר הבקשות ומשך הבקשות באחוזון ה-95 כדי לבדוק את השימוש ואת מהירות התגובה.

בדיקת הפעולות של הסוכן

כדי לתמוך בביקורות אבטחה ותאימות בארגון, Gemini Enterprise Agent Platform משתמשת ברישום ביומן עם שיוך כפול כדי לתעד את פעילות הסוכן ב-Cloud Logging. כשנציג מבצע פעולה או מפעיל כלי בשם אדם מסוים (הרשאה שהוקצתה על ידי המשתמש), ביומני הביקורת והביצוע מתועדים גם זהות הנציג שמבוססת על SPIFFE (principal://... ביומני הביקורת או spiffe://... ביומני הביצוע) וגם הזהות של המשתמש האנושי שיזם את הפעולה. כשהסוכן פועל באופן אוטונומי, הפעולה משויכת ביומנים ישירות לזהות הייחודית של הסוכן.

מבקרים ואדמינים של אבטחה יכולים לבודד ולבדוק אירועים שהסוכן יזם ב-Cloud Logging, על ידי סינון לפי הדגל is_agentic=true בשאילתות ביומן. שילוב של is_agentic=true עם זהות הסוכן או חשבון המשתמש מאפשר לעקוב אחרי נתיבי הביצוע מקצה לקצה, ולוודא שהמדיניות נאכפת בכל האינטראקציות של הסוכן.

מוסכמות של OpenTelemetry ל-AI גנרטיבי

מעקבי נציגים ויומני הנחיות ותשובות מסתמכים במידה רבה על המוסכמות הסמנטיות של OpenTelemetry למערכות AI גנרטיבי כדי לתקנן את האופן שבו נתוני הטלמטריה של AI גנרטיבי נאספים, מובנים ומדווחים.

חשוב מאוד לפעול לפי המוסכמות האלה כדי לעקוב אחרי הסוכן, כי הן יוצרות פורמט אוניברסלי שלא תלוי בספק, שמתאר תהליכי עבודה מורכבים של סוכנים עם כמה שלבים – כמו הפעלת כלים, שלבי אחזור וצריכת טוקנים. התקן הזה מאפשר יכולת פעולה הדדית חלקה בין כלים שונים לניתוח נתונים ורכיבי backend שונים של ניראות, גם בתוך Google Cloudוגם מחוץ לו.

המאמרים הבאים