במאמר הזה מתוארת ארכיטקטורה ברמה גבוהה לאפליקציה שיוצרת ומנהלת חידון למידה אינטראקטיבי באמצעות תהליך עבודה של AI אקטיבי. הנציג מעריך את הידע של המשתמש בנושא מסוים, ומשתמש במצב סשן מתמיד ובזיכרון לטווח ארוך כדי ליצור חוויה מותאמת אישית. הנציג שומר את היסטוריית התשובות של המשתמש, וכך הוא יכול להתאים באופן דינמי את רמת הקושי ואת התוכן של השאלות הבאות.
המסמך הזה מיועד לאדריכלים, למפתחים ולאדמינים שיוצרים ומנהלים אפליקציות של AI אקטיבי. אפשר להתאים את הארכיטקטורה הזו כדי ליצור אפליקציות חינוכיות אינטראקטיביות ועם שמירת מצב בתעשיות שונות. ההנחה במסמך היא שיש לכם הבנה בסיסית במערכות של סוכני AI. במאמר מה ההבדל בין סוכני AI, עוזרים אישיים מבוססי-AI ובוטים? מוסבר מה ההבדל בין סוכנים למערכות שהן לא סוכנים.
בקטע פריסה במסמך הזה יש קישור לדוגמת קוד שתעזור לכם להתנסות בפריסה של אפליקציית AI אקטיבי שמנהלת בוחן למידה אינטראקטיבי.
ארכיטקטורה
התרשים הבא מציג ארכיטקטורה ברמה גבוהה של סוכן למידה אינטראקטיבי.
הארכיטקטורה מציגה את זרימת הנתונים הבאה:
- המשתמש מבצע פעולה, כמו התחלת בוחן או שליחת תשובה, באפליקציית הבחנים שמתארחת ב-Cloud Run.
- האפליקציה מעבירה את הקלט של המשתמש לסוכן ה-AI.
סוכן ה-AI משתמש במודל Gemini ב-Gemini Enterprise Agent Platform כדי לפרש את הקלט של המשתמש. בהתאם לבקשת המשתמש, הנציג מפעיל את הכלים המתאימים כדי לבצע את הפעולה המבוקשת בבוחן.
לדוגמה, הנציג בוחר כלי כדי להתחיל סשן של בוחן, להעריך תשובה או ליצור את השאלה הבאה.
הנציג שולח את התשובה לאפליקציית החידון.
אפליקציית החידון מעבירה את התשובה למשתמש.
כדי לשמור על מצב הבוחן ולהתאים אישית את החוויה, הנציג מבצע את המשימות הבאות ברקע:
- הסוכן מוסיף את ההתקדמות והציון העדכניים של הבוחן להיסטוריה של הסשן השמור שמאוחסן בסשנים של Gemini Enterprise Agent Platform.
- הנציג הופך את נתוני הבוחן לזיכרונות ושומר אותם ב-Memory Bank כדי שיהיה אפשר לשלוף אותם לטווח הארוך. הנציג משתמש בנתונים ההיסטוריים ששמורים בזיכרון כדי ליצור תשובות מותאמות להקשר בסשנים עתידיים.
המוצרים שהשתמשו בהם
בארכיטקטורה לדוגמה הזו נעשה שימוש במוצרים ובכלים הבאים של Google Cloud ושל קוד פתוח:
- Cloud Run: פלטפורמת מחשוב בלי שרת (serverless computing) שמאפשרת להריץ קונטיינרים ישירות בתשתית של Google, שניתנת להתאמה לעומס.
- Agent Development Kit (ADK): ערכה של כלים וספריות לפיתוח, לבדיקה ולפריסה של סוכני AI.
- Gemini Enterprise Agent Platform: פלטפורמה מקיפה שמאפשרת לפתח, להרחיב, לנהל ולשפר סוכני AI ברמה שמתאימה לארגונים.
- סשנים ב-Gemini Enterprise Agent Platform: שירות אחסון מתמיד ששומר ומאחזר את היסטוריית האינטראקציות בין משתמשים לסוכנים.
- Memory Bank: שירות אחסון מתמיד שיוצר, משפר, מנהל ושולף זיכרונות לטווח ארוך על סמך השיחות של המשתמש עם הנציג.
שיקולי אבטחה
כדי להתמודד עם סיכוני האבטחה הייחודיים של סוכני AI, Google ממליצה על גישה שמשלבת אמצעי אבטחה דטרמיניסטיים עם הגנות דינמיות שמבוססות על הסקת מסקנות:
- פיקוח אנושי: שלבו תהליך של "האדם שבתהליך" במערכות קריטיות לעסק, כדי שמפקחים אנושיים יוכלו לבדוק את הפלט ולאשר, לשנות או להשהות את הפעולות של הנציג.
- Agent Identity: מקצים לכל נציג זהות שקשורה לעומס העבודה כדי לאכוף בקרת גישה לפי הרשאות מינימליות, ולנהל באופן מרוכז את פרטי הכניסה לכלים חיצוניים.
- Agent Gateway: אכיפת משילות על תנועה נכנסת ויוצאת, כללי מדיניות של דחיית גישה כברירת מחדל, ובדיקה של הנחיות וכלים מוטבעים באמצעות הגנה מוגברת על המודל.
- Agent Registry: מוודאים שהסוכנים מתחברים רק לסוכני משנה ולכלי MCP שאושרו.
ההנחיות בקטע הזה הן חלקיות. מידע נוסף על גורמי תכנון ושיטות מומלצות, והמלצות לבנייה ולפריסה של מערכת AI אקטיבי עם כמה סוכנים, זמינים במאמר מערכת AI אקטיבי עם כמה סוכנים ב- Google Cloud.
פריסה
כדי לפרוס הטמעה לדוגמה של הארכיטקטורה הזו, שמספקת בחנים שקשורים לתכנות, אתם יכולים להשתמש בדוגמת הקוד של Python tutor שזמינה ב-GitHub.
המאמרים הבאים
- (Notebook) תחילת העבודה עם סשנים של פלטפורמת הסוכנים ו-Memory Bank לסוכני ADK ב-Cloud Run.
- מידע נוסף על מצב וזיכרון ב-ADK (בלוג)
- (Codelab) יצירת עוזר מבוסס-AI לבדיקת קוד בסביבת ייצור באמצעות ADK.
- (סרטון) זיכרון לטווח ארוך של סוכן AI עם Memory Bank
- איך מארחים סוכני AI ב-Cloud Run
- לסקירה כללית של עקרונות והמלצות לארכיטקטורה שספציפיים לעומסי עבודה של AI ו-ML ב- Google Cloud, קראו את המאמר נקודת המבט של AI ו-ML ב-Well-Architected Framework.
- לדוגמאות נוספות של ארכיטקטורות, תרשימים ושיטות מומלצות, עיינו במאמר Cloud Architecture Center.
שותפים ביצירת התוכן
מחברת: סמנתה הי | כותבת טכנית
תורמים אחרים:
- אמינה מנסור | ראש צוות טכני, קשרי מפתחים גלובליים ותוכן אסטרטגי
- קומאר דהנגופאל | מפתח פתרונות למוצרים שונים
- מייגן אוקיף | אחראית קשרי מפתחים (Developers Advocate)
- רייצ'ל דיקון-סמית' | אחראית קשרי מפתחים (Developers Advocate)
- שיר מאיר לדור | מנהלת הנדסה בקשרי מפתחים