הדף הזה רלוונטי ל-Apigee ול-Apigee Hybrid.
לעיון במסמכי התיעוד של
Apigee Edge
כדי שהסוכנים יוכלו להיות יעילים, הם צריכים גישה לכלים איכותיים, כמו ממשקי API ארגוניים. בנוסף ליכולות ניהול ה-API המסורתיות, Apigee מספק תכונות שקשורות לשער AI כדי לנהל ולבצע אופטימיזציה של תנועת ה-AI, תוך המרה של שירותים קיימים לכלים שסוכנים יכולים לגלות.
Apigee יכולה לאבטח, לנהל ולהרחיב את ממשקי ה-API שלכם למערכות מבוססות-סוכנים:
- אופטימיזציה של התנועה וניהול שלה: אכיפת אמצעי בקרה של AI Gateway כדי לאבטח את התנועה ואת הכלים מפני פגיעויות, תוך אכיפת מדיניות התאימות. לוודא שתעבורת הנתונים של מודלי ה-LLM מותאמת להרצה יעילה וחסכונית.
- תרגום ממשקי API לכלים: אפשר להפוך ממשקי API קיימים לכלים שעברו אופטימיזציה לסוכנים בלי לכתוב קוד חדש, כדי שהסוכנים יוכלו לגלות את ממשקי ה-API של הארגון ולקיים איתם אינטראקציה בצורה מאובטחת.
- הפעלת שילובים: מוודאים שאפשר לגלות את ממשקי ה-API והכלים שלכם דרך פלטפורמות אחרות שמבוססות על סוכנים.
ניהול ואבטחה
Model Armor
במאמר הזה מוסבר איך להגן על המערכת מפני החדרת פרומפטים ולסנן תוכן בלתי הולם לפני שהוא מגיע למשתמשים או למודל.
מדיניות אבטחה של MCP
כדי לוודא שכל הבקשות לשרת ה-proxy של MCP מאומתות ומאושרות, צריך להוסיף מדיניות אבטחה של OAuth V2.
מדיניות JSON-RPC
אפשר להשתמש בתמיכה של Apigee ב-JSON-RPC עבור MCP כדי לאכוף מדיניות בצורה מפורטת יותר.
אופטימיזציה והפחתת עלויות
ניתוב דינמי של מודלים
אפשר לנתב בקשות למודלים שונים לתרחישי שימוש שונים באמצעות כללי ניתוב גמישים שמבוססים על מדיניות.
מדיניות בנושא שמירת נתונים במטמון סמנטי
כדי להפחית את העלויות ולשפר את זמן האחזור של התגובות, המערכת מציגה תגובות ששמורות במטמון לשאילתות שהן דומות מבחינה סמנטית.
המדיניות בנושא מגבלת טוקנים של LLM
כדאי להגדיר מכסות ומגבלות קצב כדי לוודא שהאפליקציות לא חורגות ממכסות האסימונים ושומרות על יציבות הפלטפורמה.
תרגום ממשקי API לכלים
Specification Boost
יצירה אוטומטית של תיאורים מפורטים, סכימות ותיעוד לממשקי ה-API כדי להפוך אותם לנגישים יותר למפתחים, לצרכני API ולסוכנים.
חשיפת ממשקי API ככלים של MCP
איך מאפשרים לעוזרים אישיים מבוססי-AI ולסוכנים לגלות ולהפעיל את ממשקי ה-API שלכם ככלים בצורה מאובטחת.
ניהול שרתי MCP וכלים במרכז ה-API
אפשר לייבא, לרשום ולנהל ממשקי API של MCP ואת הכלים שמשויכים אליהם ישירות במרכז ה-API.
הפצת יכולות של סוכנים באמצעות API hub
ארגון וניהול של יכולות מבוססות-סוכן באמצעות API Hub, כדי להבטיח שאפשר יהיה למצוא אותן בקלות ולעשות בהן שימוש חוזר בסוכנים שונים.
הפעלת שילובים
Register MCPs in Agent Registry
סנכרון אוטומטי של כלים ומטא-נתונים של שרתים עם Agent Registry.
שילוב עם Dialogflow
ניהול האינטראקציות בין Dialogflow לבין שירותי ה-Backend שלכם ב-Contact Center AI.
חיפוש סמנטי ב-API Hub באמצעות MCP
חיפוש במרכז ה-API באמצעות שפה טבעית. סוכנים יכולים גם להשתמש בחיפוש סמנטי כדי למצוא את ממשקי ה-API שלכם במרכז ממשקי ה-API.
המאמרים הבאים
- אפשר לנסות דוגמאות לתרחישי שימוש ב-AI Gateway ממאגר AI Gateway Labs ב-GitHub.
- בשיחות הטכניות של קהילת Apigee אפשר לקבל מידע נוסף על היכולות של Apigee AI gateway.