‫Google משתמשת בטכנולוגיית AI כדי לתרגם תוכן לשפה המועדפת עליך. בתרגומים כאלו עשויות להיות שגיאות.

סקירה כללית

‫Model Armor משתלב עם שירותי Google Cloud כדי לאבטח אינטראקציות עם AI ועם מודל שפה גדול (LLM). הכלי "הגנה מוגברת על המודל" מזהה הפרות מדיניות פוטנציאליות ומדווח עליהן, ויכול לחסום פעולות באופן פעיל על סמך הערכות אבטחה.

מתי כדאי להשתמש בשילובים של Model Armor

הנה כמה תרחישי שימוש נפוצים:

אבטחת תעבורת הנתונים של API Gateway: יירוט בקשות ותגובות זדוניות כדי להגן על נקודות הקצה של ה-AI בקצה העורפי בשכבת השער באמצעות Apigee או Agent Gateway.
אכיפת אמצעי הגנה מוטמעים במודל: סינון של זרמי ההנחיות והתשובות ישירות בתהליכי העבודה של Agent Platform,‏ Gemini ו-Gemini Enterprise, בלי קוד wrapper מותאם אישית.
ריכוז פעולות האבטחה וההתראות: ניתוב הממצאים ואירועי הפרת המדיניות ישירות אל Security Command Center למעקב מאוחד אחרי איומים.
הגנה על אינטראקציות של סוכנים: הגדרת מעקות בטיחות לסוכנים בממשק שיחה ולקריאות לכלים בארכיטקטורות ארגוניות משולבות.

אופני תקשורת נתמכים

המודלים ש-Model Armor יכול לסרוק ולנקות תלויים באופן הגישה לשירות:

‫API ישיר בארכיטקטורת REST: ה-API של Model Armor בארכיטקטורת REST תומך בכל המודלים, כולל טקסט, מסמכים ותמונות. מידע נוסף זמין במאמרים הסרת תוכן זדוני או רגיש מהנחיות ומתשובות וסינון תמונות.
שילובים עם שירותים אחרים: השילוב של Gemini Enterprise תומך במסמכים ובתמונות, כולל תמונות שכלולות במסמכים שהועלו. כל שאר השילובים של Model Armor סורקים ומסירים תוכן זדוני או רגיש רק מטקסט.

במאמר סינון מסמכים מפורטים סוגי המסמכים הנתמכים ומגבלות הגודל.

שירותים נתמכים

בקטע הזה מתוארים שירותי Google Cloud שאפשר לשלב עם Model Armor.

Agent Gateway

לשלב את Model Armor עם Agent Gateway כדי לאכוף את מדיניות האבטחה על התנועה שזורמת אל כל הסוכנים שמנוהלים על ידי השער וממנו. השילוב הזה מאפשר לבדוק ולחסום תוכן זדוני או תוכן שמפר את המדיניות. השילוב הזה נועד לשפר את אבטחת תהליך העבודה ואת הציות להנחיות הבטיחות של הארגון, בלי לשנות את קוד האפליקציה. ההגנה הזו חלה על פרוטוקולים נתמכים בנתיבי כניסה (אל הנציג) ויציאה (מהנציג). מידע נוסף זמין במאמר שילוב עם Agent Gateway.

Apigee

השילוב של Model Armor ו-Apigee מאפשר לכם להשתמש ביכולות של Model Armor לניהול סיכונים במערכות AI ישירות בשכבת ה-API Gateway של Apigee. אתם מגדירים כללי מדיניות ספציפיים של Model Armor בשרתי ה-proxy ל-API של Apigee. כשקריאה ל-API עוברת דרך שרת proxy של Apigee שמוגדרת בו המדיניות הזו, Apigee שולחת את ההנחיות והתשובות לבדיקה בשירות Model Armor. מידע נוסף זמין במאמר שילוב עם Apigee.

Gemini Enterprise

אפשר לשלב את Model Armor ישירות ב-Gemini Enterprise באמצעות תבניות. ‫Gemini Enterprise מנתב אינטראקציות בין משתמשים, סוכני משתמש ומודלי LLM בסיסיים – כולל טקסט, מסמכים ותמונות – דרך הגנה מוגברת על המודל לבדיקה לפני הצגת התשובות למשתמש. מידע נוסף זמין במאמר שילוב עם Gemini Enterprise.

‫Google ו- Google Cloud שרתי MCP

אפשר להגדיר את Model Armor כך שיגן על הנתונים והתוכן שלכם כשאתם שולחים בקשות לשירותי Google Cloud שחושפים כלים ושרתים של Model Context Protocol‏ (MCP). הגנה מוגברת על המודל עוזרת לאבטח את האפליקציות מבוססות-ה-AI האקטיבי שלכם באמצעות הגדרות אבטחה מינימליות להסרת תוכן זדוני או רגיש מקריאות ה-API לכלי ומהתשובות של כלי ה-MCP. התהליך הזה מפחית סיכונים כמו החדרת פרומפטים וחשיפת מידע אישי רגיש. מידע נוסף זמין במאמר שילוב עם שרתי Google ו- Google Cloud שרתי MCP.

Service Extensions

אפשר לשלב את Model Armor עם Google Cloud שירותי רשת באמצעות Service Extensions. תוספי השירות מאפשרים לשלב שירותי Google Cloud או שירותים בניהול המשתמשים כדי לעבד את התנועה. אתם יכולים להגדיר תוסף שירות במאזני עומסים של אפליקציות כדי לסנן את התנועה ברשת לאינטראקציות שונות של AI, כמו עם סוכנים ושרתי MCP. אפשר גם להשתמש בתוספי שירות עם שערי הסקה של GKE כדי לסנן את התנועה אל אשכול GKE וממנו. כך אפשר לוודא שכל האינטראקציות עם ה-AI שעוברות דרך מאזן העומסים מוגנות באמצעות Model Armor. למידע נוסף, קראו את המאמר שילוב עם שירותי הרשת של Google Cloud .

פלטפורמת הסוכנים של Gemini Enterprise

אפשר לשלב את Model Armor ישירות ב-Gemini Enterprise Agent Platform באמצעות הגדרות בסיסיות או תבניות. השילוב הזה מסנן את הבקשות והתשובות של מודל Gemini, וחוסם את אלה שמפרות את הגדרות הסף. השילוב הזה מספק הגנה על הנחיות ותשובות ב-Gemini API ב-Vertex AI ל-method‏ generateContent. בשילוב הזה אין תמיכה בהסרת תוכן זדוני או רגיש מהנחיות ומתשובות שמכילות מסמכים או תמונות. כדי לראות את תוצאות הסרת התוכן הזדוני או הרגיש מההנחיות ומהתשובות, צריך להפעיל את Cloud Logging. מידע נוסף זמין במאמר שילוב עם Gemini Enterprise Agent Platform.

לפני שמתחילים

הפעלת ממשקי ה-API

כדי להשתמש ב-Model Armor, צריך להפעיל את Model Armor API.

המסוף

מפעילים את Model Armor API, אם הוא עדיין לא מופעל.
התפקידים שנדרשים כדי להפעיל ממשקי API
כדי להפעיל ממשקי API, צריך את ההרשאה serviceusage.services.enable. אם אתם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד "בעלים" (roles/owner). אחרת, אתם יכולים לקבל את ההרשאה הזו דרך התפקיד "אדמין בממשק 'שימוש בשירות'" (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידים
להפעלת ה-API
בוחרים את הפרויקט שבו רוצים להפעיל את Model Armor.

gcloud

לפני שמתחילים, מבצעים את השלבים הבאים באמצעות Google Cloud CLI עם Model Armor API:

התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם. אחרי שנכנסתם לחשבון, אתחלו את ה-CLI של Google Cloud באמצעות הפקודה הבאה:
```
gcloud init
```
מפעילים את Model Armor API, אם הוא עדיין לא מופעל:
התפקידים שנדרשים כדי להפעיל ממשקי API
כדי להפעיל ממשקי API, צריך את ההרשאה serviceusage.services.enable. אם אתם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד "בעלים" (roles/owner). אחרת, תוכלו לקבל את ההרשאה הזו דרך התפקיד "אדמין בממשק 'שימוש בשירות'" (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידים
```
gcloud services enable modelarmor.googleapis.com
```
הגדרת שינוי ברירת המחדל של נקודת הקצה ל-API באמצעות ה-CLI של gcloud.

הגדרת שינוי ברירת המחדל של נקודת הקצה ל-API באמצעות ה-CLI של gcloud

השלב הזה נדרש רק אם אתם משתמשים ב-CLI של gcloud עם Model Armor ורוצים להשתמש באזור או במספר אזורים שאינם ברירת המחדל של מספר האזורים us. כדי לוודא שה-CLI של gcloud מנתב בצורה נכונה את הבקשות לשירות Model Armor, צריך להגדיר באופן ידני את שינוי ברירת המחדל של נקודת הקצה ל-API.

מריצים את הפקודה הבאה כדי להגדיר את נקודת הקצה ל-API של שירות Model Armor.

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

מחליפים את LOCATION באזור או במספר האזורים שבהם רוצים להשתמש ב-Model Armor.

ניהול המכסה

כדי להבטיח שימוש הוגן ולהגן על יציבות המערכת, ב-Model Armor יש מערכת מכסות. מכסת ברירת המחדל של Model Armor API היא 1,200 בקשות לדקה לכל פרויקט. אפשר להגדיר ערך בין 0 ל-1,200 שאילתות לדקה לכל פרויקט. איך שולחים בקשה לשינוי המכסות אם אתם צריכים מכסה גדולה יותר ממכסת ברירת המחדל, פנו אל Cloud Customer Care.

כשמשלבים את Model Armor עם שירותים אחרים, חשוב להביא בחשבון את המכסות של Model Armor. המכסה העיקרית שאתם משתמשים בה היא מספר בקשות ה-API לדקה לכל פרויקט.

כשמשלבים את Model Armor עם שירותים אחרים, כדאי להביא בחשבון את סוגי המכסות הבאים.

מכסת ברירת המחדל של Model Armor: כששירות שולח קריאה ל-Model Armor API לצורך ניתוח (לדוגמה, בדיקת הנחיות או תשובות), הקריאה הזו נכללת במכסת ה-Model Armor API של הפרויקט.
מכסות של שירותים משולבים: המכסות של Model Armor נפרדות מהמכסות שמשויכות לשירותים המשולבים. אתם צריכים לוודא שיש מכסה מספיקה לכל השירותים בנתיב הבקשה. כל קריאה ל-Model Armor API כדי להסיר תוכן זדוני או רגיש מהאפליקציה נספרת כחלק ממגבלות המכסות של Model Armor API.

איך לזהות מצבים של חריגה מהמכסה

אם ביומני האפליקציה מופיעות שגיאות מ-Model Armor, בדרך כלל שגיאות HTTP 429 RESOURCE_EXHAUSTED, זה אומר שהגעתם למגבלות המכסה של Model Armor כי נשלחו יותר מדי בקשות.

הערכת המכסות הנדרשות

כדי לקבוע את המכסה שצריך לבקש ל-Model Armor:

מעריכים את המספר המקסימלי של בקשות בדקה שהשירותים שלכם ישלחו ל-Model Armor.
חשוב להביא בחשבון כמה פעמים מתבצעת קריאה ל-Model Armor בכל אינטראקציה של משתמש עם השירות (לדוגמה, פעם אחת להנחיה ופעם אחת לתשובה).
הביאו בחשבון את המספר המקסימלי של משתמשים או סשנים בו-זמניים.
כדי להתמודד עם עליות חדות בלתי צפויות, בקשו מכסה עם מאגר סביר (לדוגמה, 20-30% מעל לשיא הצפוי).
התחילו עם ההערכה הכי טובה שלכם, עקבו מקרוב אחרי השימוש אחרי ההשקה ובקשו התאמות נוספות לפי הצורך.

לדוגמה, אם אתם צופים 500 משתמשים בדקה, וכל אינטראקציה של משתמש קוראת ל-Model Armor פעמיים (הנחיה ותשובה), אתם צריכים לפחות 1,000 QPM. כדי להביא בחשבון את המרווח, כדאי להתחיל בבקשה של 1,200-1,300 שאילתות לדקה.

לתשומת ליבכם

כשמשלבים שירותים אחרים, חשוב לשים לב לדברים הבאים:

חשוב לעקוב אחרי המכסות של שירותים אחרים ולנהל אותן. אם המכסה של שירותים אחרים נגמרת, זה משפיע על האפליקציה, גם אם יש לכם מספיק מכסה ב-Model Armor.
כדי לטפל בבעיות זמניות במכסות או בשגיאות אחרות שניתן לנסות שוב, כדאי להטמיע בהגדרות האפליקציה ניסיונות חוזרים בצד הלקוח עם השהיה מעריכית לפני ניסיון חוזר (exponential backoff). מידע נוסף זמין במאמר אסטרטגיית ניסיון חוזר.

סוגי האכיפה

כשמשלבים את Model Armor עם שירותים אחרים, חשוב להגדיר את סוג האכיפה. ההגדרה הזו קובעת איך המערכת של Model Armor תפעל כשהיא תזהה הפרת מדיניות פוטנציאלית בנתונים שהיא בודקת, כמו הנחיות או תשובות של LLM. סוג האכיפה קובע אם המערכת רק תדווח על הפרות או תתערב באופן פעיל. מידע נוסף זמין במאמר הגדרת סוג האכיפה.

שילוב באמצעות API בארכיטקטורת REST

כשמשתמשים ב-API בארכיטקטורת REST לשילוב, Model Armor פועל רק כגלאי באמצעות תבניות. הוא מזהה ומדווח על הפרות מדיניות פוטנציאליות על סמך תבניות מוגדרות מראש, ולא מונע אותן באופן פעיל. כשמשלבים את Model Armor API, האפליקציה יכולה להשתמש בפלט של Model Armor כדי לחסום או לאפשר פעולות על סמך תוצאות הערכת האבטחה שסופקו. ‫Model Armor API מחזיר מידע על איומים פוטנציאליים או הפרות מדיניות שקשורים לתנועה ב-API, במיוחד במקרה של אינטראקציות עם AI. האפליקציה יכולה לשלוח קריאה ל-Model Armor API ולהשתמש במידע שמתקבל בתגובה כדי לקבל החלטה ולבצע פעולה על סמך הלוגיקה המותאמת אישית שהוגדרה מראש.

אפשרויות לשילוב של Model Armor

אפשר לשלב את Model Armor בדרכים הבאות: לכל אפשרות יש תכונות ויכולות שונות.

אפשרות השילוב	הגדרת הזיהויים	אופני תקשורת נתמכים	בדיקה בלבד	בדיקה וחסימה	כיסוי
Agent Gateway	רק באמצעות תבניות	טקסט	כן	כן	כל המודלים וכל העננים
Apigee	רק באמצעות תבניות	טקסט	כן	כן	כל המודלים וכל העננים²
Gemini Enterprise	רק באמצעות תבניות	טקסט, מסמכים, תמונות	כן	כן	כל המודלים וכל העננים²
‫Google ו Google Cloud שרתי MCP	שימוש רק בהגדרות אבטחה מינימליות	טקסט	כן	כן	‫Google ו- Google Cloud שרתי MCP
תוספי שירות	רק באמצעות תבניות	טקסט	כן	כן	מודלים בפורמט OpenAI‏¹, סוכנים ושרתי MCP בכל העננים²
Gemini Enterprise Agent Platform	גם באמצעות הגדרות מחיר מינימום וגם באמצעות תבניות	טקסט	כן	כן	מודלי Gemini (ללא סטרימינג)

‫¹כמה מודלים פופולריים, כולל Anthropic Claude,‏ Mistral AI ו-Grok, תומכים במפרטים של OpenAI. בדרך כלל פורסים את המודלים האלה באמצעות מנועי הסקה כמו vLLM, שמספקים את שכבת ה-API הנדרשת שתואמת ל-OpenAI. ‏vLLM תומך במגוון רחב של מודלים, כולל סדרת Meta Llama, משפחות DeepSeek,‏ Mistral ו-Mixtral ו-Gemma.

‫²כולל עננים ציבוריים אחרים כמו AWS ו-Azure.

במסגרת השילוב עם Gemini Enterprise Agent Platform, ‏Model Armor מספק אכיפה מוטמעת באמצעות הגדרות בסיסיות או תבניות. אכיפת מדיניות מוטבעת מאפשרת ל-Model Armor לאכוף באופן פעיל את כללי המדיניות על ידי התערבות ישירה בתהליך, בלי לשנות את קוד האפליקציה.

השילובים של Service Extensions ו-Gemini Enterprise משתמשים רק בתבניות לאכיפת מדיניות מוטבעת. באמצעות אכיפת מדיניות מוטמעת, Model Armor יכול לאכוף כללי מדיניות באופן ישיר בלי שתצטרכו לשנות את קוד האפליקציה, גם בתוספי שירות וגם במהלך אינטראקציות של משתמשים או נציגים במכונות של Gemini Enterprise.

השילובים של Model Armor עם Gemini Enterprise,‏ Agent Runtime ו-Apigee מסירים תוכן זדוני או רגיש מההנחיה הראשונית של המשתמש, מהתשובה הסופית של הנציג או המודל ומשלבי הביניים, כמו נתוני קרקוע ותשובות שהוחזרו על ידי כלים לחיפוש באינטרנט. אם נתוני הקרקוע שאוחזרו או המטען הייעודי (payload) של הביניים מפרים את התבניות שהגדרתם ב-Model Armor או את כללי המדיניות של Sensitive Data Protection, הבקשה נחסמת ומתועדת ביומן עם סוג פעולה SANITIZE_USER_PROMPT.

הגנה מוגברת על המודל ב-Security Command Center

התכונה "הגנה מוגברת על המודל" בודקת את הפרומפטים והתשובות של מודל ה-LLM כדי לזהות איומים שונים, כולל החדרת פרומפטים, ניסיונות פריצה, כתובות URL זדוניות ותוכן פוגעני. כשהגנה מוגברת על המודל מזהה הפרה של הגדרת סף, היא חוסמת את ההנחיה או את התשובה ושולחת ממצא ל-Security Command Center. מידע נוסף זמין במאמר ממצאים של Model Armor.