הפעלת הגנה מוגברת על המודל ב-Gemini Enterprise

במאמר הזה מוסבר איך להפעיל את Model Armor ב-Gemini Enterprise. ‫Model Armor הוא שירות שמשפר את האבטחה והבטיחות של אפליקציות ה-AI, על ידי סינון יזום של ההנחיות והתשובות שניתנות על ידי Gemini Enterprise Assistant. Google Cloud גם הנתונים ממאגרי הנתונים המוכנים לשימוש של Gemini Enterprise (כולל הנתונים בחשבון Google ונתונים מצד שלישי) נסרקים באמצעות אותה תבנית של הגנה מוגברת על המודל שהוגדרה לפרומפטים של המשתמשים. סינון התוכן הזה עוזר להגן מפני סיכונים שונים ולשמור על שיטות לפיתוח אחראי של AI.

התכונה "הגנה מוגברת על המודל" נתמכת בכל מהדורות Gemini Enterprise ללא עלות נוספת.

התכונה "הגנה מוגברת על המודל" לא מסירה או משנה פרטים אישיים מזהים (PII) ולא מסתירה נתונים רגישים. עם זאת, Gemini Enterprise חוסם כל תשובה מהעוזר הדיגיטלי של Gemini Enterprise שמפעילה את הגלאים של Sensitive Data Protection.

הערה: הפעלת Model Armor ב-Gemini Enterprise יכולה להגדיל את זמן האחזור.

התגובה של Model Armor לבעיות פוטנציאליות בשאילתות של משתמשים או בתשובות מהעוזר האישי של Gemini Enterprise כפופה לסוג האכיפה של התבנית. מידע נוסף זמין במאמר הגדרת סוג האכיפה.

• אם סוג האכיפה הוא בדיקה וחסימה, Gemini Enterprise חוסם את הבקשה ומציג הודעת שגיאה. זהו סוג האכיפה שמוגדר כברירת מחדל כשיוצרים תבנית של Model Armor באמצעות המסוף.

• אם סוג האכיפה הוא בדיקה בלבד, Gemini Enterprise לא חוסם את הבקשות או התשובות.

אם שירות הסינון של Model Armor לא זמין, אתם יכולים להגדיר את Gemini Enterprise כך שיפעל באחת מהדרכים הבאות:

מצב	תיאור
אישור אינטראקציות של משתמשים	במצב הזה, Gemini Enterprise מאפשר לבקשות ולתשובות לעבור בלי סינון יזום כששירות הסינון של Model Armor לא זמין, כדי להבטיח תקשורת רציפה עם משתמש הקצה. עם זאת, לפעמים זה עלול לחשוף הודעות שלא נבדקו או לספק תשובות לשאילתות שלא נבדקו.
חסימת כל האינטראקציות של המשתמשים	במצב הזה, אם שירות הסינון של Model Armor לא זמין, Gemini Enterprise חוסם את כל הבקשות והתשובות, כולל בקשות ותשובות לגיטימיות.

לפני שמתחילים

• מוודאים שהתפקידים הנדרשים הוקצו לכם ולחשבון השירות:

  • כדי להפעיל את Model Armor ב-Gemini Enterprise, צריך את התפקיד אדמין ב-Gemini Enterprise (roles/discoveryengine.agentspaceAdmin).

  • כדי ליצור את התבניות של "הגנה מוגברת על המודל", צריך את התפקיד אדמין של "הגנה מוגברת על המודל" (roles/modelarmor.admin).

  • כדי לשלוח קריאות ל-Model Armor API, צריך את התפקיד משתמש ב-Model Armor (roles/modelarmor.user).

  הערה: כדי להקצות כמה תפקידי IAM לחשבון שירות, קראו את המאמר הקצאה או ביטול של כמה תפקידי IAM באמצעות מסוף Google Cloud .
  • אם התבנית של Model Armor נמצאת בפרויקט אחר מהאפליקציה של Gemini Enterprise, צריך להקצות את התפקיד משתמש ב-Model Armor (roles/modelarmor.user) בפרויקט של התבנית לחשבון השירות של אפליקציית Gemini Enterprise. מזהה חשבון השירות הוא [e-mail]., כאשר PROJECT_NUMBER הוא מספר הפרויקט של אפליקציית Gemini Enterprise.

• מוודאים שיצרתם אפליקציית Gemini Enterprise. כדי ליצור אפליקציה, עיינו במאמר יצירת אפליקציה.

יצירת תבנית של Model Armor

מומלץ להגדיר שתי תבניות נפרדות של Model Armor: אחת להנחיות של המשתמשים ואחת לתשובות. להנחיות ולתשובות של המשתמשים יש פרופילי סיכון ויעדים שונים:

• תבנית להנחיות של משתמשים: מתמקדת במניעת קלט זדוני, החדרת פרומפטים, ניסיונות פריצה ושליחה או העלאה של מידע רגיש. התבנית הזו גם מסננת נתונים ממחברים מוכנים לשימוש של Gemini Enterprise, כמו Jira והמחברים המאוחדים של Microsoft 365 ל-SharePoint, ל-OneDrive, ל-Teams ול-Outlook. למרות שתוכן פוגעני הוא גם בעיה בקלט של המשתמשים, אתם יכולים להשבית את מסנני ה-AI האחראי בתבנית לפרומפט של המשתמש, כי Gemini כולל בדיקות בטיחות מובנות לפרומפטים של משתמשים.
• תבנית לפלט של תשובות: מתמקדת במניעת תשובות שמחזירות או מדליפות מידע רגיש, יוצרות תוכן פוגעני או תוכן שלא תואם למותג, או מחזירות כתובות URL זדוניות.

מידע נוסף על יצירת תבניות זמין במאמר יצירת תבנית של Model Armor.

שיקולים לגבי ההגדרות

כשיוצרים תבנית של Model Armor לאפליקציות Gemini Enterprise, כדאי להביא בחשבון את ההגדרות הבאות:

• אתם יכולים ליצור תבניות של Model Armor באופן מרוכז בפרויקט אחד, ולהשתמש בהן שוב בפרויקטים שונים. אם אתם משתמשים בתבנית חוצת-פרויקטים, ודאו שההרשאות חוצות-הפרויקטים מוגדרות כמו שמתואר בקטע לפני שמתחילים.

• בשדה Regions, בוחרים באפשרות Multi-region. בטבלה הבאה מוסבר איך למפות את האזורים של התבניות ב-Model Armor לאזורים של אפליקציית Gemini Enterprise:

  הערה: אחרי שיוצרים תבנית של הגנה מוגברת על המודל או אפליקציית Gemini Enterprise, אי אפשר לשנות את האזורים.

  אפליקציית Gemini Enterprise במספר אזורים	הגנה מוגברת על המודל במספר אזורים
  עולמי	ארה"ב (מספר אזורים בארצות הברית) EU (מספר אזורים באיחוד האירופי)
  ארה"ב (מספר אזורים בארצות הברית)	ארה"ב (מספר אזורים בארצות הברית)
  EU (מספר אזורים באיחוד האירופי)	EU (מספר אזורים באיחוד האירופי)

• ‫Google לא ממליצה להגדיר רישום ביומן בענן בתבנית של Model Armor לאפליקציות של Gemini Enterprise. ההגדרה הזו יכולה לחשוף מידע אישי רגיש למשתמשים עם התפקיד "צפייה ביומנים פרטיים" (roles/logging.privateLogViewer) ב-IAM. במקום זאת, כדאי לשקול את האפשרויות הבאות:

  • אם אתם צריכים לתעד את הנתונים שעוברים דרך התבנית של Model Armor, אתם יכולים לנתב מחדש את היומנים לאחסון מאובטח כמו BigQuery, שמציע בקרת גישה מחמירה יותר. מידע נוסף מופיע במאמר ניתוב יומנים ליעדים נתמכים.

  • אתם יכולים להגדיר יומני ביקורת של גישה לנתונים כדי לנתח ולדווח על החלטות הסינון של הבקשות והתגובות שנוצרו על ידי Model Armor. מידע נוסף זמין במאמר הגדרת יומני ביקורת.

• אל תפעילו את מסנן הזיהוי של החדרת פרומפטים ופריצה בתשובות. התקפות של החדרת פרומפטים ופריצה משמשות בדרך כלל בהנחיות של משתמשים. הפעלת המסנן הזה בתגובות עלולה להגדיל את מספר התוצאות החיוביות המוטעות ולהוסיף זמן אחזור מיותר.

הגדרת אפליקציית Gemini Enterprise באמצעות התבניות של Model Armor

כך מוסיפים את התבניות של Model Armor לאפליקציית Gemini Enterprise:

המסוף

1. במסוף Google Cloud , נכנסים לדף Gemini Enterprise.

   Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על הגדרות > Assistant.

4. כדי להפעיל את Model Armor, לוחצים על Enable Model Armor.

5. בשדות Model Armor template for user prompts ו-Model Armor templates for response outputs, מזינים את שם המשאב של התבניות שיצרתם ב-Model Armor.

   הערה: כדי לקבל את שם המשאב, פועלים לפי השלבים במאמר הצגת תבנית של Model Armor ומעתיקים את הערך של שם המשאב. אתם יכולים להשתמש בתבניות של Model Armor שנוצרו באותו פרויקט כמו אפליקציית Gemini Enterprise, או להשתמש בתבניות של Model Armor מפרויקט אחר. אם אתם משתמשים בתבנית מפרויקט אחר, ודאו שההרשאות בין הפרויקטים מוגדרות כמו שמתואר בקטע לפני שמתחילים.

6. אם רוצים לחסום אינטראקציות של משתמשים כשיש כשלים בעיבוד של Model Armor, לוחצים על המתג Allow user interactions during Model Armor processing failure כדי להשבית אותו. מידע נוסף זמין במאמר שני המצבים שנתמכים ב-Gemini Enterprise כש-Model Armor לא זמין.

7. לוחצים על שמירה ופרסום.

REST

כדי להוסיף את התבניות של "הגנה מוגברת על המודל" לאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה :

מונח חשוב: ב-Gemini Enterprise, המונח אפליקציה יכול לשמש במקום המונח מנוע בהקשר של ממשקי API. ‫מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר לערך APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫ENDPOINT_LOCATION: האזור המרובה לבקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us לאזור הגיאוגרפי שכולל מספר אזורים בארה"ב
  • ‫eu למספר אזורים באיחוד האירופי
  • ‫global למיקום הגלובלי
  מידע נוסף זמין במאמר הגדרת מספר אזורים למאגר הנתונים.
• ‫LOCATION: האזור הגיאוגרפי של מאגר הנתונים: global,‏ us או eu
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.

• ‫QUERY_PROMPT_TEMPLATE: שם המשאב של התבנית של Model Armor שבודקת את ההנחיות והנתונים של המשתמשים ממחברים מוכנים לשימוש.
  כדי לקבל את שם המשאב, פועלים לפי השלבים במאמר הצגת תבנית של Model Armor ומעתיקים את הערך של שם המשאב.

  הערה: אתם יכולים להשתמש בתבניות של Model Armor שנוצרו באותו פרויקט כמו אפליקציית Gemini Enterprise, או להשתמש בתבניות של Model Armor מפרויקט אחר. אם אתם משתמשים בתבנית מפרויקט אחר, ודאו שההרשאות בין הפרויקטים מוגדרות כמו שמתואר בקטע לפני שמתחילים.

• ‫RESPONSE_PROMPT_TEMPLATE: שם המשאב של התבניות שיצרתם ב-Model Armor. אפשר להשתמש בתבניות של Model Armor שנוצרו באותו פרויקט או בפרויקט אחר.

• ‫FAIL_MODE: מצב הפעולה כשאין גישה ל"הגנה מוגברת על המודל": FAIL_CLOSED או FAIL_OPEN.
  אם לא מגדירים את FAIL_MODE, מצב ברירת המחדל הוא FAIL_CLOSED, שבו כל האינטראקציות עם Gemini Enterprise Assistant נחסמות כשיש כשלים בעיבוד של Model Armor. מידע נוסף זמין במאמר שני המצבים שנתמכים ב-Gemini Enterprise כש-Model Armor לא זמין.

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}

בדיקה אם התבנית של Model Armor מופעלת

אחרי שמגדירים את התבנית של Model Armor, בודקים אם אפליקציית Gemini Enterprise מסננת וחוסמת באופן יזום הנחיות של משתמשים ותשובות של Gemini Enterprise Assistant, בהתאם לרמות הסמך שהוגדרו במסננים של Model Armor.

כשתבנית Model Armor מוגדרת לבדיקה וחסימה של בקשות שמפירות את המדיניות, מוצגת הודעת הפרת המדיניות הבאה:

המסוף

לדוגמה, הודעת השגיאה הבאה על הפרת מדיניות:

הודעת שגיאה על הפרת מדיניות של Model Armor

REST

תגובת JSON שכוללת את הפרטים הבאים:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

הסרת התבניות של Model Armor מאפליקציית Gemini Enterprise

כדי להסיר את התבניות של Model Armor מאפליקציית Gemini Enterprise, משתמשים במסוף Google Cloud או ב-API בארכיטקטורת REST.

המסוף

כדי להסיר את התבניות של Model Armor מאפליקציית Gemini Enterprise:

1. במסוף Google Cloud , נכנסים לדף Gemini Enterprise.

   Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על הגדרות > Assistant.

4. כדי להשבית את Model Armor, לוחצים על המתג Enable Model Armor.

5. לוחצים על שמירה ופרסום.

REST

כדי להסיר את התבניות של Model Armor מאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה:

מונח חשוב: ב-Gemini Enterprise, המונח אפליקציה יכול לשמש במקום המונח מנוע בהקשר של ממשקי API. ‫מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר לערך APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫PROJECT_NUMBER: מספר הפרויקט ב- Google Cloud .
• ‫ENDPOINT_LOCATION: האזור המרובה לבקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us לאזור הגיאוגרפי שכולל מספר אזורים בארה"ב
  • ‫eu למספר אזורים באיחוד האירופי
  • ‫global למיקום הגלובלי
  מידע נוסף זמין במאמר הגדרת מספר אזורים למאגר הנתונים.
• ‫LOCATION: האזור של מאגר הנתונים: global,‏ us או eu.
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {}
  },
  "generationConfig": {
    "systemInstruction": {}
  }
}

הגדרת יומני ביקורת

הגנה מוגברת על המודל יכולה לכתוב יומני בקרת הרשאות גישה לנתונים, שבהם אפשר להשתמש כדי לנתח ולדווח על החלטות הסינון של הבקשות והתגובות שנוצרו על ידי הגנה מוגברת על המודל. היומנים האלה לא מכילים את השאילתות של המשתמשים או את התשובות של Gemini Enterprise, ולכן הם בטוחים לדיווח ולניתוח. מידע נוסף זמין במאמר יומני ביקורת של Model Armor.

כדי לגשת ליומנים האלה, צריך את התפקיד צפייה ביומנים פרטיים (roles/logging.privateLogViewer) ב-IAM.

הפעלת יומני ביקורת של גישה לנתונים

כדי להפעיל את יומני בקרת הרשאות גישה לנתונים, בצע את השלבים הבאים:

1. במסוף Google Cloud , נכנסים לדף IAM & Admin ‏> יומני ביקורת.

2. בוחרים באפשרות Model Armor API.

3. בקטע Permission type, בוחרים את סוג ההרשאה Data read.

4. לוחצים על Save.

בדיקת יומני הביקורת של בקרת הרשאות גישה לנתונים

כדי לבדוק את יומני הביקורת של הגישה לנתונים, פועלים לפי השלבים הבאים:

1. במסוף Google Cloud , נכנסים לדף Logs Explorer.

2. מחפשים ביומנים את שמות השיטות הבאים:

   • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" כדי לראות את בקשות המשתמשים שסוננו.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse כדי לראות את התשובות שסוננו.

שיקולים לשימוש ב-Model Armor

כשמשתמשים ב-Model Armor עם Gemini Enterprise, חשוב לזכור את הנקודות הבאות:

הסרת פרטי הזיהוי ואנונימיזציה	כש-Model Armor משתמש ב-Sensitive Data Protection כתבנית לסריקת פרומפטים או תגובות, Model Armor בודק אם התוכן תואם לקריטריונים של הגלאי שהוגדרו בתבנית. למרות ש-Sensitive Data Protection תומך בהסרת פרטי הזיהוי על סמך הגדרת התבנית, Model Armor לא מעביר נתונים מוסתרים או נתונים שהוסרו מהם פרטי הזיהוי בחזרה ל-Gemini Enterprise. אם התוכן מפעיל גלאים כלשהם של Sensitive Data Protection וסוג האכיפה הוא INSPECT_AND_BLOCK, Gemini Enterprise חוסם את הבקשה או התגובה במקום להסיר פרטי זיהוי.
מגבלות ומכסות של טוקנים	אין מגבלות על טוקנים כשמשתמשים ב"הגנה מוגברת על המודל" עם Gemini Enterprise. עם זאת, קצב העיבוד הכולל של הערכות Model Armor עדיין נשלט באופן עקיף על ידי מכסות המערכת של Gemini Enterprise ומגבלות הקצב של Model Armor API.
הסכם רמת שירות (SLA)	‫Gemini Enterprise מספק הסכם רמת שירות (SLA). כש-Gemini Enterprise מוגדר להשתמש ב-Model Armor, שאילתות חסומות לא נחשבות להפרות של הסכם רמת השירות (SLA), גם אם משתמשים במצב fail-open וגם אם משתמשים במצב fail-closed.
עמידה בדרישות	גם Gemini Enterprise וגם Model Armor מציעים אישורי תאימות שונים. כשמשתמשים בשני המוצרים יחד, אישורי התאימות בפועל הם קבוצת המשנה המשותפת לשניהם. ‫Google ממליצה לבדוק את אישורי התאימות של שני המוצרים כדי לוודא שהם עומדים בדרישות הרגולטוריות שלכם.
סינון מסמכים ותמונות	בנוסף לפרומפטים טקסטואליים, השילוב של Model Armor תומך במסמכים (כמו קובצי PDF) ובתמונות. ‫Model Armor סורק את הקבצים הבאים רק כשמעלים אותם ל-Gemini Enterprise Assistant: מסמכים (כמו קובצי PDF,‏ CSV וטקסט). תמונות שאתם מעלים ישירות. תמונות שנמצאות בתוך קבצים ומסמכים אחרים שאתם מעלים ישירות. אם קובץ או תמונה בתוך מסמך מפרים את כללי המדיניות שהגדרתם, כל הקובץ או המסמך נמחקים ולא נכללים בבקשה. רשימת סוגי המסמכים הנתמכים מפורטת במאמר סינון מסמכים.
מחברים מוכנים לשימוש	הנתונים מהמחברים המוכנים לשימוש של Gemini Enterprise נבדקים באמצעות התבנית של Model Armor שהוגדרה להנחיות של המשתמשים. זה כולל מחברים כמו Jira והמחברים המאוגדים של Microsoft 365 ל-SharePoint, ל-OneDrive, ל-Teams ול-Outlook.
אינטראקציות וסוכנים שעברו סינון	אם תבנית של Model Armor מוגדרת לסנן בקשות של משתמשים, רק אינטראקציות עם הנציגים הבאים מסוננות ב-Gemini Enterprise: ‫Gemini Enterprise Assistant סוכנים שנוצרו על ידי עובדים, שנוצרים באפליקציית Gemini Enterprise באמצעות Workflow Builder. סוכנים שנוצרו על ידי Google אינטראקציות עם סוכנים בהתאמה אישית מהארגון שלך, כמו ADK, A2A ו-Dialogflow, לא נבדקות.

המאמרים הבאים

• התאמה בין היומנים של Model Armor ליומנים של Gemini Enterprise