במאמר הזה מוסבר איך לראות ולעדכן את הגדרות הסף של Model Armor, ומוצגת דוגמה להפרה של הגדרת סף.
להגדרות של מחיר מינימום יש שתי מטרות עיקריות:
תאימות לתבניות: ודאו שהתבניות החדשות מגבילות לפחות כמו אלה שמוגדרות בהגדרות המינימום. התאימות לתבנית מוגדרת ברמת הארגון והתיקייה.
אכיפה מוטמעת: החלת אמצעי ההגנה של Model Armor על מודלים של Gemini ועל שרתי Google Cloud MCP. אכיפה מוטבעת מוגדרת ברמת הפרויקט. אם אתם משתמשים בהגדרות של ערכי סף לאכיפה בתוך השורה, כל תבנית שתיצרו בפרויקט צריכה להתאים להגדרות האלה.
מתי כדאי להשתמש בהגדרות של מחיר מינימום
הנה כמה תרחישי שימוש נפוצים:
- אכיפת התאימות של התבניות ומניעת רגרסיות במדיניות: הגדירו ערכי סף מינימליים לסינון ברמת הארגון, התיקייה או הפרויקט כדי לוודא שהתבניות החדשות שנוצרו והתבניות שעודכנו עומדות בתקני האבטחה שלכם, ולא יכולות להפחית את ההגנה מתחת לרמות הבסיס שנקבעו.
- הפעלת אכיפה מוטמעת למודלים ולכלים: הגנה על מודלים נתמכים של מודל Gemini ועל Google Cloud שרתי MCP מרוחקים ברמת הפרויקט, בלי לשנות את קוד האפליקציה.
- ניהול הגדרות של צוותים מבוזרים: מאפשרים לצוותי פרויקטים אוטונומיים ליצור תבניות בהתאמה אישית, תוך הבטחה שההגדרות שלהם תואמות למדיניות הניהול של הארגון.
לפני שמתחילים
לפני שמתחילים, צריך לבצע את המשימות הבאות.
קבלת ההרשאות הנדרשות
כדי לקבל את ההרשאות שנדרשות לניהול הגדרות הסף, צריך לבקש מהאדמין להקצות לכם את התפקיד אדמין הגדרות הסף של Model Armor (roles/modelarmor.floorSettingsAdmin) ב-IAM בהגדרות הסף של Model Armor.
כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.
יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.
הפעלת ממשקי ה-API
כדי להשתמש ב-Model Armor, צריך להפעיל את Model Armor API.
המסוף
מפעילים את Model Armor API, אם הוא עדיין לא מופעל.
התפקידים שנדרשים כדי להפעיל ממשקי API
כדי להפעיל ממשקי API, צריך את ההרשאה
serviceusage.services.enable. אם אתם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד "בעלים" (roles/owner). אחרת, אתם יכולים לקבל את ההרשאה הזו דרך התפקיד "אדמין בממשק 'שימוש בשירות'" (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידיםבוחרים את הפרויקט שבו רוצים להפעיל את Model Armor.
gcloud
לפני שמתחילים, מבצעים את השלבים הבאים באמצעות Google Cloud CLI עם Model Armor API:
התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם. אחרי שנכנסתם לחשבון, אתחלו את ה-CLI של Google Cloud באמצעות הפקודה הבאה:
gcloud initמפעילים את Model Armor API, אם הוא עדיין לא מופעל:
התפקידים שנדרשים כדי להפעיל ממשקי API
כדי להפעיל ממשקי API, צריך את ההרשאה
serviceusage.services.enable. אם אתם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד "בעלים" (roles/owner). אחרת, תוכלו לקבל את ההרשאה הזו דרך התפקיד "אדמין בממשק 'שימוש בשירות'" (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידיםgcloud services enable modelarmor.googleapis.com
הגדרת שינוי ברירת המחדל של נקודת הקצה ל-API באמצעות ה-CLI של gcloud.
הגדרת שינוי ברירת המחדל של נקודת הקצה ל-API באמצעות ה-CLI של gcloud
השלב הזה נדרש רק אם אתם משתמשים ב-CLI של gcloud עם Model Armor ורוצים להשתמש באזור או במספר אזורים שאינם ברירת המחדל של מספר האזורים us. כדי לוודא שה-CLI של gcloud מנתב בצורה נכונה את הבקשות לשירות Model Armor, צריך להגדיר באופן ידני את שינוי ברירת המחדל של נקודת הקצה ל-API.
מריצים את הפקודה הבאה כדי להשתמש בנקודת הקצה הגלובלית ל-API:
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.googleapis.com/"
החלת הגדרות של מחיר מינימלי
ההגדרות המקומיות תמיד חלות. לדוגמה, אם יש סתירה בין הגדרות של מחיר מינימום, ההגדרות שנמצאות נמוך יותר בהיררכיית המשאבים מקבלות עדיפות. באופן דומה, הגדרות סף ברמת הפרויקט מבטלות הגדרות סף ברמת התיקייה שמתנגשות איתן.
בטבלה הבאה מפורט איך הגדרות המחיר המינימלי חלות ברמות שונות:
| רמת ההגדרות של מחיר המינימום | בקשת הצטרפות |
|---|---|
| רמת הארגון | ההגדרה חלה על כל מה שבארגון. |
| רמת התיקייה | חלה על כל הפרויקטים בתוך התיקייה הספציפית הזו. |
| רמת הפרויקט | חלה רק על הפרויקט הספציפי הזה. |
כדי להמחיש איך הגדרות של מחיר מינימום חלות כשהן מוגדרות ברמות שונות, נבחן את התרחיש הבא לדוגמה. לדוגמה, נניח שהגדרתם את הסף התחתון באופן הבא:
- הגדרות מינימום ברמת התיקייה (פחות ספציפיות): כל התוכן בתיקייה הזו חייב להפעיל מסנן URI זדוני.
- הגדרות סף ברמת הפרויקט (ספציפיות יותר): הפרויקט בתיקייה חייב להשתמש בזיהוי של החדרת פרומפטים ופריצה ברמת סמך בינונית.
במקרה כזה, ההגדרות יובילו לתוצאות הבאות:
כל תבנית שיוצרים בפרויקט חייבת לכלול את מסנן הזיהוי של החדרת פרומפטים ופריצה, כי ההגדרות ברמת הפרויקט תמיד מקבלות קדימות על פני ההגדרות ברמת התיקייה.
תבנית שנוצרה בפרויקט או בתיקייה אחרים לא מושפעת מכלל הסינון של כתובות URI זדוניות מהתיקייה הראשונה.
הגדרות של מחיר מינימום חלות רק ברמה הספציפית שלהן בהיררכיה, אלא אם הן מוגדרות ברמת הארגון, ואז הן חלות על כל הארגון.
תאימות לתבניות ולהגדרות של מחיר מינימלי
כשיוצרים או מעדכנים תבנית של Model Armor, המערכת בודקת אם ההגדרות של התבנית תואמות להגדרות המינימום. אי אפשר ליצור או לעדכן תבנית שהיא פחות מחמירה מהגדרות המחיר המינימלי.
הגדרות הסף התחתון אוכפות את כללי התאימות הבאים על התבניות:
- אכיפת מסננים: אם הגדרות הרמה מחייבות הפעלה של מסנן (למשל, אכיפת מסנן של כתובות URL זדוניות, החדרת פרומפטים ופריצת מכשירים, או תוכן ויזואלי של התעללות מינית בילדים (CSAM) מוגדרת לערך
ENABLED), בתבניות שבהיקף הזה אי אפשר להגדיר את המסנן לערךDISABLED. - עדיפות לרמת הסמך: בתבניות צריך להגדיר רמות סמך מחמירות לפחות כמו ההגדרות המינימליות. לדוגמה, אם בהגדרות המינימום מצוין
MEDIUM_AND_ABOVEל-AI אחראי או לזיהוי CSAM, אי אפשר להגדיר בתבנית את רמת הסמך ל-HIGH.
אפשר להגדיר את הסף ברמת הארגון, התיקייה והפרויקט. ממשק המשתמש זמין רק ברמת הפרויקט, ומאפשר לרשת את ההגדרות ברמת הארגון או התיקייה. כדי להגדיר את ההגדרות של רמות הפירוט ברמת הארגון או התיקייה, צריך להשתמש ב-API.
תאימות התבנית מאמתת את הגדרות התבנית. בדיקת הנתונים מתבצעת באמצעות ההגדרות שנקבעו בתבנית תואמת, כדי לנתח הנחיות או תשובות בזמן הריצה. בטבלה הבאה מתואר איך התאמה לתבנית ובדיקת נתונים חלות על תבניות והגדרות של מחיר מינימום.
| המחאה | הגדרות אבטחה מינימליות | תבניות |
|---|---|---|
| תאימות לתבנית | מוגדרת ברמת הארגון, התיקייה או הפרויקט. הערה: אפשר להגדיר את Sensitive Data Protection כך שיאכוף את מדיניות אבטחת המידע על התבניות. עם זאת, הוא לא מאמת את התאימות לתבנית. |
מוגדרת רק ברמת הפרויקט. |
| בדיקת נתונים | נאכפת רק ברמת הפרויקט באמצעות מצב הבדיקה והחסימה. | נאכף באמצעות API בארכיטקטורת REST, Service Extensions, Gemini Enterprise ו-Agent Runtime. |
שילוב עם Gemini Enterprise Agent Platform ושרתי Google Cloud MCP
Model Armor משתלב עם Agent Platform ועם שרתי MCP של Google Cloud כדי לסנן בקשות ותשובות ממודלים של Gemini ומשרתי MCP מרוחקים שלGoogle Cloud , בהתאם להגדרות הסף שקבעתם. כדי לראות את ההנחיות והתשובות, צריך להפעיל את Cloud Logging. מידע נוסף זמין במאמרים שילוב של Model Armor עם Gemini Enterprise Agent Platform ושילוב של Model Armor עם שרתי MCP של Google Cloud.
גרסאות של מסננים להגדרות של מחיר מינימום
הגדרות המחיר המינימלי משתמשות בStable
גרסת המסנן כברירת מחדל.
ברשימה הבאה מוסבר איך גרסאות של מסננים פועלות עם כל שילוב:
- שילוב עם Gemini Enterprise Agent Platform: אם רוצים לשנות את ההגדרה הזו, צריך לציין תבנית בקריאה של
generateContentלמודל Gemini. - שילוב עם שרתי Google ו- Google Cloud MCP: אי אפשר לשנות את גרסת המסנן כי השילוב הזה תומך רק בהגדרות של מחיר מינימלי.
קביעת הגדרות אבטחה מינימליות
להגדיר את ערכי הסף המינימליים לזיהוי בתבניות של Model Armor. ההגדרות האלה מבטיחות שכל התבניות החדשות והתבניות ששונו עומדות בדרישות ספציפיות.
כדי לקבוע את הגדרות הקומה, בוחרים באחת מהאפשרויות הבאות:
המסוף
- נכנסים לדף Model Armor במסוף Google Cloud .
- בוחרים פרויקט.
- בדף Model Armor, עוברים לכרטיסייה Floor settings ולוחצים על Configure floor settings.
- בדף קביעת הגדרות של מחיר מינימום, בוחרים את אפשרות ההגדרה.
- בקטע Detections, מגדירים את הגדרות הזיהוי.
- אופציונלי: אם בוחרים בזיהוי של Sensitive Data Protection, מגדירים את ההגדרות של Sensitive Data Protection.
בקטע Responsible AI, מגדירים את רמת הסמך לכל מסנן תוכן.
- בקטע שירותים, בוחרים את השירותים שעליהם יחולו ההגדרות האלה של מחיר מינימלי.
- בקטע Logs, בוחרים באפשרות Enable Cloud Logging כדי לתעד את כל ההנחיות של המשתמשים, התשובות של המודל והתוצאות של גלאי הגדרות הסף.
- בוחרים באפשרות Enable multi-language support כדי להשתמש בהגדרות של זיהוי שפות מרובות.
- לוחצים על שמירת הגדרות הקומה.
gcloud
מריצים את הפקודה gcloud model-armor floorsettings update כדי לקבוע את הגדרות הקומה:
gcloud model-armor floorsettings update \
--full-uri='RESOURCE_PARENT/locations/global/floorSetting' \
--rai-settings-filters='[{"filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE"}, {"filterType": "HARASSMENT", "confidenceLevel": "HIGH"}, {"filterType": "DANGEROUS", "confidenceLevel": "MEDIUM_AND_ABOVE"}, {"filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE"}]' \
--basic-config-filter-enforcement=ENABLED \
--pi-and-jailbreak-filter-settings-enforcement=ENABLED \
--pi-and-jailbreak-filter-settings-confidence-level=HIGH \
--malicious-uri-filter-settings-enforcement=ENABLED \
--enable-floor-setting-enforcement=true \
--add-integrated-services=AI_PLATFORM,GOOGLE_MCP_SERVER \
--vertex-ai-enforcement-type=INSPECT_AND_BLOCK \
--enable-vertex-ai-cloud-logging \
--google-mcp-server-enforcement-type=INSPECT_AND_BLOCK \
--enable-google-mcp-server-cloud-logging \
--enable-multi-language-detection
מחליפים את RESOURCE_PARENT בהיקף ההיררכיה שבו חלה הגדרת המחיר המינימלי:
רמת הארגון:
organizations/ORGANIZATION_ID, שחלה על כל התיקיות והפרויקטים בארגון.ברמת התיקייה:
folders/FOLDER_ID, שחלה על כל הפרויקטים בתיקייה.רמת הפרויקט:
projects/PROJECT_ID, ששולטת בפרויקט אחד.
REST
כדי להגדיר את מחיר המינימום באמצעות ה-API בארכיטקטורת REST, שולחים בקשת PATCH למשאב floorSetting:
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d '{
"filterConfig": {
"raiSettings": {
"raiFilters": [
{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},
{
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
},
{
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},
{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}
]
},
"sdpSettings": {
"basicConfig": {
"filterEnforcement": "ENABLED"
}
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "HIGH"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
},
"enableFloorSettingEnforcement": true,
"integratedServices": [
"AI_PLATFORM",
"GOOGLE_MCP_SERVER"
],
"aiPlatformFloorSetting": {
"inspectAndBlock": true,
"enableCloudLogging": true
},
"googleMcpServerFloorSetting": {
"inspectAndBlock": true,
"enableCloudLogging": true
},
"floorSettingMetadata": {
"multiLanguageDetection": {
"enableMultiLanguageDetection": true
}
}
}' \
"https://modelarmor.googleapis.com/v1/RESOURCE_PARENT/locations/global/floorSetting"
מחליפים את RESOURCE_PARENT בהיקף ההיררכיה שבו חלה הגדרת המחיר המינימלי:
רמת הארגון:
organizations/ORGANIZATION_ID, שחלה על כל התיקיות והפרויקטים בארגון.ברמת התיקייה:
folders/FOLDER_ID, שחלה על כל הפרויקטים בתיקייה.רמת הפרויקט:
projects/PROJECT_ID, ששולטת בפרויקט אחד.
Terraform
כדי לאכוף ספי בטיחות מינימליים בכל הארגון, התיקייה או היררכיית הפרויקטים באופן הצהרתי, מגדירים את המשאב google_model_armor_floorsetting באמצעות ספק google (>= 6.13.0):
resource "google_model_armor_floorsetting" "floor_setting" {
parent = RESOURCE_PARENT
location = "global"
filter_config {
rai_settings {
rai_filters {
filter_type = "HATE_SPEECH"
confidence_level = "MEDIUM_AND_ABOVE"
}
rai_filters {
filter_type = "HARASSMENT"
confidence_level = "HIGH"
}
rai_filters {
filter_type = "DANGEROUS"
confidence_level = "MEDIUM_AND_ABOVE"
}
rai_filters {
filter_type = "SEXUALLY_EXPLICIT"
confidence_level = "MEDIUM_AND_ABOVE"
}
}
sdp_settings {
basic_config {
filter_enforcement = "ENABLED"
}
}
pi_and_jailbreak_filter_settings {
filter_enforcement = "ENABLED"
confidence_level = "HIGH"
}
malicious_uri_filter_settings {
filter_enforcement = "ENABLED"
}
}
enable_floor_setting_enforcement = true
integrated_services = [
"AI_PLATFORM",
"GOOGLE_MCP_SERVER",
]
ai_platform_floor_setting {
inspect_and_block = true
enable_cloud_logging = true
}
google_mcp_server_floor_setting {
inspect_and_block = true
enable_cloud_logging = true
}
floor_setting_metadata {
multi_language_detection {
enable_multi_language_detection = true
}
}
}
מחליפים את RESOURCE_PARENT בהיקף ההיררכיה שבו חלה הגדרת המחיר המינימלי:
רמת הארגון:
organizations/ORGANIZATION_ID, שחלה על כל התיקיות והפרויקטים בארגון.ברמת התיקייה:
folders/FOLDER_ID, שחלה על כל הפרויקטים בתיקייה.רמת הפרויקט:
projects/PROJECT_ID, ששולטת בפרויקט אחד.
יכול להיות שיעברו כמה דקות עד שהשינויים בהגדרות של מחיר המינימום ייכנסו לתוקף.
הגדרת ההורשה של הגדרות המחיר המינימלי
כשקובעים את הגדרות הקומה, בוחרים באפשרות ההגדרה.
קבלת הגדרות המחיר המינימלי בירושה מההורה: קבלת הגדרות המחיר המינימלי שהוגדרו קודם בהיררכיית המשאבים. לוחצים על שמירת הגדרות המחיר המינימלי ומדלגים על שאר השלבים. כדי לראות את ההגדרות שעברו בירושה, עוברים לכרטיסייה הגדרות של מחיר מינימום.
בהתאמה אישית: הגדרת סף מינימלי לפרויקט הזה. הגדרות מותאמות אישית שאתם מגדירים לפרויקט מבטלות את כל הגדרות הסף שהפרויקט ירש.
השבתה: השבתה של כל הגדרות הסף שהועברו בירושה. כלומר, כללי הזיהוי לא חלים על התבניות של Model Armor ועל Agent Platform בעומסי העבודה של Gemini. לוחצים על שמירת הגדרות המחיר המינימלי ומדלגים על שאר השלבים. הסטטוס "מושבת" מופיע בכרטיסייה הגדרות של מחיר מינימום.
הגדרת המקומות שבהם יחולו הגדרות המחיר המינימלי
בוחרים אחד מהשירותים הבאים שבהם חלות הגדרות המחיר המינימלי שהוגדרו.
Model Armor – יצירה ועדכון של תבניות: המערכת בודקת כל תבנית חדשה או ששונתה של Model Armor בפרויקט, כדי לוודא שההגדרות המינימליות תואמות להגדרות המינימום.
שרת MCP של Google: הגדרות הסף בודקות בקשות שנשלחות אל Google או ממנה, או אל שרתי MCP מרוחקים של Google Cloud או מהם, כדי לוודא שהן עומדות בדרישות הסף. מידע נוסף זמין במאמר שילוב של Model Armor עם שרתי Google Cloud MCP (גרסת טרום-השקה (Preview)).
Agent Platform: סינון בקשות שנשלחות למודלים של Gemini, ואז רישום ביומן או חסימה של בקשות שעומדות בתנאי הסף של ההגדרות.
אם בוחרים באפשרות פלטפורמת הסוכן, מופיע הקטע פלטפורמת הסוכן שבו בוחרים איך לאכוף את הגדרות המחיר המינימלי.
- בדיקה בלבד: זיהוי בקשות שלא עומדות בהגדרות של מחיר המינימום, אבל לא חסימה שלהן.
- בדיקה וחסימה של הפרות: זיהוי וחסימה של בקשות שלא עומדות בהגדרות של מחיר המינימום.
הצגת ההגדרות של Model Armor floor
כדאי לבדוק את ההגדרות של Model Armor כדי לוודא שהן נכונות, לזהות את הדרישות המינימליות לאפליקציות ה-AI או לפתור בעיות אם התבנית לא פועלת כמו שצריך.
מריצים את הפקודה הבאה כדי לראות את הגדרות הרצפה של Model Armor.
המסוף
נכנסים לדף Model Armor במסוף Google Cloud .
מוודאים שאתם צופים בפרויקט שבו הפעלתם את Model Armor.
בדף Model Armor, עוברים לכרטיסייה Floor settings. אם הגדרות הקומה נקבעו ברמת הארגון, אתם יכולים לראות אותן. אם לא הוגדרו קומות, צריך להגדיר אותן. מידע נוסף זמין במאמר קביעת הגדרות לקומות.
gcloud
הצגת הגדרת הסף של Model Armor בפרויקט.
gcloud model-armor floorsettings describe \ --full-uri='projects/PROJECT_ID/locations/global/floorSetting'
הצגת ההגדרה של רמת ההגנה המינימלית של Model Armor בארגון.
gcloud model-armor floorsettings describe \ --full-uri='organizations/ORGANIZATION_ID/locations/global/floorSetting'
לראות את הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה.
gcloud model-armor floorsettings describe \ --full-uri='folders/FOLDER_ID/locations/global/floorSetting'
מחליפים את מה שכתוב בשדות הבאים:
- מזהה הפרויקט של הגדרות המחיר המינימלי.
- מזהה התיקייה של הגדרות האבטחה המינימליות.
- מזהה הארגון של הגדרות האבטחה המינימליות.
REST
הצגת הגדרת הסף של Model Armor בפרויקט.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"
לראות את הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"
הצגת ההגדרה של רמת ההגנה המינימלית של Model Armor בארגון.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"
מחליפים את מה שכתוב בשדות הבאים:
- מזהה הפרויקט של הגדרות המחיר המינימלי.
- מזהה התיקייה של הגדרות האבטחה המינימליות.
- מזהה הארגון של הגדרות האבטחה המינימליות.
C#
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-C# ולהתקין את Model Armor C# SDK.
הצגת הגדרת הסף של Model Armor בפרויקט נתון.
הצגת הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה מסוימת.
הצגת ההגדרה של רמת ההגנה המוגברת על המודל בארגון מסוים.
המשך
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Go ולהתקין את Model Armor Go SDK.
הצגת הגדרת הסף של Model Armor בפרויקט נתון.
הצגת הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה מסוימת.
הצגת ההגדרה של רמת ההגנה המוגברת על המודל בארגון מסוים.
Java
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Java ולהתקין את Model Armor Java SDK.
הצגת הגדרת הסף של Model Armor בפרויקט נתון.
הצגת הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה מסוימת.
הצגת ההגדרה של רמת ההגנה המוגברת על המודל בארגון מסוים.
Node.js
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Node.js ולהתקין את Model Armor Node.js SDK.
הצגת הגדרת הסף של Model Armor בפרויקט נתון.
הצגת הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה מסוימת.
הצגת ההגדרה של רמת ההגנה המוגברת על המודל בארגון מסוים.
PHP
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-PHP ולהתקין את Model Armor PHP SDK.
הצגת הגדרת הסף של Model Armor בפרויקט נתון.
הצגת הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה מסוימת.
הצגת ההגדרה של רמת ההגנה המוגברת על המודל בארגון מסוים.
Python
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Python ולהתקין את Model Armor Python SDK.
הצגת הגדרת הסף של Model Armor בפרויקט נתון.
הצגת הגדרת הסף של "הגנה מוגברת על המודל" בתיקייה מסוימת.
הצגת ההגדרה של רמת ההגנה המוגברת על המודל בארגון מסוים.
עדכון הגדרות הסף של Model Armor
כדי לשנות את דרישות המינימום לתבניות, לשקף שינויים במדיניות האבטחה, לתקן הגדרות שגויות או לפתור התנגשויות בין הגדרות הסף, צריך לעדכן את הגדרות הסף של Model Armor.
מריצים את הפקודה הבאה כדי לעדכן את הגדרות הסף של Model Armor.
המסוף
נכנסים לדף Model Armor במסוף Google Cloud .
מוודאים שאתם צופים בפרויקט שבו הפעלתם את Model Armor.
בדף Model Armor, נכנסים לכרטיסייה Floor settings ולוחצים על Configure floor settings.
מעדכנים את שדות החובה ולוחצים על שמירת הגדרות המחיר המינימלי.
gcloud
gcloud model-armor floorsettings update --full-uri=FULL_URI
פקודה לדוגמה:
gcloud model-armor floorsettings update \
--malicious-uri-filter-settings-enforcement=ENABLED \
--pi-and-jailbreak-filter-settings-enforcement=DISABLED \
--pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE \
--basic-config-filter-enforcement=ENABLED \
--add-rai-settings-filters='[{"confidenceLevel": "low_and_above", "filterType": "HARASSMENT"}, {"confidenceLevel": "high", "filterType": "SEXUALLY_EXPLICIT"}]' \
--full-uri='folders/FOLDER_ID/locations/global/floorSetting' \
--enable-floor-setting-enforcement=true
כדי להגדיר את הגדרות הקומה כשהזיהוי של כמה שפות מופעל, מריצים את הפקודה הבאה:
gcloud model-armor floorsettings update \
--full-uri=projects/PROJECT_ID/locations/global/floorSetting \
--enable-multi-language-detection
מחליפים את מה שכתוב בשדות הבאים:
-
FULL_URI: ה-URI המלא של המשאב של הגדרת המחיר המינימלי. -
PROJECT_ID: מזהה הפרויקט של הגדרות הקומה. -
FOLDER_ID: מזהה התיקייה של הגדרות הקומה.
REST
עדכון הגדרת הסף של Model Armor בפרויקט נתון.
curl -X PATCH \ \ -d '{"filterConfig": {"piAndJailbreakFilterSettings": {"filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": {"filterEnforcement": "ENABLED"}, "csamFilterSettings": { "filterEnforcement": "ENABLED", "confidenceLevel": "LOW_AND_ABOVE" }, "raiSettings": {"raiFilters": [{"filterType": "DANGEROUS", "confidenceLevel": "LOW_AND_ABOVE"}, {"filterType": "HATE_SPEECH", "confidenceLevel": "LOW_AND_ABOVE"}, {"filterType": "HARASSMENT", "confidenceLevel": "LOW_AND_ABOVE"}, {"filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "LOW_AND_ABOVE"}]}}, "enableFloorSettingEnforcement": true}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"
עדכון הגדרת הסף של Model Armor בתיקייה מסוימת.
curl -X PATCH \ -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": {"filterEnforcement": "ENABLED" }, "csamFilterSettings": {"filterEnforcement": "ENABLED", "confidenceLevel": "LOW_AND_ABOVE" }},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"
עדכון הגדרת הסף של Model Armor לארגון נתון.
curl -X PATCH \ -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }, "csamFilterSettings": { "filterEnforcement": "ENABLED", "confidenceLevel": "LOW_AND_ABOVE" }},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"
מחליפים את מה שכתוב בשדות הבאים:
-
PROJECT_ID: מזהה הפרויקט של הגדרות הקומה. -
FOLDER_ID: מזהה התיקייה של הגדרות הקומה. -
ORGANIZATION_ID: מזהה הארגון של הגדרות הקומה.
פקודת העדכון מחזירה את התגובה הבאה:
{ "name": "projects/PROJECT_ID/locations/global/floorSetting", "updateTime": "2024-12-19T15:36:21.318191Z", "filterConfig": { "piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED" }, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" } } }
C#
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-C# ולהתקין את Model Armor C# SDK.
עדכון הגדרת הסף של Model Armor בפרויקט נתון.
עדכון הגדרת הסף של Model Armor בתיקייה מסוימת.
עדכון הגדרת הסף של Model Armor לארגון נתון.
המשך
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Go ולהתקין את Model Armor Go SDK.
עדכון הגדרת הסף של Model Armor בפרויקט נתון.
עדכון הגדרת הסף של Model Armor בתיקייה מסוימת.
עדכון הגדרת הסף של Model Armor לארגון נתון.
Java
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Java ולהתקין את Model Armor Java SDK.
עדכון הגדרת הסף של Model Armor בפרויקט נתון.
עדכון הגדרת הסף של Model Armor בתיקייה מסוימת.
עדכון הגדרת הסף של Model Armor לארגון נתון.
Node.js
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Node.js ולהתקין את Model Armor Node.js SDK.
עדכון הגדרת הסף של Model Armor בפרויקט נתון.
עדכון הגדרת הסף של Model Armor בתיקייה מסוימת.
עדכון הגדרת הסף של Model Armor לארגון נתון.
PHP
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-PHP ולהתקין את Model Armor PHP SDK.
עדכון הגדרת הסף של Model Armor בפרויקט נתון.
עדכון הגדרת הסף של Model Armor בתיקייה מסוימת.
עדכון הגדרת הסף של Model Armor לארגון נתון.
Python
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח ב-Python ולהתקין את Model Armor Python SDK.
עדכון הגדרת הסף של Model Armor בפרויקט נתון.
עדכון הגדרת הסף של Model Armor בתיקייה מסוימת.
עדכון הגדרת הסף של Model Armor לארגון נתון.
בדיקת הממצאים לגבי הפרה של הגדרת הסף התחתון
כל ממצא של Model Armor מזהה הפרה של הגדרת הסף. הפרה מתרחשת כשבתבנית של Model Armor לא עומדים בתקני האבטחה המינימליים שמוגדרים בהגדרות המינימום של היררכיית המשאבים. הגדרות אבטחה מינימליות קובעות את הדרישות המינימליות לתבניות.
הממצאים נוצרים כשיש הפרות של הגדרות מחיר המינימום הבאות:
- תבנית עם הגדרות פחות מגבילות נוצרת לפני שאתם מגדירים את מחיר המינימום.
- בתבנית חסרים מסנני חובה.
- תבנית לא עומדת ברמת הסבירות המינימלית של המסננים.
כשהמערכת מזהה הפרה, היא יוצרת ממצא בחומרה גבוהה ב-Security Command Center (אם אתם משתמשים ברמת השירות Premium או Enterprise של Security Command Center). בממצא מצוינים הגדרת המחיר המינימלי שהופרה, התבנית שלא עומדת בדרישות ופרטים על ההפרה.
בדוגמה הבאה מוצג השדה sourceProperties של הממצא. ההפרה הזו, שקשורה למסנן של כתובות URI זדוניות, התרחשה כי ההגדרה של maliciousUriFilterSettings בתבנית היא מושבתת, אבל ההגדרות של הסף דורשות שהיא תהיה מופעלת.
{ "filterConfig": { "raiSettings": { "raiFilters": [ { "filterType": "HATE_SPEECH", "confidenceLevel": { "floorSettings": "LOW_AND_ABOVE", "template": "MEDIUM_AND_ABOVE" } }, { "filterType": "HARASSMENT", "confidenceLevel": { "floorSettings": "MEDIUM_AND_ABOVE", "template": "HIGH" } } ] }, "piAndJailbreakFilterSettings": { "confidenceLevel": { "floorSettings": "LOW_AND_ABOVE", "template": "HIGH" } }, "maliciousUriFilterSettings": { "floorSettings": "ENABLED", "template": "DISABLED" }, "csamFilterSettings": { "confidenceLevel": { "floorSettings": "MEDIUM_AND_ABOVE", "template": "HIGH" } } } }