‫Google משתמשת בטכנולוגיית AI כדי לתרגם תוכן לשפה המועדפת עליך. בתרגומים כאלו עשויות להיות שגיאות.

הגדרת גרסת המסנן

במאמר הזה מוסבר איך פועלות גרסאות המסננים של Model Armor, ואיך להורות ל-Model Armor להשתמש בגרסת מסנן ספציפית או בכינוי של גרסת מסנן בפעולות.

הגנה מוגברת על המודל משתמשת במסננים כדי לזהות ולחסום תוכן פוגעני, מידע רגיש, כתובות URL זדוניות, תוכן ויזואלי של התעללות מינית בילדים (CSAM) ומתקפות של החדרת פרומפטים בפרומפטים ובתשובות של מודל ה-LLM. מידע נוסף מופיע במאמר מסננים של Model Armor.

גרסאות המסננים של Model Armor מספקות יציבות לעומסי עבודה בסביבת הייצור וגישה למודלים העדכניים ביותר לזיהוי איומים. אתם מגדירים גרסה אחת של מסנן ברמת התבנית. אי אפשר לציין גרסאות שונות למסננים ספציפיים.

מתי להגדיר גרסאות וכינויים של מסננים

הנה כמה תרחישי שימוש נפוצים:

נעילת התנהגות הסינון הדטרמיניסטי: הגדרת תבניות לגרסת סינון ספציפית כדי למנוע שינויים בלוגיקה של זיהוי האיומים במערכות קריטיות.
קבלת עדכוני אבטחה אוטומטיים: משתמשים בכינוי Stable כדי לאמץ באופן אוטומטי מודלים מעודכנים לזיהוי איומים כשהם עוברים אימות.
בדיקת יכולות זיהוי עתידיות: אפשר להשתמש בכינוי Latest בסביבות טרום-ייצור כדי להעריך כללי סינון חדשים בהשוואה לדפוסי תנועה בעולם האמיתי.
הפעלת מחזורי השקה צפויים: מאמתים את עומסי העבודה מול גרסאות המסננים החדשות לפני שמעדכנים ידנית את תבניות הייצור.

כינויי גרסאות

בתבנית של Model Armor, אתם יכולים להשתמש בכינוי כדי לציין את גרסת המסנן המועדפת. כינוי מייצג שלב במחזור החיים של הגרסה. כל כינוי מוגדר לגרסה המתאימה ככל שמחזור החיים מתקדם.

אם בוחרים כינוי, התבנית משתמשת בגרסה שהכינוי מוגדר לה. כשמעדכנים את הגרסה הבסיסית של אותו כינוי (לדוגמה, כשמקדמים גרסה חדשה ל-Stable), תבניות שמשתמשות בכינוי משתמשות באופן אוטומטי בגרסה החדשה. אם אתם לא רוצים שגרסת המסנן תשתנה, אתם צריכים להפנות את התבנית לגרסת מסנן ספציפית.

אפשר לבחור מבין כתובות האימייל החלופיות הבאות:

‫Latest: כינוי עם המודלים וההגנות העדכניים ביותר, שמתעדכן לעיתים קרובות כדי להתמודד עם איומים חדשים. הכינוי הזה מציע יעדים סטנדרטיים למדידת רמת השירות (SLO), אבל היציבות עשויה להשתנות בין הגרסאות. הוא מתאים לבדיקות, לסביבות Staging ולעומסי עבודה שבהם מודלים עדכניים של זיהוי חשובים יותר מהתנהגות עקבית של סינון.
‫Stable: כינוי ברירת המחדל לגרסאות עם תבניות זמינות. הכינוי הזה מספק לוגיקת זיהוי אמינה וקבועה, והוא מתאים לסביבות ייצור ולעומסי עבודה שדורשים התנהגות מסנן קבועה. כשגרסה חדשה הופכת ל-Stable, הגרסה הקודמת של Stable הופכת ל-Legacy.
‫Legacy: כינוי לגרסה קודמת של Stable, שזמינה למשך 90 יום אחרי שגרסה חדשה של Stable מתפרסמת. במהלך התקופה הזו, אתם יכולים להעביר את מערכות הייצור לגרסה החדשה של Stable בכל שלב. אי אפשר ליצור תבניות חדשות באמצעות גרסת Legacy.
‫Retired: כינוי לגרסה שחלפה תקופת ה-90 יום שלה והיא כבר לא זמינה. ב-Model Armor נעשה שימוש בגרסה Stable כדי לחטא קריאות לתבניות שעדיין משתמשות בגרסה Retired.

מסננים שלא משתמשים בגרסאות של מסננים

הגדרת גרסת המסנן לא משפיעה על המסננים של Sensitive Data Protection וכתובות ה-URL הזדוניות.

מחזור החיים של הגרסה

Google Cloud מספק התראות על שינויים במחזור החיים של הגרסה, כולל מתי גרסה הופכת לLegacy ותאריך ההוצאה משימוש הקרוב שלה בכל תגובה מה-API שעברה הסרת תוכן זדוני או רגיש. במהלך 90 הימים האלה, אתם צריכים להעביר את כל התבניות שמשתמשות בגרסה Legacy לגרסה Stable או Latest.

הדוגמה הבאה מתארת את מחזור החיים של הגרסה:

‫גרסה (Latest): Google משיקה גרסת מסנן חדשה (v2) בתור Latest.
קידום (מ-Latest ל-Stable): כש-Google מקדמת את הגרסה Latest ל-Stable (v2 הופכת ל-Stable), קורים הדברים הבאים:
1. ‫Google מעבירה את הגרסה הקודמת של Stable (v1) אל Legacy.
2. גרסה חדשה (v3) הופכת ל-Latest החדשה. ‫Google מקדמת גרסה אחרי שהיא עוברת בדיקות קפדניות, מוכיחה שימוש יומיומי עקבי וכוללת בעיות מינימליות של לקוחות, או כשנדרשת הגנה קריטית מפני איומים.
הוצאה משימוש (מ-Legacy ל-Retired): אחרי שגרסת מסנן נשארת במצב Legacy במשך 90 יום, Google מוציאה אותה משימוש והיא לא זמינה יותר.

ציר הזמן של השקת הגרסה

בטבלה הבאה מפורטים פרטים על גרסאות המסננים, כולל כינויים, תאריכי השקה, תאריכי הוצאה משימוש ואזורים נתמכים.

גרסה	כינוי	תאריך השקה	תאריך הוצאה משימוש	אזור נתמך
`v1`	`Legacy` (`Stable` ב`asia-northeast3`; `Legacy` החל מ-25 בספטמבר 2026 ב`australia-southeast2`)	2025-01-30	2026-12-17	`asia-northeast1` `asia-northeast3` (`Stable`) `asia-south1` `asia-southeast1` `australia-southeast2` (`Legacy` החל מ-25 בספטמבר 2026) `europe-southwest1` `europe-west9` `northamerica-northeast2` `us` `us-central1` `us-east4` `us-west1`
`v2`	`Legacy`	2025-06-19	2026-12-17	`eu` `europe-west1` `europe-west2` `europe-west3` `europe-west4` `us-east1`
`v3`	`Stable` (`Stable` החל מ-25 בספטמבר 2026 ב-`australia-southeast2`)	2026-05-25	—	`asia-northeast1` `asia-south1` `asia-southeast1` `australia-southeast2` (`Stable` החל מ-25 בספטמבר 2026) `eu` `europe-southwest1` `europe-west1` `europe-west2` `europe-west3` `europe-west4` `europe-west9` `northamerica-northeast2` `southamerica-east1` `us` `us-central1` `us-east1` `us-east4` `us-west1`
`v4`	`Latest`	2026-09-18	—	`asia-northeast1` `asia-south1` `asia-southeast1` `eu` `europe-southwest1` `europe-west1` `europe-west2` `europe-west3` `europe-west4` `europe-west9` `northamerica-northeast2` `southamerica-east1` `us` `us-central1` `us-east1` `us-east4` `us-west1`

כדי לראות מה השתנה בכל גרסה, קראו את המאמר היסטוריית הגרסאות של המסננים.

התנהגות התבנית

ההתנהגות של התבנית תלויה בגרסת המסנן שבה משתמשים, והיא פועלת לפי המאפיינים הבאים:

תבניות בלי גרסה: תבניות בלי גרסה, חדשות או קיימות, משתמשות בגרסה Stable כברירת מחדל.
תבניות עם כינויי Latest או Stable: התבניות האלה משתמשות באופן אוטומטי בגרסה שהוקצתה לכינויים האלה. לדוגמה, כשגרסת מסנן חדשה הופכת לגרסה Stable, תבניות שמשתמשות בכינוי Stable עוברות לגרסה החדשה בלי שצריך לשנות את התבנית.

הערה: אי אפשר להגדיר את גרסת המסנן בתבנית ל-Legacy או ל-Retired.
תבניות שמשתמשות בגרסה ספציפית:
- אם הגרסה תואמת לגרסה Latest או Stable, התבנית פועלת כצפוי.
- אם הגרסה תואמת לגרסת Legacy, התבנית פועלת כצפוי כשמשתמשים בה לפעולות של הסרת תוכן זדוני או רגיש במשך 90 יום. אחרי 90 יום, הגרסה עוברת לשלב Retired. בשלב הזה, אתם צריכים להעביר את התבניות לגרסה Latest או Stable.

שינוי גרסת המסנן שמוגדרת כברירת מחדל בהגדרות של מחיר מינימום

בהגדרות המחיר המינימלי, השילוב של Gemini Enterprise Agent Platform משתמש בגרסת המסנן Stable כברירת מחדל. כדי לשנות את ההגדרה הזו, צריך לציין תבנית בקריאה של generateContent למודל Gemini. כדי לעשות את זה, יוצרים תבנית עם גרסת מסנן או כינוי ספציפיים באותו אזור שבו מתכננים לשלוח את הבקשה ל-Gemini.

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d "$TEMPLATE_CONFIG" \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

‫FILTER_VERSION_ALIAS: כינוי גרסת המסנן המועדפת. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
‫PROJECT_ID: מזהה הפרויקט שהתבנית שייכת אליו.
‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
‫LOCATION: האזור שבו רוצים לשמור את התבנית של Model Armor. האזור הזה חייב להיות אותו אזור שבו אתם מתכננים לשלוח את הבקשה ל-Gemini, אחרת תתקבל השגיאה Template not found ב-Agent Platform. לרשימת האזורים הנתמכים בשילוב הזה, ראו שילוב עם Gemini Enterprise Agent Platform.

מציינים את מזהה התבנית באובייקט model_armor_config בקריאה ל-Gemini. הגדרת המסנן שצוינה בתבנית חלה במקום הגדרת הסף ברמת הפרויקט.

curl -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/publishers/google/models/gemini-2.5-flash:generateContent" \
  -d '{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "Your prompt here"
        }
      ]
    }
  ],
  "model_armor_config": {
    "prompt_template_name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
    "response_template_name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

‫PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
‫REGION: Google Cloud האזור של נקודת הקצה של Gemini.
‫LOCATION: האזור שבו מאוחסנת התבנית של Model Armor. האזור הזה צריך להיות זהה לאזור שצוין בשביל REGION.
‫TEMPLATE_ID: מזהה התבנית של Model Armor.

הגדרת גרסת מסנן לתבנית

יש שתי דרכים להגדיר את גרסת המסנן של תבנית:

באמצעות כינוי: אפשר להשתמש בכינויים דינמיים כמו Stable או Latest כדי שהתבנית תשתמש באופן אוטומטי במספר גרסה שתואם לכינוי המועדף. כך לא תצטרכו לעדכן ידנית כשהגרסה הבסיסית תשתנה.
באמצעות מספר גרסה: משתמשים במספר גרסה כמו v1 כדי לוודא שהתבנית מוגדרת לגרסה מסוימת, וכך להבטיח התנהגות קבועה ללא שינוי גם כשכתובות האימייל החלופיות מתעדכנות.

יצירת תבנית באמצעות כינוי לגרסה

כדי ליצור תבנית באמצעות כינוי של גרסה ספציפית, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

‫FILTER_VERSION_ALIAS: כינוי הגרסה המועדפת של המסנן. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
‫PROJECT_ID: מזהה הפרויקט שהתבנית שייכת אליו.
‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
‫LOCATION: המיקום של התבנית.

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T17:57:46.976854398Z",
  "updateTime": "2026-04-05T17:57:46.976854398Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}

יצירת תבנית באמצעות גרסת מסנן ספציפית

אם אתם צריכים שהמסנן לא ישתנה, אתם יכולים ליצור תבנית שתואמת לגרסה ספציפית. כדי לעשות את זה, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "version": "FILTER_VERSION_NUMBER"
    }
  }
}'

curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

‫PROJECT_ID: מזהה הפרויקט שהתבנית שייכת אליו.
‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
‫LOCATION: המיקום של התבנית.
‫FILTER_VERSION_NUMBER: מספר הגרסה המועדפת של המסנן (לדוגמה, v1).

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T18:03:29.134974974Z",
  "updateTime": "2026-04-05T18:03:29.134974974Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "version": "FILTER_VERSION_NUMBER"
    }
  }
}

עדכון גרסת המסנן של תבנית

כדי לעדכן את גרסת המסנן או את הכינוי של תבנית קיימת, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=templateMetadata.filterVersionSelector"

מחליפים את מה שכתוב בשדות הבאים:

‫FILTER_VERSION_ALIAS: כינוי הגרסה המועדפת של המסנן. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
‫PROJECT_ID: מזהה הפרויקט שהתבנית שייכת אליו.
‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
‫LOCATION: המיקום של התבנית.

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T18:03:29.134974974Z",
  "updateTime": "2026-04-05T18:04:07.711205953Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}

הצגת גרסת המסנן שמשמשת לפעולות של הסרת תוכן זדוני או רגיש

המטא-נתונים של התגובה מ-Sanitize API כוללים מידע על גרסת המסנן שבה נעשה שימוש במהלך הסרת התוכן הזדוני או הרגיש. ‫30 יום לפני ש-Google מוציאה משימוש את הגרסה, תופיע אזהרה על הוצאה משימוש בתגובה מה-API להסרת תוכן זדוני או רגיש.

בדוגמה הבאה מוצגת תגובה מה-API שכוללת את גרסת המסנן:

"sanitizationResult": {
    "filterMatchState": "NO_MATCH_FOUND",
    "invocationResult": "SUCCESS",
    "filterResults": {
      "csam": {
        "csamFilterFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "malicious_uris": {
        "maliciousUriFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "rai": {
        "raiFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND",
          "raiFilterTypeResults": {
            "sexually_explicit": {
              "matchState": "NO_MATCH_FOUND"
            },
            "hate_speech": {
              "matchState": "NO_MATCH_FOUND"
            },
            "harassment": {
              "matchState": "NO_MATCH_FOUND"
            }
          }
        }
      },
      "pi_and_jailbreak": {
        "piAndJailbreakFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "sdp": {
        "sdpFilterResult": {
          "inspectResult": {
            "executionState": "EXECUTION_SUCCESS",
            "matchState": "NO_MATCH_FOUND"
          }
        }
      }
    },
  "sanitizationMetadata": {
    "filterVersionConfig": {
      "filterVersion": "v2",
      "filterVersionAlias": "FILTER_VERSION_ALIAS_LEGACY",
      "releaseDate": {
        "year": 2025,
        "month": 6,
        "day": 19
      },
      "projectedDeprecationDate": {
        "year": 2026,
        "month": 12,
        "day": 17
      },
      "messageItems": [
        {
          "messageType": "WARNING",
          "message": "This filter version (v2) is in LEGACY state and will be
          RETIRED on 2026-12-17. Please migrate your template to the STABLE or
          LATEST version to ensure continued protection."
        }
      ]
   }
  },
}

הכלי "הגנה מוגברת על המודל" יוצר ב-Cloud Logging יומני פלטפורמה לבקשות להסרת תוכן זדוני או רגיש ולתגובות שלהן. מידע נוסף על יומני הביקורת שנוצרים אוטומטית זמין במאמר רישום ביומן ביקורת של הגנה מוגברת על המודל.

הגדרת גרסת המסנן קל לארגן דפים בעזרת אוספים אפשר לשמור ולסווג תוכן על סמך ההעדפות שלך.

מתי להגדיר גרסאות וכינויים של מסננים

כינויי גרסאות

מסננים שלא משתמשים בגרסאות של מסננים

מחזור החיים של הגרסה

ציר הזמן של השקת הגרסה

התנהגות התבנית

שינוי גרסת המסנן שמוגדרת כברירת מחדל בהגדרות של מחיר מינימום

הגדרת גרסת מסנן לתבנית

יצירת תבנית באמצעות כינוי לגרסה

יצירת תבנית באמצעות גרסת מסנן ספציפית

עדכון גרסת המסנן של תבנית

הצגת גרסת המסנן שמשמשת לפעולות של הסרת תוכן זדוני או רגיש

הגדרת גרסת המסנן