配置特定于模板的排除规则

您可以在 Model Armor 中配置特定于模板的排除规则,以减少假正例检测。排除规则是特定于模板的规则,其中包含要从检测中排除的正则表达式或短语。

支持的过滤器

您可以对以下过滤条件使用排除规则:

何时使用排除规则

如果您需要针对特定工作负载抑制已知的假正例检测,而不完全停用过滤条件,请使用特定于模板的排除规则:

  • 特定领域或技术术语:您的应用会处理与 Responsible AI 安全类别重叠的专业词汇,例如系统管理命令(kill process、abort transaction)、安全测试术语 (penetration testing)、科学术语 (blast search) 或行业习语。
  • 良性操作或格式设置指令:您的用户或提示模板包含使用祈使动词(例如 "ignore case when sorting this list"、"ignore empty rows" 或 "Summarize my inbox and ignore the emails from the marketing vendor.")的合法指令,这些指令会在提示词注入和越狱检测中触发假正例。
  • 在等待模型更新期间进行有针对性的缓解:您需要立即针对特定应用工作流中经过验证的假正例采取权宜解决方法,同时让过滤器对所有其他输入保持有效。

下表介绍了何时使用规则类型和匹配范围的每种组合。如需详细了解字典和正则表达式匹配的工作原理,请参阅字典和正则表达式规则以及匹配的工作原理。

规则配置 何时使用 示例
部分匹配的字典规则 (MATCHING_SCOPE_PARTIAL_MATCH) 您有一个固定的静态字词或短语列表,这些字词或短语可能出现在提示或回答中的任何位置。如需详细了解字典匹配行为,请参阅字典和正则表达式规则。

字典包含短语“ignore empty rows”

匹配以下项:

  • ignore empty rows
  • ignore EMPTY-rows
  • please ignore empty rows

不匹配项:

  • ignore rows
  • ignore the empty rows
完全匹配的字典规则 (MATCHING_SCOPE_FULL_MATCH) 您的应用使用预定义的提示选项(例如界面快速回复按钮或预设命令),其中整个输入与已知短语匹配,并且您希望防止其他未经筛选的文本绕过过滤器。如需详细了解字典匹配行为,请参阅字典和正则表达式规则。

字典包含短语“ignore empty rows”

匹配以下项:

  • ignore empty rows
  • ignore EMPTY-rows

不匹配项:

  • please ignore empty rows
  • ignore rows
具有部分匹配的正则表达式规则 (MATCHING_SCOPE_PARTIAL_MATCH) 您需要排除较大提示或回答中的结构化模式、动态标识符或特定动词和名词组合。如需了解详情,请参阅正则表达式排除模式示例。

正则表达式模式: (?i)kill process [0-9]+

匹配以下项:

  • kill process 1234
  • How do I Kill Process 99?

不匹配项:

  • kill process abc
  • kill the process 1234
具有完全匹配的正则表达式规则 (MATCHING_SCOPE_FULL_MATCH) 整个输入载荷遵循严格的结构格式(例如自动化测试标识符或结构化命令)。

正则表达式模式: (?i)^test_case_[0-9]+$

匹配以下项:

  • test_case_42
  • TEST_CASE_001

不匹配项:

  • run test_case_42
  • test_case_alpha

使用单区域或多区域端点

使用 Model Armor 模板时,您必须使用与模板位置匹配的区域级或多区域级端点 (modelarmor.LOCATION.rep.googleapis.com)。如需了解如何针对每个区域或多区域强制执行数据驻留,请参阅针对模板强制执行数据驻留。

全球端点 (modelarmor.googleapis.com) 不支持管理 Model Armor 模板或排查提示和回答中的问题。

准备工作

在开始之前,请完成以下任务。

获取所需的权限

如需获得在 Model Armor 模板中配置排除规则所需的权限,请让您的管理员为您授予包含 Model Armor 模板的项目中 Model Armor 的 Model Armor Admin (roles/modelarmor.admin) IAM 角色。 如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。

您也可以通过自定义角色或其他预定义角色来获取所需的权限。

启用 API

您必须先启用 Model Armor API,然后才能使用 Model Armor。

控制台

  1. 启用 Model Armor API(如果尚未启用)。

    启用 API 所需的角色

    如需启用 API,您需要拥有 serviceusage.services.enable 权限。如果您创建了项目,则可能已经通过 Owner 角色 (roles/owner) 拥有此权限。否则,您可以通过 Service Usage Admin 角色 (roles/serviceusage.serviceUsageAdmin) 获得此权限。了解如何授予角色。

    启用 API

  2. 选择要启用 Model Armor 的项目。

gcloud

在开始之前,请使用 Google Cloud CLI 和 Model Armor API 按照以下步骤操作:

  1. 安装 Google Cloud CLI,然后使用联合身份登录 gcloud CLI。 登录后,运行以下命令来初始化 Google Cloud CLI:

    gcloud init

  2. 启用 Model Armor API(如果尚未启用):

    启用 API 所需的角色

    如需启用 API,您需要拥有 serviceusage.services.enable 权限。如果您创建了项目,则可能已经通过 Owner 角色 (roles/owner) 获得了此权限。否则,您可以通过 Service Usage Admin 角色 (roles/serviceusage.serviceUsageAdmin) 获得此权限。了解如何授予角色。

    gcloud services enable modelarmor.googleapis.com

  3. 使用 gcloud CLI 设置 API 端点替换。

使用 gcloud CLI 设置 API 端点替换

仅当您使用 gcloud CLI 时,才需要执行此步骤。设置 API 端点替换,以确保 gcloud CLI 正确地将请求路由到 Model Armor 服务。

运行以下命令,为 Model Armor 服务设置 API 端点。

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

将 LOCATION 替换为您要使用 Model Armor 的区域或多区域。

排除规则的运作方式

您可以使用 Model Armor API 配置排除规则。

字典和正则表达式规则

您可以在 Model Armor 模板中定义两种类型的排除规则:

  • 字典规则:指定要排除的字词或短语列表(wordList,每个字典最多 128 KB)。字典必须至少包含一个短语,并且每个短语必须至少包含两个字母或数字字符。字典匹配的工作原理如下:
    • 不区分大小写:字典中的字词和词组不区分大小写。
    • 非字母数字字符:扫描匹配项时,Unicode 基本多语言平面中除字母和数字以外的所有字符都会替换为空格。例如,字典短语 Sam Johnson 与 sam johnson、Sam, Johnson 和 Sam (Johnson) 匹配。包含许多非字母或数字字符的字典短语可能会产生意外匹配,因为这些字符会被视为空格。
    • 字符边界:匹配项周围的字符必须与字典字词中的相邻字符属于不同的字符类型。字母必须与非字母相邻,数字必须与非数字相邻。例如,字典单词 jen 与 jen123 的前三个字母匹配,但与 jennifer 不匹配。
  • 正则表达式规则:指定要匹配和排除的正则表达式模式(最多 1,000 个字符)。默认情况下,正则表达式匹配区分大小写。如需执行不区分大小写的匹配,请在模式中添加 (?i) 标志。例如,(?i)kill process [0-9]+ 同时与 kill process 1234 和 Kill Process 1234 匹配。

匹配的运作方式

每个排除规则都支持 matchingScope 字段,该字段指定 Model Armor 如何将输入内容与规则进行匹配:

  • 部分匹配(MATCHING_SCOPE_PARTIAL_MATCH,默认):
    • 字典规则:当字典中的字词或短语与输入内容中的子字符串匹配时,即视为匹配,但须遵守字典字符边界规则。例如,字典短语 ignore empty rows 与 ignore empty rows、ignore EMPTY-rows 和 Please ignore empty rows and summarize this table 匹配,但与 ignore rows 或 ignore the empty rows 不匹配。
    • 正则表达式规则:当输入内容中的任何子字符串与正则表达式模式匹配时,即表示匹配。
    • 流式传输支持:在缓冲流式传输模式 (STREAMING_MODE_BUFFERED) 和实时流式传输模式(STREAMING_MODE_REALTIME,默认)下均受支持。如需了解详情,请参阅流式清理中的排除规则。
  • 完全匹配 (MATCHING_SCOPE_FULL_MATCH):
    • 字典规则:仅当字典条目涵盖整个输入内容时才匹配。例如,字典短语 ignore empty rows 与 ignore empty rows 和 ignore EMPTY-rows 匹配,但与 please ignore empty rows 或 ignore rows 不匹配。
    • 正则表达式规则:仅当正则表达式模式与整个输入内容匹配时才匹配。
    • 流式传输支持:仅在缓冲流式传输模式 (STREAMING_MODE_BUFFERED) 下受支持。如需了解详情,请参阅流式传输排查中的排除规则。

在清理期间覆盖排除规则

如果模板包含排除规则,则每当提示词注入和越狱检测 (PROMPT_INJECTION_AND_JAILBREAK) 或 Responsible AI (RESPONSIBLE_AI) 过滤器识别出潜在匹配项时,Model Armor 都会在提示词和模型回答清理期间评估这些规则:

  • 规则与输入内容匹配:如果排除规则与子字符串(MATCHING_SCOPE_PARTIAL_MATCH,默认)或从头到尾的整个输入内容 (MATCHING_SCOPE_FULL_MATCH) 匹配,Model Armor 会覆盖 MATCH_FOUND 或 EXECUTION_SKIPPED 过滤结果,并将整个受支持的过滤条件类型(包括 RESPONSIBLE_AI 的所有 Responsible AI 安全类别)的 matchState 设置为 NO_MATCH_FOUND,而不是排除输入内容中的单个短语或 span。在排查响应中,如果未检测到任何恶意内容,或者排除规则覆盖了过滤结果,则 filterMatchState 为 NO_MATCH_FOUND。如需进行问题排查,请在模板中为清理操作 (logSanitizeOperations) 启用 Cloud Logging,并按 modelarmor.googleapis.com/exclusion_rule_overridden_filters 或 modelarmor.googleapis.com/exclusion_rule_skipped_filters 标签进行过滤。当排除规则替换过滤结果或过滤器的 executionState 为 EXECUTION_SKIPPED 时,Model Armor 会记录这些标签。如需了解详情,请参阅查看排除规则日志。
  • 规则与完整输入不匹配 (MATCHING_SCOPE_FULL_MATCH):如果输入包含超出配置的短语或模式的其他文本,则规则不匹配,过滤器会保留 MATCH_FOUND。
  • 输入内容超过 130,000 个 token (0.5 MB):排除规则仅评估输入文本的前 130,000 个 token (0.5 MB)。0.5 MB 的载荷支持大约 130,000 个英文文本 token(每个 token 约 4 个字符)。对于非英语文本,支持的 token 数量可能会因语言而异,因为非英语字符每个字符需要更多字节。如果输入超过 130,000 个词元 (0.5 MB),并且过滤器在初始扫描部分之外检测到匹配项,则过滤器会返回 EXECUTION_SKIPPED。如需详细了解 messageItems 值和载荷限制,请参阅排除规则系统限制。

如需查看使用排除规则清理提示和模型回答的示例,请参阅使用排除规则清理提示和使用排除规则清理回答。

流式清理中的排除规则

Model Armor 支持在 StreamSanitizeUserPrompt 和 StreamSanitizeModelResponse 流式传输方法中使用排除规则。 Model Armor 如何评估排除规则取决于请求中指定的流式传输模式 (streamingMode):

  • 已缓冲模式 (STREAMING_MODE_BUFFERED):同时支持 MATCHING_SCOPE_PARTIAL_MATCH(默认)和 MATCHING_SCOPE_FULL_MATCH。Model Armor 会收集所有流式传输分块,并根据完整的流式传输内容评估排除规则:
    • 部分匹配 (MATCHING_SCOPE_PARTIAL_MATCH):如果字典短语 或正则表达式模式与流式 内容中的任何子字符串匹配,Model Armor 会覆盖过滤结果,并将该过滤类型的 matchState 设置为 NO_MATCH_FOUND。
    • 完全匹配 (MATCHING_SCOPE_FULL_MATCH):如果字典短语或正则表达式模式与从头到尾的整个流式内容匹配,Model Armor 会覆盖过滤结果,并将该过滤类型的 matchState 设置为 NO_MATCH_FOUND。如果任何分块添加了超出配置的短语或模式的文本,则规则不匹配,过滤器会保留 MATCH_FOUND。
  • 实时模式(STREAMING_MODE_REALTIME,默认):支持 MATCHING_SCOPE_PARTIAL_MATCH(默认),不支持 MATCHING_SCOPE_FULL_MATCH。
    • 部分匹配 (MATCHING_SCOPE_PARTIAL_MATCH):Model Armor 会独立评估每个已处理的块(当 filterMatchState 为 NO_MATCH_FOUND 时,在 sanitizationMetadata.streamChunkProcessed 中返回)。如果字典短语或正则表达式模式在已处理的块中匹配,Model Armor 会覆盖过滤结果,并将该块的 matchState 设置为 NO_MATCH_FOUND,同时继续独立评估流中的后续块。如果排除的词组或模式被拆分到不同的处理块中,则部分片段不匹配。如果较早的数据块触发了 MATCH_FOUND 判定,但未匹配排除规则,则后续数据块的流仍会被屏蔽。
    • 完全匹配 (MATCHING_SCOPE_FULL_MATCH):不支持。如果模板包含具有 MATCHING_SCOPE_FULL_MATCH 的排除规则,并且请求使用实时流式传输模式,则 Model Armor 会拒绝该请求,并返回以下 INVALID_ARGUMENT 错误:Invalid filter rule settings: FULL_MATCH matching scope is not supported in real-time streaming mode. UsePARTIAL_MATCHorSTREAMING_MODE_BUFFERED`。

如需查看使用排除规则进行流式清理的示例,请参阅使用排除规则清理流式提示和使用排除规则清理流式回答。

注意事项

配置排除规则时,请考虑以下事项:

  • 排除规则仅适用于您定义它们的模板。您无法跨模板共享排除规则。
  • 只有在模板中启用了受支持的过滤条件类型时,您才能为其配置排除规则。对于提示词注入和越狱检测 (PROMPT_INJECTION_AND_JAILBREAK),请在 piAndJailbreakFilterSettings 中将 filterEnforcement 设置为 ENABLED。如需启用 Responsible AI 安全过滤条件 (RESPONSIBLE_AI),请在 raiSettings.raiFilters 中至少配置一个 Responsible AI 安全类别。
  • Model Armor 不支持在下限设置中使用排除规则。
  • 在流式清理中,Model Armor 仅在缓冲模式 (STREAMING_MODE_BUFFERED) 下支持完全匹配排除规则 (MATCHING_SCOPE_FULL_MATCH)。在实时模式(STREAMING_MODE_REALTIME,默认流式传输模式)下使用 MATCHING_SCOPE_FULL_MATCH 会返回以下 INVALID_ARGUMENT 错误:Invalid filter rule settings: FULL_MATCH matching scope is not supported in real-time streaming mode. UsePARTIAL_MATCHorSTREAMING_MODE_BUFFERED`。
  • Model Armor 会先根据原始输入文本评估排除规则,然后再执行去标识化或翻译等文本转换。排除规则不支持多语言检测或自动翻译;如需排除多种语言的内容,请为每种目标语言添加特定语言的短语或正则表达式模式。
  • 排除规则对非拉丁语系语言和多字节 UTF-8 字符的支持有限。特别是,对于使用组合标记的文字(例如印度文字)或单词之间没有空格的文字(例如中文和日语),字典规则 (wordList) 可能无法按预期进行匹配。完全匹配规则 (MATCHING_SCOPE_FULL_MATCH) 与包含多字节 UTF-8 字符的输入不匹配。排除非拉丁文字的内容或包含多字节字符的输入时,请使用正则表达式规则 (regex) 和 MATCHING_SCOPE_PARTIAL_MATCH。
  • 排除规则受系统限制。如需了解详情,请参阅排除规则系统限制。

创建包含排除规则的模板

如需创建包含排除规则的模板,请在 POST 请求中将 filterRuleSettings 对象添加到 filterConfig 中。

以下示例创建了一个模板,该模板启用了提示词注入和越狱检测以及 Responsible AI 安全过滤条件,并配置了两个部分匹配 (MATCHING_SCOPE_PARTIAL_MATCH) 的排除规则:

  • 提示词注入和越狱检测 (PROMPT_INJECTION_AND_JAILBREAK):使用字典规则,从提示词注入和越狱检测中排除包含指定短语(例如 ignore case when sorting this list 或 ignore empty rows)的输入。
  • Responsible AI (RESPONSIBLE_AI):使用正则表达式规则,从 Responsible AI 安全检测中排除与指定模式(例如 (?i)kill process [0-9]+)匹配的输入。
export TEMPLATE_WITH_EXCLUSIONS='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED",
      "confidenceLevel": "LOW_AND_ABOVE"
    },
    "raiSettings": {
      "raiFilters": [
        {
          "filterType": "DANGEROUS",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HARASSMENT",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HATE_SPEECH",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "SEXUALLY_EXPLICIT",
          "confidenceLevel": "LOW_AND_ABOVE"
        }
      ]
    },
    "filterRuleSettings": {
      "ruleSets": [
        {
          "filterTypes": [
            "PROMPT_INJECTION_AND_JAILBREAK"
          ],
          "rules": [
            {
              "exclusionRule": {
                "dictionary": {
                  "wordList": {
                    "words": [
                      "EXCLUDED_PHRASE_1",
                      "EXCLUDED_PHRASE_2"
                    ]
                  }
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        },
        {
          "filterTypes": [
            "RESPONSIBLE_AI"
          ],
          "rules": [
            {
              "exclusionRule": {
                "regex": {
                  "pattern": "EXCLUDED_REGEX_PATTERN"
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        }
      ]
    }
  }
}'

curl -X POST \
    -d "$TEMPLATE_WITH_EXCLUSIONS" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

替换以下内容:

  • EXCLUDED_PHRASE_1 和 EXCLUDED_PHRASE_2:要从提示词注入和越狱检测中排除的字典字词或短语,例如 ignore case when sorting this list 和 ignore empty rows。
  • EXCLUDED_REGEX_PATTERN:要从 Responsible AI 安全检测中排除的正则表达式模式,例如 (?i)kill process [0-9]+。
  • PROJECT_ID:模板所属项目的 ID。
  • LOCATION:模板所在的位置。
  • TEMPLATE_ID:模板的 ID。

此命令会返回类似于以下内容的响应:

{
  "filterConfig": {
    "raiSettings": {
      "raiFilters": [
        {
          "filterType": "DANGEROUS",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HARASSMENT",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HATE_SPEECH",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "SEXUALLY_EXPLICIT",
          "confidenceLevel": "LOW_AND_ABOVE"
        }
      ]
    },
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED",
      "confidenceLevel": "LOW_AND_ABOVE"
    },
    "filterRuleSettings": {
      "ruleSets": [
        {
          "filterTypes": [
            "PROMPT_INJECTION_AND_JAILBREAK"
          ],
          "rules": [
            {
              "exclusionRule": {
                "dictionary": {
                  "wordList": {
                    "words": [
                      "ignore case when sorting this list",
                      "ignore empty rows"
                    ]
                  }
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        },
        {
          "filterTypes": [
            "RESPONSIBLE_AI"
          ],
          "rules": [
            {
              "exclusionRule": {
                "regex": {
                  "pattern": "(?i)kill process [0-9]+"
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        }
      ]
    }
  },
  "templateMetadata": {
    "dataResidencyCompliant": true
  }
}

更新模板中的排除规则

如需更新现有模板中的排除规则,请发送 PATCH 请求,并将 updateMask 设置为 filterConfig.filterRuleSettings。由于更新会替换整个 filterRuleSettings 字段,因此请添加您要保留的所有规则以及您的修改。

以下示例通过向 PROMPT_INJECTION_AND_JAILBREAK 规则集添加正则表达式规则并移除 RESPONSIBLE_AI 规则集,更新了上述示例中的排除规则:

export EXCLUSION_RULES_UPDATE='{
  "filterConfig": {
    "filterRuleSettings": {
      "ruleSets": [
        {
          "filterTypes": [
            "PROMPT_INJECTION_AND_JAILBREAK"
          ],
          "rules": [
            {
              "exclusionRule": {
                "dictionary": {
                  "wordList": {
                    "words": [
                      "EXCLUDED_PHRASE_1",
                      "EXCLUDED_PHRASE_2"
                    ]
                  }
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            },
            {
              "exclusionRule": {
                "regex": {
                  "pattern": "EXCLUDED_REGEX_PATTERN"
                },
                "matchingScope": "MATCHING_SCOPE_FULL_MATCH"
              }
            }
          ]
        }
      ]
    }
  }
}'

curl -X PATCH \
    -d "$EXCLUSION_RULES_UPDATE" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=filterConfig.filterRuleSettings"

替换以下内容:

  • EXCLUDED_PHRASE_1 和 EXCLUDED_PHRASE_2:要从提示词注入和越狱检测中排除的字典字词或短语,例如 ignore case when sorting this list 和 ignore empty rows。
  • EXCLUDED_REGEX_PATTERN:要从提示词注入和越狱检测中排除的正则表达式模式,例如 (?i)\\b(?:ignore\\s+(?:the\\s+)?(?:emails?|spams?|warnings?|drafts?|typos?|duplicates?|noise))\\b。
  • PROJECT_ID:模板所属项目的 ID。
  • LOCATION:模板所在的位置。
  • TEMPLATE_ID:模板的 ID。

正则表达式排除模式示例

编写正则表达式排除规则时,请将模式范围限定为特定网域术语或目标名词,以便 Model Armor 排除已知的假正例,同时不会忽略真正的安全违规行为。在 JSON 请求正文 ("pattern") 中传递正则表达式模式时,请使用第二个反斜杠对每个反斜杠进行转义(例如,使用 \\b 和 \\s)。

提示词注入和越狱检测示例

ignore、disregard、bypass 或 override 等祈使动词经常出现在对抗性提示词注入和合法指令中,用于电子邮件分类、数据格式设置、错误处理或系统配置。为避免排除广泛类别的提示,请将字词边界 (\\b)、非捕获组 ((?:...)) 和不区分大小写的标志 ((?i)) 与 MATCHING_SCOPE_PARTIAL_MATCH 结合使用,以将正则表达式锚定到特定的操作目标名词。

下表提供了部分匹配正则表达式模式(带有 JSON 转义反斜杠)的示例,以及常见提示词注入和越狱假正例场景的提示词示例。

指令类别 触发词 假正例场景 部分匹配正则表达式模式示例 提示示例
内容分类和过滤 ignore,disregard 邮件分类、错误处理和草稿审核 (?i)\\b(?:ignore\\s+(?:the\\s+)?(?:emails?|spams?|warnings?|drafts?|typos?|duplicates?|noise))\\b Summarize my inbox and ignore the emails from the marketing vendor.

Responsible AI 安全过滤条件示例

技术文档、系统管理命令和常见习语通常包含与 Responsible AI 安全类别重叠的字词。为了减少较长提示或回答中的假正例,请将字词边界 (\\b)、非捕获组 ((?:...)) 和不区分大小写的标志 ((?i)) 与 MATCHING_SCOPE_PARTIAL_MATCH 结合使用。

下表提供了部分匹配正则表达式模式(带有 JSON 转义反斜杠)的示例,以及常见 Responsible AI 假正例场景的提示示例。

风险类别 触发词 假正例场景 部分匹配正则表达式模式示例 提示示例
暴力或伤害 kill 进程终止、电气或 HVAC 开关以及常见习语 (?i)\\b(?:kill\\s+(?:-9|all|process(?:es)?|switch(?:es)?|jobs?|pods?|sessions?|bill|lights?)|time\\s+to\\s+kill|dressed\\s+to\\s+kill)\\b Please kill all pods in the namespace.
有害或冒犯性语言 abort,terminate 数据库事务、任务生命周期以及雇佣或合同条款 (?i)\\b(?:abort\\s+(?:transactions?|missions?|requests?|connections?|retry|retries)|terminate\\s+(?:contracts?|sessions?|threads?|instances?|connections?))\\b Abort retry.
网域字词中的子字符串匹配 重叠的字符子字符串 学术术语、植物学、鸟类学、航空和专有名词 (?i)\\b(?:class(?:room|ic)?|assess(?:ment)?|associate|passive|peacock|cockpit|cocktail|dickens)\\b I love reading Dickens.
武器或爆炸物 bomb、blast、detonate 生物信息学、娱乐习语和工业设备或清洁 (?i)\\b(?:blast\\s+(?:search|alignment|radius|furnace)|box\\s+office\\s+bomb|had\\s+a\\s+blast)\\b Run a blast search on the genetic sequence.

查看排除规则日志

如需记录排除规则评估结果,请在模板中配置日志记录时将 logSanitizeOperations 设置为 true。启用日志记录后,Model Armor 会将 modelarmor.googleapis.com/SanitizeOperation 受监控的资源的 SanitizeOperationLogEntry 日志条目写入 Cloud Logging。

如需详细了解如何启用和查询排查日志,请参阅配置日志记录。

配置排除规则的最佳实践

请遵循以下最佳实践,在不削弱模板安全状况的情况下最大限度地减少假正例:

  • 将规则范围限定在特定上下文中:避免排除单个动词或宽泛术语(例如 ignore、kill 或 abort),或使用不受约束的通配符(例如 .*ignore.*)。因为只要子字符串匹配,MATCHING_SCOPE_PARTIAL_MATCH 就会覆盖整个过滤器的 matchState 到 NO_MATCH_FOUND,因此过于宽泛的规则可能会掩盖同一提示或回答中其他位置的真实违规行为。始终将触发动词与特定目标名词配对(例如 ignore case when sorting this list 或 (?i)kill process [0-9]+)。
  • 使用字词边界并整合模式:在正则表达式规则中,使用字词边界 (\b) 来防止在不相关的字词中出现意外的子字符串匹配。使用非捕获组 ((?:...)) 和交替 (|) 将相关短语合并到单个正则表达式中,以保持在每个规则集 10 条规则的系统限制内。
  • 对于可预测的输入,首选 MATCHING_SCOPE_FULL_MATCH:排除预定义的界面提示、预设命令或自动化测试载荷时,请将 matchingScope 设置为 MATCHING_SCOPE_FULL_MATCH(或使用 ^ 和 $ 锚定正则表达式)。全匹配范围可防止用户在排除的短语后附加对抗性指令来绕过检测。
  • 针对未经转换的原始文本编写规则:Model Armor 会在去标识化或翻译之前评估排除规则。确保您的模式与去标识化之前的原始格式匹配,并为应用支持的每种语言添加特定于语言的短语或正则表达式模式。
  • 在过滤条件升级后,检查并停用临时规则:将模板升级到较新的过滤条件版本后,请重新评估假正例测试用例,并移除已通过更新后的检测模型解决的排除规则。

后续步骤