本文档介绍了如何为 Gemini Notebook Enterprise 启用 Model Armor 。Model Armor 是一项 Google Cloud 服务，可通过主动筛查使用 Gemini Notebook Enterprise 给出的提示和回答来增强 AI 应用的安全性。这有助于防范各种风险，并确保 Responsible AI 实践。Gemini Notebook Enterprise 支持 Model Armor，无需额外付费。
Model Armor 不会移除或更改个人身份信息 (PII)，也不会遮盖敏感数据。不过，Gemini Notebook Enterprise 会屏蔽任何触发 Sensitive Data Protection 检测器的回答。
Model Armor 对用户查询或 Gemini Notebook Enterprise 回答中潜在问题的响应受模板的强制执行类型控制。
如果强制执行类型为 检查并屏蔽 ，则 Gemini Notebook Enterprise 会屏蔽请求并显示错误消息。这是使用控制台创建 Model Armor 模板时的默认强制执行类型。
如果强制执行类型为 仅检查，则 Gemini Notebook Enterprise 不会屏蔽请求或回答。
如需了解详情，请参阅 定义强制执行类型。
准备工作
确保您和服务帐号已获分配所需角色：
如需在 Gemini Notebook Enterprise 中启用 Model Armor，您需要拥有 Gemini Enterprise Admin (
roles/discoveryengine.agentspaceAdmin) 角色。如需创建 Model Armor 模板，您需要拥有 Model Armor Admin 角色 (
roles/modelarmor.admin)。如需调用 Model Armor API，您需要拥有 Model Armor User 角色 (
roles/modelarmor.user)。如果您的 Model Armor 模板与 Gemini Notebook Enterprise 中的笔记本位于不同的项目中，则模板的项目 必须向笔记本的 服务 账号授予 Model Armor User 角色 (
roles/modelarmor.user)。服务账号 ID 为service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.， 其中PROJECT_NUMBER是 Gemini Notebook Enterprise 实例的项目编号。
创建 Model Armor 模板
您可以为用户提示和助理的回答创建并使用相同的 Model Armor 模板，也可以创建两个单独的 Model Armor 模板。如需了解详情，请参阅创建和 管理 Model Armor 模板。
为 Gemini Notebook Enterprise 创建 Model Armor 模板时，请考虑以下配置：
您可以在一个项目中集中创建 Model Armor 模板，并在不同项目中重复使用这些模板。如果您使用跨项目模板， 请确保按照 准备工作中的说明配置跨项目权限。
在区域 字段中，选择多区域 。下表显示了如何将 Model Armor 模板区域与 Gemini Notebook Enterprise 区域相对应：
Gemini Notebook Enterprise 多区域 Model Armor 多区域 全球 - 美国（美国的多个区域）
- 欧盟（欧盟的多个区域）
美国（美国的多个区域） 美国（美国的多个区域） 欧盟（欧盟的多个区域） 欧盟（欧盟的多个区域） Google 不建议在 Gemini Notebook Enterprise 的 Model Armor 模板中配置 Cloud Logging。此配置可能会向具有 Private Logs Viewer (
roles/logging.privateLogViewer) IAM 角色的用户公开敏感数据。请考虑以下替代方案：如果您需要记录流经 Model Armor 模板的数据，您可以将日志重新路由到诸如 BigQuery 等提供更严格访问权限控制的安全存储空间中。如需了解详情，请参阅将日志 路由到支持的目的地。
您可以配置数据访问审核日志，以分析和报告 Model Armor 生成的请求和回答筛查判定结果。如需了解详情，请参阅配置审核 日志。
使用 Model Armor 模板配置 Gemini Notebook Enterprise
以下步骤介绍了如何将 Model Armor 模板添加到 Gemini Notebook Enterprise。
REST
如需将 Model Armor 模板添加到 Gemini Notebook Enterprise，请运行以下命令：
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_NUMBER?update_mask=customerProvidedConfig" \
-d '{
"customerProvidedConfig": {
"notebooklmConfig": {
"modelArmorConfig": {
"userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
"responseTemplate": "RESPONSE_PROMPT_TEMPLATE"
}
}
}
}'
替换以下内容：
PROJECT_ID：您的项目的 ID。PROJECT_NUMBER：您的 Google Cloud 项目的编号。ENDPOINT_LOCATION：API 请求的多区域。请指定以下某个值：us（表示美国多区域）eu（表示欧盟多区域）global（表示全球位置）
QUERY_PROMPT_TEMPLATE：您创建的 Model Armor 模板的资源名称 。如需获取资源名称， 请按照查看 Model Armor 模板 文档中的步骤操作，然后复制资源名称值。
RESPONSE_PROMPT_TEMPLATE：您创建的 Model Armor 模板的资源名称 。您可以使用在同一项目中创建的 Model Armor 模板，也可以使用来自不同项目的 Model Armor 模板。
测试 Model Armor 模板是否已启用
配置 Model Armor 模板后，测试 Gemini Notebook Enterprise 是否会根据 Model Armor 过滤条件中设置的置信度级别主动筛查并屏蔽相应的用户提示和回答。
如果 Model Armor 模板配置为检查并屏蔽 违反政策的请求，系统会显示以下违规消息：
控制台
例如，您会看到以下违规消息：
REST
包含以下内容的 JSON 响应：
例如：
json
"answer.state": "SKIPPED",
"answer.assist_skipped_reasons": "CUSTOMER_POLICY_VIOLATION_REASON"
从 Gemini Notebook Enterprise 中移除 Model Armor 模板
如需从 Gemini Notebook Enterprise 中移除 Model Armor 模板，请运行以下命令：
REST
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_NUMBER?update_mask=customerProvidedConfig" \
-d '{
"customerProvidedConfig": {
"notebooklmConfig": {
"modelArmorConfig": {}
}
}
}'
替换以下内容：
PROJECT_ID：您的项目的 ID。PROJECT_NUMBER：您的 Google Cloud 项目的编号。ENDPOINT_LOCATION：API 请求的多区域。请指定以下某个值：us（表示美国多区域）eu（表示欧盟多区域）global（表示全球位置）
使用 Model Armor 时的注意事项
将 Model Armor 与 Gemini Notebook Enterprise 搭配使用时，请考虑以下事项：
| 去标识化和遮盖 |
当 Model Armor 使用 Sensitive Data Protection
模板扫描提示或回答时，
Model Armor 会检查内容是否与
模板中定义的检测器条件匹配。虽然
Sensitive Data Protection 支持基于
模板配置进行去标识化，但 Model Armor 不会
将去标识化或遮盖的数据传递回
Gemini Notebook Enterprise。如果内容触发了 Sensitive Data Protection 中的任何
检测器，并且强制执行
类型为 INSPECT_AND_BLOCK,
则 Gemini Notebook Enterprise 会屏蔽请求或回答，
而不是对其进行去标识化。
|
|---|---|
| 令牌限制和配额 | 虽然将 Model Armor 与 Gemini Notebook Enterprise 搭配使用时没有直接的令牌限制，但 Model Armor 评估的总吞吐量仍会受到 Gemini Enterprise 系统配额和 Model Armor API 速率限制的间接控制。 |
| 服务等级协议 | Gemini Notebook Enterprise 提供 服务 等级协议。如果 Gemini Notebook Enterprise 配置为使用 Model Armor，则无论使用 应急开启 模式还是 应急关闭 模式，被屏蔽的查询都不会计为违反 SLA。 |
| 法规遵从 | Gemini Notebook Enterprise 和 Model Armor 均提供各种合规性认证。 如果同时使用这两款产品，有效的合规性认证将是两者的 交集。请查看这两款产品的合规性 认证，确保它们符合您的 监管要求。 |
| 文档筛查 | 如果 Model Armor 模板配置为筛查 用户提示或回答，则系统会在发送请求时筛查从来源提取的文档文本。不过，嵌入在 文档中的图片不会被筛查。如需查看支持的文档类型列表，请参阅文档筛查。 |
配置审核日志
Model Armor 会记录 数据访问审核 日志，您可以使用这些日志来分析请求 和回答的筛查判定结果。这些日志不会包含用户查询或 Gemini Notebook Enterprise 的回答，因此可安全地用于报告和分析。如需了解详情，请参阅 Model Armor 的审核日志记录。
如需访问这些日志，您需要拥有
Private Logs Viewer
(roles/logging.privateLogViewer) IAM 角色。
启用数据访问审核日志
如需启用数据访问审核日志，请按以下步骤操作：
在 Google Cloud 控制台中，依次前往 IAM 和管理 > 审核日志。
选择 Model Armor API。
在权限类型部分，选择数据读取权限类型。
点击保存。
检查数据访问审核日志
如需检查数据访问审核日志，请按以下步骤操作：
在 Google Cloud 控制台中，前往 Logs Explorer。
在日志中搜索以下方法名称：
google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt：查看所筛查的用户请求。google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse：查看所筛查的回答。