本文档介绍了如何为 Gemini Notebook Enterprise 启用 Model Armor。Model Armor 是一项 Google Cloud 服务，可通过主动筛查使用 Gemini Notebook Enterprise 给出的提示和回答来增强 AI 应用的安全性。这有助于防范各种风险，并确保 Responsible AI 实践。Gemini Notebook Enterprise 支持 Model Armor，无需额外付费。
Model Armor 不会移除或更改个人身份信息 (PII)，也不会遮盖敏感数据。不过，Gemini Notebook Enterprise 会屏蔽触发 Sensitive Data Protection 检测器的任何回答。
Model Armor 对用户查询或 Gemini Notebook Enterprise 回答中潜在问题的响应受模板的强制执行类型控制。
如果强制执行类型为检查并屏蔽，则 Gemini Notebook Enterprise 会屏蔽请求并显示错误消息。这是使用控制台创建 Model Armor 模板时的默认强制执行类型。
如果强制执行类型为仅检查，则 Gemini Notebook Enterprise 不会屏蔽请求或回答。
如需了解详情，请参阅定义强制执行类型。
准备工作
确保您和服务账号已获分配所需角色：
如需在 Gemini Notebook Enterprise 中启用 Model Armor，您需要拥有 Gemini Enterprise Admin (
roles/discoveryengine.agentspaceAdmin) 角色。如需创建 Model Armor 模板，您需要拥有 Model Armor Admin 角色 (
roles/modelarmor.admin)。如需调用 Model Armor API，您需要拥有 Model Armor User 角色 (
roles/modelarmor.user)。如果您的 Model Armor 模板与 Gemini Notebook Enterprise 中的笔记本位于不同的项目中，则模板所在的项目必须向笔记本的服务账号授予 Model Armor User 角色 (
roles/modelarmor.user)。服务账号 ID 为service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.，其中PROJECT_NUMBER是 Gemini Notebook Enterprise 实例的项目编号。
创建 Model Armor 模板
您可以为用户提示和助理的回答创建并使用相同的 Model Armor 模板，也可以创建两个单独的 Model Armor 模板。如需了解详情，请参阅创建和管理 Model Armor 模板。
为 Gemini Notebook Enterprise 创建 Model Armor 模板时，请考虑以下配置：
您可以在一个项目中集中创建 Model Armor 模板，并在不同项目中重复使用。如果您使用跨项目模板，请确保按照准备工作中的说明配置跨项目权限。
在区域字段中，选择多区域。下表显示了如何将 Model Armor 模板区域与 Gemini Notebook Enterprise 区域相对应：
Gemini Notebook Enterprise 多区域 Model Armor 多区域 全球 - 美国（美国的多个区域）
- 欧盟（欧盟的多个区域）
美国（美国的多个区域） 美国（美国的多个区域） 欧盟（欧盟的多个区域） 欧盟（欧盟的多个区域） Google 不建议在 Gemini Notebook Enterprise 的 Model Armor 模板中配置 Cloud Logging。此配置可能会向具有 Private Logs Viewer (
roles/logging.privateLogViewer) IAM 角色的用户公开敏感数据。请改为考虑以下方案：如果您需要记录流经 Model Armor 模板的数据，您可以将日志重新路由到诸如 BigQuery 等提供更严格访问权限控制的安全存储空间中。如需了解详情，请参阅将日志路由到支持的目标位置。
您可以配置数据访问审核日志，以分析和报告 Model Armor 生成的请求和回答筛查判定结果。如需了解详情，请参阅配置审核日志。
使用 Model Armor 模板配置 Gemini Notebook Enterprise
以下步骤介绍了如何将 Model Armor 模板添加到 Gemini Notebook Enterprise。
REST
如需将 Model Armor 模板添加到 Gemini Notebook Enterprise，请运行以下命令：
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_NUMBER?update_mask=customerProvidedConfig" \
-d '{
"customerProvidedConfig": {
"notebooklmConfig": {
"modelArmorConfig": {
"userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
"responseTemplate": "RESPONSE_PROMPT_TEMPLATE"
}
}
}
}'
替换以下内容：
PROJECT_ID：您的项目的 ID。PROJECT_NUMBER：您的 Google Cloud 项目的编号。ENDPOINT_LOCATION：API 请求的多区域。请指定以下某个值：us（表示美国多区域）eu（表示欧盟多区域）global（表示全球位置）
QUERY_PROMPT_TEMPLATE：您创建的 Model Armor 模板的资源名称。如需获取资源名称，请按照查看 Model Armor 模板文档中的步骤操作，然后复制资源名称值。
RESPONSE_PROMPT_TEMPLATE：您创建的 Model Armor 模板的资源名称。您可以使用在同一项目中创建的 Model Armor 模板，也可以使用在其他项目中创建的 Model Armor 模板。
测试 Model Armor 模板是否已启用
配置 Model Armor 模板后，测试 Gemini Notebook Enterprise 是否会根据 Model Armor 过滤条件中设置的置信度级别主动筛查并屏蔽相应的用户提示和回答。
如果 Model Armor 模板配置为检查并屏蔽违反政策的请求，系统会显示以下违规消息：
控制台
例如，您会看到以下违规消息：
REST
包含以下内容的 JSON 响应：
例如：json
"answer.state": "SKIPPED",
"answer.assist_skipped_reasons": "CUSTOMER_POLICY_VIOLATION_REASON"。
从 Gemini Notebook Enterprise 中移除 Model Armor 模板
如需从 Gemini Notebook Enterprise 中移除 Model Armor 模板，请运行以下命令：
REST
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_NUMBER?update_mask=customerProvidedConfig" \
-d '{
"customerProvidedConfig": {
"notebooklmConfig": {
"modelArmorConfig": {}
}
}
}'
替换以下内容：
PROJECT_ID：您的项目的 ID。PROJECT_NUMBER：您的 Google Cloud 项目的编号。ENDPOINT_LOCATION：API 请求的多区域。请指定以下某个值：us（表示美国多区域）eu（表示欧盟多区域）global（表示全球位置）
使用 Model Armor 时的注意事项
将 Model Armor 与 Gemini Notebook Enterprise 搭配使用时，请考虑以下事项：
| 去标识化和遮盖 |
当 Model Armor 使用 Sensitive Data Protection 模板扫描提示或回答时，Model Armor 会检查内容是否符合模板中定义的检测器条件。虽然 Sensitive Data Protection 支持基于模板配置进行去标识化处理，但 Model Armor 不会将去标识化或遮盖的数据传回 Gemini Notebook Enterprise。如果内容触发了 Sensitive Data Protection 中的任何检测器，并且强制执行类型为 INSPECT_AND_BLOCK，则 Gemini Notebook Enterprise 会屏蔽请求或回答，而不是对其进行去标识化处理。
|
|---|---|
| Token 限制和配额 | 虽然将 Model Armor 与 Gemini Notebook Enterprise 搭配使用时没有直接的 token 限制，但 Model Armor 评估的总吞吐量仍会间接受到 Gemini Enterprise 系统配额和 Model Armor API 速率限制的约束。 |
| 服务等级协议 | Gemini Notebook Enterprise 提供服务等级协议。如果 Gemini Notebook Enterprise 配置为使用 Model Armor，则无论使用故障开放模式还是故障关闭模式，被屏蔽的查询都不会计为违反 SLA。 |
| 法规遵从 | Gemini Notebook Enterprise 和 Model Armor 均提供各种合规性认证。如果同时使用这两款产品，有效的合规性认证将是两者的交集。查阅这两款产品的合规性认证，确保它们符合您的监管要求。 |
| 文档筛查 | 如果 Model Armor 模板配置为筛查用户提示或回答，则系统会在发送请求时筛查从来源中提取的文档文本。不过，系统不会筛查文档中嵌入的图片。如需查看支持的文档类型的列表，请参阅文档筛查。 |
配置审核日志
Model Armor 会记录数据访问审核日志，您可以使用这些日志来分析请求和回答的筛查判定结果。这些日志不会包含用户查询或 Gemini Notebook Enterprise 的回答，因此可安全地用于报告和分析。如需了解详情，请参阅 Model Armor 的审核日志记录。
如需访问这些日志，您需要拥有 Private Logs Viewer (roles/logging.privateLogViewer) IAM 角色。
启用数据访问审核日志
如需启用数据访问审核日志，请按以下步骤操作：
在 Google Cloud 控制台中，依次前往 IAM 和管理 > 审核日志。
选择 Model Armor API。
在权限类型部分，选择数据读取权限类型。
点击保存。
检查数据访问审核日志
如需检查数据访问审核日志，请按以下步骤操作：
在 Google Cloud 控制台中，前往 Logs Explorer。
在日志中搜索以下方法名称：
google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt：查看所筛查的用户请求。google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse：查看所筛查的回答。