将 Model Armor 与 Gemini Enterprise 集成后，您可以过滤用户向 AI 智能体发出的提示以及 AI 智能体做出的回答，从而降低提示注入、有害内容和敏感数据泄露等风险。此项集成设置完毕后，将应用于所有用户互动。
准备工作
创建 Model Armor 模板，并确保该模板与 Gemini Enterprise 位于同一 Google Cloud项目中。模板的位置必须与 Gemini Enterprise 实例的位置一致。如需详细了解受支持的位置，请参阅 Model Armor 位置和 Gemini Enterprise 位置。
所需的角色
在将 Model Armor 与 Gemini Enterprise 集成之前，请确保您拥有所需的角色。
如需获得创建和管理 Model Armor 模板所需的权限，请让您的管理员为您授予Model Armor Admin (roles/modelarmor.admin) IAM 角色。如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。
启用集成
如需启用具有 Model Armor 的 Gemini Enterprise，您的安全管理员需要在 Model Armor 中创建政策，然后您的 Gemini Enterprise 管理员将这些政策应用于 Gemini Enterprise 实例。
限制和注意事项
将 Model Armor 与 Gemini Enterprise 集成时，请考虑以下限制和注意事项：
- 去标识化和遮盖：当 Model Armor 使用 Sensitive Data Protection 模板扫描提示或回答时，Model Armor 会检查内容是否与模板中定义的 infoType 检测器条件匹配。虽然 Sensitive Data Protection 支持根据模板配置进行去标识化，但 Model Armor 不会将去标识化或遮盖的数据传回给 Gemini Enterprise。如果内容触发了敏感数据保护中的任何 infoType 检测器，并且强制执行类型为
INSPECT_AND_BLOCK，则 Gemini Enterprise 会屏蔽请求或回答，而不是对其进行去标识化。 文档和图片过滤：除了文本提示之外，集成 还支持文档（例如 PDF）和图片。只有在您将以下文件上传到 Gemini Enterprise 助理时，集成才会过滤这些文件：
- 您直接上传的图片。
- 您直接上传的其他文件和文档中包含的图片。
如果文件或文档中的图片违反了您配置的政策，系统会舍弃整个文件或文档，并将其从请求中排除。
过滤的智能体和互动：过滤适用于 Gemini Enterprise 助理、员工制作的智能体（使用 Agent Designer 在 Gemini Enterprise 应用中创建）以及 Google 制作的智能体。与贵组织自定义智能体（例如 ADK、A2A 和 Dialogflow）的互动不会被过滤。
令牌限制和配额：虽然将 Model Armor 与 Gemini Enterprise 搭配使用时没有直接的令牌限制，但 Model Armor 评估的总吞吐量受Gemini Enterprise 系统配额和Model Armor API 速率限制的约束。
服务等级协议 (SLA)：Gemini Enterprise 提供 服务等级协议。 如果 Gemini Enterprise 配置为使用 Model Armor，则无论使用应急开启 模式还是应急关闭 模式，被屏蔽的查询都不会计为违反 SLA。
合规性：Gemini Enterprise 和 Model Armor 均提供各种合规性认证。如果同时使用这两款产品，有效的合规性认证将是两者的交集。请查看这两款产品的合规性认证，确保它们符合您的监管要求。
工作原理
配置集成后，Gemini Enterprise 会通过 Model Armor API 路由用户输入和助理输出，以便使用所选模板进行筛查。Gemini Enterprise 使用服务代理向 Model Armor 进行身份验证。Model Armor 会根据模板中定义的过滤配置做出响应，Gemini Enterprise 会根据该配置阻止或允许请求/回答。
例如，Gemini Enterprise 可能会检测到包含个人身份信息的请求，并将其路由到 Model Armor 进行过滤。如果 Model Armor 模板配置为屏蔽个人身份信息 (PII)，它会指示 Gemini Enterprise 屏蔽相应请求。
日志记录
Model Armor 会在 Cloud Logging 中生成清理请求及其响应的平台日志。您需要拥有 Private Logs Viewer (roles/logging.privateLogViewer) IAM 角色才能查看 Model Armor 审核日志。如需详细了解
自动生成的审核日志，请参阅
Model Armor 审核日志记录。
如需记录清理操作，请将 templateMetadata.logSanitizeOperations 字段设置为
true。如需了解详情，请参阅
在模板中配置日志记录。