本文档介绍了 Sensitive Data Protection 的图片检查和隐去功能。
Sensitive Data Protection 使用 infoType 检测器检查 base64 编码的图片，并检测图片中的敏感数据。然后，Sensitive Data Protection 可以返回有关图片中敏感数据位置的信息，或通过使用不透明矩形遮盖敏感数据来隐去敏感数据。
检查和隐去是两项不同的操作：
- 检查：Sensitive Data Protection 会检查提交的 base64 编码图片中是否存在指定的 infoType。它会返回检测到的 InfoType，以及一组或多组像素坐标和维度。 每组像素坐标和尺寸值分别表示边界框的左下角和尺寸。每个边界框对应于全部或部分 Sensitive Data Protection 发现结果。
- 隐去：Sensitive Data Protection 会检查提交的 base64 编码图片中是否存在指定的 infoType。Sensitive Data Protection 会通过使用不透明矩形遮盖任何敏感数据发现结果来对其进行隐去。它会返回经过隐去处理的 base64 编码图片，其图片格式与原始图片相同。您还可以在请求中配置隐去框的颜色。
何时使用图片检查和隐去功能
以下是一些常见使用场景：
- 混淆扫描文档中的敏感数据：在下游工作流中处理之前，遮盖上传的 PDF 或图片附件中的驾照、国民身份证和信用卡号。
- 清理客户支持上传内容：在将工单转给支持人员之前，自动隐去用户提交的屏幕截图中的账号和个人详细联系信息。
- 在数字媒体中定位敏感元素：检查图片以检索检测到的文本的边界框像素坐标，从而允许自定义应用查看或选择性地模糊处理目标区域。
- 为机器学习准备视觉数据集：遮盖训练图片语料库中的敏感个人数据，以遵守隐私权准则，同时保留周围的视觉上下文。
支持的图片类型
如需查看受支持的图片类型列表，请参阅检查和去标识化操作中支持的文件类型。
关于图片检查
Sensitive Data Protection 检查服务接受 base64 编码的图片，然后在图片中搜索符合其检查条件的任何数据。Sensitive Data Protection 会返回其检测到的所有敏感数据的位置。
请参考下图。
映像检查流程如下：
- 您向 DLP API 发送
content.inspect请求。该请求包含采用 base64 编码的图片和检查配置，其中包含您的检测条件。 - Sensitive Data Protection 会使用检查配置扫描图片，并识别所有匹配项。
- Sensitive Data Protection 会根据您的检测条件，返回在图片中找到敏感数据的区域的坐标和尺寸。
返回的坐标指示找到敏感数据的位置。请注意，Sensitive Data Protection 通常会使用多个框来指示敏感数据在图片中的单个实例所在的位置。
如果 Sensitive Data Protection 在图片中未找到任何与检测条件对应的数据，则会返回一个空的成功 HTTP 200 响应。
关于图片隐去
图片隐去与图片检查类似，只是多了一个步骤。敏感数据保护在图片中识别出敏感数据的位置后，不会返回包含这些数据的区域的坐标，而是在这些区域放置不透明的矩形，并返回经过隐去处理的 base64 编码图片。
图片隐去流程如下：
- 您向 DLP API 发送
image.redact请求。该请求包含采用 base64 编码的图片和图片隐去配置，其中包含您的检测条件。 - Sensitive Data Protection 会使用图片隐去配置扫描图片，并识别所有匹配项。
- Sensitive Data Protection 会使用不透明矩形覆盖所有检测到的敏感数据，从而将其隐去。然后，它会使用 base64 对图片进行编码，并在请求响应中返回经过隐去处理的图片。
如果 Sensitive Data Protection 在图片中未找到任何与检测条件对应的数据，则会返回未经更改的 base64 编码图片。
图片检测功能
本部分介绍了可应用于检查和隐去操作的图片检测功能。对于所有这些功能，您都需要在支持图片扫描的位置执行扫描。
识别图片中的文本
Sensitive Data Protection 使用光学字符识别 (OCR) 来检测图片中的文本。Sensitive Data Protection 分析检测到的文本的方式与分析文本正文的方式类似。
如需检测图片中的文本，请在检查或隐去配置中指定任何基于文本的 infoType，例如 PERSON_NAME 和 CREDIT_CARD_NUMBER。
识别图片中的对象和主题
Sensitive Data Protection 可以分析不以文本为主的图片的像素和特征。Sensitive Data Protection 将此技术用于以下功能。
对象检测
Sensitive Data Protection 可以对图片中的对象进行分类和遮盖。例如，您可以配置扫描作业，以检测图片中的带照片的身份证件、人员和车牌。
如需检测图片中的对象，请在检查或隐去配置中指定对象 infoType。
详情请参阅以下内容：
图片安全性分类
Sensitive Data Protection 可以根据图片的主题内容对其进行分类和遮盖。此功能可帮助您根据预定义的安全类别识别包含敏感或有害主题的图片。
Sensitive Data Protection 会分析图片的整体背景和含义，以确定其是否属于露骨色情或暴力内容等类别。您可以使用此功能来支持内容审核并强制执行可接受的使用政策。
执行图片安全分类时，Sensitive Data Protection 会分析整个图片。与对象检测（识别图片中的特定项）不同，此功能会评估图片的整体主题。如果您根据图片安全性配置了遮盖功能，此功能会遮盖整个图片。
如需执行图片安全分类，请在检查或隐去配置中指定图片上下文 infoType。
生成式图像的限制
Sensitive Data Protection 用于图片安全分类的模型主要基于真实图片进行训练和评估。虽然这些模型在分析 AI 生成的图片方面具有一定价值，但它们在检测 AI 生成的图片中所有类型的违规内容方面的效果可能有所不同。
如果您对 AI 生成的图片使用图片上下文 infoType，则可能无法检测到以下内容：
- 细微或微妙的内容
- 依赖于上下文的场景，例如私密设置
- 对敏感主题的非血腥描绘
这些分类器在 AI 生成的图片上的表现可能与在自然图片上观察到的表现不一致。我们建议您针对特定的生成式 AI 用例进行全面测试，以确保结果符合您的安全要求。请勿仅依赖这些分类器来确保高风险生成式 AI 应用的安全性。