对象丰富化

您可以使用对象丰富化功能自动生成结构化元数据,而无需构建自定义机器学习流水线。对象丰富化功能会将 Google 的预训练机器学习模型直接应用于存储的对象,帮助您大规模搜索、精选和治理非结构化数据。

如需开始为对象生成元数据,请参阅配置对象丰富化。

工作原理

如需使用对象丰富化功能,您需要使用系统的以下部分:

  • 功能配置 (FeatureConfig):您可以创建功能配置,以指定 Cloud Storage 监控哪些存储桶或项目。
  • 机器学习模型:在配置中,您可以选择要应用的模型,例如检测对象、为图片添加标签、分析人脸或对 PDF 文档进行分类的模型。
  • 对象丰富化(元数据):Cloud Storage 会异步扫描您的对象,并使用您选择的模型评估符合条件的对象。然后,Cloud Storage 会将生成的元数据作为对象上下文直接附加到您的对象。

Cloud Storage 将丰富元数据附加到对象后,元数据即可供使用。您可以检查单个对象丰富化,也可以使用 Storage Insights 数据集,通过在 BigQuery 中使用 SQL 来分析数百万个对象的元数据。

下图展示了 Cloud Storage 如何使用对象丰富功能从非结构化数据中提取上下文,并将其存储为对象上下文,以供下游 AI 和分析工作流使用:

图 1. 从原始数据到对象上下文和 AI 智能体的对象丰富化工作流。
图 1:对象丰富化功能如何提取元数据并将其存储为对象上下文。

支持的模型

创建特征配置时,您需要选择最适合您的数据和分析目标的机器学习模型。Cloud Storage 会使用您选择的模型评估符合条件的对象,并在 contexts.custom 下生成结构化元数据。

支持的模型表列出了每个模型、其检测的内容以及示例输出数据。如需了解详细的架构定义和上下文键,请参阅支持的模型和架构。

模型 说明 示例输出数据
对象检测 检测图片中的多个对象,并提供其位置和矩形边界。 商品、动物、人物
为图片加标签 检测并提取图片中有关实体的信息,涵盖各种类别,例如对象、地点和活动。 风景、城市、夜景
人脸检测 检测图片中的人脸,包括边界多边形、面部特征(眼睛、鼻子、嘴巴)、方向角度和表情可能性。 人脸数量、滚动和倾斜角度
露骨内容检测 评估图片是否包含敏感或不当内容,包括成人或暴力内容。 成人内容和暴力内容可能性评分
PDF 分类 根据 PDF 文档的内容将其分类到标准业务和行业类别中。 财务、税费、账单(类别和得分)

使用场景

您可以使用对象丰富化功能来简化非结构化数据管理,并为以下下游分析和 AI 工作流准备对象:

  • 整理和编目未整理的对象:自动对 PDF 文档(例如账单、银行对账单和纳税表单)和图片集合进行分类。您可以使用这些分类在存储桶中构建可搜索的 Data Catalog,而无需编写自定义代码。
  • 为 AI 智能体提供依据并改进搜索:将杂乱无章的文档库转换为结构化知识库。您可以使用文档类别和图片标签来改进检索增强生成 (RAG) 期间的检索,并为生成式 AI 应用提供依据。
  • 为生成式 AI 采样和准备数据:在将内容路由到大语言模型 (LLM) 或人工审核之前,区分文档类型以执行分层采样。
  • 精选机器学习训练数据集:按分类或视觉标签过滤和细分图片和文档,以组合特定领域的训练数据集,用于模型微调。
  • 扫描敏感或露骨内容:自动检查上传的图片中是否存在不当内容,以支持您的内容管理员和安全政策。
  • 增强多模态提示:在提示 Gemini 等多模态模型时,将结构化元数据(例如边界框和文档类别)作为上下文传递。
  • 简化数据架构:直接在 Cloud Storage 中生成元数据,从而消除自定义提取流水线和计算基础设施。

查询和分析元数据

Cloud Storage 会以对象上下文的形式将对象丰富化直接附加到对象。根据您的规模和工作流,您可以通过以下方式访问和分析这些元数据:

  • 检查单个对象:使用 Google Cloud 控制台或 Cloud Storage API 检查特定对象的丰富内容。如需查看相关说明,请参阅管理对象丰富化。
  • 使用 SQL 进行大规模分析:使用 Storage Insights 数据集将数百万或数十亿个对象的元数据直接导出到 BigQuery。Storage Insights 导出元数据后,您可以使用标准 SQL 查询 object_contexts_catalog_view 视图。例如,您可以搜索标签、按类别过滤或查找具有高置信度分数的对象。

如需开始使用 SQL 查询和示例配方,请参阅在 BigQuery 中分析对象丰富化。

注意事项和限制

在配置对象丰富化之前,请查看以下操作注意事项:

处理位置

对象丰富化功能会在三个地理位置处理数据:us、eu 和 asia。选择处理位置时,请注意以下事项:

  • 合规性:确保您选择的处理位置符合您的监管和数据主权要求。
  • 性能:选择距离存储桶存储区域最近的处理位置。
  • 费用:为避免重复收费,请仅为每个存储桶和模型配置一个处理位置。如果您为同一存储桶和模型配置了多个位置,Cloud Storage 会在每个位置处理您的对象,并按每次运行向您收费。

处理和性能

请查看以下关于内容类型、对象大小和处理时间轴的限制:

  • 异步处理:Cloud Storage 会异步处理对象。

  • 对象大小限制:对象(图片和 PDF)的大小不得超过 20 MiB。

  • 支持的内容类型:Cloud Storage 会使用对象上设置的 Content-Type 元数据字段来确定是否对其进行评估。如果对象的 Content-Type 无效或缺失,即使底层数据是有效的图片或 PDF,Cloud Storage 也不会处理该对象。为确保 Cloud Storage 处理对象,请将 Content-Type 元数据更新为以下受支持的类型之一:

    • 图片:BMP、GIF、ICO、JPEG、PNG、TIFF 和 WEBP。
    • 文档:PDF (application/pdf)。

不受支持的功能

对象丰富化功能与以下存储桶类型和操作不兼容:

  • 存储桶重定位:对象丰富化与存储桶重定位不兼容。在重新定位存储桶之前,请先从功能配置中移除该存储桶。
  • 不支持的存储桶类型:您无法在Rapid Bucket或启用了分层命名空间的存储桶上启用对象丰富化功能。

配置和范围管理

在功能配置中定义和维护目标存储桶时,需满足以下要求:

  • 存储桶范围:在功能配置中指定确切的存储桶名称。Cloud Storage 不支持正则表达式或通配符模式。
  • 存储桶生命周期:Cloud Storage 不会自动将新创建、重新创建或重新定位的存储桶添加到现有配置中。您必须更新特征配置,以包含这些存储桶。

费用和安全性

请查看以下有关加密密钥和数据访问费用的操作详情:

  • 客户提供的密钥 (CSEK):对象丰富化不支持使用客户提供的加密密钥加密的对象。
  • 存储访问和 Autoclass:为了生成元数据,对象丰富化功能会读取您的对象数据。这些读取操作会产生标准数据访问费用。此外,如果您的存储桶启用了 Autoclass,这些读取操作会触发存储类别转换。

价格

使用对象丰富化功能会产生模型推理、元数据存储、数据访问操作和网络费用。如需了解详情,请参阅价格。

监控和问题排查

如需在配置对象丰富化功能时跟踪元数据生成进度并解决问题,请使用以下资源:

后续步骤