您可以使用对象丰富化功能自动生成结构化元数据,而无需构建自定义机器学习流水线。对象丰富化功能会将 Google 的预训练机器学习模型直接应用于存储的对象,帮助您大规模搜索、精选和治理非结构化数据。
如需开始为对象生成元数据,请参阅配置对象丰富化。
工作原理
如需使用对象丰富化功能,您需要使用系统的以下部分:
- 功能配置 (
FeatureConfig):您可以创建功能配置,以指定 Cloud Storage 监控哪些存储桶或项目。 - 机器学习模型:在配置中,您可以选择要应用的模型,例如检测对象、为图片添加标签、分析人脸或对 PDF 文档进行分类的模型。
- 对象丰富化(元数据):Cloud Storage 会异步扫描您的对象,并使用您选择的模型评估符合条件的对象。然后,Cloud Storage 会将生成的元数据作为对象上下文直接附加到您的对象。
Cloud Storage 将丰富元数据附加到对象后,元数据即可供使用。您可以检查单个对象丰富化,也可以使用 Storage Insights 数据集,通过在 BigQuery 中使用 SQL 来分析数百万个对象的元数据。
下图展示了 Cloud Storage 如何使用对象丰富功能从非结构化数据中提取上下文,并将其存储为对象上下文,以供下游 AI 和分析工作流使用:
支持的模型
创建特征配置时,您需要选择最适合您的数据和分析目标的机器学习模型。Cloud Storage 会使用您选择的模型评估符合条件的对象,并在 contexts.custom 下生成结构化元数据。
支持的模型表列出了每个模型、其检测的内容以及示例输出数据。如需了解详细的架构定义和上下文键,请参阅支持的模型和架构。
| 模型 | 说明 | 示例输出数据 |
|---|---|---|
| 对象检测 | 检测图片中的多个对象,并提供其位置和矩形边界。 | 商品、动物、人物 |
| 为图片加标签 | 检测并提取图片中有关实体的信息,涵盖各种类别,例如对象、地点和活动。 | 风景、城市、夜景 |
| 人脸检测 | 检测图片中的人脸,包括边界多边形、面部特征(眼睛、鼻子、嘴巴)、方向角度和表情可能性。 | 人脸数量、滚动和倾斜角度 |
| 露骨内容检测 | 评估图片是否包含敏感或不当内容,包括成人或暴力内容。 | 成人内容和暴力内容可能性评分 |
| PDF 分类 | 根据 PDF 文档的内容将其分类到标准业务和行业类别中。 | 财务、税费、账单(类别和得分) |
使用场景
您可以使用对象丰富化功能来简化非结构化数据管理,并为以下下游分析和 AI 工作流准备对象:
- 整理和编目未整理的对象:自动对 PDF 文档(例如账单、银行对账单和纳税表单)和图片集合进行分类。您可以使用这些分类在存储桶中构建可搜索的 Data Catalog,而无需编写自定义代码。
- 为 AI 智能体提供依据并改进搜索:将杂乱无章的文档库转换为结构化知识库。您可以使用文档类别和图片标签来改进检索增强生成 (RAG) 期间的检索,并为生成式 AI 应用提供依据。
- 为生成式 AI 采样和准备数据:在将内容路由到大语言模型 (LLM) 或人工审核之前,区分文档类型以执行分层采样。
- 精选机器学习训练数据集:按分类或视觉标签过滤和细分图片和文档,以组合特定领域的训练数据集,用于模型微调。
- 扫描敏感或露骨内容:自动检查上传的图片中是否存在不当内容,以支持您的内容管理员和安全政策。
- 增强多模态提示:在提示 Gemini 等多模态模型时,将结构化元数据(例如边界框和文档类别)作为上下文传递。
- 简化数据架构:直接在 Cloud Storage 中生成元数据,从而消除自定义提取流水线和计算基础设施。
查询和分析元数据
Cloud Storage 会以对象上下文的形式将对象丰富化直接附加到对象。根据您的规模和工作流,您可以通过以下方式访问和分析这些元数据:
- 检查单个对象:使用 Google Cloud 控制台或 Cloud Storage API 检查特定对象的丰富内容。如需查看相关说明,请参阅管理对象丰富化。
- 使用 SQL 进行大规模分析:使用 Storage Insights 数据集将数百万或数十亿个对象的元数据直接导出到 BigQuery。Storage Insights 导出元数据后,您可以使用标准 SQL 查询
object_contexts_catalog_view视图。例如,您可以搜索标签、按类别过滤或查找具有高置信度分数的对象。
如需开始使用 SQL 查询和示例配方,请参阅在 BigQuery 中分析对象丰富化。
注意事项和限制
在配置对象丰富化之前,请查看以下操作注意事项:
处理位置
对象丰富化功能会在三个地理位置处理数据:us、eu 和 asia。选择处理位置时,请注意以下事项:
- 合规性:确保您选择的处理位置符合您的监管和数据主权要求。
- 性能:选择距离存储桶存储区域最近的处理位置。
- 费用:为避免重复收费,请仅为每个存储桶和模型配置一个处理位置。如果您为同一存储桶和模型配置了多个位置,Cloud Storage 会在每个位置处理您的对象,并按每次运行向您收费。
处理和性能
请查看以下关于内容类型、对象大小和处理时间轴的限制:
异步处理:Cloud Storage 会异步处理对象。
对象大小限制:对象(图片和 PDF)的大小不得超过 20 MiB。
支持的内容类型:Cloud Storage 会使用对象上设置的
Content-Type元数据字段来确定是否对其进行评估。如果对象的Content-Type无效或缺失,即使底层数据是有效的图片或 PDF,Cloud Storage 也不会处理该对象。为确保 Cloud Storage 处理对象,请将Content-Type元数据更新为以下受支持的类型之一:- 图片:BMP、GIF、ICO、JPEG、PNG、TIFF 和 WEBP。
- 文档:PDF (
application/pdf)。
不受支持的功能
对象丰富化功能与以下存储桶类型和操作不兼容:
- 存储桶重定位:对象丰富化与存储桶重定位不兼容。在重新定位存储桶之前,请先从功能配置中移除该存储桶。
- 不支持的存储桶类型:您无法在Rapid Bucket或启用了分层命名空间的存储桶上启用对象丰富化功能。
配置和范围管理
在功能配置中定义和维护目标存储桶时,需满足以下要求:
- 存储桶范围:在功能配置中指定确切的存储桶名称。Cloud Storage 不支持正则表达式或通配符模式。
- 存储桶生命周期:Cloud Storage 不会自动将新创建、重新创建或重新定位的存储桶添加到现有配置中。您必须更新特征配置,以包含这些存储桶。
费用和安全性
请查看以下有关加密密钥和数据访问费用的操作详情:
- 客户提供的密钥 (CSEK):对象丰富化不支持使用客户提供的加密密钥加密的对象。
- 存储访问和 Autoclass:为了生成元数据,对象丰富化功能会读取您的对象数据。这些读取操作会产生标准数据访问费用。此外,如果您的存储桶启用了 Autoclass,这些读取操作会触发存储类别转换。
价格
使用对象丰富化功能会产生模型推理、元数据存储、数据访问操作和网络费用。如需了解详情,请参阅价格。
监控和问题排查
如需在配置对象丰富化功能时跟踪元数据生成进度并解决问题,请使用以下资源:
- 监控操作:如需在 Cloud Monitoring 中跟踪待处理对象、模型执行次数和处理状态,请参阅监控对象丰富化指标。
- 解决问题:如果缺少丰富功能或遇到权限错误,请参阅排查对象丰富功能问题。