您可以使用对象丰富化功能自动生成结构化元数据,而无需构建自定义机器学习流水线。 对象丰富化功能会将 Google 的预训练机器学习模型直接应用于您存储的对象,帮助您大规模搜索、整理和管理非结构化数据。
如需开始为对象生成元数据,请参阅 配置对象丰富化。
工作原理
如需使用对象丰富化功能,您需要使用系统的以下部分:
- **功能配置 (
FeatureConfig)**:您 需要创建功能配置,以指定 Cloud Storage 监控的存储桶或项目。 - 机器学习模型:在配置中,您可以选择要应用的模型 ,例如检测对象、为图片加标签 、分析人脸或对 PDF 文档进行分类的模型。
- 对象丰富化(元数据):Cloud Storage 会异步扫描 您的对象,并使用您 选择的模型评估符合条件的对象。然后,Cloud Storage 会将生成的元数据 直接作为 对象上下文附加到您的对象。
Cloud Storage 将丰富化元数据附加到您的对象后,元数据即可供使用。您可以检查单个对象丰富化,也可以 使用 Storage Insights 数据集在 BigQuery 中使用 SQL 分析数百万个 对象的元数据。
下图展示了 Cloud Storage 如何使用对象丰富化功能从非结构化数据中提取上下文,并将其存储为对象上下文,以用于下游 AI 和分析工作流:
支持的模型
创建功能配置时,您可以选择最符合您的数据和分析目标的机器学习模型。Cloud Storage 会使用您选择的模型评估符合条件的对象,并在 contexts.custom 下生成结构化元数据。
支持的模型表列出了每个模型、其检测内容和示例输出数据。如需了解详细的架构定义和上下文键,请参阅 支持的模型和架构。
| 模型 | 说明 | 示例输出数据 |
|---|---|---|
| 对象检测 | 检测图片中的多个对象,并提供其位置和矩形边界。 | 产品、动物、人 |
| 为图片加标签 | 检测并提取图片中有关实体的信息,涵盖广泛的类别,例如对象、位置和活动。 | 风景、城市、夜晚 |
| 人脸检测 | 检测图片中的人脸,包括边界多边形、面部特征(眼睛、鼻子、嘴巴)、方向角度和表情可能性。 | 人脸数量、侧倾和倾斜角度 |
| 露骨内容检测 | 评估图片中是否存在敏感或不当内容,包括成人内容或暴力内容。 | 成人内容和暴力内容可能性评级 |
| PDF 分类 | 根据 PDF 文档的内容,将其分类到标准业务和行业类别。 | 财务、税务、发票(类别和得分) |
使用场景
您可以使用对象丰富化功能简化非结构化数据管理,并为以下下游分析和 AI 工作流准备对象:
- 整理和编目未整理的对象:自动对 PDF 文档(例如发票、银行对账单和税务 表格)和图片集合进行分类。您可以使用这些分类在存储桶中构建可搜索的 Data Catalog,而无需编写自定义代码。
- 为 AI 智能体建立依据并改进搜索:将杂乱无章的文档存储库转变为结构化知识库。您可以使用文档类别和图片标签在检索增强生成 (RAG) 期间改进检索,并为生成式 AI 应用提供基础。
- 为生成式 AI 抽样和准备数据:区分 文档类型,以便在将内容路由到 大型语言模型 (LLM) 或人工审核之前执行分层抽样。
- 精选机器学习训练数据集:按分类或视觉标签过滤和细分图片和文档,以组装特定领域的训练数据集,用于模型微调。
- 扫描敏感或露骨内容:自动检查上传的 图片中是否存在不当内容,以支持您的内容审核和 安全政策。
- 增强多模态提示:在提示 Gemini 等多模态模型时,传递结构化元数据(例如边界框和文档类别)作为上下文。
- 简化数据架构:通过直接在 Cloud Storage 中生成元数据,消除自定义注入流水线和 计算基础架构。
查询和分析元数据
Cloud Storage 会将对象丰富化功能直接 作为 对象上下文附加到您的对象。根据您的规模和工作流,您可以通过以下方式访问和分析此元数据:
- 检查单个对象:使用 Google Cloud 控制台或 Cloud Storage API 检查特定对象的丰富化。如需了解相关说明,请参阅管理对象丰富化。
- 使用 SQL 大规模分析:使用 Storage Insights 数据集将
数百万或数十亿个对象的元数据直接导出到
BigQuery。Storage Insights 导出元数据后,您可以使用标准 SQL 查询
object_contexts_catalog_view视图。 例如,您可以搜索标签、按类别过滤或查找置信度较高的对象。
如需开始使用 SQL 查询和示例配方,请参阅 在 BigQuery 中分析对象丰富化。
注意事项和限制
在配置对象丰富化功能之前,请查看以下操作注意事项:
处理位置
对象丰富化功能在三个地理位置处理数据:us、eu 和 asia。选择处理位置时,请注意以下事项:
- 合规性:确保您选择的处理位置符合您的 监管和数据主权要求。
- 性能:选择距离存储桶 存储区域最近的处理位置。
- 费用:为避免重复收费,请为每个存储桶和模型仅配置一个处理位置 。如果您为同一存储桶和模型配置多个位置,Cloud Storage 会在每个位置处理您的对象,并按每次运行向您收费。
处理和性能
请查看以下有关内容类型、对象大小和处理时间表的限制:
异步处理:Cloud Storage 会 异步处理对象。
对象大小限制:对象(图片和 PDF)的大小必须为 20 MiB 或 更小。
支持的内容类型:Cloud Storage 使用对象上设置的
Content-Type元数据字段来确定是否对其进行评估。如果对象的Content-Type无效或缺失,即使底层数据是有效的图片或 PDF,Cloud Storage 也不会处理该对象。为确保 Cloud Storage 处理该对象,请将Content-Type元数据更新为以下受支持的类型之一:- 图片:BMP、GIF、ICO、JPEG、PNG、TIFF 和 WEBP。
- 文档:PDF (
application/pdf)。
不受支持的功能
对象丰富化功能与以下存储桶类型和操作不兼容:
- 存储桶重定位:对象丰富化功能与 存储桶重定位不兼容。在重定位存储桶之前,请从功能配置中移除该存储桶。
- 不受支持的存储桶类型:您无法在 Rapid 存储桶或启用了分层命名空间的存储桶上启用对象丰富化功能。
配置和范围管理
在功能配置中定义和维护目标存储桶时,需要满足以下要求:
- 存储桶范围:在功能 配置中指定确切的存储桶名称。Cloud Storage 不支持正则表达式或通配符模式。
- 存储桶生命周期:Cloud Storage 不会自动将新创建、重新创建或重定位的存储桶添加到现有配置。您必须更新功能配置以包含这些存储桶。
费用和安全性
请查看以下有关加密密钥和数据访问费用的操作详情:
- 客户提供的密钥 (CSEK):对象丰富化功能不 支持使用客户提供的加密密钥加密的对象。
- 存储访问和 Autoclass:如需生成元数据, 对象丰富化功能会读取您的对象数据。这些读取操作会产生标准数据访问费用。此外,如果您的存储桶启用了 Autoclass,这些读取操作会触发存储类别转换。
价格
使用对象丰富化功能会产生模型推理、元数据存储、数据访问操作和网络费用。如需了解更多 信息,请参阅价格。
监控和问题排查
如需跟踪元数据生成进度并在配置对象丰富化功能时解决问题,请使用以下资源: