Gemini Enterprise Agent Platform 上 RAG 引擎中的部署模式

Gemini Enterprise Agent Platform 上的 RAG 引擎提供了不同的部署模式，用于运行 RAG 实例。您选择的部署模式决定了数据的存储位置、存储空间如何随着数据增长而扩缩，以及您需要进行何种程度的基础设施管理。了解这些模式的运作方式后，您就可以为项目选择合适的模式，在简单性、可伸缩性和成本之间取得平衡。

RAG 引擎提供两种部署模式：无服务器模式和 Spanner 模式。您可以在这两种模式之间无缝切换。每个模式中的数据都与其他模式中的数据保持隔离。

可用的部署模式

在本部分中，我们将讨论 RAG Engine 的两种部署模式：

无服务器模式

刚开始使用 RAG 引擎时，建议使用无服务器模式，这是最经济实惠的方式。它提供全代管式、全球规模的企业级数据库，可抽象化所有数据库预配和伸缩。

  • 最适合：大多数用户、快速上手以及无缝伸缩，无需管理基础设施配置。
  • 主要功能：无需层级管理。它会自动使用 RAG 托管式 Vector Search 作为默认向量数据库，提供开箱即用的精简 RAG 体验。

在无服务器模式下，RAG 管理的数据库用于管理 RAG 经营活动和存储 RAG 资源。这些资源包括（但不限于）RagCorpus、RagFiles、RagMetadata、DataSchema 等。但它不能再用于嵌入索引和 Vector Search。

用户始终需要单独选择其他向量数据库。在无服务器模式下，RAG 引擎默认会在您的项目中预配一个 Vector Search 2.0 集合，用于嵌入索引编制和向量搜索。与 Spanner 模式相比，在项目中预配 Vector Search 2.0 可让您全面了解和控制向量数据库的使用情况和费用。如需详细比较，请参阅 Spanner 模式与无服务器模式部分。

Spanner 模式

Spanner 模式会分配专用的 Spanner 基础架构，专门作为 RAG 引擎部署的基础。它专为需要特定合规性功能（例如 CMEK）或专用、隔离数据库实例的工作负载而设计。如果未明确选择模式，系统会默认分配 Spanner 模式。

使用 Spanner 模式时，您必须选择性能层级来管理基础架构：

  • 基本层级（默认）：固定、经济实惠、低计算量的层级，适合实验、小数据量或对延迟不敏感的工作负载。
  • 规模层级：提供生产规模的性能以及自动扩缩功能。它适用于拥有大量数据或对性能要求较高的工作负载的客户。

数据隔离和切换模式

只要当前部署模式下没有正在进行的操作，RAG Engine 就允许您切换项目的部署模式。您可以在这两种模式下都拥有数据。不过，一次只能启用一种模式，并且不同部署模式之间的数据严格隔离。

为了便于理解，您可以想象您的项目有两个完全独立的后端。您创建的资源（语料库、导入和上传的文件以及解析的嵌入）会永久绑定到创建时处于活跃状态的部署模式。任何直接或通过 Gemini 发出的检索请求也将仅限于当前部署模式下存在的语料库和文件。在这两种模式之间切换不会迁移您的数据，也不会删除其他模式中的数据。

/gemini-enterprise-agent-platform/images/rag-engine-deployment-modes.png

如上图所示：

  • 统一 API：您可以使用完全相同的 Agent Platform RAG API 来创建和管理资源。该 API 会自动将您的请求路由到与您的有效部署模式关联的后端。
  • 可见性：如果无服务器模式处于活跃状态，您的应用只能看到 RagCorpus A 和 B 并与之交互。在 Spanner 模式下创建的 RagCorpus C 仍会安全存储，但会完全隐藏，并且您的应用无法访问，直到您将项目的模式切换回 Spanner。
  • 不会丢失数据：切换模式不会删除您的数据。它只是更改了 API 所查看的“后端”。

管理部署模式

部署模式是一项项目级设置。您可以使用 GetRagEngineConfig 和 UpdateRagEngineConfig API 查看或更改当前模式。如需详细了解如何在部署模式之间切换以及如何为 Spanner 模式选择合适的层级，请参阅在模式之间切换页面。

删除数据并停止结算

由于数据在不同模式之间是隔离的，因此清理资源和停止结算的过程会因数据所在的位置而略有不同。

  • 如需删除无服务器数据：请确保您的活跃模式已设置为“无服务器”。调用 ListRagCorpora API 查看您的资源，然后使用 DeleteRagCorpus API 手动删除每个语料库。
  • 删除 Spanner 数据（取消预配）：确保您的活跃模式设置为 Spanner。更新 RagEngineConfig 并将 Spanner 层级设置为 Unprovisioned。此操作会立即删除您的专用 Spanner 实例以及其中存储的所有 RAG 数据，并停止 Spanner 模式的所有相关结算。注意：使用未预配层级删除的数据无法恢复。

Spanner 模式与无服务器模式

功能 无服务器模式 Spanner 模式
费用
  • 免费用于资源管理和编排。
  • 向量数据库根据用户选择直接计费。
  • 价格取决于所选层级。包括资源管理和编排。
  • 对于选择 RagManagedDb 作为向量数据库的所有语料库，向量数据库费用均已涵盖。
  • 对于其余语料库，向量数据库会根据用户选择的数据库直接计费。
扩缩 全托管式自动扩缩 需要配置层级选择，但提供自动扩缩层级。
隔离 存储空间未隔离 提供存储和性能隔离。
CMEK 目前没有 CMEK 提供 CMEK 支持
VPC 安全控制措施 支持 支持
支持的向量数据库
  • Managed Vector Search 2.0（默认）
  • Pinecone
  • Weaviate
  • RagManagedDb（默认）
  • Managed Vector Search 2.0
  • Vector Search 1.0
  • Pinecone
  • Weaviate

后续步骤