Gemini Enterprise Agent Platform 上 RAG 引擎中的部署模式

Gemini Enterprise Agent Platform 上的 RAG 引擎提供了不同的部署模式来运行 RAG 实例。您选择的部署模式决定了数据的存储位置、存储空间如何随数据增长而扩缩，以及您需要的基础设施管理级别。通过了解这些模式的运作方式，您可以为项目选择合适的简单性、可伸缩性和成本平衡。

RAG 引擎提供两种部署模式：无服务器模式和 Spanner 模式。您可以在这两种模式之间无缝切换。每种模式中的数据与其他模式中的数据保持隔离。

可用的部署模式

在本部分中，我们将讨论 RAG Engine 的两种部署模式：

无服务器模式

无服务器模式是刚开始使用 RAG 引擎时最经济实惠且最推荐的方式。它提供全代管式式企业级数据库，可抽象化所有数据库预配和伸缩。

  • 最适合：大多数用户，可快速完成初始配置，并实现无缝伸缩，无需管理基础架构配置。
  • 主要特点：无需进行分层管理。它会自动使用 RAG 托管式 Vector Search 作为默认向量数据库，以提供简化的开箱即用型 RAG 体验。

在无服务器模式下，RAG 管理的数据库用于管理 RAG 业务运营和存储 RAG 资源。这些资源包括（但不限于）RagCorpus、RagFiles、RagMetadata、DataSchema 等。但它不再可用于嵌入索引和向量搜索。

用户始终需要单独选择其他向量数据库。在无服务器模式下，RAG 引擎默认会在您的项目中预配一个 Vector Search 2.0 集合，用于嵌入索引编制和向量搜索。与 Spanner 模式相比，在项目中预配 Vector Search 2.0 可让您全面了解并掌控向量数据库的使用情况和费用。如需详细比较，请参阅Spanner 模式与无服务器模式部分。

Spanner 模式

Spanner 模式会分配专用 Spanner 基础架构，专门用作 RAG 引擎部署的基础。它专为需要特定合规性功能（例如 CMEK）或专用隔离数据库实例的工作负载而设计。如果未明确选择模式，系统会默认分配 Spanner 模式。

使用 Spanner 模式时，您必须通过选择性能层来管理基础架构：

  • 基本层级（默认）：一种固定且经济实惠的低计算层级，适合实验、小规模数据或对延迟时间不敏感的工作负载。
  • 扩缩层级：提供生产规模的性能以及自动扩缩功能。适合拥有大量数据或对性能要求较高的工作负载的客户。

数据隔离和切换模式

只要当前部署模式下没有正在进行的操作，RAG 引擎就允许您切换项目的部署模式。您可以同时拥有两种模式下的数据。不过，一次只能有一种模式处于有效状态，并且部署模式之间的数据是严格隔离的。

作为一种实用工具，您可以将项目想象成具有两个完全独立的后端。您创建的资源（语料库、导入和上传的文件以及解析后的嵌入内容）会永久绑定到创建时处于活动状态的部署模式。任何直接或通过 Gemini 发出的检索请求也将仅限于当前部署模式下的语料库和文件。在两种模式之间切换不会将数据迁移到另一种模式，也不会删除另一种模式中的数据。

/gemini-enterprise-agent-platform/images/rag-engine-deployment-modes.png

如图所示：

  • 统一 API：您可以使用完全相同的 Agent Platform RAG API 来创建和管理资源。API 会自动将您的请求路由到与有效部署模式关联的后端。
  • 可见性：如果无服务器模式处于有效状态，您的应用只能看到 RagCorpus A 和 B 并与之互动。在 Spanner 模式下创建的 RagCorpus C 会继续安全存储，但会完全隐藏，并且在您将项目的模式切换回 Spanner 之前，您的应用无法访问该语料库。
  • 不会丢失数据：切换模式不会删除您的数据，只会更改 API 所使用的“后端”。

管理部署模式

部署模式是一项项目级设置。您可以使用 GetRagEngineConfig 和 UpdateRagEngineConfig API 查看或更改当前模式。如需详细了解如何在部署模式之间切换，以及如何为 Spanner 模式选择合适的层级，请参阅在模式之间切换页面。

删除数据并停止结算

由于数据在模式之间是隔离的，因此清理资源和停止结算的流程会因数据存储位置而略有不同。

  • 如需删除无服务器数据：请确保您的活动模式设置为无服务器。调用 ListRagCorpora API 以查看您的资源，然后使用 DeleteRagCorpus API 手动删除每个知识库。
  • 如需删除 Spanner 数据（取消预配）：请确保您的活动模式设置为 Spanner。更新您的 RagEngineConfig 并将 Spanner 层级设置为 Unprovisioned。这会立即删除您的专用 Spanner 实例及其包含的所有 RAG 数据，并停止与 Spanner 模式相关的所有结算。注意：使用“未预配”层级删除的数据无法恢复。

Spanner 模式与无服务器模式

功能 无服务器模式 Spanner 模式
费用
  • 免费用于资源管理和编排。
  • 根据用户选择直接结算的向量数据库。
  • 价格取决于选择的层级。包含资源管理和编排。
  • 如果选择 RagManagedDb 作为向量数据库，则所有语料库的向量数据库费用都包含在内。
  • 对于其余语料库，向量数据库会根据用户选择的数据库直接结算。
扩缩 全代管式自动扩缩 需要配置层级选择，但提供自动扩缩层级。
隔离 存储空间未隔离 提供存储和性能隔离。
CMEK 目前没有 CMEK 提供 CMEK 支持
VPC 安全控制措施 支持 支持
支持的向量数据库
  • Managed Vector Search 2.0（默认）
  • Pinecone
  • Weaviate
  • RagManagedDb（默认）
  • Managed Vector Search 2.0
  • Vector Search 1.0
  • Pinecone
  • Weaviate

后续步骤