GDC 网闸隔离配置的解决方案概览

Google Distributed Cloud (GDC) 网闸隔离配置解决方案指南弥合了开箱即用的产品功能与可用于生产用途的企业架构之间的差距。这些指南为平台管理员和应用运维人员提供了概念框架、参考架构和实际实施步骤,以便在 GDC 网闸隔离环境中运行关键工作负载。

解决方案指南遵循严格的性能、安全性和数据主权要求。

文档类型

解决方案通过三种互补的文档类型进行记录:

  • 参考架构:概述了部署解决方案的设计原则、系统拓扑、组件交互和安全控制措施的架构蓝图。
  • 参考实现:有关在 GDC 集群上安装、配置和验证基础设施、依赖项和软件部署的分步指南。
  • 用户指南:投产后运维指南,涵盖实际管理、服务配置、监控、伸缩和持续维护。

可用的解决方案

以下各部分列出了 GDC 网闸隔离配置的可用解决方案指南,这些指南按与 Google Cloud 架构中心匹配的技术领域进行整理。

AI 和机器学习

  • AI Gateway
    • 参考架构:针对大语言模型 (LLM) 的集中式路由、协议中介和流量管理。
    • Envoy
  • Elastic Stack
    • 参考架构:用于部署 Elastic Stack 并将其与 LLM 服务集成以启用 Elastic 的生成式 AI 功能的架构。
    • 参考实现:部署 Elastic Stack 并将其与 LLM 服务集成,以评估 Elastic 的生成式 AI 功能。
  • 开放权重模型
    • 参考架构:用于部署和提供开放权重大语言模型的架构。
    • Ollama
      • 参考实现:部署 Ollama,在标准集群上提供开放权重模型。
      • Gemma 模型:使用 Ollama 部署 Gemma 4 模型;在一个指南中选择模型和 GPU 选项。
    • vLLM
      • 参考实现:部署 vLLM,在配备 GPU 的标准集群上提供高吞吐量模型推理。
      • Gemma 模型:使用 vLLM 部署 Gemma 4 模型;在一份指南中选择模型和 GPU 选项。
      • Mistral 模型:使用 vLLM 提供 Mistral 7B、Mistral NeMo 12B、Mistral Small 3.2 24B、Ministral 8B、Mixtral 8x7B 或 Magistral Small 1.2;在一份指南中选择模型和 GPU 选项。
    • Open WebUI:部署和配置 Open WebUI,以便与 Ollama 和 vLLM 提供的模型进行交互。

数据库

网络

  • 自行管理的第 7 层负载均衡

安全和 IAM

  • Keyfactor EJBCA
    • 参考架构:公钥基础架构 (PKI) 和证书授权机构架构。
    • 参考实现:部署 Keyfactor EJBCA 以进行企业证书生命周期管理。