在 Compute Engine 中部署资源时,您可以选择托管资源的区域和可用区。此决策决定了数据的存储和处理位置,并直接影响应用的可靠性、延迟时间、费用和环境足迹。
本指南概述了为工作负载选择 Google Cloud区域和可用区的标准和最佳实践。
术语
区域:由多个可用区(通常为三个或更多)组成的独立地理区域。将资源部署在不同区域中可以实现故障独立性和地理灾难恢复。
可用区:区域内的部署范围。同一区域中的可用区之间有着高带宽、低延迟网络连接。 Google Cloud 会设计可用区,以最大限度地降低因物理基础设施事件(如电力、制冷或网络中断)而导致的故障。
AI 可用区:与标准可用区在地理位置上分隔开的专用可用区,可提供高密度 GPU 和 TPU 容量,用于大规模训练和批量推理。AI 可用区与指定的父级可用区共享基础设施,并且需要启用 AI 可用区可见性。如需了解详情,请参阅 AI 可用区。
往返时间 (RTT):发送 IP 数据包并收到确认所需的时间。
何时选择区域和可用区
在架构阶段早期,决定要使用多少个以及哪些 Compute Engine 区域和可用区。请查看以下注意事项:
- 数据一致性和复制:多区域架构需要跨地理距离同步或分片数据的机制。
- 费用影响:资源价格和跨区域数据传输费用因位置而异。
- 迁移开销:在区域之间移动实时工作负载和数据在操作上很复杂,并且会产生停机时间或出站流量费用。
选择区域和可用区时应考虑的因素
在规划部署时,请考虑以下核心因素:
高可用性和容错能力
- 当您需要应对局部服务中断时:选择在单个区域内的多个可用区中部署实例,这样,如果一个可用区发生故障,其他可用区仍可正常运行。
- 当您有业务关键型灾难恢复需求时:选择次要区域来部署备份服务或多区域副本。
用户和网络延迟
- 当用户集中在某个地理位置时:选择地理位置附近的区域,以最大限度地缩短往返时间。
- 当您从一个位置为全球用户群提供服务时:选择美国区域,因为这些区域通常提供最佳的全球连接。
- 如果您有企业混合环境:请根据与使用 Cloud Interconnect 或 Cloud VPN 连接的本地系统的最低延迟来选择区域。
人工智能 (AI) 和机器学习 (ML) 加速的机器系列可用性
- 当您需要特定的标准机器系列时:请先验证目标可用区是否支持您所需的机器系列(例如 C4、C3、N4 或 M3),然后再选择目标可用区。
- 运行 AI 和机器学习训练工作负载时:选择支持加速器优化型机器系列(例如配备 NVIDIA B200 GPU 的 A4 或配备 NVIDIA H200/H100 GPU 的 A3)或 TPU(例如 TPU v6e 或 TPU v5p)的区域。对于大规模训练,请考虑使用具有专用 AI 可用区的区域,或使用动态工作负载调度器 (DWS) 提前确保容量。
- 运行实时推理工作负载时:优先选择靠近用户群的标准可用区,并使用推理优化型实例(例如配备 NVIDIA L4 GPU 的 G2),而不是 AI 可用区,以防止后端服务出现可用区间延迟。
价格和数据传输费用
- 当您希望最大限度地降低网络费用时:选择在单个可用区内(免费)或在同一区域内(费用最低)进行通信,因为跨越不同区域会产生更高的区域间数据传输费用。
与其他服务共置
- 当您依赖其他 Google Cloud 服务(例如 Spanner、Cloud SQL、BigQuery 或 Cloud Storage)时:选择将 Compute Engine 资源与这些依赖服务共置于同一区域,以避免跨服务延迟并消除跨区域出站流量费用。
资源配额和容量
- 规划发布时:选择您已提前验证并请求了足够区域级和可用区级资源配额的区域。
无碳能源百分比 (CFE%)
- 当您希望优先考虑可持续性时:选择 CFE% 较高的区域,以减少应用的总碳足迹。
自动位置选择
Compute Engine 提供了内置机制,可根据实时容量和可用性自动选择最佳可用区:
- Google Cloud 控制台(“不限”可用区):在Google Cloud 控制台中创建实例时,在可用区选择器中选择不限。Compute Engine 会自动在具有足够容量的可用区中为所选机器类型预配实例。
- 区域级托管式实例组 (MIG):为区域级 MIG 配置目标分布形状(
ANY、BALANCED或ANY_SINGLE_ZONE),让 MIG 自动在可用区中部署实例。 - 批量实例创建 API:同时创建多个实例时,请将区域级端点与批量创建 API 搭配使用,以便在具有可用容量的可用区之间自动分配实例。
全球部署模式
根据您的延迟时间和弹性要求,选择以下架构模型之一:
模式 1:单区域部署
在单个区域的多个可用区中部署应用前端和后端。
- 最适合:对延迟容忍度中等的应用、内部企业工具或具有集中式事务数据库的工作负载。
- 优化:与 Cloud Load Balancing 和 Cloud CDN 结合使用,可在边缘入网点 (PoP) 终止 SSL/TCP 会话,并在用户附近缓存静态资源。
模式 2:分布式前端和集中式后端
在靠近用户的多个地理区域部署前端服务器,同时在单个区域中维护集中式后端和数据库。
- 最适合:主要处理读取请求、采用激进的边缘或前端缓存或异步处理写入的应用。
- 优化:使用 Cloud CDN 缓存静态资源,并使用 Memorystore 在前端所在的区域缓存频繁访问的数据。
模式 3:多区域中的分布式前端和后端
跨多个区域部署全栈前端和后端服务。
- 最适合:高吞吐量、全球分布式应用,要求在全球范围内实现最低延迟。
- 数据存储区:使用全球分布式数据库(例如 Spanner 多区域配置或 Cloud Storage 双区域或多区域位置)提供跨大洲的同步本地读写功能。
模式 4:多个并行区域应用
在不同区域运行完全独立、自包含的应用堆栈,以最少的跨区域数据同步将用户路由到其本地分区。
- 最适合:多租户 SaaS 平台、具有本地商品目录的多区域零售店或实时多人游戏世界。
- 数据存储区:使用 Cloud SQL 在每个区域中提供 PostgreSQL、SQL Server 和 MySQL 数据库。
优化和衡量延迟时间
无论使用何种部署模型,您都可以应用以下方法来最大限度地减少最终用户延迟:
- 使用高级层级网络:高级层级(默认)通过 Google 的专用全球光纤骨干网(而非公共中转互联网)路由流量,从而确保更低的延迟和更少的丟包。
- 在边缘终止连接:使用外部应用负载均衡器和 Cloud CDN 终止 TLS 握手,并从最靠近用户的边缘 PoP 提供缓存内容。
- 实现内存缓存:将 Memorystore for Redis 或 Memcache 集群放置在与计算资源相同的区域中,以消除重复的数据库往返。
- 测量实际延迟时间:
- 使用 VPC 流日志检查客户端与实例之间的 TCP 往返时间。
- 在负载均衡器上启用自定义请求标头,以记录客户端 RTT 和地理位置数据。
- 使用负载均衡器的 Cloud Monitoring 指标(
frontend_tcp_rtt和backend_latencies)。
分步选择核对清单
请按照这份分步核对清单,最终确定您选择的区域和可用区:
- 规划容量:使用动态工作负载调度器 (DWS) 日历模式进行可预测的未来预留,或使用灵活启动模式进行排队的批量作业,并使用控制台容量顾问发现和规划容量。
- 确定合规性和数据驻留要求:确保候选区域符合相关数据主权和监管规则。
- 根据用户集中度选择主要区域:将服务放置在为核心用户群提供最低 RTT 中位数的区域。
- 设计弹性:
- 在每个所选区域中,将计算实例分布在至少两到三个可用区中。
- 对于关键工作负载,请建立次要故障切换区域。
- 评估价格和可持续性:如果多个区域符合您的技术标准,请比较资源价格和无碳能源百分比 (CFE%),以做出最终选择。
最佳做法摘要
| 类别 | 推荐做法 |
|---|---|
| 弹性和高可用性 | 将实例分布在一个区域内的至少三个可用区中,以防范基础架构服务中断。在次要区域中部署,以实现跨区域灾难恢复。 |
| 自动选择可用区 | 使用控制台中的任意可用区选项、区域级 MIG 分布形状或批量实例创建 API,自动选择具有可用容量的可用区。 |
| AI 和机器学习工作负载 | 对于大规模训练,请选择具有专用 AI 可用区的区域,或使用动态工作负载调度器 (DWS) 调度 GPU 和 TPU 容量。对于实时推理,请在靠近用户的标准可用区中部署推理优化型机器系列(例如 G2)。 |
| 延迟时间优化 | 使用高级层级网络、外部应用负载均衡和 Cloud CDN 在 Google 边缘 PoP 终止会话并缓存资产。 |
| 费用管理 | 将服务内通信保持在同一可用区或区域内,以避免产生跨区域网络出站流量费用。 |
| 可持续发展 | 优先选择无碳能源百分比 (CFE%) 较高的区域,以最大限度地减少对环境的影响。 |
后续步骤
- 查看所有可用的 Compute Engine 区域和可用区。
- 了解如何在 Google Cloud上设计弹性系统。
- 了解如何通过 Cloud Load Balancing 优化应用延迟。
- 探索Google Cloud 区域碳足迹和 CFE%。
对于为 AI/机器学习工作负载选择区域的架构师: