AI Hypercomputer 提供多種取得運算資源的計費模式。這些選項可滿足工作負載持續時間、容錯能力和基礎架構模型等需求。瞭解這些選項，並選擇最適合您用途的選項。
除了手動評估，您也可以在Google Cloud 控制台提示 Gemini，比較工作負載和預算的用量選項。詳情請參閱「使用 Compute Advisor 設計 AI 基礎架構」。
計費模式總覽
如要比較不同計費方案的主要特性，請參閱下表：
| 計費方案 | 佈建模型 | 適用情境 | 容量保證 | 效期 | 先占 | 配額 | 折扣 | 分配模式 |
|---|---|---|---|---|---|---|---|---|
| 彈性啟動 | 彈性啟動 | 可等待運算資源釋出的短期工作負載 (最長七天)。 | 盡可能提供最佳服務 | 最多七天 | 否 | 先占配額 | 支援的系列可享折扣 (最高 53%) | MIG 大小調整要求為密集；獨立 VM 則盡力而為。 |
| Spot VM | Spot | 容錯、短時間的一般 GPU 工作負載。 | 盡可能提供最佳服務 | 先占 | 是 | 先占配額 | 大幅折扣 (最高 91%) | 標準 |
| 標準預訂 | 標準 | 需要極高容量保證的重要一般 GPU 工作負載。 | 極高 | 無限制 | 否 | 未耗用配額 | 承諾使用折扣 (CUD) 折扣費率 | 標準 |
| 未來預留項目 (適用於容量區塊) | 取決於預留項目 | 在叢集式 GPU 執行大規模、長時間的訓練。 | 極高 | 預留期間內不限次數。 | 否 | 在傳送前提高配額 | CUD 折扣 (最高 53%) | 稠密 |
| 日曆模式的未來預留項目 | 取決於預留項目 | 叢集式 GPU 工作負載，最長 90 天。 | 極高 | 最多 90 天 | 否 | 未耗用配額 | 折扣 (最高 53%) | 稠密 |
| 隨選 VM | 標準 | 一般 GPU 工作負載，沒有特定時間長度。 | 盡可能提供最佳服務 | 無限制 | 否 | 隨選配額 | 無 (即付即用) | 標準 |
部署基礎架構時，應根據您使用的是一般 GPU 還是叢集式 GPU，選擇合適的使用模式。
一般 GPU：專為小規模推論、開發和小規模訓練工作負載設計。這類 GPU 透過非同步維護提供作業彈性。如要查看可用選項，請參閱「一般 GPU 的計費模式」。
叢集式 GPU：專為大規模、緊密耦合的訓練工作負載，以及大規模推論、強化學習和推論模型工作負載設計，這些工作負載需要高容量保證和密集資源分配，才能盡可能降低網路延遲。如要查看可用選項，請參閱「叢集式 GPU 的使用選項」。
一般 GPU 的計費模式
請使用下列用量選項，取得一般 GPU 的運算能力。
使用彈性啟動
如要執行需要密集分配資源的短期工作負載，您可以使用彈性啟動要求最多七天的運算資源。只要有可用資源，Compute Engine 就會建立您要求的 VM 數量。您可以停止獨立的彈性啟動型 VM，但無法停止代管執行個體群組 (MIG) 透過大小調整要求建立的彈性啟動型 VM。彈性啟動型 VM 會持續存在，直到您刪除，或 Compute Engine 在執行時間結束時刪除 VM。
適合的工作負載
- 小型模型預先訓練
- 模型微調
- 高效能運算 (HPC) 模擬
- 批次推論
主要特性
- 佈建模式：彈性啟動。
- 廣泛的硬體支援：可要求任何叢集式 GPU 機型，但 A5X、A4X Max 和 A4X 除外。
- 延遲時間最佳化：對獨立 VM 套用密集配置政策，盡可能縮短網路延遲時間。
- 成本效益：A4、A3、A2 和 G4 機器系列的 vCPU、記憶體、GPU 和本機 SSD 磁碟，可享高達 53% 的折扣。其他支援的系列則適用標準隨選費率。詳情請參閱「彈性啟動定價」。
使用 Spot
如要執行容錯工作負載，您可以根據可用性立即取得運算資源。您能以最低價格取得資源。不過，Compute Engine 隨時可能會先占 VM，以取回資源。
適合的工作負載
- 批次處理和資料分析
- 高效能運算 (HPC) 和媒體編碼
主要特性
- 佈建模式：Spot。
- 廣泛的硬體支援：可要求任何叢集式 GPU 機型，但 A5X、A4X Max 和 A4X 除外。
- 延遲時間最佳化：對獨立 VM 套用密集配置政策，盡可能縮短網路延遲時間。
- 成本效益：vCPU、記憶體、GPU 和本機 SSD 磁碟可享高達 91% 的折扣。
按照需求使用
提示：如要提高取得一般 GPU 資源的機率，請使用彈性啟動或 Spot。與隨選定價相比，這些使用選項提供 GPU 折扣價，可提高您取得 GPU 等高需求資源的機會。
如要執行沒有特定時間長度的工作負載，您可以根據可用性立即取得運算資源。VM 會持續執行，直到您停止或刪除為止。
適合的工作負載
- 推論和提供模型
- 原型設計與實驗
主要特性
- 佈建模式：標準。
- 立即可用：立即建立 VM 執行個體，無須等待容量排程或核准。
- 標準定價：以標準隨選費率支付資源費用，不需長期承諾使用。
- 廣泛的硬體支援：可與一般 GPU 路徑中任何支援的 GPU 機器系列搭配使用。
使用標準預留項目
如要執行重要的一般 GPU 工作負載，且需要極高的容量保證，可以使用標準預留項目。
適合的工作負載
- 重要正式環境工作負載
- 需要保證容量的工作負載
主要特性
- 佈建模式：標準。
- 用量保證：提供極高的資源可用性保證。
- 定價：適用標準費率，但您可以附加 CUD 來節省費用。
叢集式 GPU 的使用選項
請使用下列用量選項，取得叢集式 GPU 的容量。
使用未來預留項目預留容量區塊
如要執行長期大型分散式工作負載，且需要密集分配資源，您可以要求在未來日期和時間密集分配運算資源。在該期間內，您擁有預留資源的獨占存取權，可以使用這些資源建立 VM 或叢集。預留期限結束時，Compute Engine 會執行下列動作：
- Compute Engine 會刪除預留項目和任何相關聯的空白儲存空間集區。
- Compute Engine 會根據您為 VM 指定的終止動作，停止或刪除使用預留項目的任何 VM。
適合的工作負載
- 預先訓練基礎模型
- 跨多部主機對基礎模型進行推論
主要特性
- 佈建模型：取決於預留項目。
- 進階機器支援：預留 A5X、A4X Max、A4X、A4、A3 Ultra、A3 Mega 或 A3 High (8 個 GPU) 機型。
- Hyperdisk 預留項目：您可以預留 Hyperdisk 儲存空間集區或 Hyperdisk Exapool，以及運算容量，確保工作負載有足夠的儲存空間資源。Google 會將 Hyperdisk 集區與運算節點放在相同位置，以最佳化儲存空間效能。
- 承諾使用合約規定：如要享有運算資源和 Hyperdisk 集區的折扣，請為一年以上的預留項目附加依資源計算的承諾使用合約。
- 動態修改：在期間開始後，啟用 Vertex AI 工作用量的硬體緊急維護通知。
在日曆模式中使用未來預留項目
如要執行需要密集分配資源的短期分散式工作負載，最多可要求 90 天的運算資源。在該期間內，您擁有預留資源的獨占存取權，可以使用這些資源建立 VM 或叢集。預留期限結束時，Compute Engine 會執行下列操作：
- Compute Engine 會刪除預留項目。
- Compute Engine 會根據您為 VM 指定的終止動作，停止或刪除使用預留項目的任何 VM。
適合的工作負載
- 預先訓練和微調
- 大規模模擬和推論
主要特性
- 佈建模型：取決於預留項目。
- 支援的機器系列：預留 A4、A3 Ultra、A3 Mega 或 A3 High (8 個 GPU) 機型。
- 擴充性限制：最多可預留 80 個 VM，最長 90 天。
- 最佳化佈建：使用預留繫結模型，提高取得 GPU 的機率。
使用彈性啟動
如需密集分配資源，且使用時間不超過七天，請使用彈性啟動功能，對叢集代管執行個體群組 (MIG) 提出大小調整要求。
適合的工作負載
彈性啟動型 VM 適合執行可隨時啟動的工作負載，例如：
- 小型模型預先訓練
- 模型微調
- 高效能運算 (HPC) 模擬
- 批次推論
主要特性
- 佈建模式：彈性啟動。
- 資源分配：密集分配給 MIG 大小調整要求。
- 成本效益：A4、A3、A2 和 G4 機器系列可享高達 53% 的折扣，適用於 vCPU、記憶體、GPU 和任何連接的本機 SSD 磁碟。其他支援的機器系列則適用標準隨選費率。
使用 Spot
您可以將 Spot VM 用於密集分配的容錯工作負載，享有大幅折扣，但請注意，Compute Engine 可能會搶占 VM 以回收容量。
適合的工作負載
- 容錯分散式訓練
- 批次處理
主要特性
- 佈建模式：Spot。
- 先占：Compute Engine 可隨時先占執行個體。
- 成本效益：vCPU、記憶體、GPU 和任何連接的本機 SSD 磁碟，最多可享 91% 折扣
後續步驟
- 如要查看啟動叢集時的程序和選項，請參閱「規劃及建立 AI 基礎架構」。
- 如要建立及使用預留項目，請參閱「建立及使用預留項目」。
- 如要進一步瞭解 Spot VM，請參閱「進一步瞭解 Spot VM」。
- 如要建立隨選 VM 執行個體，請參閱「建立隨選 VM 執行個體」。