Compute Engine 執行個體的佈建模型

建立 Compute Engine 執行個體時，您必須定義要用來取得所需資源的方法，稱為「佈建模式」。每種佈建模式都會決定運算執行個體的可用性、生命週期和定價。

本文說明建立運算執行個體時，可指定的不同佈建模式。瞭解這些模型後，您就能為工作負載選擇最佳選項。

可用的佈建模式

建立運算執行個體時，您可以指定下列其中一種佈建模式。如未指定佈建模式，Compute Engine 預設會使用標準佈建模式。

  • 標準

  • Spot

  • 彈性啟動

  • 取決於預留項目

如要運用 AI 輔助功能，比較適合工作負載和預算的佈建模式，請在 Compute Advisor 執行下列提示：

Compute Advisor Compute Advisor 是採用 AI 賦能技術的助理，可根據配額限制、現有預留項目和資源位置限制等資訊，提供自訂的基礎架構建議。

這則提示會評估專案的配額和預留項目、比較不同佈建模式的可用性、生命週期和定價，並輸出 Markdown 比較表和建議。

你是雲端架構師。請根據專案配額、有效預留項目、承諾使用折扣 (CUD) 和預設區域，協助我為工作負載選取最佳 Compute Engine 佈建模式。

請提供下列資訊：

1. 專案就緒檢查：檢查專案的標準和先占配額、現有預留項目和 CUD，並找出哪些佈建模式有可用配額或有效預留項目，哪些需要增加配額或預留項目。

2. 佈建模式比較：根據我的專案和 VM 的機器系列，比較目前和可用的佈建模式及其特定特性，包括支援的機器系列、容量保證、放置密度、執行階段限制、配額需求和價格折扣。

3. 工作負載建議：針對持續性正式環境服務、短期加速器或 HPC 工作、容錯批次工作，以及長時間執行的密集訓練叢集，推薦最佳佈建模式。

請以 Markdown 表格格式呈現比較結果，並在結尾提出 2 到 3 個問題，詢問我的目標機器系列、執行階段和容錯能力，以便提供更精確的建議。
在 Compute Advisor 編輯及執行提示

下表可協助您比較各個佈建模式的用途和定價：

標準 Spot 彈性啟動 取決於預留項目
摘要
  • 您可以根據資源可用性，立即建立運算執行個體。
  • 您可以控管何時停止或刪除運算執行個體。
  • 您可以根據資源可用性，立即建立運算執行個體。
  • 您可以控制何時停止或刪除運算執行個體。不過，您也允許 Compute Engine 隨時停止或刪除運算執行個體，以取回資源。
  • 您可以根據資源可用性，在指定的等待時間內建立運算執行個體。如果是獨立的彈性啟動 VM，最多可以指定兩小時的等待時間。如果是 MIG，Compute Engine 會持續嘗試建立運算執行個體，直到資源可用或您取消建立要求為止。
  • 您可以控制何時停止或刪除運算執行個體。但無法停權或重新建立。運算執行個體最短會執行 10 分鐘，最長則為 7 天。運算執行個體達到執行時間長度上限時，Compute Engine 會根據終止動作停止或刪除執行個體。
  • 您可以要求在未來某個日期預留容量，以便建立運算執行個體。如果 Google Cloud 核准要求，Compute Engine 就會建立預留項目。預留項目生效後，您可以建立與預留項目相符的運算執行個體，藉此使用預留項目。
  • 在核准的預留期間，您可以視需要停止、重新啟動、刪除及重新建立運算執行個體，以使用預留項目。預留期限結束後，Compute Engine 會刪除預留項目，並根據終止動作停止或刪除使用預留項目的任何運算執行個體。
用途

適合需要穩定且持續運作的工作負載，例如：

  • 網路伺服器
  • 資料庫
  • 企業應用程式
  • 開發和測試

適合可容許中斷的工作負載，例如：

  • 批次處理
  • 高效能運算 (HPC)
  • 持續整合與持續部署 (CI/CD)
  • 資料分析
  • 媒體編碼
  • 線上推論

需要穩定性且執行時間不超過七天的工作負載，例如：

  • 小型模型預先訓練
  • 模型微調
  • HPC 模擬
  • 批次推論

適合需要穩定性和特定執行時間的工作負載，例如：

  • 工作負載時長不超過 90 天：

    • 模型預先訓練工作
    • 模型微調工作
    • HPC 模擬工作負載
    • 推論工作負載預期短期內會增加

  • 執行時間超過 90 天的工作負載：

    • 訓練工作負載
    • 推論工作負載
資源分配 盡力而為。Compute Engine 會盡可能將資源放在彼此相近的實體位置。如要控管位置，您可以視需要使用位置政策。 盡力而為。Compute Engine 會盡可能將資源放在彼此相近的實體位置。如要控管位置，您可以視需要使用位置政策。 盡可能密集。Compute Engine 會盡可能將資源密集放置在相近的位置。如要控管彈性啟動型 VM 的位置，您可以視需要使用下列其中一項： Dense：Compute Engine 會將資源實際放置在緊耦合的主機上，並透過高速網路架構連線，盡可能縮短網路延遲時間。
定價
  • 運算執行個體會按照標準定價計費，如果用量符合承諾使用折扣 (CUD) 資格，則會按照 1 年或 3 年 CUD 價格計費。請參閱 VM 執行個體定價。

  • 系統會根據您建立運算執行個體的方法收取費用：

    • 如果立即建立運算執行個體，則須依即付即用 (PAYG) 模式支付運算資源費用。
    • 如果您使用隨需預留項目或自動建立的未來預留項目建立運算執行個體，則只要預留項目存在，就會產生費用。如果預留項目附加至以資源為基礎的承諾使用合約，例如一年以上的未來預留容量區塊，則可享有適用的 1 年或 3 年承諾使用折扣價格。詳情請參閱「預留項目計費方式」。
  • C4、C3、M3 和 A3 機器系列可享高達 60% 的折扣。 詳情請參閱定價頁面。
  • 運算資源採即付即用 (PAYG) 計費模式。

  • 根據運算執行個體使用的機器類型，您可以享有下列折扣：

    • 如果是 A4、A3、A2、G4 和 TPU 機型，vCPU、記憶體、任何連接的加速器和本機 SSD 磁碟最多可享 47% 的折扣。
    • 如果是 H4D 機型，vCPU、記憶體和任何連接的本機 SSD 磁碟最多可享 25% 折扣。
    其他支援的機型不符合折扣資格。詳情請參閱「Dynamic Workload Scheduler (DWS) 定價」。
  • 運算資源採即付即用 (PAYG) 計費模式。
配額 建立運算執行個體時，會消耗標準配額。 建立 Spot VM 時，系統會耗用標準配額。 建立彈性啟動型 VM 時，會耗用先占配額。如果專案沒有可先占配額，則會消耗標準配額。

配額用量會因您預留資源的方法而異：

  • 容量區塊的未來預留項目：Google 會管理預留資源的配額。您不需要手動要求配額。在核准的未來預留項目開始時間，如果專案配額不足，Google 會自動提高配額。
  • 日曆模式的未來預留項目：如要預留 H4D 機型，系統會耗用 CPU 配額。如要預留 GPU 或 TPU 機型，則不需配額。

運算執行個體可用性和生命週期

下表列出各佈建模式的運算執行個體可用性和生命週期：

標準 Spot 彈性啟動 取決於預留項目
建立必要條件 建立時沒有任何條件限制。 建立時沒有任何條件限制。 建立時沒有任何條件限制。

如要建立運算執行個體，您必須先使用下列其中一種方法預留容量：

Compute Engine 會在您選擇的提供日期和時間，佈建您要求的容量。接著，您可以建立運算執行個體來使用容量。
支援的機器系列 您可以使用任何機器系列，但 A5X、A4X Max、A4X、A4 和 A3 Ultra 除外。 您可以使用所有機器系列 (C4、C3、M3 和 A3)。

只能使用下列機器系列：

視您預留容量來建立 VM 的方式而定，您只能使用下列機器系列：
運算執行個體可用性 只要要求的資源可用，您隨時可以建立運算執行個體。 只要要求的資源可用，您隨時可以建立運算執行個體。為降低發生資源可用性錯誤的機率，您可以在建立 Spot VM 前查看其可用性。

您可以按照下列方式建立運算執行個體：

Compute Engine 會使用 DWS，根據資源可用性排定所要求容量的佈建作業。DWS 可協助您取得 GPU 或 TPU 等高需求資源。

 您必須先預留未來日期的容量，才能建立運算執行個體。Compute Engine 會在您要求的日期提供所需容量，您可以使用這些容量建立運算執行個體。如果您在日曆模式中使用未來預留項目預留資源，Compute Engine 會使用 DWS 佈建您要求的容量。DWS 可協助您取得 GPU 或 TPU 等高需求資源。
容量保證 根據建立方法。容量保證會因您建立運算執行個體的方法而異，如下所示：
  • 如果您立即建立運算執行個體，Compute Engine 會盡力佈建您要求的容量。
  • 如果您透過使用隨需預留項目或自動建立的未來預留項目來建立運算執行個體，只要預留項目有可用的預留容量，Compute Engine 就會提供您要求的容量。
 盡力而為。建立 Spot VM 時，Compute Engine 會盡力佈建您要求的容量。 盡力而為。建立彈性啟動型 VM 時，Compute Engine 會盡可能排定佈建您要求的容量。 非常高。如果 Google Cloud 核准您的預留要求，Compute Engine 就會盡可能在您選擇的交付日期和時間佈建預留容量。在預留期間，您擁有預留容量的獨占存取權。
運算執行個體效期 您可以控管何時停止或刪除運算執行個體。不過，如果運算執行個體使用的機器類型不支援即時遷移，Compute Engine 會在主機維護事件期間停止運算執行個體。

您可以控管何時停止或刪除運算執行個體，但下列情況除外：

  • Compute Engine 會停止或刪除運算執行個體，以回收容量。這項程序稱為先占。
  • 如果運算執行個體使用的機器類型不支援即時遷移，Compute Engine 會在主機維護事件期間停止運算執行個體。

在運算執行個體達到執行時間長度上限前，您可以執行下列操作：

  • 停止運算執行個體：如果您將彈性啟動型 VM 建立為獨立運算執行個體，或在容量可用時在 MIG 中個別建立，則可隨時停止運算執行個體。您無法停止在 MIG 大小調整要求中建立的彈性啟動型 VM。
  • 刪除運算執行個體：您隨時可以刪除運算執行個體。

運算執行個體達到執行時間長度上限時，Compute Engine 會根據終止動作停止或刪除執行個體。

您可以控管何時停止或刪除運算執行個體，但下列情況除外：

  • Compute Engine 會在主機維護事件期間停止運算執行個體。
  • 系統自動建立的預留項目已達到預留期限，無法再佈建您要求的容量。屆時，Compute Engine 會刪除預留項目，並根據設定中指定的終止動作，停止或刪除使用預留項目的任何運算執行個體。

1 如要搭配使用 TPU7x 機器系列與 Spot、彈性啟動或取決於預留項目的佈建模式，您必須在許可清單中。如要申請存取權，請與帳戶團隊或銷售團隊聯絡。

後續步驟