本文說明 Compute Engine 執行個體附加 GPU 後的功能和限制。
如要加速處理 Compute Engine 上的特定工作負載，您可以部署已附加 GPU 的加速器最佳化執行個體，或將 GPU 附加至 N1 一般用途執行個體。對於大多數工作負載，Compute Engine 會以直通模式為執行個體提供 GPU，讓執行個體直接控管 GPU 及其記憶體。不過，如果工作負載需要處理大量圖形，且在 G4、G2 或 N1 GPU 上執行，則可使用 NVIDIA RTX 虛擬工作站 (vWS)。在 G4 執行個體上，NVIDIA RTX vWS 可讓您使用部分 GPU 機器類型。使用這些機器類型時，只要為每個執行個體指派虛擬 GPU (vGPU)，多個虛擬工作站就能共用單一實體 GPU。G2 和 N1 執行個體支援 vWS，但不支援部分 vGPU 機器類型。
您也可以在 AI Hypercomputer 上使用某些 GPU 機型。AI Hypercomputer 是經過最佳化調整的超級運算系統，可支援人工智慧 (AI) 和機器學習 (ML) 工作負載。如要建立高密度配置、效能最佳化的基礎架構，並整合 Google Kubernetes Engine (GKE) 和 Slurm 排程器，建議您選擇這個選項。
支援的機型
Compute Engine 提供多種機器類型，可支援各種工作負載。
部分機器類型支援 NVIDIA RTX 虛擬工作站 (vWS)。建立使用 NVIDIA RTX 虛擬工作站的執行個體時，Compute Engine 會自動新增 vWS 授權。如要瞭解虛擬工作站的定價，請參閱 GPU 定價頁面。
| GPU 機型 | |||
|---|---|---|---|
| AI 和機器學習工作負載 | 圖像和視覺化 | 其他 GPU 工作負載 | |
|
加速器最佳化 A 系列機器類型專為高效能運算 (HPC)、人工智慧 (AI) 和機器學習 (ML) 工作負載設計。 新一代 A 系列適合用於預先訓練及微調基礎模型，這類模型涉及大型加速器叢集，而 A2 系列則可用於訓練較小的模型和單一主機推論。 如果是這類機型，GPU 模型會自動連接至執行個體。 |
加速器最佳化 G 系列機型專為 NVIDIA Omniverse 模擬工作負載、圖形密集型應用程式、影片轉碼和虛擬桌面等工作負載設計。這些機型支援 NVIDIA RTX 虛擬工作站 (vWS)。 G 系列也可用於訓練較小的模型，以及單一主機推論。 如果是這類機型，GPU 模型會自動連接至執行個體。 |
除了 N1 共用核心 ( |
|
|
下列 GPU 型號可連接至 N1 一般用途機型：
|
||
Spot VM 上的 GPU
您可以將 GPU 新增至 Spot VM，並享有較低的 GPU Spot 價格。連接至 Spot VM 的 GPU 運作方式與一般 GPU 相同，但只會在 VM 的生命週期內持續運作。搭載 GPU 的 Spot VM 與所有 Spot VM 採用相同的先占程序。
在維護事件期間，搭載 GPU 的 Spot VM 預設會遭到先占，且無法自動重新啟動。如要在 VM 遭到先占後重新建立，請使用代管執行個體群組。如果 vCPU、記憶體和 GPU 資源可用，代管執行個體群組會重新建立 VM 執行個體。
如果希望在 VM 遭到先占前收到警告，或想設定 VM 在維護事件後自動重新啟動，請使用搭載 GPU 的標準 VM。如果是搭載 GPU 的標準 VM，Compute Engine 會在先占前一小時提前告知。
如果 VM 在開始運作後的第一分鐘內遭到先占，Compute Engine 不會收取 GPU 費用。
如要瞭解如何建立附加 GPU 的 Spot VM，請參閱「建立附加 GPU 的 VM」和「建立 Spot VM」。例如，請參閱「使用 Spot VM 建立 A3 Ultra 或 A4 執行個體」。
預先定義執行階段的執行個體 GPU
使用標準佈建模式的執行個體，通常無法使用先占分配配額。先占配額適用於臨時工作負載，通常較容易取得。如果專案沒有先占配額，且您從未提出要求，則專案中的所有執行個體都會耗用標準分配配額。
如果您要求可先占的分配配額，則使用標準佈建模型的執行個體必須符合下列所有條件，才能使用可先占的分配配額：
- 執行個體已連接 GPU。
- 執行個體已設為在預先定義的執行時間後，透過
maxRunDuration或terminationTime欄位自動刪除。詳情請參閱下列資源： - 執行個體不得使用預留項目。詳情請參閱「防止運算執行個體耗用預留項目」。
如果將可先占分配配額用於有時限的 GPU 工作負載，您就能享有不中斷的執行時間，以及可先占分配配額的高可用性。詳情請參閱「先占配額」。
GPU 和 Confidential VM
您可以在 A3 High 機型上使用 Intel TDX，並在 G4 機型上使用 AMD SEV，搭配 Confidential VM 執行個體使用 GPU。詳情請參閱「Confidential VM 支援的設定」。如要瞭解如何建立搭載 GPU 的 Confidential VM 執行個體，請參閱「建立搭載 GPU 的 Confidential VM 執行個體」。
GPU 和區塊儲存空間
使用 GPU 機型建立執行個體時，可以為執行個體新增永久或暫時區塊儲存空間。如要儲存非暫時性資料，請使用 Hyperdisk 或永久磁碟等永久區塊儲存空間，因為這些磁碟與執行個體的生命週期無關。即使刪除執行個體，永久儲存空間中的資料仍可保留。
如需暫存儲存空間或快取，請在建立執行個體時新增本機 SSD 磁碟，使用臨時區塊儲存空間。
使用 Persistent Disk 和 Hyperdisk 磁碟區的永久區塊儲存空間
您可以將永久磁碟和特定 Hyperdisk 磁碟區，連接至支援 GPU 的執行個體。
如果是機器學習 (ML) 和提供模型的工作負載，請使用 Hyperdisk ML 磁碟區，這類磁碟區提供高處理量，且資料載入時間較短。Hyperdisk ML 的 GPU 閒置時間較短，是更具成本效益的機器學習工作負載選項。
Hyperdisk ML 磁碟區支援唯讀多重連結，因此您可以將同一個磁碟連結至多個執行個體，讓每個執行個體都能存取相同資料。
如要進一步瞭解支援 GPU 的機器系列支援哪些磁碟類型，請參閱 N1 和加速器最佳化機器系列頁面。
本機固態硬碟磁碟
本機 SSD 磁碟提供快速的臨時儲存空間，可用於快取、資料處理或其他暫時性資料。本機 SSD 磁碟是以實體方式連接託管執行個體的伺服器，因此可提供快速的儲存空間。本機 SSD 磁碟提供臨時儲存空間，因為執行個體重新啟動時會遺失資料。
請勿將具有高度持久性需求的資料儲存在本機 SSD 磁碟。如要儲存非暫時性資料，請改用永久儲存空間。
如果您手動停止含有 GPU 的執行個體，可以保留本機 SSD 資料，但須遵守特定限制。詳情請參閱本機 SSD 說明文件。
如要瞭解本機 SSD 搭配 GPU 類型的區域支援情形，請參閱「本機 SSD 適用情形」。
GPU 和主機維護
Compute Engine 在主機伺服器上執行維護事件時，一律會停止附加 GPU 的執行個體。如果執行個體已連接本機 SSD 磁碟，則執行個體停止後會遺失本機 SSD 資料。
如要瞭解如何處理維護事件，請參閱「處理 GPU 主機維護事件」。
預留 GPU 容量
預留項目可確保可用區專屬資源 (包括 GPU) 有足夠容量。您可以使用預留項目，確保在需要執行耗用大量效能的應用程式時，有可用的 GPU。如要瞭解在 Compute Engine 中預留特定可用區資源的不同方法，請參閱「選擇預留項目類型」。
如要享有依資源計算的 GPU 承諾使用折扣 (CUD)，也必須建立預留項目。
GPU 定價
如果您要求 Compute Engine 使用Spot、彈性啟動或預留繫結佈建模式佈建 GPU，則可依 GPU 類型享有折扣。GPU 用量也適用承諾使用折扣或續用折扣 (僅限 N1 VM)。
如要瞭解 GPU 的每小時和每月定價，請參閱 GPU 定價頁面。
GPU 承諾使用折扣
您可以購買依資源計算的承諾使用合約，或 Compute 彈性承諾使用合約，享有 GPU 承諾使用折扣：
依資源計算的承諾使用合約：只要承諾在特定區域使用資源至少一年，即可享有 Compute Engine 資源的大幅折扣。您通常會購買 vCPU、記憶體、GPU 和本機 SSD 磁碟等資源的承諾使用合約，用於特定機器系列。使用資源時，符合條件的資源用量可享折扣價。如要進一步瞭解這些折扣，請參閱「依資源計算的承諾使用折扣」。如要購買內含 GPU 的承諾使用合約，您也必須預留 GPU，並將預留項目附加至承諾使用合約。詳情請參閱「將預留項目附加至資源型承諾使用合約」。
Compute 彈性承諾使用合約涵蓋符合資格的 G2 和 G4 GPU 支出，不需附加預留項目。您無法將預留項目附加至 Compute 彈性承諾使用合約。由於運算彈性承諾使用合約不會預留容量，因此無法保證 G2 或 G4 GPU 的容量。如果沒有可用的 GPU，則可使用彈性承諾使用合約，涵蓋其他符合資格的資源類型或服務。如要確保運算能力，請務必建立預留項目，單獨預留 GPU。詳情請參閱「Compute 彈性 CUD」。
GPU 續用折扣
使用 N1 機型並附加 GPU 的執行個體，可享有續用折扣 (SUD)，與 vCPU 類似。為虛擬工作站選取 GPU 時，Compute Engine 會自動將 NVIDIA RTX 虛擬工作站授權新增至執行個體。
GPU 限制
對於已連接 GPU 的執行個體，適用下列限制：
只有加速器最佳化 (A5X、A4X Max、A4X、A4、A3、A2、G4 和 G2) 和一般用途 N1 機型支援 GPU。
為保護 Compute Engine 系統和使用者，新專案設有全域 GPU 配額，限制您在任何支援的可用區中可建立的 GPU 總數。要求 GPU 配額時，您必須為要在各個地區中建立的 GPU 模型要求配額，並依據所有區域中全部類型之 GPU 的總數要求額外的全域配額。
如果執行個體有一或多個 GPU，針對新增至執行個體的每一 GPU，均有 vCPU 數量上限。如要查看不同 GPU 設定的可用 vCPU 和記憶體範圍，請參閱 GPU 清單。
GPU 必須安裝裝置驅動程式才能正常運作。在 Compute Engine 上執行的 NVIDIA GPU 必須使用最低驅動程式版本。如要進一步瞭解驅動程式版本，請參閱「必要的 NVIDIA 驅動程式版本」。
Compute Engine 服務水準協議僅涵蓋附加 GPU 模型的執行個體，且該附加 GPU 模型必須已正式發布。
如果區域有多個可用區，只有在該區域內有多個可用區提供 GPU 模型時，Compute Engine 服務水準協議才涵蓋該執行個體。如要依區域查看 GPU 型號，請參閱「GPU 位置」。
Compute Engine 支援每個 GPU 或 vGPU 有一位並行使用者。
另請參閱各機型附加 GPU 的限制。
後續步驟
- 瞭解如何建立附加 GPU 的執行個體。
- 瞭解如何新增或移除 GPU。
- 瞭解如何建立附加 GPU 的 Confidential VM 執行個體。