本文說明如何建立獨立虛擬機器 (VM) 執行個體,並使用 N1 系列和連接的 GPU。如要進一步瞭解這些機型,請參閱「N1 系列」。
如要瞭解建立 VM 或叢集的其他方式,請參閱「部署選項總覽」。
限制
如要瞭解搭載 GPU 的 N1 機型適用哪些限制,請參閱下列各項:
事前準備
建立 VM 前,請先完成下列步驟 (如尚未完成):
- 選擇使用模式:您選擇的使用模式會決定如何取得及使用 GPU 資源。詳情請參閱「選擇消耗選項」。
- 取得運算資源:取得運算資源的程序因用量選項而異。如要瞭解如何為所選用量方案取得運算資源,請參閱「運算資源總覽」。
請根據您打算如何使用本頁範例,選取對應的分頁標籤:
控制台
使用 Google Cloud 控制台存取 Google Cloud 服務和 API 時,您不需要設定驗證機制。
gcloud
安裝 Google Cloud CLI,然後使用聯合身分登入 gcloud CLI。 登入後, 執行下列指令來初始化 Google Cloud CLI:
gcloud initREST
如要在本機開發環境中使用本頁的 REST API 範例,請使用您提供給 gcloud CLI 的憑證。
安裝 Google Cloud CLI,然後使用聯合身分登入 gcloud CLI。
詳情請參閱 Google Cloud 驗證說明文件中的「使用 REST 進行驗證」一節。
必要的角色
如要取得建立 VM 所需的權限,請要求管理員授予您專案的 Compute 執行個體管理員 (v1) (roles/compute.instanceAdmin.v1) IAM 角色。如要進一步瞭解如何授予角色,請參閱「管理專案、資料夾和組織的存取權」。
這個預先定義的角色具備建立 VM 所需的權限。如要查看確切的必要權限,請展開「Required permissions」(必要權限) 部分:
所需權限
您必須具備下列權限,才能建立 VM:
-
專案的
compute.instances.create -
如要使用自訂映像檔建立 VM:
compute.images.useReadOnly在映像檔上 -
如要使用快照建立 VM:
compute.snapshots.useReadOnly快照 -
如要使用執行個體範本建立 VM:
compute.instanceTemplates.useReadOnly執行個體範本 -
如要為 VM 指定子網路:
compute.subnetworks.use專案或所選子網路 -
如要為 VM 指定靜態 IP 位址:
compute.addresses.use專案 -
如要在使用虛擬私有雲網路時,將外部 IP 位址指派給 VM:
compute.subnetworks.useExternalIp在專案或所選子網路上 -
如要將舊版網路指派給 VM:
compute.networks.use專案 -
如要在使用舊版網路時,為 VM 指派外部 IP 位址:
compute.networks.useExternalIp專案 -
如要為 VM 設定 VM 執行個體中繼資料:
compute.instances.setMetadata在專案上 -
如要設定 VM 的標記:
compute.instances.setTags在 VM 上 -
如要設定 VM 的標籤:
compute.instances.setLabels在 VM 上 -
如要設定 VM 使用的服務帳戶:
compute.instances.setServiceAccount在 VM 上 -
如要為 VM 建立新磁碟:
compute.disks.create專案 -
如要以唯讀或讀寫模式連接現有磁碟:
compute.disks.use磁碟 -
如要以唯讀模式連接現有磁碟:
compute.disks.useReadOnly在磁碟上
總覽
如要建立搭載 T4 或 V100 GPU 的 N1 機型執行個體,請按照下列步驟操作:
建立搭載 GPU 的 N1 VM
如要建立搭載 GPU 的 N1 VM,請使用下列任一方法。
下列指令也會設定執行個體的存取權範圍。為簡化權限管理,Google 建議您將執行個體的存取權範圍設為cloud-platform 存取權,然後使用 IAM 角色定義執行個體可存取的服務。詳情請參閱「範圍最佳做法」。控制台
前往 Google Cloud 控制台的「Create an instance」(建立執行個體) 頁面。
指定 VM 的名稱。請參閱「資源命名慣例」。
選取要建立 VM 的「Region」(區域) 和「Zone」(可用區)。查看可用的 GPU 區域和可用區清單。
按一下「GPU」分頁標籤,然後完成下列步驟:
- 在「GPU type」(GPU 類型) 清單中,選取 GPU 類型。
- 如為 N1+T4 機型,請選取
NVIDIA T4 - 如為 N1+V100 機型,請選取
NVIDIA V100
- 如為 N1+T4 機型,請選取
- 在「Machine type」(機器類型) 清單中,選取 N1 機器類型。
- 在「Number of GPUs」(GPU 數量) 清單中,選取 GPU 數量。可用的選項會因所選 N1 機器類型而異。
- 在「GPU type」(GPU 類型) 清單中,選取 GPU 類型。
請根據您要使用的消耗選項,選取下列其中一個選項,並完成下列步驟。
預留項目
搭載 T4 或 V100 GPU 的 N1 執行個體支援下列預留類型:
- 隨需預留項目
- 標準未來預留項目
如要使用這類預留項目,執行個體必須採用標準佈建模式。舉例來說,請使用下列建立參數。
- 在「Provisioning model」(佈建模式) 區段中,從「VM provisioning model」(VM 佈建模式) 清單中選取「Standard」(標準)。(這是預設選項)。
如要設定這個 VM 使用的預留項目,請完成下列步驟:
- 在導覽選單中,按一下「Advanced」(進階)。
在「Reservations」(預留項目) 中,選取下列其中一個選項:
隨選
- 在「Provisioning model」(佈建模式) 區段中,從「VM provisioning model」(VM 佈建模式) 清單中選取「Standard」(標準)。(這是預設選項)。
選用:如要設定這個 VM 是否使用預留項目,請完成下列步驟:
- 在導覽選單中,按一下「Advanced」(進階)。
在「預留項目」部分,選取下列其中一個選項:
如要視需要使用預留項目容量,請選取「Use automatic selection」(使用自動選取功能)。(這是預設選項)。
執行個體會嘗試使用自動使用的預留項目容量,但只有在有相符的預留項目容量時,才會發生這種情況。否則,執行個體會使用隨選運算能力。
如要要求隨選容量,請選取「Don't use a reservation」(不使用預留項目)。
執行個體無法使用任何預留項目容量。
彈性啟動
- 在「Provisioning model」(佈建模式) 區段的「VM provisioning model」(VM 佈建模式) 清單中,選取「Flex-start」(彈性啟動)。
在「Enter number of hours」(輸入時數) 欄位中,輸入 VM 執行的時間長度上限。這個值必須介於 46 秒 (
0.01) 到 7 天 (168,或 168 小時) 之間。選取「設定建立 VM 的等待時間」。
請根據工作負載的可用區需求,指定下列其中一個時間長度,提高 VM 建立要求成功的機率:
- 有嚴格可用區要求的工作負載:如果工作負載要求您在特定可用區建立 VM,請指定 90 秒到 2 小時之間的時間長度。時間越長,獲得資源的機率越高。
- 沒有嚴格可用區要求的工作負載:如果 VM 可以在區域內的任何可用區執行,請指定 0 秒的時間長度,或清除「設定 VM 建立等待時間」核取方塊。這項動作會指定 Compute Engine 僅在資源立即可用時才分配資源。如果 VM 建立要求因資源無法使用而失敗,請在其他可用區中重試要求。
在「On VM termination」(在 VM 終止時) 欄位中,選取要在 VM 執行時間結束時停止或刪除 VM:
- 如要刪除 VM,請選取「刪除」。
- 如要停止 VM,請選取「Stop」(停止)。
Spot
- 在「Provisioning model」(佈建模型) 部分,從「VM provisioning model」(VM 佈建模型) 清單中選取「Spot」。
選用:如要選取 Compute Engine 搶占 VM 時執行的終止動作,請完成下列步驟:
- 展開「VM provisioning model advanced settings」(VM 佈建模式進階設定) 專區。
- 在「On VM termination」(在 VM 終止時) 清單中,選取下列其中一個選項:
- 如要在先占期間停止 VM,請選取「Stop」(停止) (預設)。
- 如要在先占期間刪除 VM,請選取「Delete」(刪除)。
在導覽選單中,按一下「OS and storage」(OS 和儲存空間),然後完成下列步驟:
- 點選「變更」。「開機磁碟設定」窗格隨即開啟。
在「Public images」(公開映像檔) 分頁中,選取建議的映像檔。如需建議映像檔清單,請參閱「作業系統」。
選用:如要設定開機磁碟大小,請根據磁碟類型,參閱 Google Cloud Hyperdisk 大小限制或永久磁碟大小限制。
按一下「選取」,確認開機磁碟選項。
選用:如要新增本機 SSD 磁碟,請完成下列步驟:
- 按一下「 新增本機 SSD」。「Configure local SSD」(設定本機固態硬碟) 窗格隨即開啟。
- 在「Configure local SSD」(設定本機 SSD) 窗格中,設定本機 SSD 磁碟的選項。詳情請參閱 Compute Engine 說明文件中的「將本機 SSD 磁碟新增至運算執行個體」。
- 按一下「儲存」,確認開機磁碟選項。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
按照下列指示設定服務帳戶和存取權範圍。在執行個體上執行的工作負載會使用附加的服務帳戶,授權對其他 Google Cloud 服務的要求。
- 按一下導覽選單中的「Security」(安全性)。
- 在「Service account」(服務帳戶) 清單中,選取要使用的服務帳戶。
- 在「存取權範圍」部分,選取「允許所有 Cloud API 的完整存取權」選項。這項最佳做法可讓您透過新增或移除服務帳戶的 IAM 角色,管理存取權。詳情請參閱「將服務帳戶附加至執行個體」。
如要建立並啟動 VM,請按一下 [Create] (建立)。
gcloud
如要建立 VM,請使用 gcloud compute instances create 指令。
您需要指定的參數取決於您為這項部署作業使用的消耗選項。選取與計費模式對應的分頁。
預留項目
搭載 T4 或 V100 GPU 的 N1 執行個體支援下列預留類型:
- 隨需預留項目
- 標準未來預留項目
如要使用這類預留項目,執行個體必須採用標準佈建模式。舉例來說,請使用下列建立參數。
執行指令前,請詳閱下列所有步驟,判斷是否要加入其他旗標。
gcloud compute instances create INSTANCE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY \
--reservation=RESERVATION
操作步驟如下:
-
更改下列內容:
INSTANCE_NAME:VM 的名稱。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。IMAGE_PROJECT:OS 映像檔的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:RESERVATION:要使用的預留項目。根據您為RESERVATION_AFFINITY指定的值,指定下列其中一項:- 如果您指定了
any,請將RESERVATION替換為空白字串 ("")。或者,您也可以完全移除--reservation旗標。 如果您指定
specific,請將RESERVATION替換為以下內容:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
更改下列內容:
RESERVATION_OWNER_PROJECT_ID:預留項目建立所在專案的專案 ID。RESERVATION_NAME:預留項目名稱。
- 如果您指定了
根據預設,如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,執行個體會自動重新啟動。如要停用自動重新啟動功能,請新增下列旗標:
--no-restart-on-failure
-
選用:如要連接本機 SSD 磁碟,請為「每個」本機 SSD 磁碟新增下列
--local-ssd旗標。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
--local-ssd interface=INTERFACE_TYPE
更改下列內容:
INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 執行更改後的指令。
隨選
執行指令前,請詳閱下列所有步驟,判斷是否要加入其他旗標。
gcloud compute instances create INSTANCE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY
操作步驟如下:
-
更改下列內容:
INSTANCE_NAME:VM 的名稱。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。IMAGE_PROJECT:OS 映像檔的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:any(預留運算資源為選用項目):這是預設選項。執行個體會嘗試使用自動使用的預留項目容量,但前提是必須有相符的預留項目容量。否則,執行個體會使用隨選容量。none(必須使用隨選運算能力):禁止執行個體使用任何預留運算能力。
根據預設,如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,執行個體會自動重新啟動。如要停用自動重新啟動功能,請新增下列旗標:
--no-restart-on-failure
-
選用:如要連接本機 SSD 磁碟,請為「每個」本機 SSD 磁碟新增下列
--local-ssd旗標。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
--local-ssd interface=INTERFACE_TYPE
更改下列內容:
INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 執行更改後的指令。
彈性啟動
執行指令前,請詳閱下列所有步驟,判斷是否要加入其他旗標。
gcloud compute instances create INSTANCE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=FLEX_START \
--request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
--max-run-duration=MAX_RUN_DURATION \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE
操作步驟如下:
-
更改下列內容:
INSTANCE_NAME:VM 的名稱。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。IMAGE_PROJECT:OS 映像檔的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。REQUEST_VALID_FOR_DURATION:VM 建立要求的有效時間長度。值的格式必須是天數、小時數、分鐘數或秒數,後面分別加上d、h、m和s。例如,指定30m代表 30 分鐘,或指定1h2m3s代表 1 小時 2 分 3 秒。請根據工作負載的可用區需求,指定下列其中一個時間長度,提高 VM 建立要求成功的機率:
- 有嚴格可用區要求的工作負載:如果工作負載要求您在特定可用區建立 VM,請指定 90 秒 (
90s) 到 2 小時 (2h) 之間的時間長度。時間長度越長,取得資源的機率越高。 - 沒有嚴格可用區要求的工作負載:如果 VM 可以在區域內的任何可用區執行,請將時間長度指定為零秒 (
0s)。這項操作會指定 Compute Engine 僅在資源立即可用時才分配資源。如果 VM 建立要求因資源不足而失敗,請在其他可用區重試。
- 有嚴格可用區要求的工作負載:如果工作負載要求您在特定可用區建立 VM,請指定 90 秒 (
MAX_RUN_DURATION:要求的 VM 應執行多久。您必須將值格式化為天數、小時數、分鐘數或秒數,後面分別加上d、h、m和s。值必須介於 10 分鐘至 7 天之間。TERMINATION_ACTION:Compute Engine 是否會在執行時間結束時停止 (STOP) 或刪除 (DELETE) VM。
-
選用:如要連接本機 SSD 磁碟,請為「每個」本機 SSD 磁碟新增下列
--local-ssd旗標。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
--local-ssd interface=INTERFACE_TYPE
更改下列內容:
INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 執行更改後的指令。
Spot
執行指令前,請詳閱下列所有步驟,判斷是否要加入其他旗標。
gcloud compute instances create INSTANCE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=SPOT \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--no-restart-on-failure
操作步驟如下:
-
更改下列內容:
INSTANCE_NAME:VM 的名稱。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。IMAGE_PROJECT:OS 映像檔的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。TERMINATION_ACTION:Compute Engine 搶占執行個體時要採取的動作,可以是STOP(預設) 或DELETE。
-
選用:如要連接本機 SSD 磁碟,請為「每個」本機 SSD 磁碟新增下列
--local-ssd旗標。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
--local-ssd interface=INTERFACE_TYPE
更改下列內容:
INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 執行更改後的指令。
REST
如要建立 VM,請向 instances.insert 方法發出 POST 要求。
您需要指定的參數取決於您為這項部署作業使用的消耗選項。選取與計費模式對應的分頁。
預留項目
搭載 T4 或 V100 GPU 的 N1 執行個體支援下列預留類型:
- 隨需預留項目
- 標準未來預留項目
如要使用這類預留項目,執行個體必須採用標準佈建模式。舉例來說,請使用下列建立參數。
提交要求前,請詳閱下列所有步驟,判斷是否要加入其他欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
"machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
"name": "INSTANCE_NAME",
"guestAccelerators":
[
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY",
"key": "compute.googleapis.com/reservation-name",
"values": [
"RESERVATION"
]
}
}
操作步驟如下:
-
更改下列內容:
PROJECT_ID:要建立 VM 的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。INSTANCE_NAME:VM 的名稱。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。IMAGE_PROJECT:OS 映像檔的專案 ID。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。AUTOMATIC_RESTART:如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,是否要自動重新啟動執行個體。指定true即可啟用自動重新啟動功能 (預設),指定false則可停用自動重新啟動功能。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:RESERVATION:要使用的預留項目。根據您為RESERVATION_AFFINITY指定的值,指定下列其中一項:- 如果您指定了
ANY_RESERVATION,請刪除RESERVATION,讓值成為空字串 ("")。或者,您也可以完全移除key和values欄位。 如果您指定
SPECIFIC_RESERVATION,請將RESERVATION替換為以下內容:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
更改下列內容:
RESERVATION_OWNER_PROJECT_ID:預留項目建立所在專案的專案 ID。RESERVATION_NAME:預留項目名稱。
- 如果您指定了
-
選用:如要使用本機 SSD 磁碟,請在每個本機 SSD 磁碟的
disks[]欄位中新增下列欄位。請以半形逗號分隔每個disks[]子欄位 (包括開機磁碟)。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }更改下列內容:
ZONE:您指定的可用區。INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 提交要求。
隨選
提交要求前,請詳閱下列所有步驟,判斷是否要加入其他欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
"machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
"name": "INSTANCE_NAME",
"guestAccelerators":
[
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY"
}
}
操作步驟如下:
-
更改下列內容:
PROJECT_ID:要建立 VM 的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。INSTANCE_NAME:VM 的名稱。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。IMAGE_PROJECT:OS 映像檔的專案 ID。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。AUTOMATIC_RESTART:如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,是否要自動重新啟動執行個體。指定true即可啟用自動重新啟動功能 (預設),指定false則可停用自動重新啟動功能。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:ANY_RESERVATION(預留運算資源為選用項目):這是預設選項。執行個體會嘗試使用自動使用的預留項目容量,但只有在有相符的預留項目容量時,才會發生這種情況。否則,執行個體會使用隨選容量。NO_RESERVATION(必須使用隨選運算能力):禁止執行個體使用任何預留運算能力。
-
選用:如要使用本機 SSD 磁碟,請在每個本機 SSD 磁碟的
disks[]欄位中新增下列欄位。請以半形逗號分隔每個disks[]子欄位 (包括開機磁碟)。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }更改下列內容:
ZONE:您指定的可用區。INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 提交要求。
彈性啟動
提交要求前,請詳閱下列所有步驟,判斷是否要加入其他欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
"machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
"name": "INSTANCE_NAME",
"guestAccelerators":
[
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"params": {
"requestValidForDuration": {
"seconds": REQUEST_VALID_FOR_DURATION
}
},
"scheduling": {
"provisioningModel": "FLEX_START",
"maxRunDuration": {
"seconds": MAX_RUN_DURATION
},
"instanceTerminationAction": "TERMINATION_ACTION",
"onHostMaintenance": "TERMINATE"
}
}
操作步驟如下:
-
更改下列內容:
PROJECT_ID:要建立 VM 的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。INSTANCE_NAME:VM 的名稱。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。IMAGE_PROJECT:OS 映像檔的專案 ID。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。REQUEST_VALID_FOR_DURATION:VM 建立要求的有效時間長度,以秒為單位。請根據工作負載的可用區需求,指定下列其中一個時間長度,提高 VM 建立要求成功的機率:
- 有嚴格可用區要求的工作負載:如果工作負載要求您在特定可用區建立 VM,請指定 90 秒 (
90) 到 2 小時 (7200) 之間的時間長度。時間長度越長,取得資源的機率越高。 - 沒有嚴格可用區要求的工作負載:如果 VM 可以在區域內的任何可用區執行,請將時間長度指定為零秒 (
0)。這項操作會指定 Compute Engine 僅在資源立即可用時才分配資源。如果 VM 建立要求因資源不足而失敗,請在其他可用區重試。
- 有嚴格可用區要求的工作負載:如果工作負載要求您在特定可用區建立 VM,請指定 90 秒 (
MAX_RUN_DURATION:要求的 VM 應執行的時間長度。您必須將值格式化為秒數。例如,指定86400代表 86,400 秒 (24 小時)。值必須介於 10 分鐘至 7 天之間。TERMINATION_ACTION:Compute Engine 是否會在執行時間結束時停止 (STOP) 或刪除 (DELETE) VM。
-
選用:如要使用本機 SSD 磁碟,請在每個本機 SSD 磁碟的
disks[]欄位中新增下列欄位。請以半形逗號分隔每個disks[]子欄位 (包括開機磁碟)。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }更改下列內容:
ZONE:您指定的可用區。INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 提交要求。
Spot
提交要求前,請詳閱下列所有步驟,判斷是否要加入其他欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
"machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
"name": "INSTANCE_NAME",
"guestAccelerators":
[
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling":
{
"provisioningModel": "SPOT",
"instanceTerminationAction": "TERMINATION_ACTION",
"onHostMaintenance": "TERMINATE",
"automaticRestart": false
}
}
操作步驟如下:
-
更改下列內容:
PROJECT_ID:要建立 VM 的專案 ID。ZONE:您要使用的機型所在的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。MACHINE_TYPE:VM 要使用的機型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。INSTANCE_NAME:VM 的名稱。ACCELERATOR_COUNT:要連接至 N1 VM 的 GPU 數量。如要根據 VM 的機型查看 GPU 限制清單,請參閱 Compute Engine 說明文件中的 N1 GPU 相關資訊。ACCELERATOR_TYPE:要使用的 N1 VM 加速器類型。如果是 AI 工作負載,建議使用 T4 或 V100 GPU。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。IMAGE_PROJECT:OS 映像檔的專案 ID。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。TERMINATION_ACTION:Compute Engine 搶占執行個體時要採取的動作,可以是STOP(預設) 或DELETE。
-
選用:如要使用本機 SSD 磁碟,請在每個本機 SSD 磁碟的
disks[]欄位中新增下列欄位。請以半形逗號分隔每個disks[]子欄位 (包括開機磁碟)。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }更改下列內容:
ZONE:您指定的可用區。INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
- 提交要求。
安裝 GPU 驅動程式
建立執行個體後,必須安裝正確的 GPU 驅動程式,執行個體才能使用 GPU。您需要安裝的驅動程式取決於執行個體是否啟用 NVIDIA RTX 虛擬工作站 (vWS)。請使用下列其中一種方式:
- 如果您已啟用 vWS,請參閱 Compute Engine 說明文件中的「安裝 NVIDIA RTX 虛擬工作站 (vWS) 驅動程式」。
否則,請按照下列方式使用預設 GPU 驅動程式:
- 如果您指定包含 GPU 驅動程式的 OS 映像檔,則不需採取任何行動。
- 如果 OS 映像檔不含 GPU 驅動程式,請參閱 Compute Engine 說明文件中的「安裝 GPU 驅動程式」一節。