自動調度執行個體群組資源

代管執行個體群組 (MIG) 提供自動調度資源功能,可根據負載的增減,自動在 MIG 新增或刪除虛擬機器 (VM) 執行個體。自動調整資源配置有助於應用程式妥善處理增加的流量,並在資源需求降低時節省成本。只要定義自動調度資源政策,自動配置器就會依據測得的負載量和您設定的選項,自動調整資源配置。

自動調度資源功能會在負載增加時,在 MIG 中新增其他 VM (水平擴展),並在 VM 需求減少時移除 VM (水平縮減)。

必要條件

自動配置器會使用 Compute Engine 服務代理,在群組中新增及移除執行個體。 Google Cloud 啟用 Compute Engine API 時,系統會自動建立這個服務帳戶,以及其與 Compute Engine 服務代理角色的 IAM 政策繫結。

如果專案缺少這個帳戶 (例如您已移除帳戶),請手動建立服務代理。服務代理建立後,請授予相關 IAM 角色:

控制台

  1. 前往 Google Cloud 控制台的「IAM」(身分與存取權管理) 頁面。

    前往「IAM」頁面

  2. 點選「授予存取權」。

  3. 在「New principals」(新增主體) 欄位中輸入 service-PROJECT_NUMBER@compute-system.。

  4. 選取「Compute Engine 服務代理」角色。

  5. 按一下「儲存」。

gcloud

gcloud projects add-iam-policy-binding PROJECT_ID \
   --member serviceAccount:service-PROJECT_NUMBER@compute-system. \
   --role roles/compute.serviceAgent

基礎知識

自動調度資源功能牽涉到下列基本概念和服務。

代管執行個體群組

自動調度資源是代管執行個體群組 (MIG) 的功能。代管執行個體群組是一組虛擬機器 (VM) 執行個體,由同一個執行個體範本建立。自動配置器會根據群組的自動調度資源政策,在代管執行個體群組中新增或刪除執行個體。雖然 Compute Engine 同時提供代管和非代管執行個體群組,但只有代管執行個體群組可以與自動配置器搭配使用。

如要瞭解代管執行個體群組與非代管執行個體群組之間的差異,請參閱執行個體群組一文。

如要瞭解如何建立代管執行個體群組,請參閱「建立 MIG」。

自動調度資源政策

為群組定義自動調度資源政策時,您需要指定一或多個信號,讓自動配置器用來調度群組資源。如果您在政策中設定多個信號,自動配置器會計算每個信號的建議 VM 數量,並將群組的建議大小設為最大數量。

自動調度資源政策一律須有至少一個調度資源信號。在 MIG 中啟用自動調度資源功能時,自動配置器預設會新增 CPU 使用率信號。您可以編輯這項預設信號,或移除及新增政策中的其他信號。

以下各節將概略說明依據目標使用率指標和排程提供的信號。

目標使用率指標

您可以根據下列一或多項反映執行個體群組負載的指標,自動調度資源:

  • 平均 CPU 使用率
  • HTTP 負載平衡服務容量
  • Cloud Monitoring 指標

自動配置器會根據所選的使用率指標,持續收集使用資訊,並比較實際使用率與所需目標使用率,然後根據這項資訊判斷群組是否需要移除執行個體 (縮減) 或新增執行個體 (水平擴展)。

目標使用率是指您想讓虛擬機器 (VM) 執行個體維持的等級。舉例來說,如果您要根據 CPU 使用率調度資源,可以將目標使用率設為 75%,這樣自動配置器就會將指定執行個體群組的 CPU 使用率維持在 75% 或 75% 附近。每項指標的使用率解讀方式會因自動調度資源政策而有所不同。

如果您根據下列任一指標自動調度資源,MIG 就無法縮減至零個執行個體:

  • 平均 CPU 使用率
  • HTTP 負載平衡服務容量
  • 來自 MIG 中各個執行個體的監控指標

不過,只要將執行個體數量下限 (autoscalingPolicy.minNumReplicas) 設為 0,就能在縮減至零個執行個體時,使用其他 Monitoring 指標。

如要進一步瞭解如何根據目標使用率指標進行資源調度,請參閱下列頁面:

排程

您可以使用依排程自動調度資源功能,為預期負載分配容量。每個執行個體群組最多可有 128 個資源調度排程。請為每個調度資源時間表指定下列項目:

  • 容量:VM 執行個體數量下限
  • 排程:開始時間、持續時間和週期 (例如一次、每日、每週或每月)

每個縮放排程都會從開始時間起生效,並持續設定的時間長度。在這段期間,自動配置器會調度群組資源,確保執行個體數量至少達到資源調度排程定義的數量。

使用排程時,如果符合下列所有條件,MIG 可以縮減至零個執行個體:

  • 執行個體數量下限 (autoscalingPolicy.minNumReplicas) 設為 0。
  • 自動調度資源政策不含任何運作中的排程。
  • 自動調度資源政策不含根據目標使用率指標的信號,可防止縮減至零個執行個體。

詳情請參閱「依據排程調度資源」。

初始化期間

初始化期間 (舊稱冷卻期) 是指應用程式在 VM 執行個體上初始化所需的時間。在執行個體上初始化應用程式時,執行個體的使用資料可能無法反映正常情況。因此,自動配置器會以下列方式,根據初始化期間做出調度資源決策:

  • 在決定是否縮減資源時,自動配置器會考量所有執行個體的使用資料,即使執行個體仍在初始化期間也一樣。如果所有執行個體的平均使用率低於目標使用率,自動配置器會建議移除執行個體。
  • 在決定是否水平擴展時,自動配置器會忽略仍在初始化期間的執行個體使用資料。
  • 如果啟用預測模式,初始化期間會通知預測式自動配置器,在預期負載出現前進一步水平擴展,以便在負載出現時初始化應用程式。舉例來說,如果將初始化期間設為 300 秒,預測式自動配置器會在預測負載出現前 5 分鐘建立 VM。

預設的初始化週期為 60 秒。實際初始化時間會因多項因素而異。建議您測試應用程式初始化所需的時間。如要這麼做,請建立執行個體,並從執行個體變成 RUNNING 到應用程式準備就緒,測量啟動程序所需的時間。

如果您設定的初始化期間值明顯長於執行個體初始化所需的時間,自動配置器可能會忽略合法的利用率資料,並可能低估群組所需的大小,導致水平擴展延遲。

穩定期

CPU 使用率等自動調度資源信號不太穩定,且可能快速變化。負載上下波動時,自動配置器需要穩定信號,避免持續刪除及建立 VM。自動配置器會保留充足的 VM 資源,以便處理穩定期內觀測到的尖峰負載,讓信號維持穩定。

只有在自動配置器必須刪除 VM,而做出縮減決策時,才會使用穩定期間。負載減少時,自動配置器不會立即刪除 VM,自動配置器會持續監控穩定期內所需的容量,只有在容量足以因應尖峰負載時,才會刪除 VM。這可能會導致縮減作業延遲。

預設穩定期間為 10 分鐘。您可以將這個時間長度設為 0 秒到 3600 秒 (一小時) 之間的值。如果將穩定期間設為 0 秒,自動配置器會在不再需要容量時立即縮減,不會有任何延遲。

如要進一步瞭解如何設定穩定期和最佳做法,請參閱「設定穩定期」。

自動調度資源模式

如需調查或設定群組,且不希望自動配置器作業干擾,可以暫時關閉或限制自動調度資源活動。即使關閉或限制自動配置器,系統也會保留自動配置器的設定,且會在再次開啟自動配置器或解除限制時,繼續進行所有自動調度資源活動。

預測式自動調度資源

如果您啟用預測式自動調度資源,盡可能提高 MIG 的可用性,自動配置器會根據歷來資料預測未來的負載,並在預測負載之前水平擴展 MIG,以便在負載到達時,新的執行個體已準備好提供服務。

如果工作負載符合下列條件,預測式自動調度資源功能的效果最佳:

  • 應用程式需要很長時間才能初始化,例如初始化期間設為超過 2 分鐘。
  • 工作負載會隨著每日或每週週期變化,且變化可預測。

詳情請參閱「根據預測結果調度資源」。

向內縮減控制項

如果工作負載需要幾分鐘才能初始化 (例如安裝工作耗時較長),您可以設定縮減控制項,降低因突然縮減事件而導致回應延遲的風險。具體來說,如果您預期負載在下降後很快就會出現高峰,可以限制縮減率,防止自動調度資源功能縮減 MIG 的大小,導致 VM 執行個體數量低於工作負載可容忍的數量。

如果應用程式初始化速度夠快,可在水平擴展時因應負載高峰,則不必設定水平縮減控制項。

如要設定縮減控制項,請在自動調度資源政策中設定下列屬性。

  • 允許的縮減上限。在指定的回溯時間範圍內,工作負載可承受損失的 VM 執行個體數量 (從尖峰大小算起)。使用這項參數,即可限制群組的縮減幅度,以便在更多執行個體開始提供服務前,仍可因應可能出現的負載高峰。允許縮減的幅度越小,群組縮減所需的時間就越長。

  • Trailing time window。自動配置器會監控這段記錄,瞭解工作負載所需的大小峰值。自動配置器不會將大小調整為低於這段期間觀察到的尖峰大小減去允許的最大縮減量。您可以使用這項參數,定義自動配置器在移除執行個體前應等待的時間,這項時間是由允許的最大縮減量定義。如果回溯時間範圍較長,自動配置器會考量更多歷來尖峰,因此縮減規模時會更保守穩定。

詳情請參閱「設定縮減控制項」和「瞭解自動配置器決策」。

建議的群組大小是指自動配置器建議代管執行個體群組應維持的 VM 數量,依據是過去 10 分鐘內觀察到的尖峰負載。這最後 10 分鐘稱為「穩定期間」。系統會持續重新計算建議大小。如果您設定了具有縮減控制項的自動調度資源政策,建議的大小會受到縮減控制項的限制。

詳情請參閱「自動配置器如何計算建議大小及影響目標大小」。

限制

自動修復期間會發生的情況

自動調度資源功能與自動修復功能各自獨立運作。如果您為群組設定自動修復功能,且執行個體未通過健康狀態檢查,MIG 就會嘗試重新建立執行個體。MIG 重新建立執行個體時,群組中執行中的執行個體數量可能會低於群組指定的執行個體數量下限 (autoscalingPolicy.minNumReplicas)。

定價

設定自動調度資源政策不會產生額外費用。自動配置器會動態新增或刪除 VM 執行個體,因此您只需支付 MIG 使用的資源費用。您可以在自動調度資源政策中,設定執行個體數量下限和上限,控管資源成本。

後續步驟

  1. 瞭解區域 MIG 的自動調度資源運作方式。
  2. 如果沒有現有的 MIG,請參閱這篇文章,瞭解如何建立代管執行個體群組。
  3. 建立自動配置器,並根據下列指標調度資源:

  4. 管理自動配置器,例如取得自動配置器的相關資訊、控管縮減率,或暫時限制自動調度資源。