סקירה כללית על שירותים לקצה העורפי

שירות לקצה העורפי מגדיר איך Cloud Load Balancing מבזר את תעבורת הנתונים. ההגדרות של שירות הקצה העורפי מכילות קבוצה של ערכים, כמו הפרוטוקול שמשמש לחיבור לקצה העורפי, הגדרות שונות של הפצה וסשן, בדיקות תקינות וזמני קצוב. ההגדרות האלה מאפשרות לכם לשלוט באופן מדויק בהתנהגות של מאזן העומסים. כדי לעזור לכם להתחיל, לרוב ההגדרות יש ערכי ברירת מחדל שמאפשרים הגדרה מהירה. ההיקף של שירות לקצה העורפי הוא אזורי.

מאזני עומסים, שרתי proxy של Envoy ולקוחות gRPC בלי שרת Proxy משתמשים בפרטי ההגדרה במשאב שירות לקצה העורפי כדי לבצע את הפעולות הבאות:

  • הפניית תנועה ישירות אל הבק-אנדים הנכונים, שהם קבוצות של מופעים או קבוצות של נקודות קצה ברשת (NEGs).
  • חלוקת התנועה לפי מצב איזון, שהוא הגדרה לכל שרת קצה.
  • קובעים איזו בדיקת תקינות עוקבת אחרי התקינות של השרתים העורפיים.
  • מציינים session affinity.

מגדירים את הערכים האלה כשיוצרים שירות לקצה העורפי או כשמוסיפים בק-אנד לשירות לקצה העורפי.

בטבלה הבאה מפורטים מאזני העומסים שמשתמשים בשירותים לקצה העורפי. המוצר שבו אתם משתמשים קובע גם את המספר המקסימלי של שירותים לקצה העורפי, את ההיקף של שירות לקצה העורפי, את סוגי הקצה העורפי הנתמכים ואת סכימת איזון העומסים של השירות לקצה העורפי. סכמת איזון העומסים היא מזהה שמשמש את Google לסיווג של כללי העברה ושירותי קצה עורפי. כל מוצר לאיזון עומסים משתמש בסכמת איזון עומסים אחת לכללי ההעברה ולשירותים לקצה העורפי. יש סכימות שמשותפות בין מוצרים.

טבלה: שירותים לקצה העורפי וסוגים נתמכים של קצה עורפי
מוצר המספר המקסימלי של שירותים לקצה עורפי היקף השירות לקצה העורפי סוגי קצה עורפי נתמכים סכמת איזון עומסים
מאזן עומסים חיצוני אזורי של אפליקציות (ALB) כמה סוגים אזורי כל שירות backend תומך באחד מהשילובים הבאים של backend:
  • כל ה-backends של קבוצת המופעים: backend אחד או יותר של קבוצת מופעים מנוהלת, לא מנוהלת או שילוב של קבוצת מופעים מנוהלת ולא מנוהלת 1
  • כל קבוצות נקודות הקצה ברשת (NEG) אזוריות: קבוצת נקודות קצה ברשת (NEG) אזורית אחת או יותר מסוג GCE_VM_IP_PORT 1
  • כל ה-NEGs של קישוריות היברידית: אחד או יותר NON_GCP_PRIVATE_IP_PORT סוגי NEGs
  • שילוב של NEGs אזוריים והיברידיים: GCE_VM_IP_PORT ו-NEGs מסוג NON_GCP_PRIVATE_IP_PORT 2
  • קבוצת נקודות קצה לרשת (NEG) אחת של Private Service Connect
  • כל קבוצות ה-NEG האזוריות לאינטרנט עבור קצה עורפי חיצוני
  • כל הקצוות העורפיים של שירותים שפורסמו (תצוגה מקדימה)
 EXTERNAL_MANAGED
מאזן עומסים פנימי אזורי של אפליקציות (ALB) כמה סוגים אזורי כל שירות backend תומך באחד מהשילובים הבאים של backend:
  • כל ה-backends של קבוצת המופעים: backend אחד או יותר של קבוצת מופעים מנוהלת, לא מנוהלת או שילוב של קבוצת מופעים מנוהלת ולא מנוהלת 1
  • כל קבוצות נקודות הקצה ברשת (NEG) אזוריות: קבוצת נקודות קצה ברשת (NEG) אזורית אחת או יותר מסוג GCE_VM_IP_PORT 1
  • כל ה-NEGs של קישוריות היברידית: אחד או יותר NON_GCP_PRIVATE_IP_PORT סוגי NEGs
  • שילוב של NEGs אזוריים והיברידיים: GCE_VM_IP_PORT ו-NEGs מסוג NON_GCP_PRIVATE_IP_PORT 2
  • קבוצת נקודות קצה לרשת (NEG) אחת של Private Service Connect
  • כל קבוצות ה-NEG האזוריות לאינטרנט עבור קצה עורפי חיצוני
  • כל הקצוות העורפיים של שירותים שפורסמו (תצוגה מקדימה)
 INTERNAL_MANAGED
מאזן עומסי רשת אזורי חיצוני בשרת proxy

בלי נתיבי TLS: 1

עם נתיבי TLS: כמה

 אזורי שירות הקצה העורפי תומך באחד משילובי הקצה העורפי הבאים:
  • כל ה-backends של קבוצת המופעים: backend אחד או יותר של קבוצת מופעים מנוהלת, לא מנוהלת או שילוב של קבוצת מופעים מנוהלת ולא מנוהלת 1
  • כל קבוצות נקודות הקצה ברשת (NEG) אזוריות: קבוצת נקודות קצה ברשת (NEG) אזורית אחת או יותר מסוג GCE_VM_IP_PORT 1
  • כל ה-NEGs של קישוריות היברידית: אחד או יותר NON_GCP_PRIVATE_IP_PORT סוגי NEGs
  • שילוב של NEGs אזוריים והיברידיים: GCE_VM_IP_PORT ו-NEGs מסוג NON_GCP_PRIVATE_IP_PORT
  • כל קבוצות ה-NEG האזוריות לאינטרנט עבור קצה עורפי חיצוני
  • קבוצת נקודות קצה לרשת (NEG) אחת של Private Service Connect
  • כל הקצוות העורפיים של שירותים שפורסמו (תצוגה מקדימה)
 EXTERNAL_MANAGED
מאזן עומסי רשת אזורי פנימי בשרת proxy

בלי נתיבי TLS: 1

עם נתיבי TLS: כמה

 אזורי שירות הקצה העורפי תומך באחד משילובי הקצה העורפי הבאים:
  • כל ה-backends של קבוצת המופעים: backend אחד או יותר של קבוצת מופעים מנוהלת, לא מנוהלת או שילוב של קבוצת מופעים מנוהלת ולא מנוהלת 1
  • כל קבוצות נקודות הקצה ברשת (NEG) אזוריות: קבוצת נקודות קצה ברשת (NEG) אזורית אחת או יותר מסוג GCE_VM_IP_PORT 1
  • כל ה-NEGs של קישוריות היברידית: אחד או יותר NON_GCP_PRIVATE_IP_PORT סוגי NEGs
  • שילוב של NEGs אזוריים והיברידיים: GCE_VM_IP_PORT ו-NEGs מסוג NON_GCP_PRIVATE_IP_PORT
  • כל קבוצות ה-NEG האזוריות לאינטרנט עבור קצה עורפי חיצוני
  • קבוצת נקודות קצה לרשת (NEG) אחת של Private Service Connect
  • כל הקצוות העורפיים של שירותים שפורסמו (תצוגה מקדימה)
 INTERNAL_MANAGED
מאזן עומסי רשת חיצוני אזורי להעברת סיגנל ללא שינוי 1 אזורי שירות הקצה העורפי תומך באחד משילובי הקצה העורפי הבאים:
  • כל קצוות העורף של קבוצת המופעים: קצה עורף אחד או יותר של קבוצת מופעים מנוהלת, לא מנוהלת או שילוב של קצוות עורף של קבוצות מופעים מנוהלות ולא מנוהלות
  • כל ה-NEGs האזוריים: אחד או יותר של GCE_VM_IP סוג אזורי NEGs
 חיצוני
מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי 1 אזורי שירות הקצה העורפי תומך באחד משילובי הקצה העורפי הבאים:
  • כל קצוות העורף של קבוצת המופעים: קצה עורף אחד או יותר של קבוצת מופעים מנוהלת, לא מנוהלת או שילוב של קצוות עורף של קבוצות מופעים מנוהלות ולא מנוהלות
  • כל ה-NEGs האזוריים: אחד או יותר של GCE_VM_IP סוג אזורי NEGs
  • קבוצת נקודות קצה למיפוי יציאות
 INTERNAL
‫1 מאזני העומסים האלה תומכים בקבוצות של מכונות וירטואליות ובקצוות עורפיים של NEG אזוריים עם IPv4 בלבד ועם סטאק כפול (IPv4 ו-IPv6).
‫2 בפריסות של GKE, מערכות קצה מעורבות של NEG נתמכות רק עם NEGs עצמאיים.

מתן שמות למאזני עומסים

במאזני עומסים מסוג Proxy Network Load Balancer ומאזני עומסים מסוג Passthrough Network Load Balancer, השם של מאזן העומסים תמיד זהה לשם של שירות לקצה העורפי. ההתנהגות של כל ממשק Google Cloud היא כדלקמן:

  • Google Cloud console. אם יוצרים מאזן עומסי רשת בשרת proxy או מאזן עומסי רשת במצב העברה (passthrough) באמצעות המסוף Google Cloud , שירות לקצה העורפי מקבל אוטומטית את אותו שם שהוזן עבור שם מאזן העומסים.
  • ‫Google Cloud CLI או API. אם יוצרים מאזן עומסי רשת בשרת proxy או מאזן עומסי רשת מסוג העברה (passthrough) באמצעות ה-CLI של gcloud או API, צריך להזין שם לבחירה בזמן יצירת שירות הקצה העורפי. שם שירות הקצה העורפי הזה משתקף במסוף Google Cloud כשם של מאזן העומסים.

מידע נוסף על מתן שמות למאזני עומסים של אפליקציות זמין במאמר סקירה כללית של מיפוי כתובות URL: מתן שמות למאזני עומסים.

בק-אנד

בקצה העורפי יש נקודת קצה אחת או יותר שמקבלות תעבורת נתונים מ Google Cloudמאזן עומסים או מלקוח gRPC בלי שרת Proxy. יש כמה סוגים של שרתים עורפיים:

אי אפשר למחוק קבוצת מופעים או NEG בעורף העורף שמשויכים לשירות עורף עורף. לפני שמוחקים קבוצת מופעים או NEG, צריך קודם להסיר אותה כקצה עורפי מכל שירותי הקצה העורפי שמפנים אליה.

קבוצות של מכונות

בקטע הזה מוסבר איך קבוצות של מכונות וירטואליות עובדות עם שירות לקצה העורפי.

מכונות וירטואליות בעורף וכתובות IP חיצוניות

מכונות וירטואליות בבק-אנד בשירותי בק-אנד לא צריכות כתובות IP חיצוניות:

  • במאזני עומסים אזוריים חיצוניים של אפליקציות (ALB) ובמאזני עומסי רשת אזוריים חיצוניים לשרת proxy: לקוחות מתקשרים עם שרת proxy מנוהל של Envoy שמארח את כתובת ה-IP החיצונית של מאזן העומסים. שרת ה-proxy של Envoy ממוקם ברשת משנה של שרת proxy בלבד. כל שרת proxy של Envoy מתקשר עם מכונות וירטואליות או נקודות קצה של backend בהתאם לכללים הבאים:

    • ממשק רשת עם איזון עומסים: ממשק הרשת שאליו שרת ה-proxy של Envoy שולח את תעבורת הבקשות תלוי בסוג קבוצת השרתים העורפיים:

      • במקרה של קצוות עורפיים של קבוצת מכונות, מאזן העומסים תמיד מעביר חבילות לממשק nic0 של כל מכונת VM בקצה העורפי. הכלל הזה נכון גם אם למכונה הווירטואלית יש כמה ממשקי רשת באותה רשת VPC או ברשתות VPC שונות.

      • בGCE_VM_IP_PORT קצה עורפי של NEG אזורי, מאזן העומסים מעביר חבילות לממשק הרשת שאליו משויכת כתובת ה-IP של נקודת הקצה. במכונות וירטואליות לקצה העורפי עם כמה ממשקי רשת, ממשק הרשת יכול להיות בכל רשת VPC, בכפוף לחריג הבא: אם למכונה וירטואלית לקצה העורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, אז מתוך קבוצת ממשקי הרשת באותה רשת VPC, מאזן העומסים מעביר חבילות רק לממשק הרשת nic0.

    • כתובת ה-IP של היעד בממשק מאוזן העומסים: שרת ה-proxy של Envoy שולח תנועת בקשות שחבילות הנתונים שלה כוללות את כתובות ה-IP של היעד הבאות:

      • במערכות עורפיות של קבוצות מופעים, יעד החבילה הוא כתובת ה-IPv4 הפנימית הראשית של nic0 ממשק הרשת או כתובת ה-IPv6 הראשונה מתוך טווח ה-IPv6‏ /96 שהוקצה לממשק nic0, בהתאם למדיניות בחירת כתובות ה-IP של שירות לקצה העורפי וסוג מחסנית ממשק הרשת./128

      • עבור קצה עורפי של NEG אזורי GCE_VM_IP_PORT, יעד החבילה תואם לכתובת IP של נקודת קצה שצוינה ב-NEG, בהתאם למדיניות בחירת כתובת ה-IP של שירות הקצה העורפי ולסוג מחסנית ממשק הרשת. לכתובות IP חוקיות של נקודות קצה, ראו NEGs עם נקודות קצה.GCE_VM_IP_PORT אם למכונה וירטואלית של קצה עורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, אז מתוך קבוצת ממשקי הרשת באותה רשת VPC, אפשר לציין רק כתובת IP של נקודת קצה שמשויכת לממשק הרשת nic0.

  • במאזני עומסים גלובליים חיצוניים של רשת להעברת סיגנל ללא שינוי ובמאזני עומסים אזוריים חיצוניים של רשת להעברת סיגנל ללא שינוי: לקוחות מתקשרים ישירות עם קצה עורפי באמצעות תשתית Maglev של Google. החבילות מנותבות ונמסרות לשרתי קצה עורפיים עם כתובות ה-IP המקוריות של המקור והיעד. מאזן העומסים מעביר מנות לאחד מממשקי הרשת הבאים:

    • במאזני עומסים גלובליים חיצוניים של רשת להעברת סיגנל ללא שינוי עם קבוצות מופעים בתור קצה עורפי, מאזן העומסים תמיד מעביר מנות לממשק nic0. מידע נוסף זמין במאמר בנושא קצוות עורפיים של קבוצות מופעים וממשקי רשת.

    • במאזני עומסים גלובליים חיצוניים של רשת להעברת סיגנל ללא שינוי עם קצה עורפי של GCE_VM_IP NEG, מאזן העומסים מעביר מנות לכרטיס הרשת שנמצא ברשת המשנה שמשויכת ל-NEG. מידע נוסף זמין במאמר בנושא קצה עורפי של NEG אזורי וממשקי רשת.

    • במאזני עומסי רשת אזוריים חיצוניים להעברת סיגנל ללא שינוי שמבוססים על שירותים לקצה העורפי עם קצה עורפי של קבוצת מופעים, מאזן העומסים תמיד מעביר חבילות לממשק nic0. מידע נוסף זמין במאמר בנושא קצוות עורפיים של קבוצות מופעים וממשקי רשת.

    • במאזני עומסים אזוריים חיצוניים של רשתות להעברת סיגנל ללא שינוי שמבוססים על שירותים לקצה העורפי עם קצוות עורפיים של GCE_VM_IP NEG, מאזן העומסים מעביר מנות לממשק הרשת שנמצא ברשת המשנה שמשויכת ל-NEG. מידע נוסף זמין במאמר בנושא קצה עורפי של NEG אזורי וממשקי רשת.

    • במאזני עומסים אזוריים חיצוניים של רשתות להעברת סיגנל ללא שינוי שמבוססים על מאגרי יעד, מאזן העומסים תמיד מעביר חבילות לnic0 ממשק.

    • אם למכונה וירטואלית של קצה עורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, מאזן העומסים מעביר חבילות רק לממשק הרשת nic0 מתוך קבוצת ממשקי הרשת באותה רשת VPC.

  • מאזני עומסים פנימיים מסוג העברת תעבורה: לקוחות מתקשרים ישירות עם שרתי קצה עורפיים באמצעות מערך וירטואליזציה של רשת Andromeda. החבילות מנותבות ונמסרות לשרתי קצה עורפיים עם כתובות ה-IP המקוריות של המקור והיעד. בבק-אנד של קבוצת מכונות ובבק-אנד של GCE_VM_IP NEG, מאזן העומסים מעביר מנות לממשק רשת ברשת ה-VPC של השירות לקצה העורפי:

    • אפשר לציין במפורש את רשת ה-VPC של שירות ה-Backend, או שהיא יכולה להיות מושפעת מקבוצת המופעים הראשונה של השרת העורפי (backend instance) או מ-NEG שנוספו לשירות ה-Backend, או מכלל ההעברה הראשון שמפנה לשירות ה-Backend. מידע נוסף זמין במאמר מפרט של רשת שירותי קצה עורפי.

    • אם למכונת קצה עורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, מאזן העומסים מעביר חבילות רק לממשק הרשת nic0 מתוך קבוצת ממשקי הרשת באותה רשת VPC.

יציאות עם שם

המאפיין named port של שירות הקצה העורפי רלוונטי רק למאזני עומסים מבוססי-proxy (מאזני עומסים של אפליקציות ומאזני עומסי רשת של proxy) שמשתמשים בקצה עורפי של קבוצת מופעים. היציאה עם השם מגדירה את יציאת היעד שמשמשת לחיבור TCP בין ה-proxy‏ (GFE או Envoy) לבין מופע הקצה העורפי.

הגדרת יציאות עם שמות:

  • בכל קצה עורפי של קבוצת מופעים, צריך להגדיר יציאה אחת או יותר עם שם באמצעות צמדי מפתח/ערך. המפתח מייצג שם יציאה משמעותי שאתם בוחרים, והערך מייצג את מספר היציאה שאתם מקצים לשם. המיפוי של השמות למספרים מתבצע בנפרד לכל קצה עורפי של קבוצת מופעים.

  • בשירות לקצה העורפי, מציינים יציאה אחת עם שם באמצעות שם היציאה בלבד (--port-name).

שירות לקצה העורפי מתרגם את שם היציאה למספר יציאה על בסיס backend של קבוצת מופעים. כשמספר היציאה שמוגדר לקבוצת מופעים תואם ל---port-name של שירות ה-Backend, שירות ה-Backend משתמש במספר היציאה הזה לתקשורת עם המכונות הווירטואליות של קבוצת המופעים.

לדוגמה, אפשר להגדיר את היציאה עם השם בקבוצת מכונות עם השם my-service-name והיציאה 8888:

gcloud compute instance-groups unmanaged set-named-ports my-unmanaged-ig \
    --named-ports=my-service-name:8888

אחר כך מציינים את היציאה עם השם בהגדרות של שירות הקצה העורפי, כשהערך של --port-name בשירות הקצה העורפי מוגדר כ-my-service-name:

gcloud compute backend-services update my-backend-service \
    --port-name=my-service-name

שירות קצה עורפי יכול להשתמש במספר יציאה שונה כשהוא מתקשר עם מכונות וירטואליות בקבוצות שונות של מופעים, אם כל קבוצת מופעים מציינת מספר יציאה שונה לאותו שם יציאה.

מספר היציאה שמוגדר בשירות לקצה העורפי של מאזן העומסים מסוג Proxy לא חייב להיות זהה למספר היציאה שמוגדר בכללי ההעברה של מאזן העומסים. מאזן עומסים מסוג proxy מאזין לחיבורי TCP שנשלחים לכתובת ה-IP וליציאת היעד של כללי ההעברה שלו. הסיבה לכך היא שהפרוקסי פותח חיבור TCP שני לשרתי הקצה שלו, ולכן יציאת היעד של חיבור ה-TCP השני יכולה להיות שונה.

יציאות עם שם רלוונטיות רק לשרתי קצה עורפיים של קבוצות מופעים. ב-NEGs אזוריים עם נקודות קצה (endpoints) מסוג GCE_VM_IP_PORT, ב-NEGs היברידיים עם נקודות קצה מסוג NON_GCP_PRIVATE_IP_PORT וב-NEGs לאינטרנט, היציאות מוגדרות באמצעות מנגנון אחר, כלומר, בנקודות הקצה עצמן.

מאזני עומסים פנימיים של רשתות להעברת סיגנל ללא שינוי ומאזני עומסים אזוריים חיצוניים של רשתות להעברת סיגנל ללא שינוי לא משתמשים ביציאות עם שמות. הסיבה לכך היא שמדובר במאזני עומסים מסוג pass-through שמנתבים חיבורים ישירות לשרתי קצה עורפיים במקום ליצור חיבורים חדשים. החבילות מועברות לקצוות העורפיים תוך שמירה על כתובת ה-IP של היעד והיציאה של כלל ההעברה של מאזן העומסים.

כדי ללמוד איך ליצור יציאות עם שמות, אפשר לעיין בהוראות הבאות:

הגבלות והנחיות לגבי קבוצות של מכונות וירטואליות

כשמשתמשים בשרתי קצה של קבוצת מופעים, חשוב לזכור את הנקודות הבאות:

  • מופע של מכונת VM יכול להשתייך רק לקבוצת מופעים אחת עם איזון עומסים. לדוגמה, מכונה וירטואלית יכולה להיות חברה בשתי קבוצות של מופעי מכונה לא מנוהלים, או בקבוצה אחת של קבוצת מופעי מכונה מנוהלים ובקבוצה אחת של מופעי מכונה לא מנוהלים. כשמכונה וירטואלית היא חברה בשתי קבוצות מכונות או יותר, רק אחת מקבוצות המכונות יכולה להיות מוזכרת על ידי שירותים לקצה העורפי של מאזן עומסים אחד או יותר.

  • אפשר להשתמש באותה קבוצת מופעים בשני שירותי קצה עורפיים או יותר. כל מיפוי בין קבוצת מופעים לשירות לקצה העורפי יכול להשתמש במצב איזון שונה, למעט שילובים לא תואמים של מצבי איזון.

    • השילובים הלא תואמים של מצבי איזון הם:

      • מצב האיזון UTILIZATION לא תואם לכל מצבי האיזון האחרים. אם קבוצת מכונות היא קצה עורפי של כמה שירותים לקצה העורפי, קבוצת המכונות חייבת להשתמש במצב האיזון UTILIZATION בכל שירות לקצה העורפי.

      • מצב האיזון CUSTOM_METRICS לא תואם לכל מצבי האיזון האחרים. אם קבוצת מכונות היא קצה עורפי של כמה שירותים לקצה העורפי, קבוצת המכונות חייבת להשתמש במצב האיזון CUSTOM_METRICS בכל שירות לקצה העורפי.

    • כתוצאה מהשילובים הלא תואמים של מצבי איזון, אם קבוצת מופעים משתמשת במצב האיזון UTILIZATION או CUSTOM_METRICS כבק-אנד לפחות לשירות בק-אנד אחד, אי אפשר להשתמש באותה קבוצת מופעים כבק-אנד למאזן עומסי רשת פנימי מסוג passthrough ולמאזן עומסי רשת חיצוני אזורי מסוג passthrough. הסיבה לכך היא שקצה עורפי של קבוצת מופעים של מאזני עומסי רשת אזוריים להעברת סיגנל ללא שינוי (מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי ומאזן עומסי רשת חיצוני אזורי להעברת סיגנל ללא שינוי) משתמש בCONNECTIONכמצב האיזון שלו.

  • אין פקודה אחת שיכולה לשנות את מצב האיזון של אותה קבוצת מופעים בכמה שירותי בק-אנד. אם קבוצת מכונות היא קצה עורפי של שני שירותים לקצה העורפי או יותר, וצריך לעדכן את מצבי האיזון שלה למצב חדש שלא תואם למצב הנוכחי, אפשר להשתמש בטכניקה הבאה:

    • מסירים את קבוצת המכונות בתור קצה עורפי מכל השירותים לקצה העורפי, למעט שירות אחד לקצה העורפי.
    • משנים את מצב האיזון של קבוצת המכונות לשירות הבק-אנד שנותר.
    • מוסיפים מחדש את קבוצת המכונות כקצה עורפי לשירותים האחרים לקצה העורפי.

כדאי ליישם את השיטות המומלצות הבאות, שמציעות אפשרויות גמישות יותר:

  • מומלץ לא להשתמש באותה קבוצת מופעים כקצה עורפי לשני שירותי קצה עורפי או יותר. במקום זאת, כדאי להשתמש בכמה קבוצות NEG.

    • בניגוד לקבוצות של מכונות וירטואליות, למכונה וירטואלית יכולה להיות נקודת קצה בשתי קבוצות או יותר של NEGs עם איזון עומסים.

    • לדוגמה, אם מכונה וירטואלית צריכה להיות קצה עורפי של מאזן עומסי רשת להעברת סיגנל ללא שינוי וגם של מאזן עומסי רשת לשרת proxy או של מאזן עומסים של אפליקציות, צריך להשתמש בכמה קבוצות NEG עם איזון עומסים. ממקמים נקודת קצה של מכונה וירטואלית בקבוצת NEG ייחודית שתואמת לכל סוג של מאזן עומסים. לאחר מכן משייכים כל NEG לשירות הקצה העורפי המתאים של מאזן העומסים.

  • כשמשתמשים במדד הניצול של איזון עומסים של HTTP לצורך התאמה אוטומטית לעומס, לא מוסיפים קבוצת מופעי מכונה מנוהלים עם התאמה אוטומטית לעומס ליותר משירות לקצה העורפי אחד. שני שירותי קצה עורפי או יותר שמפנים לאותה קבוצת מופעי מכונה מנוהלים עם התאמה אוטומטית לעומס יכולים לסתור זה את זה, אלא אם מדד ההתאמה האוטומטית לעומס לא קשור לפעילות של איזון העומסים.

קבוצות של נקודות קצה ברשת לפי אזור

נקודות קצה ברשת מייצגות שירותים לפי כתובת ה-IP שלהם או לפי כתובת IP ושילוב של יציאה, במקום להתייחס למכונה וירטואלית בקבוצת מופעים. קבוצה של נקודות קצה ברשת (NEG) היא קיבוץ לוגי של נקודות קצה ברשת.

קבוצות אזוריות של נקודות קצה ברשת (NEGs) הן משאבים אזוריים שמייצגים אוספים של כתובות IP או שילובים של כתובות IP ויציאות עבורGoogle Cloud משאבים בתוך תת-רשת אחת.

שירות לקצה העורפי שמשתמש ב-NEGs אזוריים כבק-אנדים שלו מחלק את תעבורת הנתונים בין אפליקציות או קונטיינרים שפועלים בתוך מכונות וירטואליות.

יש שני סוגים של נקודות קצה ברשת שזמינות ל-NEGs אזוריים:

  • GCE_VM_IP נקודות קצה שנתמכות בכל מאזני העומסים להעברת סיגנל ללא שינוי, למעט מאזני עומסים אזוריים חיצוניים להעברת סיגנל ללא שינוי שמבוססים על מאגרי יעד.

  • נקודות קצה GCE_VM_IP_PORT שנתמכות על ידי כל מאזני העומסים שמבוססים על שרת proxy (מאזני עומסים של אפליקציות ומאזני עומסי רשת בשרת proxy) ו-Cloud Service Mesh.

כדי לראות אילו מוצרים תומכים בעורפי קצה של NEG אזורי, אפשר לעיין בטבלה: שירותי עורף קצה וסוגי עורף קצה נתמכים.

פרטים נוספים מופיעים במאמר סקירה כללית של קבוצות NEGs אזוריות.

קבוצות של נקודות קצה ברשת באינטרנט

קבוצות NEGs באינטרנט הן משאבים שמגדירים בקצה העורפי חיצוני. שרת קצה עורפי חיצוני הוא שרת קצה עורפי שמארח בתוך תשתית מקומית או בתשתית שמסופקת על ידי צדדים שלישיים.

קבוצת נקודות קצה באינטרנט היא שילוב של שם מארח או כתובת IP, בתוספת יציאה אופציונלית. יש שני סוגים של נקודות קצה ברשת שזמינות לקבוצות של נקודות קצה ברשת באינטרנט: INTERNET_FQDN_PORT ו-INTERNET_IP_PORT.

הסכמי NEG לאינטרנט זמינים בהיקף אזורי. כדי לראות אילו מוצרים תומכים ב-backends של קבוצות NEG באינטרנט, אפשר לעיין בטבלה: שירותי backend וסוגי backend נתמכים.

פרטים נוספים מופיעים במאמר סקירה כללית על קבוצה של נקודות קצה ברשת באינטרנט.

קצה עורפי של שירות שפורסם

אם רשתות ה-VPC של הספק והצרכן שייכות לאותו ארגון, אפשר לגשת לשירות שפורסם באמצעות קצה עורפי של שירות שפורסם. בק-אנדים של שירותים שפורסמו מאפשרים לכם להגדיר מאזני עומסים נתמכים או Cloud Service Mesh כדי לנתב תנועה לשירותים שפורסמו דרך נקודות קצה של Private Service Connect. כדי להפנות תנועה לשירות שפורסם, משייכים שירות לקצה עורפי אזורי לחיבור שירות. ההגדרה הזו נקראת קצה עורפי של שירות שפורסם.

הבק-אנדים האלה מספקים קישוריות מאוחדת בכך שהם מאפשרים למאזני עומסים נתמכים ול-Cloud Service Mesh לשתף נקודות קצה של Private Service Connect. כדי ליצור את החיבור הזה, צריך לספק הפניה לקובץ המצורף של השירות של הבעלים של השירות המנוהל. בנוסף, קצה עורפי של שירותים שפורסמו מאפשר ניהול מתקדם של תעבורת נתונים וניטור, כמו אכיפה של מדיניות אבטחה מרכזית ואיסוף של מדדים מרכזיים.

מידע נוסף על הגדרת עורפי קצה של שירותים שפורסמו עבור מאזני עומסים זמין במאמר גישה לשירותים שפורסמו דרך עורפי קצה ונקודות קצה של שירותים שפורסמו.

קצוות עורפיים מעורבים

כשמוסיפים סוגים שונים של שרתי קצה עורפיים לשירות קצה עורפי יחיד, צריך להביא בחשבון את שיקולי השימוש הבאים:

  • שירות לקצה העורפי יחיד לא יכול להשתמש בו-זמנית גם בקבוצות של מופעים וגם ב-NEGs אזוריים.
  • אפשר להשתמש בשילוב של סוגים שונים של קבוצות מופעים באותו שירות קצה עורפי. לדוגמה, שירות קצה עורפי יחיד יכול להפנות לשילוב של קבוצות מנוהלות ולא מנוהלות של מכונות. למידע מלא על שירותי קצה עורפי שמתאימים לקצה העורפי, אפשר לעיין בטבלה שבקטע הקודם.
  • עם מאזני עומסים מסוימים של פרוקסי, אפשר להשתמש בשילוב של NEGs אזוריים (עם נקודות קצה של GCE_VM_IP_PORT) ו-NEGs של קישוריות היברידית (עם נקודות קצה של NON_GCP_PRIVATE_IP_PORT) כדי להגדיר איזון עומסים היברידי. כדי לראות אילו מאזני עומסים כוללים את היכולת הזו, אפשר לעיין בטבלה: שירותי בק-אנד וסוגי בק-אנד נתמכים.

הפרוטוקול לקצה העורפי

כשיוצרים שירות קצה עורפי, צריך לציין את הפרוטוקול שמשמש לתקשורת עם הקצוות העורפיים. אפשר לציין רק פרוטוקול אחד לכל שירות backend – אי אפשר לציין פרוטוקול משני לשימוש כגיבוי.

הפרוטוקולים התקפים תלויים בסוג מאזן העומסים.

טבלה: פרוטוקול לשרתי הקצה העורפי
משפחת המוצרים אפשרויות פרוטוקול של שירות לקצה העורפי
Application Load Balancer HTTP, ‏ HTTPS, ‏ HTTP/2
מאזן עומסי רשת בשרת proxy

TCP או SSL

מאזני עומסי רשת אזוריים בשרת proxy תומכים רק ב-TCP.
מאזן עומסי רשת גלובלי חיצוני להעברת סיגנל ללא שינוי לא צוין
מאזן עומסי רשת אזורי להעברת סיגנל ללא שינוי ‫TCP,‏ UDP או UNSPECIFIED

שינוי הפרוטוקול של שירות בק-אנד גורם לכך שאי אפשר לגשת לשרתי הבק-אנד דרך מאזני העומסים למשך כמה דקות.

הצפנה בין מאזן העומסים לבין הקצוות העורפיים

מידע על הצפנה בין מאזן העומסים לבין השרתים העורפיים זמין במאמר בנושא הצפנה לשרתים העורפיים.

מצב איזון, קיבולת יעד ושינוי קיבולת

במאזני עומסים של אפליקציות, ב-Cloud Service Mesh, במאזני עומסי רשת בשרת proxy ובמאזני עומסי רשת גלובליים חיצוניים להעברת סיגנל ללא שינוי, מצב האיזון, קיבולת היעד והתאמת הקיבולת הם פרמטרים שאתם מספקים כשאתם מוסיפים קצה עורפי נתמך לשירות קצה עורפי. מאזני העומסים משתמשים בפרמטרים האלה כדי לנהל את ההפצה של בקשות חדשות (באיזון עומסים מסוג HTTP) או חיבורים חדשים (באיזון עומסים בשרת proxy של TCP ובאיזון עומסים גלובלי מסוג passthrough) לאזורים שמכילים קצה עורפי נתמך:

  • מצב האיזון מגדיר איך מאזן העומסים מודד את הקיבולת. במילים אחרות, מצב האיזון הוא היחידה שבאמצעותה מוגדר נפח האחסון.

    ל-Google Cloud יש את מצבי האיזון הבאים:

    • ‫CONNECTION: מגדיר את הקיבולת על סמך מספר חיבורי ה-TCP החדשים.
    • ‫RATE: מגדיר את הקיבולת על סמך קצב בקשות ה-HTTP החדשות לשנייה (במאזני עומסים של אפליקציות) או מנות לשנייה (במאזני עומסים גלובליים חיצוניים מסוג passthrough).
    • ‫UTILIZATION: הגדרה של הקיבולת על סמך ניצול ה-CPU המשוער של מכונות וירטואליות באזור של קבוצת מכונות.
    • ‫CUSTOM_METRICS: מגדיר את הקיבולת על סמך מדדים מותאמים אישית שהוגדרו על ידי המשתמש.

  • המאפיין target capacity מגדיר את מספר קיבולת היעד.

    • קיבולת היעד לא משמשת כמפסק.
    • כשניצול הקיבולת מגיע לקיבולת היעד, מאזן העומסים מפנה בקשות חדשות או חיבורים חדשים לאזור אחר, אם קצוות העורף מוגדרים בשני אזורים או יותר.
    • מאזני עומסים גלובליים ובין-אזוריים משתמשים גם בקיבולת כדי להפנות בקשות או חיבורים חדשים לאזורים באזורים שונים, אם הגדרתם קצה עורפי ביותר מאזור אחד.
    • כשכל האזורים מגיעים לקיבולת היעד, המערכת מחלקת את הבקשות החדשות או החיבורים החדשים על ידי מילוי יתר באופן יחסי.

  • כלי להגדלת הקיבולת מאפשר להגדיל את קיבולת היעד באופן ידני. הערכים של גורם קנה המידה של הקיבולת הם:

    • ‫0: מציין שהקצה העורפי ריק לחלוטין. אי אפשר להשתמש בערך 0 אם לשירות לקצה העורפי יש רק עורף אחד.
    • ‫0.1 (10%) – 1.0 (100%): מציין את אחוז הקיבולת של העורף שנעשה בו שימוש.

שרתי קצה עורפיים נתמכים

במאזני עומסים מבוססי-proxy (מאזני עומסים של אפליקציות ומאזני עומסי רשת בשרת proxy) וב-Cloud Service Mesh, סוגי הקצה העורפי הבאים תומכים בפרמטרים של מצב איזון העומסים, קיבולת היעד והתאמת הקיבולת:

במאזני עומסים גלובליים חיצוניים של רשתות להעברת סיגנל ללא שינוי, סוגי הבק-אנד הבאים תומכים בפרמטרים של מצב איזון, קיבולת יעד ושינוי קיבולת:

‫NEGs של אינטרנט, NEGs של serverless ו-NEGs של Private Service Connect לא תומכים בפרמטרים של מצב איזון, קיבולת יעד ושינוי קיבולת.

מצבי איזון למאזני עומסים של אפליקציות (ALB) ול-Cloud Service Mesh

מצבי האיזון שזמינים לקצה העורפי של מאזן עומסים של אפליקציות ושל Cloud Service Mesh תלויים בסוג הקצה העורפי הנתמך ובהגדרה של משך התנועה.

הגדרת משך הזמן של התנועה

בשרתי קצה עורפיים של Application Load Balancer ו-Cloud Service Mesh, אפשר גם לציין הגדרה של משך התנועה. ההגדרה הזו ייחודית למיפוי בין קצה עורפי נתמך לבין שירות קצה עורפי. להגדרת משך התנועה יש שני ערכים תקינים:

  • ‫SHORT: מומלץ לבקשות HTTP שהתשובות עליהן מגיעות מהשרתים העורפיים תוך פחות משנייה. אם לא מציינים במפורש את משך התנועה, מאזן העומסים פועל כאילו צוין SHORT.
  • ‫LONG: מומלץ לבקשות HTTP שבהן לשרת העורפי נדרשת יותר משנייה אחת כדי ליצור תגובות.

כדי להגדיר באופן מפורש את משך התנועה כשמוסיפים קצה עורפי לשירות קצה עורפי, מבצעים אחת מהפעולות הבאות:

  • מריצים את הפקודה gcloud compute backend-services add-backend עם הדגל --traffic-duration.
  • יוצרים שירות לקצה העורפי או מעדכנים שירות לקצה העורפי באמצעות trafficDuration.

מצבי איזון למשך תנועה קצר

אם לא מציינים את הגדרת משך התעבורה או אם היא מוגדרת ל-SHORT, מצבי האיזון שזמינים עבור מאזני עומסים של אפליקציות וקצוות עורפיים של Cloud Service Mesh תלויים בסוג הקצה העורפי הנתמך.

טבלה: מצבי איזון עומסים עבור עורפי תנועה של מאזן עומסים של אפליקציות ושל Cloud Service Mesh באמצעות ההגדרה של משך תנועה קצר
קצה עורפי נתמך מצב איזון
CONNECTION RATE UTILIZATION CUSTOM_METRICS
קבוצות של מכונות
‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה
‫NEGs אזוריים של קישוריות היברידית

מצבי איזון למשכי תנועה ארוכים

כשההגדרה של משך התעבורה היא LONG, מצבי האיזון שזמינים לקצה העורפי של מאזן העומסים של האפליקציה ושל Cloud Service Mesh תלויים בסוג הקצה העורפי הנתמך.

‫
טבלה: מצבי איזון עומסים עבור עורפי קצה של מאזן עומסים של אפליקציות ו-Cloud Service Mesh באמצעות ההגדרה של משך תנועה ארוך
קצה עורפי נתמך מצב איזון
CONNECTION RATE UTILIZATION CUSTOM_METRICS
קבוצות של מכונות
‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה
‫NEGs אזוריים של קישוריות היברידית

מצבי איזון למאזני עומסים של רשת בשרת proxy

מצבי האיזון שזמינים לבק-אנד של מאזן עומסי רשת לשרת proxy תלויים בסוג הבק-אנד הנתמך.

טבלה: מצבי איזון עומסים למאזני עומסי רשת של שרתי proxy
קצה עורפי נתמך מצב איזון
CONNECTION RATE UTILIZATION CUSTOM_METRICS
קבוצות של מכונות
‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה
‫NEGs אזוריים של קישוריות היברידית

מצבי איזון למאזני עומסי רשת להעברת סיגנל ללא שינוי

בטבלאות הבאות מפורטים מצבי האיזון של מאזני עומסים גלובליים ואזוריים של רשת להעברת סיגנל ללא שינוי.

מצבי איזון למאזנים אזוריים של עומסי רשת להעברת סיגנל ללא שינוי

בטבלה הבאה מוצגים מצבי האיזון של מאזני עומסי רשת אזוריים להעברת סיגנל ללא שינוי – מאזן עומסי רשת אזורי חיצוני להעברת סיגנל ללא שינוי ומאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי.

טבלה: מצבי איזון למאזני עומסי רשת אזוריים להעברת סיגנל ללא שינוי
קצה עורפי נתמך מצב איזון
CONNECTION
קבוצות של מכונות
‫NEGs אזוריים עם GCE_VM_IP נקודות קצה

מפרטים של קיבולת יעד למאזני עומסים מבוססי-proxy

בקטע הזה מוסבר על הגדרות קיבולת היעד למאזן עומסים של אפליקציות, ל-Cloud Service Mesh ולשרתי קצה עורפיים של מאזן עומסי רשת פרוקסי שתומכים בהגדרות של מצב איזון, קיבולת יעד ושינוי קיבולת.

מידע נוסף על הגדרות קיבולת יעד למאזני עומסי רשת גלובליים חיצוניים להעברת סיגנל ללא שינוי זמין במאמר הגדרות קיבולת יעד למאזני עומסי רשת גלובליים חיצוניים להעברת סיגנל ללא שינוי.

מצב איזון החיבור

שרתי קצה עורפיים של מאזן עומסי רשת מסוג Proxy Network Load Balancer יכולים להשתמש במצב האיזון CONNECTION עם אחד מהפרמטרים הנדרשים הבאים של קיבולת היעד:

פרמטרים של קיבולת יעד למצב איזון CONNECTION
פרמטר של קיבולת היעד קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) קבוצות אזוריות של מופעי מכונה מנוהלים ‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה ‫NEGs אזוריים של קישוריות היברידית
max-connections
חיבורי TCP ליעד לכל אזור קצה עורפי
max-connections-per-instance
חיבורי TCP ליעד לכל מכונה וירטואלית. מערכת Cloud Load Balancing משתמשת בפרמטר הזה כדי לחשב את מספר חיבורי ה-TCP ליעד בכל אזור קצה עורפי.
max-connections-per-endpoint
חיבורי TCP ליעד לכל נקודת קצה של NEG. מערכת Cloud Load Balancing משתמשת בפרמטר הזה כדי לחשב את מספר חיבורי ה-TCP ליעד בכל אזור קצה עורפי.

שימוש בפרמטר max-connections

כשמציינים את הפרמטר max-connections, הערך שמספקים מגדיר את הקיבולת של אזור שלם.

  • עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-connections ל-X, קיבולת היעד האזורי היא X.
    • מספר החיבורים הממוצע לכל מכונה הוא X / h.

  • קבוצות מנוהלות של מופעים אזוריים לא תומכות בפרמטר max-connections כי הן מורכבות מכמה אזורים. במקום זאת, צריך להשתמש בפרמטר max-connections-per-instance.

  • עבור NEG אזורי עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h ≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-connections ל-X, קיבולת היעד האזורי היא X.
    • מספר החיבורים הממוצע לכל נקודת קצה הוא X / h.

שימוש בפרמטר max-connections-per-instance או max-connections-per-endpoint

כשמציינים את הפרמטר max-connections-per-instance או את הפרמטר max-connections-per-endpoint, מאזן העומסים משתמש בערך שמספקים כדי לחשב את הקיבולת לכל אזור:

  • עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-connections-per-instance ל-X, קיבולת היעד האזורי היא N * X. הפעולה הזו שוות ערך להגדרת max-connections לערך N * X.
    • מספר החיבורים הממוצע לכל מכונה הוא (N * X) / h.

  • אם מגדירים max-connections-per-instance ל-X בקבוצת מופעי מכונה מנוהלים אזורית, Google Cloud מחשב את קיבולת היעד לכל תחום (zone) בכל תחום (zone) של קבוצת מופעי המכונה. בכל אזור, אם יש K מכונות בסך הכול ו-h מכונות תקינות (כאשר h≤ K), החישובים הם כדלקמן:

    • קיבולת היעד של האזור היא K * X.
    • מספר החיבורים הממוצע לכל מכונה באזור הוא (K * X) / h.

  • עבור NEG אזורי עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h ≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-connections-per-endpoint ל-X, קיבולת היעד האזורי היא N * X. הפעולה הזו שוות ערך להגדרת max-connections לערך N * X.
    • מספר החיבורים הממוצע לכל נקודת קצה הוא (N * X) / h.

מצב איזון שיעורים

בקצה העורפי של Application Load Balancer ו-Cloud Service Mesh עם הגדרה של משך תנועה לא מוגדר או קצר, אפשר להשתמש במצב איזון RATE עם אחד מהפרמטרים הנדרשים הבאים של קיבולת היעד:

טבלה: פרמטרים של קיבולת יעד למצב איזון RATE
פרמטר של קיבולת היעד קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) קבוצות אזוריות של מופעי מכונה מנוהלים ‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה ‫NEGs אזוריים של קישוריות היברידית
max-rate
קצב בקשות HTTP ליעד לכל אזור קצה עורפי
‫max-rate-per-instance
יעד קצב בקשות ה-HTTP לכל מכונה וירטואלית. מערכת Cloud Load Balancing משתמשת בפרמטר הזה כדי לחשב את קצב הבקשות של HTTP ליעד לכל אזור בק-אנד.
max-rate-per-endpoint
קצב בקשות HTTP ליעד לכל נקודת קצה של NEG. ‫Cloud Load Balancing משתמש בפרמטר הזה כדי לחשב את קצב הבקשות של HTTP ליעד לכל אזור בק-אנד.

שימוש בפרמטר max-rate

כשמציינים את הפרמטר max-rate, הערך שמספקים מגדיר את הקיבולת של אזור שלם.

  • עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-rate ל-X, קיבולת היעד האזורית היא X בקשות לשנייה.
    • מספר הבקשות הממוצע לשנייה לכל מכונה הוא X / h.

  • קבוצות מנוהלות של מופעים אזוריים לא תומכות בפרמטר max-rate כי הן מורכבות מכמה אזורים. במקום זאת, צריך להשתמש בפרמטר max-rate-per-instance.

  • עבור NEG אזורי עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h ≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-rate ל-X, קיבולת היעד האזורית היא X בקשות לשנייה.
    • מספר הבקשות הממוצע לשנייה לכל נקודת קצה הוא X / h.

שימוש בפרמטר max-rate-per-instance או max-rate-per-endpoint

כשמציינים את הפרמטר max-rate-per-instance או max-rate-per-endpoint, מאזן העומסים משתמש בערך שסיפקתם כדי לחשב את הקיבולת לכל אזור:

  • עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-rate-per-instance ל-X, קיבולת היעד האזורית היא N * X בקשות לשנייה. הפעולה הזו שוות ערך להגדרת max-rate לערך N * X.
    • מספר הבקשות הממוצע לשנייה לכל מכונה הוא (N * X) / h.

  • אם מגדירים max-rate-per-instance ל-X בקבוצת מופעי מכונה מנוהלים אזורית, Google Cloud מחשב את קיבולת היעד לכל תחום (zone) בכל תחום (zone) של קבוצת מופעי המכונה. בכל אזור, אם יש K מכונות בסך הכול ו-h מכונות תקינות (כאשר h≤ K), החישובים הם כדלקמן:

    • קיבולת היעד של האזור היא K * X בקשות לשנייה.
    • מספר הבקשות הממוצע לשנייה לכל מכונה באזור הוא (K * X) / h.

  • עבור NEG אזורי עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h≤ N), החישובים הם כדלקמן:

    • אם מגדירים את max-rate-per-endpoint ל-X, קיבולת היעד האזורית היא N * X בקשות לשנייה. הפעולה הזו שוות ערך להגדרת max-rate לערך N * X.
    • מספר הבקשות הממוצע לשנייה לכל נקודת קצה הוא (N * X) / h.

מצב איזון ניצול

מאזן עומסים של אפליקציות, Cloud Service Mesh וקצה עורפי של קבוצת מופעים של מאזן עומסי רשת בשרת proxy יכולים להשתמש בUTILIZATION מצב איזון. בקצה העורפי של NEG אין תמיכה במצב איזון העומסים הזה.

UTILIZATION מצב האיזון תלוי בניצול המעבד של מכונה וירטואלית, וגם בגורמים אחרים. כשגורמים כאלה משתנים, יכול להיות שמאזן העומסים יחשב את הניצול באופן שיגרום לכך שמכונות וירטואליות מסוימות יקבלו יותר בקשות או חיבורים מאחרות. לכן, חשוב לזכור:

  • אפשר להשתמש במצב איזון UTILIZATION רק אם קרבת הסשן מוגדרת לערך NONE. אם שירות הקצה העורפי משתמש בזיקה לסשן ששונה מ-NONE, צריך להשתמש במצבי האיזון RATE,‏ במקום זאת.CONNECTION

  • אם שיעור הניצול הממוצע של כל המכונות הווירטואליות שמשויכות לשירות קצה עורפי נמוך מ-10%, מאזן העומסים הופך לרגיש מאוד לשינויים קלים בתנועת הגולשים. לכן, צפוי חוסר איזון מסוים בתנועת הגולשים, ושינויים קלים בעומס יכולים לגרום לשינוי בחלוקת תנועת הגולשים בין השרתים השונים.

UTILIZATION למצב איזון אין הגדרת קיבולת יעד חובה, אבל אפשר להגדיר קיבולת יעד באמצעות אחד מפרמטרים של קיבולת היעד או שילובים של פרמטרים של קיבולת היעד שמתוארים בקטעים הבאים.

פרמטרים של קיבולת יעד לניצול עבור עורפי קצה של Application Load Balancer ו-Cloud Service Mesh עם הגדרה לא מוגדרת או קצרה של משך התנועה

בקצה העורפי של מאזן העומסים של האפליקציה ושל Cloud Service Mesh עם הגדרה של משך תנועה לא מוגדר או קצר, אפשר להשתמש במצב איזון UTILIZATION עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

טבלה: פרמטרים של קיבולת יעד במצב איזון UTILIZATION ושילובי פרמטרים עבור עורפי קצה של מאזן עומסים של אפליקציות ו-Cloud Service Mesh עם הגדרה לא מוגדרת או קצרה של משך התנועה
פרמטר או שילוב פרמטרים של קיבולת טירגוט קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) קבוצות אזוריות של מופעי מכונה מנוהלים ‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה ‫NEGs אזוריים של קישוריות היברידית
max-utilization
שיעור הניצול של כל אזור קצה עורפי
max-rate
קצב בקשות HTTP ליעד לכל אזור קצה עורפי
‫max-rate ו-max-utilization
קיבולת אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • שיעור הניצול של אזור היעד
  • קצב בקשות ה-HTTP ליעד של האזור
‫max-rate-per-instance
יעד קצב בקשות ה-HTTP לכל מכונה וירטואלית. מערכת Cloud Load Balancing משתמשת בפרמטר הזה כדי לחשב את קצב הבקשות של HTTP ליעד לכל אזור בק-אנד.
‫max-rate-per-instance ו- max-utilization
הקיבולת של אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • שיעור הניצול של אזור היעד
  • שיעור היעד של בקשות HTTP באזור (מחושב משיעור היעד של בקשות HTTP לכל מכונה וירטואלית במכונות באזור)

מידע נוסף על פרמטרים של קיבולת יעד max-rate ו-max-rate-per-instance זמין בקטע מצב איזון קצב במאמר הזה.

פרמטרים של קיבולת יעד לניצול עבור מאזן עומסים של אפליקציות וקצה עורפי של Cloud Service Mesh עם הגדרה של משך תנועה ארוך

בק-אנד של Application Load Balancer ו-Cloud Service Mesh עם הגדרה ארוכה של משך התנועה יכולים להשתמש במצב איזון UTILIZATION עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

טבלה: פרמטרים של קיבולת יעד במצב איזון UTILIZATION ושילובי פרמטרים עבור עורפי קצה של מאזן עומסים של אפליקציות ו-Cloud Service Mesh עם הגדרה של משך תנועה ארוך
פרמטר או שילוב פרמטרים של קיבולת טירגוט קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) קבוצות אזוריות של מופעי מכונה מנוהלים ‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה ‫NEGs אזוריים של קישוריות היברידית
max-utilization
שיעור הניצול של כל אזור קצה עורפי

פרמטרים של קיבולת יעד לניצול למאזני עומסי רשת בשרת proxy

בקצה העורפי של מאזני עומסים מסוג proxy לרשת, אפשר להשתמש בפרמטר UTILIZATION balancing mode עם אחד מפרמטרים או שילובים של פרמטרים של קיבולת היעד הבאים.

טבלה: UTILIZATION פרמטרים של קיבולת יעד במצב איזון וצירופי פרמטרים עבור קצה עורפי של מאזן עומסי רשת לשרת proxy
פרמטר או שילוב פרמטרים של קיבולת טירגוט קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) קבוצות אזוריות של מופעי מכונה מנוהלים ‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה ‫NEGs אזוריים של קישוריות היברידית
max-utilization
שיעור הניצול של כל אזור קצה עורפי
max-connections
חיבורי TCP ליעד לכל אזור קצה עורפי
‫max-connections ו-max-utilization
קיבולת אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • שיעור הניצול של אזור היעד
  • חיבורי TCP ביעד של האזור
max-connections-per-instance
חיבורי TCP ליעד לכל מכונה וירטואלית. מערכת Cloud Load Balancing משתמשת בפרמטר הזה כדי לחשב את מספר חיבורי ה-TCP ליעד בכל אזור קצה עורפי.
‫max-connections-per-instance ו- max-utilization
הקיבולת של אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • שיעור הניצול של אזור היעד
  • חיבורי TCP ליעד של האזור (מחושבים מחיבורי ה-TCP ליעד לכל מכונה וירטואלית של המכונות הווירטואליות באזור)

מידע נוסף על פרמטרים של קיבולת יעד max-connections ו-max-connections-per-instance זמין בקטע מצב איזון חיבורים במאמר הזה.

מצב איזון של מדדים מותאמים אישית

בקצה העורפי של מאזן עומסים של אפליקציות ומאזן עומסי רשת בשרת proxy אפשר להשתמש במצב איזון CUSTOM_METRICS. מדדים בהתאמה אישית מאפשרים לכם להגדיר קיבולת יעד על סמך נתוני אפליקציה או תשתית שהכי חשובים לכם. מידע נוסף זמין במאמר בנושא מדדים מותאמים אישית עבור מאזני עומסים של אפליקציות.

לCUSTOM_METRICS מצב איזון אין הגדרת קיבולת יעד חובה, אבל אפשר להגדיר קיבולת יעד באמצעות אחד מפרמטרים של קיבולת יעד או שילובים של פרמטרים של קיבולת יעד שמתוארים בקטעים הבאים.

מדדים מותאמים אישית לפרמטרים של קיבולת יעד לשרתי קצה עורפיים של מאזן עומסים של אפליקציות (ALB) עם הגדרה לא מוגדרת או קצרה של משך התנועה

בקצה העורפי של מאזן העומסים של האפליקציה עם הגדרה של משך תנועה לא מוגדר או קצר, אפשר להשתמש במצב איזון CUSTOM_METRICS עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

‫
Table: CUSTOM_METRICS balancing mode target capacity parameters and parameter combinations for Application Load Balancer backends with an unspecified or short traffic duration setting
פרמטר או שילוב פרמטרים של קיבולת טירגוט קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) קבוצות אזוריות של מופעי מכונה מנוהלים ‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה ‫NEGs אזוריים של קישוריות היברידית
backends[].customMetrics[].maxUtilization
Target custom metric utilization per backend zone
max-rate
קצב בקשות HTTP ליעד לכל אזור קצה עורפי
‫max-rate ו- backends[].customMetrics[].maxUtilization
הקיבולת של אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • שיעור הניצול של מדד מותאם אישית של אזור
  • קצב בקשות ה-HTTP ליעד של האזור
‫max-rate-per-instance
יעד קצב בקשות ה-HTTP לכל מכונה וירטואלית. מערכת Cloud Load Balancing משתמשת בפרמטר הזה כדי לחשב את קצב הבקשות של HTTP ליעד לכל אזור בק-אנד.
‫max-rate-per-instance ו- backends[].customMetrics[].maxUtilization
הקיבולת של אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • שיעור הניצול של מדד מותאם אישית של אזור
  • שיעור היעד של בקשות HTTP באזור (מחושב משיעור היעד של בקשות HTTP לכל מכונה וירטואלית במכונות באזור)
max-rate-per-endpoint
קצב בקשות HTTP ליעד לכל נקודת קצה של NEG. ‫Cloud Load Balancing משתמש בפרמטר הזה כדי לחשב את קצב הבקשות של HTTP ליעד לכל אזור בק-אנד.
‫max-rate-per-endpoint ו- backends[].customMetrics[].maxUtilization
הקיבולת של אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • שיעור הניצול של מדד מותאם אישית של אזור
  • שיעור בקשות ה-HTTP היעד של האזור (מחושב משיעור בקשות ה-HTTP היעד לכל נקודת קצה של NEG של נקודות הקצה באזור)

מידע נוסף על פרמטרים של קיבולת יעד max-rate, max-rate-per-instance ו-max-rate-per-endpoint זמין בקטע מצב איזון קצב במסמך הזה.

פרמטרים של קיבולת יעד של מדדים מותאמים אישית לעורפי תנועה של מאזן עומסים של אפליקציות עם הגדרה של משך תנועה ארוך

בקצה העורפי של מאזן עומסים של אפליקציות עם הגדרה ארוכה של משך התנועה אפשר להשתמש במצב האיזון CUSTOM_METRICS עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

טבלה: פרמטרים של קיבולת יעד במצב איזון CUSTOM_METRICS ושילובי פרמטרים עבור עורפי קצה של Application Load Balancer עם הגדרה של משך תנועה ארוך (גרסת Preview)
פרמטר או שילוב פרמטרים של קיבולת טירגוט קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) קבוצות אזוריות של מופעי מכונה מנוהלים ‫NEGs אזוריים עם GCE_VM_IP_PORT נקודות קצה ‫NEGs אזוריים של קישוריות היברידית
backends[].customMetrics[].maxUtilization
Target custom metric utilization per backend zone

מפרטים של קיבולת יעד למאזני עומסים גלובליים חיצוניים של רשתות להעברת סיגנל ללא שינוי

הגדרות קיבולת היעד רלוונטיות רק לבק-אנד של מאזני עומסי רשת גלובליים חיצוניים להעברת סיגנל ללא שינוי. הם לא רלוונטיים לשרתי backend למאזני עומסי רשת אזוריים להעברת סיגנל ללא שינוי.

מצב איזון שיעורים

בקצה העורפי של מאזן עומסי רשת גלובלי חיצוני להעברת סיגנל ללא שינוי אפשר להשתמש במצב איזון RATE עם אחד מפרמטרי קיבולת היעד הנדרשים הבאים:

טבלה: פרמטרים של קיבולת יעד למצב איזון RATE
פרמטר של קיבולת היעד קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) ‫NEGs אזוריים עם GCE_VM_IP נקודות קצה
max-rate
‫max-rate-per-instance
מציין את יעד קצב העברת המנות לכל מכונה וירטואלית. Cloud Load Balancing משתמש בפרמטר הזה כדי לחשב את קצב החבילות של היעד לכל אזור בק-אנד.
max-rate-per-endpoint
מציין את קצב המנות ליעד לכל נקודת קצה של NEG. מערכת Cloud Load Balancing משתמשת בפרמטר הזה כדי לחשב את קצב החבילות של היעד לכל אזור בק-אנד.

מצב איזון ניצול

מאזני עומסים גלובליים חיצוניים של רשת להעברת סיגנל ללא שינוי עם קצה עורפי של קבוצת מופעים יכולים להשתמש בUTILIZATION מצב איזון. בקצה העורפי של קבוצות ה-NEG אין תמיכה במצב האיזון הזה. למצב איזון UTILIZATION אין הגדרת קיבולת יעד חובה, אבל אפשר להגדיר קיבולת יעד באמצעות אחד מפרמטרים של קיבולת יעד או שילובים של פרמטרים של קיבולת יעד, כמו שמתואר בקטע הזה.

אם לא מציינים את max-utilization ואת max-rate-per-instance, קיבולת האזור של ה-Backend נקבעת רק לפי ניצול היעד של האזור (max-utilization) באמצעות ערך ברירת המחדל 0.8 (80%), ללא יעד של קצב מנות.

טבלה: פרמטרים של קיבולת יעד למצב איזון UTILIZATION
פרמטר או שילוב פרמטרים של קיבולת יעד קצה עורפי נתמך
קבוצות מופעי מכונה אזוריות (מנוהלות או לא מנוהלות) ‫NEGs אזוריים עם GCE_VM_IP נקודות קצה
max-utilization
קיבולת האזור העורפי נקבעת רק לפי ניצול היעד של האזור (max-utilization), ללא קצב יעד של מנות.
max-rate-per-instance
קיבולת האזור של ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • ניצול היעד של האזור (max-utilization) באמצעות ערך ברירת המחדל 0.8 (80%)
  • יעד קצב העברת המנות של האזור (max-rate-per-instance)
‫max-rate-per-instance ו-max-utilization
קיבולת אזור ה-Backend נקבעת לפי המדד שמגיע ליעד שלו ראשון:
  • יעד הניצול של האזור (max-utilization)
  • יעד קצב העברת המנות של האזור (max-rate-per-instance)

מדיניות איזון עומסים של שירות

מדיניות איזון עומסים בשירות (serviceLbPolicy) היא משאב שמשויך לשירות לקצה העורפי של מאזן עומסים של אפליקציות, מאזן עומסי רשת בשרת proxy או Cloud Service Mesh. למידע נוסף:

מדיניות מקומית לאיזון עומסים

בכל מאזני העומסים, למעט מאזני עומסי רשת אזוריים להעברת סיגנל ללא שינוי, חלוקת התעבורה מבוססת על מצב איזון עומסים ועל מדיניות מקומית של איזון עומסים. מצב איזון העומסים קובע את חלק התנועה שצריך לשלוח לכל קצה עורפי (קבוצת מופעים או NEG). לאחר מכן, מדיניות המיקום של איזון העומסים (LocalityLbPolicy) קובעת איך התעבורה מתחלקת בין המופעים או נקודות הקצה בכל אזור. בקבוצות אזוריות של מופעים מנוהלים, מדיניות המיקום חלה על כל אזור שמרכיב את הקבוצה.

במאזנים אזוריים חיצוניים של עומסי רשת להעברת סיגנל ללא שינוי, חלוקת התעבורה מבוססת רק על מדיניות מקומית לאיזון עומסים. הוא קובע איך תעבורת נתונים מתחלקת בין כל שרתי ה-backend או נקודות הקצה (של כל קבוצות שרתי ה-backend או NEGs של שירות לקצה העורפי).

מדיניות המיקום של איזון העומסים מוגדרת לכל שירות קצה עורפי. ההגדרות הבאות זמינות:

  • ‫ROUND_ROBIN (ברירת מחדל): זו הגדרת ברירת המחדל של מדיניות המיקום לאיזון עומסים, שבה מאזן העומסים בוחר קצה עורפי תקין לפי סדר סיבובי.

  • ‫LEAST_REQUEST: אלגוריתם O(1) שבו מאזן העומסים בוחר באופן אקראי שני מארחים תקינים ובוחר את המארח עם פחות בקשות פעילות.

  • ‫RING_HASH: האלגוריתם הזה מיישם גיבוב עקבי לשרתי קצה עורפיים. האלגוריתם בנוי כך שהוספה או הסרה של מארח מקבוצה של N מארחים משפיעה רק על 1/N מהבקשות.

  • ‫RANDOM: מאזן העומסים בוחר מארח תקין באופן אקראי.

  • ‫ORIGINAL_DESTINATION: מאזן העומסים בוחר קצה עורפי על סמך המטא-נתונים של חיבור הלקוח. החיבורים נפתחים לכתובת ה-IP של היעד המקורי שצוינה בבקשת הלקוח הנכנסת, לפני שהבקשה הופנתה למאזן העומסים.

  • ‫MAGLEV: מטמיע גיבוב עקבי לשרתי קצה עורפיים, ואפשר להשתמש בו כתחליף למדיניות RING_HASH. ‫Maglev לא יציב כמו RING_HASH אבל הוא מאפשר בנייה מהירה יותר של טבלאות חיפוש וזמני בחירה מהירים יותר של קצה העורף. מידע נוסף על Maglev זמין במאמר הטכני בנושא Maglev.

  • ‫WEIGHTED_MAGLEV: הטמעה של איזון עומסים אזורי חיצוני להעברת סיגנל ללא שינוי ברשת לפי משקל לכל מכונה, באמצעות משקלים שמדווחים על ידי בדיקות תקינות. אם משתמשים במדיניות הזו, שירות לקצה העורפי צריך להגדיר בדיקת תקינות מבוססת-HTTP שאינה מדור קודם, ותשובות בדיקת התקינות צפויות להכיל את שדה כותרת התגובה של HTTP שאינו סטנדרטי, X-Load-Balancing-Endpoint-Weight, כדי לציין את המשקלים לכל מופע. ההחלטות לגבי איזון העומסים מתקבלות על סמך המשקלים לכל מופע שמדווחים בתשובות האחרונות לבדיקת התקינות שעובדו, כל עוד כל מופע מדווח על משקל תקין או על UNAVAILABLE_WEIGHT. אחרת, איזון העומסים יישאר שווה.

    לדוגמה, אפשר לעיין במאמר הגדרת איזון עומסים לפי משקל למאזנים חיצוניים של עומסי רשת להעברת סיגנל ללא שינוי.

  • ‫WEIGHTED_ROUND_ROBIN: מאזן העומסים משתמש במדדים מותאמים אישית שהוגדרו על ידי המשתמש כדי לבחור את המופע או נקודת הקצה האופטימליים בעורף שיטפלו בבקשה.

טבלה: הגדרות נתמכות של מדיניות מקומית לאיזון עומסים
מאזן עומסים אפשרויות של מדיניות מקומית לאיזון עומסים

מאזן עומסים גלובלי חיצוני של אפליקציות (ALB)

מאזן עומסים חיצוני אזורי של אפליקציות (ALB)

מאזן עומסים פנימי של אפליקציות (ALB) שפועל בכמה אזורים

מאזן עומסים פנימי אזורי של אפליקציות (ALB)

אפשרויות נתמכות:

  • ROUND_ROBIN

  • LEAST_REQUEST

  • RING_HASH

  • RANDOM

  • ‫ORIGINAL_DESTINATION (לא נתמך במאזני עומסים גלובליים חיצוניים של אפליקציות)

  • MAGLEV

  • WEIGHTED_ROUND_ROBIN

מאזן עומסי רשת גלובלי חיצוני בשרת proxy

מאזן עומסי רשת אזורי חיצוני בשרת proxy

מאזן עומסי רשת פנימי בשרת proxy שפועל בכמה אזורים

מאזן עומסי רשת אזורי פנימי בשרת proxy

אפשרויות נתמכות:

  • ROUND_ROBIN

  • LEAST_REQUEST

  • RING_HASH

  • RANDOM

  • MAGLEV

  • ORIGINAL_DESTINATION (לא אפשרי במאזני עומסי רשת גלובליים חיצוניים לשרת proxy)
מאזן עומסי רשת גלובלי חיצוני להעברת סיגנל ללא שינוי

אפשרויות נתמכות:

  • MAGLEV
מאזן עומסי רשת חיצוני אזורי להעברת סיגנל ללא שינוי

אפשרויות נתמכות:

  • MAGLEV

  • WEIGHTED_MAGLEV

מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי

מאזן עומסים קלאסי של אפליקציות (ALB)

מאזן עומסי רשת קלאסי בשרת proxy

 לא נתמך

במאזני עומסים מבוססי-proxy (מאזני עומסים של אפליקציות ומאזני עומסי רשת בשרת proxy), ערך ברירת המחדל האפקטיבי של מדיניות המיקום של איזון העומסים (localityLbPolicy) משתנה בהתאם להגדרות של זיקה לסשן (session affinity). אם לא מגדירים את הזיקה לסשן – כלומר, אם הזיקה לסשן נשארת בערך ברירת המחדל NONE – ערך ברירת המחדל של localityLbPolicy הוא ROUND_ROBIN. אם זיקת הסשן מוגדרת לערך שאינו NONE, ערך ברירת המחדל של localityLbPolicy הוא MAGLEV.

במאזני עומסי רשת להעברת סיגנל ללא שינוי, MAGLEV הוא ערך ברירת המחדל של מדיניות המיקום של איזון העומסים (localityLbPolicy).

כדי להגדיר מדיניות מקומית לאיזון עומסים, אפשר להשתמש במסוףGoogle Cloud , ב-gcloud ‏(--locality-lb-policy) או ב-API ‏(localityLbPolicy).

חלוקת משנה של הקצה העורפי

חלוקה לקבוצות משנה בעורף המערכת היא תכונה אופציונלית שמשפרת את הביצועים ואת יכולת ההתאמה לגודל על ידי הקצאת קבוצת משנה של שרתים עורפיים לכל אחד מהמופעים של מאזן העומסים.

אפשר להשתמש בחלוקה לקבוצות משנה בקצה העורפי במקרים הבאים:

  • מאזן עומסים פנימי אזורי של אפליקציות (ALB)
  • מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי

חלוקה לקבוצות משנה של קצה עורפי למאזני עומסים פנימיים אזוריים של אפליקציות (ALB)

במאזני עומסים פנימיים אזוריים של אפליקציות, חלוקת המשנה של הקצה העורפי מקצה באופן אוטומטי רק קבוצת משנה של הקצה העורפי בשירות הקצה העורפי האזורי לכל מופע של שרת proxy. כברירת מחדל, כל מופע של שרת proxy פותח חיבורים לכל השרתים העורפיים בשירות לקצה העורפי. אם מספר מופעי ה-proxy ומספר ה-backends גדולים, פתיחת חיבורים לכל ה-backends עלולה לגרום לבעיות בביצועים.

אם מפעילים את התכונה subsetting, כל שרת proxy פותח חיבורים רק לחלק ממסדי הנתונים, וכך מצטמצם מספר החיבורים שנשארים פתוחים לכל מסד נתונים. צמצום מספר החיבורים הפתוחים בו-זמנית לכל שרת קצה עורפי יכול לשפר את הביצועים של שרתי הקצה העורפי ושל שרתי ה-proxy.

התרשים הבא מציג מאזן עומסים עם שני שרתי proxy. בלי חלוקת משנה של קצה עורפי, התנועה משני ה-proxy מופצת לכל הקצוות העורפיים בשירות הקצה העורפי 1. כשהאפשרות 'חלוקת משנה של שרתים עורפיים' מופעלת, התנועה מכל שרת proxy מופצת לקבוצת משנה של השרתים העורפיים. התנועה משרת ה-proxy מספר 1 מופצת לעורפי הקצה מספר 1 ו-2, והתנועה משרת ה-proxy מספר 2 מופצת לעורפי הקצה מספר 3 ו-4.

השוואה בין מאזן עומסים פנימי של אפליקציות (ALB) ללא חלוקת משנה של שרתים עורפיים ועם חלוקת משנה של שרתים עורפיים.
השוואה בין מאזן עומסים של אפליקציות (ALB) פנימי ללא חלוקת משנה של קצה עורפי ועם חלוקת משנה של קצה עורפי (לחצו כדי להגדיל).

בנוסף, אפשר לחדד את התנועה של איזון העומסים לשרתי הקצה על ידי הגדרת המדיניות localityLbPolicy. מידע נוסף זמין במאמר בנושא מדיניות בנושא תנועה.

במאמר הגדרת חלוקת משנה של קצה עורפי מוסבר איך להגדיר חלוקת משנה של קצה עורפי למאזני עומסים פנימיים של אפליקציות.

הערות לגבי חלוקת קצה עורפי לקבוצות משנה במאזן עומסים של אפליקציות (ALB) פנימי

  • למרות שהחלוקה לקבוצות משנה בעורף נועדה לוודא שכל המופעים בעורף ימשיכו להיות בשימוש יעיל, היא עלולה להוביל להטיה מסוימת בכמות התנועה שכל עורף מקבל. מומלץ להגדיר את localityLbPolicy ל-LEAST_REQUEST בשירותים לקצה העורפי שרגישים לאיזון של עומס הקצה העורפי.
  • הפעלה או השבתה של יצירת קבוצת משנה משבשות קישורים קיימים.
  • כדי לבצע חלוקה לקבוצות משנה בקצה העורפי, צריך להגדיר את הזיקה לסשן (session affinity) ל-NONE (גיבוב של 5 טאפלים). אפשר להשתמש באפשרויות אחרות של זיקה לסשן (session affinity) רק אם השבתתם את חלוקת ה-backend לקבוצות משנה. ערכי ברירת המחדל של הדגלים --subsetting-policy ו---session-affinity הם NONE, ואפשר להגדיר רק אחד מהם בכל פעם לערך שונה.

חלוקה לקבוצות משנה של קצה עורפי במאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי

חלוקת קצה עורפי למאזני עומסי רשת פנימיים להעברת סיגנל ללא שינוי מאפשרת להגדיל את מאזן העומסים הפנימי להעברת סיגנל ללא שינוי כדי לתמוך במספר גדול יותר של מכונות וירטואליות בקצה העורפי לכל שירות קצה עורפי פנימי.

מידע על ההשפעה של יצירת קבוצת משנה על המגבלה הזו מופיע בעמודה מכסות ומגבלות בטבלה שירותי קצה עורפי.

כברירת מחדל, האפשרות 'חלוקה לקבוצות משנה' מושבתת, מה שמגביל את שירות הקצה העורפי לחלוקה לעד 250 מופעים או נקודות קצה של קצה עורפי. אם שירות ה-Backend שלכם צריך לתמוך ביותר מ-250 שירותי Backend, אתם יכולים להפעיל חלוקה לקבוצות משנה. כשהאפשרות 'חלוקה לקבוצות משנה' מופעלת, נבחרת קבוצת משנה של מופעי קצה עורפיים לכל חיבור לקוח.

בתרשים הבא מוצג מודל מוקטן של ההבדל בין שני מצבי הפעולה האלה.

השוואה בין מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי לבין מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי עם חלוקה לקבוצות משנה.
השוואה בין מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי לבין מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי עם חלוקה לקבוצות משנה (לחצו כדי להגדיל).

בלי חלוקה לקבוצות משנה, נעשה שימוש טוב יותר בכל השרתים העורפיים התקינים, וחיבורים חדשים של לקוחות מחולקים בין כל השרתים העורפיים התקינים בהתאם לחלוקת התנועה. הגדרת קבוצת משנה מטילה הגבלות על איזון העומסים, אבל מאפשרת למאזן העומסים לתמוך ביותר מ-250 שרתים עורפיים.

הוראות להגדרה מופיעות במאמר Subsetting.

הערות לגבי חלוקת משנה של קצה עורפי במאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי

  • כשהתכונה 'חלוקה לקבוצות משנה' מופעלת, לא כל השרתים העורפיים יקבלו תנועה משולח מסוים, גם אם מספר השרתים העורפיים קטן.
  • למספר המקסימלי של מופעי קצה עורפיים כשמופעלת חלוקה לקבוצות משנה, אפשר לעיין בדף המכסות .
  • יש תמיכה רק ב-5-tuple session affinity עם חלוקה לקבוצות משנה.
  • אין תמיכה בשיקוף מנות עם יצירת קבוצת משנה.
  • הפעלה או השבתה של יצירת קבוצת משנה משבשות קישורים קיימים.
  • אם לקוחות מקומיים צריכים לגשת למאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי, שימוש בתת-קבוצה יכול לצמצם באופן משמעותי את מספר השרתים העורפיים שמקבלים חיבורים מהלקוחות המקומיים. הסיבה לכך היא שהאזור של מנהרת Cloud VPN או של חיבור ה-VLAN של Cloud Interconnect קובע את קבוצת המשנה של השרתים העורפיים של מאזן העומסים. כל נקודות הקצה של Cloud VPN ו-Cloud Interconnect באזור מסוים משתמשות באותה קבוצת משנה. באזורים שונים משתמשים בקבוצות משנה שונות.

תמחור של חלוקה לקבוצות משנה בקצה העורפי

אין חיוב על שימוש בחלוקה לקבוצות משנה בקצה העורפי. מידע נוסף זמין במאמר בנושא כל המחירים של שירותי הרשת.

זיקה לסשן (session affinity)

זיקה לסשן מאפשרת לכם לשלוט באופן שבו מאזן העומסים בוחר בקצה העורפי לחיבורים חדשים בצורה צפויה, כל עוד מספר הקצוות העורפיים התקינים נשאר קבוע. זה שימושי לאפליקציות שצריכות להפנות בקשות מרובות ממשתמש נתון לאותו בק-אנד או לאותה נקודת קצה. אפליקציות כאלה כוללות בדרך כלל שרתים עם מצב (stateful) שמשמשים להצגת מודעות, למשחקים או לשירותים עם שמירת נתונים במטמון פנימי.

Google Cloud מאזני עומסים מספקים זיקה לסשן על בסיס האפשרות הטובה ביותר. גורמים כמו שינוי במצבי בדיקת תקינות של בק-אנד, הוספה או הסרה של בק-אנד, שינויים במשקלים של בק-אנד (כולל הפעלה או השבתה של איזון משוקלל) או שינויים בקיבולת של בק-אנד, כפי שנמדדת על ידי מצב האיזון, עלולים לשבור את זיקה לסשן (session affinity).

איזון עומסים עם זיקה לסשן פועל בצורה טובה כשיש פיזור גדול יחסית של חיבורים ייחודיים. גדול מספיק פירושו לפחות פי כמה ממספר השרתים העורפיים. בדיקת מאזן עומסים עם מספר קטן של חיבורים לא תניב ייצוג מדויק של חלוקת חיבורי הלקוח בין שרתי קצה עורפיים.

כברירת מחדל, כל מאזני העומסים בוחרים את השרתים העורפיים באמצעות גיבוב של חמישה ערכים (--session-affinity=NONE), באופן הבא: Google Cloud

  • כתובת ה-IP של המקור של חבילת הנתונים
  • יציאת המקור של המנה (אם היא מופיעה בכותרת של המנה)
  • כתובת ה-IP של היעד של חבילת הנתונים
  • יציאת היעד של המנה (אם היא מופיעה בכותרת של המנה)
  • הפרוטוקול של חבילת הנתונים

מידע נוסף על זיקה לסשן (session affinity) במאזני עומסים מסוג Network Load Balancer להעברת סיגנל ללא שינוי זמין במאמרי עזרה הבאים:

מידע נוסף על זיקה לסשן (session affinity) למאזני עומסים של אפליקציות זמין במאמרים הבאים:

מידע נוסף על זיקה לסשן (session affinity) למאזני עומסים של רשתות proxy זמין במאמרים הבאים:

זמן קצוב לתפוגה של שירות לקצה העורפי

לרוב Google Cloud מאזני העומסים יש זמן קצוב לתפוגה של שירות לקצה העורפי. ערך ברירת המחדל הוא 30 שניות. טווח הערכים המלא של הזמן הקצוב לתפוגה הוא 1 עד 2,147,483,647 שניות.

  • במאזני עומסים חיצוניים של אפליקציות ובמאזני עומסים פנימיים של אפליקציות שמשתמשים בפרוטוקול HTTP,‏ HTTPS או HTTP/2, פסק הזמן של שירות הקצה העורפי הוא פסק זמן של בקשה ותגובה לתנועת HTTP(S).

    פרטים נוספים על הזמן הקצוב לתפוגה של שירות הקצה העורפי בכל מאזן עומסים מפורטים במאמרים הבאים:

  • במאזנים חיצוניים של עומסי רשת בשרת proxy ובמאזנים פנימיים של עומסי רשת בשרת proxy, הזמן הקצוב לתפוגה של שירות הקצה העורפי שהוגדר הוא משך הזמן שבו מאזן העומסים שומר על חיבור ה-TCP פתוח, אם לא מועברים נתונים מהלקוח או מהקצה העורפי. אם לא מועברים נתונים במשך הזמן הזה, ה-proxy סוגר את החיבור.

    • ערך ברירת המחדל: 30 שניות
    • טווח שניתן להגדרה: 1 עד 2,147,483,647 שניות

  • במאזני עומסים של רשתות מסוג passthrough, אפשר להגדיר את ערך הזמן הקצוב לתפוגה של שירות לקצה העורפי באמצעות gcloud או ה-API, אבל המערכת מתעלמת מהערך. לזמן הקצוב לתפוגה של שירות הקצה העורפי אין משמעות במאזני העומסים האלה להעברת סיגנל ללא שינוי.

בדיקות תקינות

לכל שירות קצה עורפי שהקצוות העורפיים שלו הם קבוצות של מכונות וירטואליות או NEGs אזוריים, צריך להיות משויך בדיקת תקינות.

כשיוצרים מאזן עומסים באמצעות מסוף Google Cloud , אפשר ליצור את בדיקת התקינות, אם היא נדרשת, כשיוצרים את מאזן העומסים, או שאפשר להפנות לבדיקת תקינות קיימת.

כשיוצרים שירות backend באמצעות קבוצת מופעים או בקצה העורפי של NEG אזורי באמצעות Google Cloud CLI או API, צריך להפנות לבדיקת תקינות קיימת. פרטים על הסוג וההיקף של בדיקת התקינות הנדרשת מופיעים במדריך בנושא מאזן עומסים בסקירה הכללית על בדיקות תקינות.

מידע נוסף זמין במאמרים הבאים:

IAP

באמצעות IAP אתם יכולים ליצור שכבת הרשאה מרכזית לאפליקציות שאליהן ניגשים באמצעות HTTPS, כך שתוכלו להשתמש במודל של בקרת גישה ברמת האפליקציה במקום להסתמך על חומות אש ברמת הרשת. ‫IAP נתמך על ידי מאזני עומסים מסוימים של אפליקציות.

אי אפשר להשתמש ב-IAP עם Cloud CDN. אי אפשר להפעיל אותם באותו שירות לקצה העורפי.

תכונות מתקדמות לניהול תעבורת נתונים ב-Application Load Balancers

מידע על תכונות מתקדמות לניהול תנועה שמוגדרות בשירותי הקצה העורפי ובמיפויי כתובות URL שמשויכים למאזני עומסים של אפליקציות זמין במאמרים הבאים:

ממשקי API וgcloud הפניות

למידע נוסף על המאפיינים של משאב שירות לקצה העורפי, אפשר לעיין במקורות המידע הבאים:

המאמרים הבאים

לעיון במסמכי תיעוד קשורים ומידע על השימוש בשירותי קצה עורפיים באיזון עומסים: