בדף הזה מוסבר איך לאבחן ולפתור בעיות נפוצות בחיבור לרשת בעומסי עבודה באצווה ובסשנים אינטראקטיביים ב-Managed Service for Apache Spark. הבעיות האלה יכולות למנוע מעומסי העבודה לגשת למקורות הנתונים הנדרשים, לשירותים חיצוניים או לממשקי API של Google Cloud .
תסמינים והודעות שגיאה נפוצות
אם יש בעיות בקישוריות של Managed Service for Apache Spark, יכול להיות שיופיעו שגיאות כמו:
Unable to connect to service_name.googleapis.comCould not reach required Google APIsConnection refusedHost unreachableOperation timed out-
Permission denied(בדרך כלל קשור לרשת אם חוסמים קריאות ל-API)
יכול להיות שתיתקלו גם בשגיאות שקשורות לגישה לנתונים ב-Cloud Storage, ב-BigQuery או במסדי נתונים אחרים.
סיבות נפוצות וטיפים לפתרון בעיות
בקטע הזה מפורטות הסיבות הנפוצות לבעיות בקישוריות של Managed Service for Apache Spark, וטיפים לפתרון הבעיות האלה.
הגדרת רשת
הגדרות שגויות של הרשת הן סיבה נפוצה לכשלים בחיבור. עומסי העבודה והסשנים של Managed Service for Apache Spark פועלים במכונות וירטואליות עם כתובות IP פנימיות, והגישה הפרטית ל-Google (PGA) מופעלת באופן אוטומטי ברשת המשנה של עומס העבודה או הסשן כדי לגשת לממשקי ה-API ולשירותים של Google. מידע נוסף מופיע במאמר הגדרת הרשת של Managed Service for Apache Spark.
אפשרויות גישה:
Private Service Connect (PSC): אתם יכולים ליצור נקודות קצה פרטיות ברשת ה-VPC כדי לגשת לממשקי Google API ספציפיים.
- במסוף Google Cloud , נכנסים לדף Private Service Connect > Endpoints.
מחברים את נקודות הקצה או מוודאים שהן מחוברות לכל ממשקי ה-API הנדרשים, כמו
storage.googleapis.comו-dataproc.googleapis.com, ושהן מתחברות לעומס העבודה באצווה או לרשת של הענן הווירטואלי הפרטי (VPC) של הסשן.
- במסוף Google Cloud , נכנסים לדף Private Service Connect > Endpoints.
מחברים את נקודות הקצה או מוודאים שהן מחוברות לכל ממשקי ה-API הנדרשים, כמו
Cloud NAT: אם עומס העבודה צריך לגשת לאינטרנט הציבורי, אתם יכולים להגדיר את Cloud NAT לעומס העבודה של ה-Batch או לרשת המשנה של הסשן:
- נכנסים לדף Cloud NAT במסוף Google Cloud .
מגדירים שער או מוודאים שמוגדר שער לעומס העבודה באצווה או לרשת ה-VPC, לאזור ולרשת המשנה של הסשן. חשוב גם לוודא שהכללים של חומת האש מאפשרים תעבורת נתונים יוצאת אל
0.0.0.0/0. מידע נוסף זמין במאמר הגדרת Cloud NAT.
- נכנסים לדף Cloud NAT במסוף Google Cloud .
מגדירים שער או מוודאים שמוגדר שער לעומס העבודה באצווה או לרשת ה-VPC, לאזור ולרשת המשנה של הסשן. חשוב גם לוודא שהכללים של חומת האש מאפשרים תעבורת נתונים יוצאת אל
כללי חומת אש:
- כללי חומת האש לתעבורת נתונים יוצאת ברשת ה-VPC (או בפרויקט המארח של רשת ה-VPC המשותפת, אם רלוונטי) לא יכולים לחסום תעבורת נתונים יוצאת ליעדים הנדרשים.
- אם רלוונטי, כללי התעבורה היוצאת חייבים לאפשר תעבורה לשירותים חיצוניים, כמו ממשקי API ציבוריים ומסדי נתונים מחוץ ל- Google Cloud. אם עומס העבודה או הסשן של ה-Batch צריכים גישה לאינטרנט, אתם יכולים להשתמש ב-Cloud NAT כדי לספק תעבורת נתונים יוצאת (egress) של רשת המשנה.
- למרות שזו לא סיבה נפוצה לבעיות בקישוריות, כללי Ingress מגבילים מדי עלולים לחסום בטעות תעבורת נתונים חוזרת או תקשורת פנימית נחוצה.
- כללי חומת האש לתעבורת נתונים יוצאת ברשת ה-VPC (או בפרויקט המארח של רשת ה-VPC המשותפת, אם רלוונטי) לא יכולים לחסום תעבורת נתונים יוצאת ליעדים הנדרשים.
פענוח DNS:
- צריך להגדיר את פענוח ה-DNS ברשת ה-VPC. עומסי העבודה והסשנים צריכים להיות מסוגלים לזהות שמות מארחים של ממשקי Google API, כמו
storage.googleapis.comאוbigquery.googleapis.com, ושל שירותים חיצוניים. - שרתי DNS בהתאמה אישית ואזורים פרטיים ב-Cloud DNS צריכים להעביר או לפתור שאילתות לדומיינים של Google.
- אם אתם משתמשים ב-Private Service Connect כדי לגשת באופן פרטי לממשקי Google API, רשומות ה-DNS של שירותי Google צריכות לפתור כתובות IP פרטיות ברשת ה-VPC שלכם באמצעות נקודת הקצה של PSC.
- צריך להגדיר את פענוח ה-DNS ברשת ה-VPC. עומסי העבודה והסשנים צריכים להיות מסוגלים לזהות שמות מארחים של ממשקי Google API, כמו
טיפים לפתרון בעיות:
זיהוי הגדרות הרשת ותת-הרשת:
- בפרטי הסשן או ה-batch של Managed Service for Apache Spark, בודקים את
networkUriו-subnetUri. - במסוף Google Cloud , בודקים את ההגדרות של רשת ה-VPC ושל רשת המשנה.
- בפרטי הסשן או ה-batch של Managed Service for Apache Spark, בודקים את
בודקים את הקישוריות ממכונת Proxy וירטואלית:
- מפעילים מכונה וירטואלית לבדיקה של Compute Engine ברשת המשנה של ה-batch או הסשן, באמצעות חשבון השירות של ה-batch או הסשן.
- מבצעים את בדיקות הקישוריות הבאות מה-VM לבדיקה:
-
nslookup storage.googleapis.comכדי לאמת את פענוח ה-DNS. מחפשים דומיינים אחרים של Google API, כמוbigquery.googleapis.comו-dataproc.googleapis.com. בגישה פרטית ל-Google, שמופעלת באופן אוטומטי ברשתות משנה של Managed Service for Apache Spark, או ב-Private Service Connect, הדומיינים חייבים לפתור כתובות IP פרטיות. -
curl -v https://storage.googleapis.comכדי לאמת את הקישוריות של HTTPS לממשקי ה-API של Google. נסו להתחבר גם לשירותים אחרים של Google. ping 8.8.8.8כדי לבדוק את החיבור לאינטרנט, אם נדרש על ידי האצווה או הסשן. אם אתם מצפים ל-Cloud NAT, נסו אתcurl -v https://example.com.
-
- מריצים Google Cloudבדיקות קישוריות של Network Intelligence Center כדי לאבחן נתיבי רשת מרשת המשנה לנקודות קצה רלוונטיות, כמו ממשקי Google API וכתובות IP חיצוניות.
בודקים ב-Cloud Logging אם יש שגיאות בחיבור לרשת:
- בודקים את הרישום ביומן של עומס העבודה או הסשן ב-Managed Service for Apache Spark. מחפשים הודעות
ERRORאוWARNINGשקשורות לזמן קצוב לתפוגה של הרשת, דחיות של חיבורים או כשלים בקריאות ל-API. מסננים לפיjsonPayload.component="driver"אוjsonPayload.component="executor"כדי לראות בעיות ברשת שספציפיות ל-Spark.
- בודקים את הרישום ביומן של עומס העבודה או הסשן ב-Managed Service for Apache Spark. מחפשים הודעות
הרשאות IAM
אם אין מספיק הרשאות IAM, יכול להיות שלא תהיה גישה למשאבים מעומסי עבודה או מסשנים, וכתוצאה מכך יהיו כשלים ברשת אם הקריאות ל-API יידחו.
לחשבון השירות שמשמש את עומס העבודה או הסשן של ה-Batch צריכים להיות התפקידים הנדרשים:
- תפקיד Managed Service for Apache Spark Worker (
roles/dataproc.worker). - תפקידים עם גישה לנתונים, כמו
roles/storage.objectViewerאוroles/bigquery.dataViewer). - רישום ביומן: (
roles/logging.logWriter).
טיפים לפתרון בעיות:
- מזהים את חשבון השירות של הסשן או של עומס העבודה באצווה. אם לא מציינים חשבון שירות, ברירת המחדל היא חשבון השירות שמוגדר כברירת מחדל ב-Compute Engine.
- במסוף Google Cloud , נכנסים לדף IAM & Admin > IAM, מאתרים את חשבון השירות של הסשן או של עומס העבודה באצווה, ומוודאים שיש לו את התפקידים הנדרשים לפעולות של עומס העבודה. מקצים את התפקידים החסרים.
הגדרת שירות חיצוני
אם עומס העבודה מתחבר למסדי נתונים או לשירותים מחוץ ל- Google Cloud, צריך לבדוק את ההגדרות שלהם:
- מוודאים שחומת האש או קבוצת האבטחה של השירות החיצוני מאפשרות חיבורים נכנסים מטווח כתובות ה-IP של רשת ה-VPC: אם רלוונטי, בודקים את כתובות ה-IP הפנימיות באמצעות קישור בין רשתות שכנות (peering) של VPC, Cloud VPN או Cloud Interconnect, או כתובות IP של Cloud NAT.
- בודקים את פרטי הכניסה למסד הנתונים או את מחרוזות הקישוריות. בודקים את פרטי החיבור, שמות המשתמשים והסיסמאות.