במאמר הזה, שהוא חלק מהמסמך Google Cloud Well-Architected Framework: AI and ML perspective, נסביר על העקרונות וההמלצות לאופטימיזציה של עלויות מערכות ה-AI לאורך מחזור החיים של ה-ML. אם תאמצו גישה פרואקטיבית ומושכלת לניהול עלויות, הארגון שלכם יוכל לממש את מלוא הפוטנציאל של מערכות ה-AI וה-ML, וגם לשמור על משמעת פיננסית. ההמלצות במסמך הזה תואמות לעקרונות של אופטימיזציית עלויות ב-Well-Architected Framework.
מערכות AI ו-ML יכולות לעזור לכם להפיק תובנות חשובות ויכולות חיזוי מהנתונים. לדוגמה, אתם יכולים לצמצם את החיכוך בתהליכים פנימיים, לשפר את חוויית המשתמש ולקבל תובנות מעמיקות יותר לגבי הלקוחות. הענן מציע כמויות עצומות של משאבים וזמן מהיר להפקת ערך, בלי השקעות גדולות מראש בעומסי עבודה של AI ו-ML. כדי למקסם את הערך העסקי ולהתאים את ההוצאות ליעדים העסקיים, אתם צריכים להבין את הגורמים לשינוי בעלויות, לבצע אופטימיזציה של העלויות באופן יזום, להגדיר אמצעי בקרה על ההוצאות ולאמץ שיטות עבודה של FinOps.
ההמלצות במסמך הזה ממופות לעקרונות הליבה הבאים:
- הגדרה ומדידה של עלויות והחזרים
- אופטימיזציה של הקצאת המשאבים
- אכיפת שיטות לניהול נתונים ולמשילות מידע
- אוטומציה וייעול באמצעות MLOps
- שימוש בשירותים מנוהלים ובמודלים שעברו אימון מראש
הגדרה ומדידה של עלויות והחזרים
כדי לנהל ביעילות את העלויות של AI ו-ML ב- Google Cloud, צריך להגדיר ולמדוד את עלויות המשאבים בענן ואת הערך העסקי של יוזמות ה-AI וה-ML. כדי לעזור לכם לעקוב אחרי ההוצאות באופן פרטני, ב- Google Cloud יש כלים מקיפים לניהול עלויות וחיובים, כמו:
- דוחות וטבלאות של חיוב ב-Cloud
- לוחות בקרה, תקציבים והתראות ב-Data Studio
- Cloud Monitoring
- Cloud Logging
כדי לקבל החלטות מושכלות לגבי הקצאת משאבים ואופטימיזציה, כדאי להביא בחשבון את ההמלצות הבאות.
הגדרת יעדים עסקיים ומדדי KPI
להתאים את הבחירות הטכניות בפרויקטים של AI ו-ML ליעדים העסקיים ולמדדי הביצועים המרכזיים (KPI).
הגדרת יעדים אסטרטגיים ומדדי KPI שמתמקדים בהחזר ROI
חשוב לוודא שפרויקטים של AI ו-ML תואמים ליעדים האסטרטגיים, כמו צמיחה בהכנסות, הפחתת עלויות, שביעות רצון הלקוחות ויעילות. כדאי לשתף את בעלי העניין כדי להבין את סדרי העדיפויות של העסק. להגדיר יעדים ספציפיים, מדידים, ברי השגה, רלוונטיים ומוגבלים בזמן (SMART) ל-AI ול-ML. לדוגמה, יעד SMART יכול להיות: "הפחתת זמן הטיפול בצ'אט לתמיכת לקוחות ב-15% תוך 6 חודשים באמצעות צ'אט בוט מבוסס-AI".
כדי להתקדם לעבר היעדים העסקיים ולמדוד את ההחזר על ההשקעה (ROI), צריך להגדיר מדדי KPI לקטגוריות הבאות:
- עלויות של אימון, הסקת מסקנות, אחסון ומשאבי רשת, כולל עלויות ספציפיות ליחידה (כמו העלות לכל הסקת מסקנות, נקודה על הגרף או משימה). המדדים האלה עוזרים לכם לקבל תובנות לגבי הזדמנויות לשיפור היעילות והעלויות. אתם יכולים לעקוב אחרי העלויות האלה באמצעות דוחות החיוב ב-Cloud ולוחות הבקרה של Monitoring.
- מדדים של ערך עסקי כמו צמיחה בהכנסות, חיסכון בעלויות, שביעות רצון הלקוחות, יעילות, דיוק ושיעור אימוץ. אפשר לעקוב אחרי המדדים האלה באמצעות ניתוח נתונים ב-BigQuery ומרכזי בקרה ב-Looker.
מדדים ספציפיים לתחום, כמו:
- תעשיית הקמעונאות: מדידת העלייה בהכנסות ושיעור הנטישה
- תחום הבריאות: מדידת הזמן של המטופלים והתוצאות של הטיפול
- תעשיית הפיננסים: מדידת הפחתת ההונאות
מדדים ספציפיים לפרויקט. אתם יכולים לעקוב אחרי המדדים האלה באמצעות ניסויים ב-Gemini Enterprise Agent Platform והערכה.
- AI חזוי: מדידת הדיוק והנכונות
- AI גנרטיבי: מדידת ההטמעה, שביעות הרצון ואיכות התוכן
- AI לראייה ממוחשבת: מדידת הדיוק
טיפוח תרבות של מוּדעוּת לעלויות ואופטימיזציה מתמשכת
כדאי לאמץ את העקרונות של FinOps כדי לוודא שלכל פרויקט AI ו-ML יש עלויות משוערות ודרכים למדוד ולעקוב אחרי העלויות בפועל לאורך מחזור החיים שלו. חשוב לוודא שהעלויות והיתרונות העסקיים של הפרויקטים שלכם מוקצים לבעלים ושיש אחריות ברורה.
למידע נוסף, קראו את המאמר טיפוח תרבות של מוּדעוּת לעלויות בעמוד התווך של אופטימיזציית עלויות ב-Well-Architected Framework.
איך להפיק ערך ולבצע אופטימיזציה מתמשכת באמצעות איטרציה ומשוב
ממפים את אפליקציות ה-AI וה-ML ישירות ליעדים העסקיים ומודדים את החזר ה-ROI.
כדי לאמת את ההשערות לגבי החזר ה-ROI, כדאי להתחיל בפרויקטים לדוגמה ולהשתמש במחזור האופטימיזציה האיטרטיבי הבא:
- מעקב רציף וניתוח נתונים: עוקבים אחרי מדדי ה-KPI והעלויות כדי לזהות חריגות והזדמנויות לאופטימיזציה.
- לבצע שינויים על סמך נתונים: לבצע אופטימיזציה של אסטרטגיות, מודלים, תשתית והקצאת משאבים על סמך תובנות מנתונים.
- שיפורים חוזרים: מתאימים את היעדים העסקיים ומדדי ה-KPI על סמך מה שלמדתם והצרכים העסקיים המשתנים. החזרה על התהליך עוזרת לשמור על רלוונטיות ועל התאמה לאסטרטגיה.
- יצירת לולאת משוב: בודקים את הביצועים, העלויות והערך עם בעלי העניין כדי לשפר את האופטימיזציה השוטפת ואת התכנון של פרויקטים עתידיים.
ניהול נתוני החיוב באמצעות חיוב ב-Cloud ותוויות
כדי לבצע אופטימיזציה יעילה של העלויות, צריך לראות את המקור של כל רכיב עלות. ההמלצות בקטע הזה יכולות לעזור לכם להשתמש בכלים של Google Cloudכדי לקבל תובנות מפורטות לגבי העלויות של AI ו-ML. אתם יכולים גם לשייך עלויות לפרויקטים, לצוותים ולפעילויות ספציפיים של AI ו-ML. התובנות האלה הן הבסיס לאופטימיזציה של העלויות.
ארגון ותיוג של משאבים ב- Google Cloud
- מארגנים את הפרויקטים והמשאבים בהיררכיה שמשקפת את המבנה הארגוני ואת תהליכי העבודה של ה-AI וה-ML. כדי לעקוב אחרי העלויות ולנתח אותן ברמות שונות, אתם יכולים לארגן את המשאבים ב- Google Cloud באמצעות ארגונים, תיקיות ופרויקטים. למידע נוסף, קראו את המאמר החלטה על היררכיית המשאבים של אזור הנחיתה ב- Google Cloud .
- להוסיף תוויות משמעותיות למשאבים. אתם יכולים להשתמש בתוויות שמציינות את הפרויקט, הצוות, הסביבה, שם המודל, מערך הנתונים, תרחיש השימוש ודרישות הביצועים. התוויות מספקות הקשר חשוב לנתוני החיוב ומאפשרות ניתוח עלויות מפורט.
- חשוב לשמור על עקביות במוסכמות התיוג בכל הפרויקטים של AI ו-ML. מוסכמות תיוג עקביות עוזרות לוודא שנתוני החיוב מאורגנים ושאפשר לנתח אותם בקלות.
שימוש בכלים שקשורים לחיוב
- כדי לבצע ניתוח מפורט וליצור דוחות, מייצאים את נתוני החיוב ל-BigQuery. ל-BigQuery יש יכולות שאילתה מתקדמות שמאפשרות לנתח את נתוני החיוב כדי להבין את העלויות.
- כדי לצבור עלויות לפי תוויות, פרויקטים או תקופות זמן ספציפיות, אתם יכולים לכתוב שאילתות SQL בהתאמה אישית ב-BigQuery. שאילתות כאלה מאפשרות לשייך עלויות לפעילויות ספציפיות של AI ו-ML, כמו אימון מודלים, כוונון היפר-פרמטרים או הסקת מסקנות.
- כדי לזהות חריגות בעלויות או עליות חדות לא צפויות בהוצאות, אתם יכולים להשתמש ביכולות הניתוח של BigQuery. הגישה הזו יכולה לעזור לכם לזהות בעיות פוטנציאליות או חוסר יעילות בעומסי העבודה של AI ו-ML.
- כדי לזהות ולנהל עלויות לא צפויות, אתם יכולים להשתמש בלוח הבקרה לזיהוי אנומליות בחיוב ב-Cloud.
- כדי לחלק את העלויות בין צוותים או מחלקות שונות על סמך השימוש במשאבים, השתמשו בתכונה הקצאת עלויות של Google Cloud. הקצאת עלויות מקדמת אחריות ושקיפות.
- כדי לקבל תובנות לגבי דפוסי ההוצאות, כדאי לעיין בדוחות החיוב ב-Cloud המוכנים מראש. אפשר לסנן ולהתאים אישית את הדוחות האלה כדי להתמקד בפרויקטים או בשירותים ספציפיים של AI ו-ML.
מעקב רציף אחרי משאבים באמצעות לוחות בקרה, התראות ודוחות
כדי ליצור דרך גמישה וניתנת להתאמה למעקב אחרי העלויות, צריך לעקוב ולדווח באופן רציף. מרכזי בקרה, התראות ודוחות הם הבסיס למעקב יעיל אחרי העלויות. כך תוכלו לשמור על גישה קבועה למידע על העלויות, לזהות תחומים שבהם אפשר לבצע אופטימיזציה ולוודא שיש התאמה בין היעדים העסקיים לעלויות.
יצירת מערכת דיווח
ליצור דוחות מתוזמנים ולשתף אותם עם בעלי העניין הרלוונטיים.
אתם יכולים להשתמש ב-Monitoring כדי לאסוף מדדים ממקורות שונים, כולל האפליקציות, התשתית ושירותי Google Cloud כמו Compute Engine, Google Kubernetes Engine (GKE) ופונקציות Cloud Run. כדי להציג באופן חזותי מדדים ויומנים בזמן אמת, אתם יכולים להשתמש בלוח הבקרה המובנה של Monitoring או ליצור לוחות בקרה בהתאמה אישית. מרכזי בקרה בהתאמה אישית מאפשרים להגדיר ולהוסיף מדדים כדי לעקוב אחרי היבטים ספציפיים של המערכות, כמו ביצועי המודל, קריאות ל-API או מדדי KPI ברמה העסקית.
בעזרת Logging תוכלו לאסוף ולאחסן באופן מרוכז יומנים מהאפליקציות, מהמערכות ומשירותי Google Cloud . אפשר להשתמש ביומנים למטרות הבאות:
- מעקב אחרי העלויות והשימוש במשאבים כמו מעבד (CPU), זיכרון, אחסון ורשת.
- לזהות מקרים של הקצאת יתר (כשהמשאבים לא מנוצלים במלואם) והקצאת חסר (כשאין מספיק משאבים). הקצאת יתר של משאבים גורמת לעלויות מיותרות. הקצאת חסר מאטה את זמני האימון ועלולה לגרום לבעיות בביצועים.
- זהו משאבים לא פעילים או משאבים שלא מנוצלים מספיק, כמו מכונות וירטואליות ויחידות GPU, ונקטו צעדים כדי להשבית אותם או להתאים את הגודל שלהם כדי לייעל את העלויות.
- לזהות עליות חדות בעלויות כדי לזהות עליות פתאומיות ובלתי צפויות בשימוש במשאבים או בעלויות.
משתמשים ב-Looker או ב-Data Studio כדי ליצור מרכזי בקרה ודוחות אינטראקטיביים. אפשר לקשר את מרכזי הבקרה והדוחות למקורות נתונים שונים, כולל BigQuery ו-Monitoring.
הגדרת ערכי סף לקבלת התראות על סמך מדדי KPI מרכזיים
לגבי מדדי ה-KPI, קובעים את ערכי הסף שיפעילו התראות. סף התרעה משמעותי יכול לעזור לכם להימנע מעייפות מהתרעות. כדי לקבל התראות שקשורות למדדי ה-KPI, אפשר ליצור כללי מדיניות התראות ב-Monitoring. לדוגמה, אתם יכולים לקבל התראות כשהדיוק יורד מתחת לסף מסוים או כשהזמן האחזור חורג ממגבלה מוגדרת. התראות שמבוססות על נתוני יומנים יכולות להודיע לכם על בעיות פוטנציאליות בעלויות בזמן אמת. ההתראות האלה מאפשרות לכם לבצע פעולות לתיקון במהירות ולמנוע הפסדים כספיים נוספים.
אופטימיזציה של הקצאת המשאבים
כדי להוזיל את העלויות של עומסי העבודה של AI ו-ML ב- Google Cloud, צריך לבצע אופטימיזציה של הקצאת המשאבים. כדי להימנע מהוצאות מיותרות ולוודא שלעומסי העבודה יש את המשאבים הדרושים להם כדי לפעול בצורה אופטימלית, כדאי להתאים את הקצאת המשאבים לצרכים של עומסי העבודה.
כדי לייעל את ההקצאה של משאבי הענן לעומסי עבודה של AI ו-ML, כדאי לפעול לפי ההמלצות הבאות.
שימוש בהתאמה אוטומטית לעומס כדי להתאים משאבים באופן דינמי
להשתמש בשירותי Google Cloud שתומכים בהתאמה אוטומטית לעומס (scaling), שמתאימה באופן אוטומטי את הקצאת המשאבים לביקוש הנוכחי. אלה היתרונות של התאמה אוטומטית לעומס:
- אופטימיזציה של עלויות וביצועים: אתם לא משלמים על משאבים שלא בשימוש. במקביל, ההתאמה האוטומטית לעומס מבטיחה שלמערכות יהיו המשאבים הדרושים כדי לפעול בצורה אופטימלית, גם בעומס שיא.
- יעילות משופרת: הצוות שלכם יכול להתפנות למשימות אחרות.
- גמישות משופרת: אתם יכולים להגיב במהירות לשינויים בביקוש ולשמור על זמינות גבוהה של האפליקציות.
בקטעים הבאים מפורטות השיטות שבהן אפשר להשתמש כדי להטמיע התאמה אוטומטית לעומס בשלבים שונים של פרויקטים ב-AI.
הדרכה
- להשתמש בשירותים מנוהלים כמו Gemini Enterprise Agent Platform או GKE, שמציעים יכולות מובנות של התאמה אוטומטית לעומס (scaling) של משימות אימון.
- מגדירים כללי מדיניות להתאמה אוטומטית לעומס של מספר המכונות לאימון, על סמך מדדים כמו ניצול המעבד (CPU), השימוש בזיכרון ואורך התור של המשימות.
- אתם יכולים להשתמש במדדי התאמה אישית של קנה מידה כדי לשפר את ההתנהגות של ההתאמה האוטומטית לעומסי עבודה ספציפיים.
הסקה
- פורסים את המודלים בפלטפורמות שניתנות להתאמה, כמו Gemini Enterprise Agent Platform Inference, GPUs on GKE או Cloud TPU on GKE.
- משתמשים בתכונות של התאמה אוטומטית לעומס כדי לשנות את מספר הרפליקות על סמך מדדים כמו קצב בקשות, זמן אחזור וניצול משאבים.
- כדי לפזר את התנועה באופן שווה בין הרפליקות ולהבטיח זמינות גבוהה, כדאי להטמיע איזון עומסים.
מתחילים עם מודלים וקבוצות נתונים קטנים
כדי לצמצם את העלויות, כדאי לבדוק השערות של ML בקנה מידה קטן כשאפשר, ולהשתמש בגישה איטרטיבית. הגישה הזו, עם מודלים וקבוצות נתונים קטנים יותר, מספקת את היתרונות הבאים:
- הפחתת עלויות מההתחלה: פחות כוח מחשוב, אחסון וזמן עיבוד יכולים להוביל לעלויות נמוכות יותר בשלבי הניסוי והפיתוח הראשוניים.
- איטרציה מהירה יותר: נדרש פחות זמן אימון, מה שמאפשר לכם לבצע איטרציה מהר יותר, לבחון גישות חלופיות ולזהות כיוונים מבטיחים בצורה יעילה יותר.
- פחות מורכבות: ניפוי באגים, ניתוח ופירוש של התוצאות בצורה פשוטה יותר, מה שמוביל למחזורי פיתוח מהירים יותר.
- ניצול יעיל של משאבים: סיכוי נמוך יותר להקצאת יתר של משאבים. אתם מקצים רק את המשאבים שנדרשים לעומס העבודה הנוכחי.
כדאי לשקול את ההמלצות הבאות:
- שימוש בנתונים לדוגמה: מאמנים את המודלים על קבוצת משנה מייצגת של הנתונים. כך אפשר להעריך את הביצועים של המודל ולזהות בעיות פוטנציאליות בלי לעבד את כל מערך הנתונים.
- ניסויים באמצעות Notebooks: מתחילים עם מכונות קטנות יותר ומשנים את הגודל לפי הצורך. אתם יכולים להשתמש ב-Gemini Enterprise Agent Platform Workbench, סביבת Jupyter Notebook מנוהלת שמתאימה לניסויים עם ארכיטקטורות שונות של מודלים וקבוצות נתונים.
התחילו עם מודלים פשוטים יותר או כאלה שאומנו מראש: השתמשו ב-Model Garden כדי לגלות ולחקור את המודלים שאומנו מראש. מודלים כאלה דורשים פחות משאבי מחשוב. בהתאם לדרישות הביצועים, מגדילים בהדרגה את המורכבות לפי הצורך.
- להשתמש במודלים שאומנו מראש למשימות כמו סיווג תמונות ועיבוד שפה טבעית. כדי לחסוך בעלויות האימון, אפשר בהתחלה לכוונן את המודלים לפי מערכי נתונים קטנים יותר.
- משתמשים ב-BigQuery ML לנתונים מובְנים. בעזרת BigQuery ML אתם יכולים ליצור ולפרוס מודלים ישירות ב-BigQuery. הגישה הזו יכולה להיות חסכונית לניסויים ראשוניים, כי אתם יכולים לנצל את מודל התמחור של תשלום לפי שאילתה ב-BigQuery.
שינוי קנה המידה לאופטימיזציה של המשאבים: משתמשים בתשתית הגמישה של Google Cloudכדי לשנות את קנה המידה של המשאבים לפי הצורך. התחילו עם מכונות קטנות יותר, ושנו את הגודל או המספר שלהן לפי הצורך.
איך בודקים את דרישות המשאבים באמצעות ניסויים
הדרישות למשאבים בעומסי עבודה של AI ו-ML יכולות להשתנות באופן משמעותי. כדי לייעל את הקצאת המשאבים והעלויות, אתם צריכים להבין את הצרכים הספציפיים של עומסי העבודה שלכם באמצעות ניסויים שיטתיים. כדי לזהות את ההגדרות היעילות ביותר למודלים, כדאי לבדוק הגדרות שונות ולנתח את הביצועים שלהן. לאחר מכן, בהתאם לדרישות, מתאימים את המשאבים שבהם השתמשתם לאימון ולמילוי הבקשה.
אנחנו ממליצים על הגישה הבאה לניסויים:
- התחלה עם הגדרות בסיסיות: מתחילים עם הגדרות בסיסיות לפי ההערכות הראשוניות של דרישות עומס העבודה. כדי ליצור בסיס להשוואה, אתם יכולים להשתמש במחשבון העלויות שלGoogle Cloud לעומסי עבודה חדשים, או להשתמש בדוח חיוב קיים.
- הבנת המכסות: לפני שמתחילים ניסויים נרחבים, חשוב להכיר את המכסות של הפרויקט ב- Google Cloud למשאבים ולממשקי ה-API שבהם אתם מתכננים להשתמש. המכסות קובעות את טווח ההגדרות שאפשר לבדוק באופן מעשי. היכרות עם המכסות תאפשר לכם לעבוד במסגרת מגבלות המשאבים הזמינים בשלב הניסוי.
- ניסויים שיטתיים: התאמת פרמטרים כמו מספר המעבדים, כמות הזיכרון, מספר וסוג המעבדים הגרפיים ו-Cloud TPU, וקיבולת האחסון. אימון מנוהל של Gemini Enterprise Agent Platform ו- Agent Platform Inference מאפשרים לכם להתנסות בסוגי מכונות ובהגדרות שונות.
מעקב אחרי ניצול, עלות וביצועים: עוקבים אחרי ניצול המשאבים, העלות ומדדי הביצועים העיקריים, כמו זמן האימון, זמן האחזור של ההסקה ודיוק המודל, לכל הגדרה שאתם בודקים.
- כדי לעקוב אחרי מדדי הביצועים והניצול של המשאבים, אתם יכולים להשתמש במסוף Agent Platform.
- כדי לאסוף ולנתח מדדי ביצועים מפורטים, השתמשו ב-Monitoring.
- כדי לראות את העלויות, אתם יכולים להשתמש בדוחות החיוב ב-Cloud ובלוחות הבקרה של Monitoring.
- כדי לזהות צווארי בקבוק בביצועים של המודלים ולייעל את השימוש במשאבים, אתם יכולים להשתמש בכלים ליצירת פרופילים כמו Agent Platform TensorBoard.
ניתוח עלויות: השוואה בין העלות והביצועים של כל הגדרה כדי לזהות את האפשרות הכי משתלמת.
הגדרת ספי משאבים ויעדי שיפור על סמך מכסות: הגדירו ספים שבהם ההתאמה לעומס מתחילה להניב תפוקה שולית פוחתת בביצועים, כמו הפחתה מינימלית בזמן האימון או זמן אחזור לעלייה משמעותית בעלות. כשמגדירים את הספים האלה, חשוב להביא בחשבון את המכסות של הפרויקט. זהו את הנקודה שבה העלות וההשלכות הפוטנציאליות על המכסות של הרחבה נוספת כבר לא מוצדקות על ידי שיפורים בביצועים.
שיפור חוזר: חזרו על תהליך הניסוי עם הגדרות משופרות על סמך הממצאים שלכם. חשוב לוודא שהשימוש במשאבים לא חורג מהמכסות שהוקצו, ושהוא תואם לסף עלות-תועלת שנקבע.
שימוש ב-MLOps כדי לצמצם את חוסר היעילות
ארגונים משתמשים יותר ויותר ב-ML כדי לעודד חדשנות ויעילות, ולכן חשוב מאוד לנהל את מחזור החיים של ה-ML בצורה יעילה. פעולות למידת מכונה (MLOps) הן קבוצה של שיטות שמאפשרות להפוך את מחזור החיים של למידת המכונה לאוטומטי ולייעל אותו, החל מפיתוח המודל ועד לפריסה ולמעקב.
התאמת ה-MLOps לגורמים לשינוי בעלויות
כדי לנצל את היתרונות של MLOps לחיסכון בעלויות, צריך לזהות את הגורמים העיקריים לשינוי בעלויות במחזור החיים של למידת המכונה. לאחר מכן, תוכלו לאמץ ולהטמיע שיטות MLOps שמתאימות לגורמים לשינוי בעלויות. תעדפו והטמיעו את תכונות ה-MLOps שמתייחסות לגורמים המשפיעים ביותר על העלויות. הגישה הזו עוזרת להבטיח דרך ניתנת לניהול ומוצלחת לחיסכון משמעותי בעלויות.
הטמעת MLOps לאופטימיזציה של עלויות
אלה שיטות נפוצות של MLOps שעוזרות להפחית את העלויות:
- ניהול גרסאות: כלים כמו Git יכולים לעזור לכם לעקוב אחרי גרסאות של קוד, נתונים ומודלים. ניהול גרסאות מאפשר לשחזר את התוצאות, משפר את שיתוף הפעולה ומונע עבודה כפולה ויקרה שעלולה להיגרם בגלל בעיות בניהול הגרסאות.
- אינטגרציה רציפה ופיתוח רציף (CI/CD): Cloud Build ו-Artifact Registry מאפשרים לכם להטמיע פייפליינים של CI/CD כדי להפוך את תהליכי הפיתוח, הבדיקה והפריסה של מודלים של ML לאוטומטיים. צינורות עיבוד נתונים של CI/CD מבטיחים ניצול יעיל של המשאבים ומצמצמים את העלויות שקשורות להתערבות ידנית.
- ניראות: מעקב ורישום ביומן מאפשרים לכם לעקוב אחרי ביצועי המודל בסביבת הייצור, לזהות בעיות ולהפעיל התראות להתערבות יזומה. בעזרת יכולת התצפית אפשר לשמור על דיוק המודל, לבצע אופטימיזציה של הקצאת המשאבים ולמנוע זמני השבתה יקרים או פגיעה בביצועים.
- אימון מחדש של המודל: הצינורות של Gemini Enterprise Agent Platform מפשטים את התהליכים של אימון מחדש של המודלים באופן תקופתי או כשהביצועים יורדים. כשמשתמשים ב-Agent Platform Pipelines לאימון מחדש, המודלים נשארים מדויקים ויעילים, מה שיכול למנוע צריכת משאבים מיותרת ולשמור על ביצועים אופטימליים.
- בדיקה והערכה אוטומטיות: Agent Platform עוזרת לכם להאיץ את הערכת המודלים ולהפוך אותה לתהליך סטנדרטי. הטמיעו בדיקות אוטומטיות לאורך מחזור החיים של למידת המכונה כדי להבטיח את האיכות והאמינות של המודלים. בדיקות כאלה יכולות לעזור לכם לזהות שגיאות בשלב מוקדם, למנוע בעיות יקרות בסביבת הייצור ולצמצם את הצורך בבדיקות ידניות נרחבות.
למידע נוסף, קראו את המאמר MLOps: פיתוח רציף (continuous delivery) וצינורות עיבוד נתונים של אוטומציה בלמידת מכונה.
אכיפת שיטות לניהול נתונים ולפיקוח עליהם
כדי לבצע אופטימיזציה של העלויות, חשוב להשתמש בשיטות יעילות לניהול הנתונים ולפיקוח עליהם. נתונים מאורגנים היטב יכולים לעודד צוותים לעשות שימוש חוזר במערכי נתונים, להימנע משכפול מיותר ולהפחית את המאמץ הנדרש כדי להשיג נתונים באיכות גבוהה. ניהול יזום של הנתונים מאפשר להפחית את עלויות האחסון, לשפר את איכות הנתונים ולוודא שהמודלים של ML מאומנים על הנתונים הרלוונטיים והחשובים ביותר.
כדי ליישם שיטות לניהול נתונים ולפיקוח עליהם, כדאי לפעול לפי ההמלצות הבאות.
הגדרה ואימוץ של מסגרת למשילות מידע (data governance)
החשיבות הגוברת של AI ו-ML הפכה את הנתונים לנכס החשוב ביותר של ארגונים שעוברים טרנספורמציה דיגיטלית. כדי לנהל עומסי עבודה של AI ו-ML בצורה חסכונית ובקנה מידה נרחב, חשוב להשתמש במסגרת חזקה של משילות מידע (data governance). מסגרת משילות מידע עם כללי מדיניות, נהלים ותפקידים שמוגדרים בבירור מספקת גישה מובנית לניהול הנתונים לאורך מחזור החיים שלהם. מסגרת כזו עוזרת לשפר את איכות הנתונים, להגביר את האבטחה, לשפר את הניצול ולהפחית את היתירות.
הגדרת מסגרת למשילות מידע (data governance)
יש הרבה מסגרות קיימות למשילות מידע, כמו המסגרות שפורסמו על ידי EDM Council, עם אפשרויות שזמינות לתעשיות שונות ולארגונים בגדלים שונים. בחרו מסגרת שמתאימה לצרכים ולסדרי העדיפויות הספציפיים שלכם, והתאימו אותה.
הטמעת מסגרת משילות המידע (data governance)
Google Cloud מספק את השירותים והכלים הבאים שיעזרו לכם להטמיע מסגרת חזקה של משילות מידע:
Knowledge Catalog הוא מארג נתונים (data fabric) חכם שעוזר לאחד נתונים מבוזרים ולהפוך את משילות המידע (data governance) לאוטומטית, בלי לאחד את קבוצות הנתונים במקום אחד. כך אפשר להפחית את עלות ההפצה והתחזוקה של הנתונים, להקל על גילוי הנתונים ולקדם שימוש חוזר.
- כדי לארגן את הנתונים, משתמשים בהפשטות של Knowledge Catalog ומגדירים דומיינים של נתונים ומוצרי נתונים.
- כדי לנהל את הגישה לנכסי נתונים ולמשאבי משילות, משתמשים בקבוצות Google ובתפקידים של ניהול זהויות והרשאות גישה (IAM) ב-Knowledge Catalog.
- כדי לייעל את התהליכים של איכות הנתונים, מומלץ להפעיל את התכונה איכות נתונים אוטומטית.
Knowledge Catalog הוא גם שירות מנוהל וניתן להתאמה לניהול מטא-נתונים. הקטלוג מספק בסיס שמאפשר גישה לנכסי הנתונים ושימוש חוזר בהם.
- המטא-נתונים מהמקורות Google Cloud הנתמכים נקלטים באופן אוטומטי בקטלוג. למקורות נתונים מחוץ ל- Google Cloud, צרו רשומות בהתאמה אישית.
- כדי לשפר את יכולת הגילוי והניהול של נכסי נתונים, אפשר להעשיר את המטא-נתונים הטכניים במטא-נתונים עסקיים באמצעות היבטים.
- מוודאים שלמדעני הנתונים ולמומחי ה-ML יש מספיק הרשאות כדי לגשת ל-Knowledge Catalog ולהשתמש בפונקציית החיפוש.
שיתוף ב-BigQuery מאפשר להחליף נכסי נתונים בין הארגונים שלכם בצורה יעילה ומאובטחת, כדי להתמודד עם אתגרים שקשורים לאמינות הנתונים ולעלות.
- להגדיר חילופי נתונים ולוודא שאפשר לראות נכסי נתונים שנאספו בתור רשומות.
- להשתמש בחדרים נקיים לנתונים כדי לנהל באופן מאובטח את הגישה לנתונים רגישים, ולשתף פעולה ביעילות עם צוותים וארגונים חיצוניים בפרויקטים של AI ו-ML.
- לוודא שלמדעני נתונים ולמומחי למידת מכונה יש מספיק הרשאות כדי לצפות במערכי נתונים ולפרסם אותם ב-BigQuery sharing.
שימוש חוזר במערכי נתונים ובתכונות לאורך מחזור החיים של למידת המכונה
כדי לשפר את היעילות ולחסוך בעלויות, כדאי לעשות שימוש חוזר בקבוצות נתונים ובתכונות בכמה פרויקטים של ML. כשנמנעים ממאמצים מיותרים של הנדסת נתונים ופיתוח תכונות, הארגון יכול להאיץ את פיתוח המודלים, להפחית את עלויות התשתית ולפנות משאבים חשובים למשימות קריטיות אחרות.
ב-Google Cloud יש את השירותים והכלים הבאים, שיעזרו לכם להשתמש שוב במערכי נתונים ובתכונות:
- מומחי נתונים ו-ML יכולים לפרסם מוצרי נתונים כדי למקסם את השימוש החוזר בצוותים שונים. אחרי זה אפשר למצוא את מוצרי הנתונים ולהשתמש בהם באמצעות Knowledge Catalog ו-BigQuery sharing.
- במערכי נתונים טבלאיים ומובְנים, אתם יכולים להשתמש ב-Agent Platform Feature Store כדי לקדם את יכולת השימוש החוזר ולייעל את ניהול המאפיינים באמצעות BigQuery.
- אתם יכולים לאחסן נתונים לא מובנים ב-Cloud Storage ולנהל אותם באמצעות טבלאות אובייקטים ב-BigQuery וכתובות URL חתומות.
- כדי לנהל את הטמעות הווקטורים, אתם יכולים לכלול מטא-נתונים באינדקסים של החיפוש הווקטורי.
אוטומציה וייעול באמצעות MLOps
אחד היתרונות העיקריים של שיטות MLOps הוא הפחתת עלויות הטכנולוגיה והצוות. אוטומציה עוזרת לכם להימנע משכפול של פעילויות למידת מכונה, ולהפחית את עומס העבודה של מדעני הנתונים ומהנדסי למידת המכונה.
כדי להפוך את פיתוח למידת המכונה לאוטומטי ולייעל אותו באמצעות MLOps, כדאי לפעול לפי ההמלצות הבאות.
אוטומציה וסטנדרטיזציה של איסוף ועיבוד נתונים
כדי לצמצם את המאמץ והזמן שנדרשים לפיתוח ML, כדאי להפוך את טכנולוגיות איסוף הנתונים והעיבוד שלהם לאוטומטיות וסטנדרטיות.
איסוף ועיבוד נתונים באופן אוטומטי
בקטע הזה מפורטים המוצרים, הכלים והשיטות שבהם אתם יכולים להשתמש כדי להפוך את איסוף הנתונים והעיבוד שלהם לאוטומטיים.
מזהים ובוחרים את מקורות הנתונים הרלוונטיים למשימות ה-AI וה-ML:
- אפשרויות למסדי נתונים כמו Cloud SQL, Spanner, AlloyDB ל-PostgreSQL, Firestore ו-BigQuery. הבחירה תלויה בדרישות שלכם, כמו זמן אחזור בגישת כתיבה (סטטית או דינמית), נפח הנתונים (גבוה או נמוך) ופורמט הנתונים (מובְנים, לא מובְנים או מובְנים למחצה). מידע נוסף זמין במאמר מסדי נתונים שלGoogle Cloud .
- אגמי נתונים (data lakes) כמו Cloud Storage עם BigLake.
- Knowledge Catalog לניהול נתונים ממקורות שונים.
- פלטפורמות לאירועים בסטרימינג כמו Pub/Sub, Dataflow או Apache Kafka.
- ממשקי API חיצוניים.
לכל אחד ממקורות הנתונים, בוחרים כלי להטמעת נתונים:
- Dataflow: לעיבוד נתונים באצווה ובזרמי נתונים ממקורות שונים, עם שילוב של רכיבי למידת מכונה. בארכיטקטורה מבוססת-אירועים, אפשר לשלב את Dataflow עם Eventarc כדי לעבד ביעילות נתונים ללמידת מכונה. כדי לשפר את היעילות של MLOps ושל משימות למידת מכונה, כדאי להשתמש ב-GPU וביכולות התאמה.
- פונקציות Cloud Run: להטמעת נתונים מבוססת-אירועים שמופעלת על ידי שינויים במקורות נתונים לאפליקציות בזמן אמת.
- BigQuery: להטמעה קלאסית של נתונים בטבלה עם גישה תכופה.
בחירת כלים לטרנספורמציה וטעינה של נתונים:
- משתמשים בכלים כמו Dataflow או Dataform כדי להפוך לאוטומטיים טרנספורמציות של נתונים, כמו התאמה לעומס (scaling) של מאפיינים, קידוד משתנים קטגוריים ויצירת מאפיינים חדשים באצווה, בסטרימינג או בזמן אמת. הכלים שתבחרו תלויים בדרישות שלכם ובשירותים שבחרתם.
- משתמשים ב-Feature Store כדי להפוך את היצירה והניהול של המאפיינים לאוטומטיים. אתם יכולים לרכז מאפיינים לשימוש חוזר במודלים ובפרויקטים שונים.
איסוף ועיבוד נתונים סטנדרטיים
כדי לחפש, להבין ולנהל נכסי נתונים, אתם יכולים להשתמש בשירותים לניהול מטא-נתונים כמו Knowledge Catalog. הוא עוזר לכם ליצור הגדרות סטנדרטיות לנתונים ולשמור על עקביות בכל הארגון.
כדי לאכוף סטנדרטיזציה ולחסוך את עלויות התחזוקה של כמה הטמעות בהתאמה אישית, כדאי להשתמש בתזמור ובצינורות עיבוד נתונים אוטומטיים לאימון. מידע נוסף מופיע בקטע הבא.
אוטומציה של צינורות עיבוד נתונים לאימון ושימוש חוזר בנכסים קיימים
כדי לשפר את היעילות והפרודוקטיביות ב-MLOps, חשוב להשתמש בצינורות עיבוד נתונים אוטומטיים לאימון. ב- Google Cloud יש מגוון רחב של כלים ושירותים ליצירה ולפריסה של צינורות עיבוד נתונים לאימון, עם דגש חזק על שימוש חוזר בנכסים קיימים. צינורות עיבוד נתונים אוטומטיים לאימון עוזרים להאיץ את פיתוח המודלים, להבטיח עקביות ולצמצם מאמצים מיותרים.
אוטומציה של צינורות עיבוד נתונים לאימון
בטבלה הבאה מתוארים השירותים והתכונות של Google Cloud שבהם אפשר להשתמש כדי להפוך את הפונקציות השונות של צינור עיבוד נתונים לאימון לאוטומטיות.
| תפקיד | שירותים ותכונות שלGoogle Cloud |
|---|---|
| תזמור: הגדרת תהליכי עבודה מורכבים של ML, שמורכבים מכמה שלבים ויחסי תלות. אתם יכולים להגדיר כל שלב כמשימה נפרדת בקונטיינר, וכך לנהל ולהתאים בקלות את קנה המידה של משימות נפרדות. |
|
| ניהול גרסאות: מעקב אחרי גרסאות שונות של צינורות עיבוד נתונים ורכיבים ובקרה עליהן, כדי להבטיח יכולת שחזור וביקורת. | אחסון תבניות של Kubeflow Pipelines במאגר של Kubeflow Pipelines ב-Artifact Registry. |
| יכולת שימוש חוזר: שימוש חוזר ברכיבים ובפריטי מידע שנוצרו בתהליך קיים, כמו מערכי נתונים מוכנים ומודלים מאומנים, כדי להאיץ את הפיתוח. | אחסון תבניות של צינורות עיבוד נתונים ב-Cloud Storage ושיתוף שלהן בארגון. |
| מעקב: מעקב אחרי הפעלת צינור עיבוד הנתונים כדי לזהות בעיות ולטפל בהן. | להשתמש ב-Logging וב-Monitoring. מידע נוסף זמין במאמר מעקב רציף אחרי משאבים באמצעות לוחות בקרה, התראות ודוחות. |
הרחבת יכולת השימוש החוזר מעבר לצינורות עיבוד נתונים
חפשו הזדמנויות להרחיב את יכולת השימוש החוזר מעבר לצינורות עיבוד הנתונים לאימון. הנה כמה דוגמאות ליכולות של Google Cloud שמאפשרות להשתמש שוב במאפיינים, במערכי נתונים, במודלים ובקוד של ML.
- Feature Store מספק מאגר מרכזי לארגון, לאחסון ולהצגה של תכונות למידת מכונה. הוא מאפשר לכם להשתמש שוב במאפיינים בפרויקטים ובמודלים שונים, וכך לשפר את העקביות ולהפחית את המאמץ שנדרש להנדסת מאפיינים. אתם יכולים לאחסן תכונות, לשתף אותן ולגשת אליהן גם אונליין וגם אופליין.
- מערכי נתונים ב-Agent Platform מאפשרים לצוותים ליצור ולנהל מערכי נתונים באופן מרוכז, כדי שהארגון יוכל למקסם את השימוש החוזר ולצמצם את שכפול הנתונים. הצוותים שלכם יכולים לחפש ולגלות את מערכי הנתונים באמצעות Knowledge Catalog.
- מרשם המודלים ב-Gemini Enterprise Agent Platform מאפשר לאחסן, לנהל ולפרוס את המודלים שאומנו. ב-Model Registry אפשר להשתמש במודלים שוב בצינורות עיבוד נתונים עוקבים או לחיזוי אונליין, וכך לנצל את מאמצי האימון הקודמים.
- קונטיינרים בהתאמה אישית מאפשרים לארוז את קוד האימון ויחסי התלות בקונטיינרים, ולאחסן את הקונטיינרים ב-Artifact Registry. קונטיינרים בהתאמה אישית מאפשרים לכם לספק סביבות אימון עקביות וניתנות לשחזור בצינורות עיבוד נתונים ובפרויקטים שונים.
שימוש בשירותי Google Cloud להערכה ולכוונון של מודלים
Google Cloud מציע חבילה של כלים ושירותים יעילים לייעול ולאוטומציה של הערכת המודלים והכוונון שלהם. הכלים והשירותים האלה יכולים לעזור לכם לקצר את הזמן עד להעברה לסביבת הייצור, ולהפחית את המשאבים שנדרשים לאימון ולמעקב רציפים. השירותים האלה מאפשרים לצוותי ה-AI וה-ML לשפר את ביצועי המודלים עם פחות חזרות יקרות, להגיע לתוצאות מהר יותר ולצמצם את בזבוז משאבי המחשוב.
הערכת מודלים וניסויים תוך שימוש יעיל במשאבים
לפני שמרחיבים את הפתרון, כדאי להתחיל פרויקט AI עם ניסויים. בניסויים, עוקבים אחרי מטא-נתונים שונים כמו גרסת מערך הנתונים, הפרמטרים של המודל וסוג המודל. כדי לשחזר את התוצאות ולהשוות ביניהן, השתמשו במעקב אחרי מטא-נתונים בנוסף לניהול גרסאות קוד, בדומה ליכולות ב-Git. כדי למנוע מצב שבו חסר מידע או שגרסה שגויה נפרסת בסביבת הייצור, מומלץ להשתמש בניסויים בפלטפורמת הנציגים לפני שמטמיעים פריסה או משימות אימון בקנה מידה מלא.
התכונה "ניסויים ב-Agent Platform" מאפשרת לכם:
- ייעול ואוטומציה של מעקב וגילוי מטא-נתונים באמצעות ממשק משתמש ידידותי ו-API לעומסי עבודה שמוכנים לייצור.
- מנתחים את מדדי הביצועים של המודל ומשווים בין מדדים של כמה מודלים.
אחרי שהמודל אומן, צריך לעקוב באופן קבוע אחרי הביצועים ושינויים בנתונים לאורך זמן בנתונים הנכנסים. כדי לייעל את התהליך, אתם יכולים להשתמש במעקב אחרי מודלים ב-Gemini Enterprise Agent Platform כדי לגשת ישירות למודלים שנוצרו במרשם המודלים. בנוסף, ב-Agent Platform, מעקב אחרי מודלים מאפשר לבצע מעקב אוטומטי אחרי נתונים ותוצאות באמצעות חיזויים אונליין ובאצווה. אתם יכולים לייצא את התוצאות ל-BigQuery כדי להמשיך לנתח ולעקוב אחריהן.
בחירת שיטות אופטימליות לאוטומציה של האימון
לכוונון היפר-פרמטרים, אנחנו ממליצים על הגישות הבאות:
- כדי להפוך את תהליך החיפוש של הפרמטרים ההיפר-משתנים האופטימליים למודלים שלכם לאוטומטי, השתמשו בכוונון הפרמטרים ההיפר-משתנים של Agent Platform. פלטפורמת Agent משתמשת באלגוריתמים מתקדמים כדי לחקור את מרחב ההיפר-פרמטרים ולזהות את ההגדרה הטובה ביותר.
- כדי לכוונן היפר-פרמטרים ביעילות, כדאי להשתמש בשיטות של אופטימיזציה בייסיאנית, במיוחד כשעובדים עם מודלים מורכבים וקבוצות נתונים גדולות.
לאימון מבוזר, אנחנו ממליצים על הגישות הבאות:
אם יש לכם מערכי נתונים גדולים ומודלים מורכבים, כדאי להשתמש בתשתית האימון המבוזרת של Agent Platform. הגישה הזו מאפשרת לאמן את המודלים בכמה מכונות, וכך לקצר משמעותית את זמן האימון ולהפחית את העלויות הנלוות. אפשר להשתמש בכלים כמו:
- כוונון של Agent Platform כדי לבצע כוונון מפוקח (SFT) של Gemini, Imagen ומודלים אחרים.
- Agent Platform Managed Training או Ray on Gemini Enterprise Agent Platform לאימון מבוזר בהתאמה אישית.
בחרו מסגרות ML שעברו אופטימיזציה, כמו Keras ו-PyTorch, שתומכות באימון מבוזר ובניצול יעיל של משאבים.
שימוש ב-AI ניתן להסברה
חשוב להבין למה המודל מקבל החלטות מסוימות ולזהות הטיות פוטנציאליות או תחומים לשיפור. להשתמש בטכניקות הסבר כדי לקבל תובנות לגבי החיזויים של המודל.
- מבוסס-מאפיינים: כדי להבין אילו מאפיינים הכי משפיעים על התחזיות של המודל, מנתחים את שיוכי המאפיינים. ההבנה הזו יכולה להנחות את מאמצי הנדסת הפיצ'רים ולשפר את יכולת הפרשנות של המודל.
- מבוסס-דוגמאות: כדי להחזיר רשימה של דוגמאות (בדרך כלל מקבוצת הנתונים לאימון) שהכי דומות לקלט, משתמשים בחיפוש השכן הקרוב ביותר. בדרך כלל, קלט דומה מניב חיזויים דומים, ולכן אפשר להשתמש בהסברים האלה כדי לבחון ולהסביר את ההתנהגות של המודל.
שימוש בשירותים מנוהלים ובמודלים שעברו אימון
כדאי לאמץ גישה הדרגתית לבחירת מודלים ולפיתוח מודלים. כך תוכלו להימנע מעלויות מיותרות שקשורות להתחלה מחדש בכל פעם. כדי לשלוט בעלויות, כדאי להשתמש במסגרות של למידת מכונה, בשירותים מנוהלים ובמודלים שעברו אימון מראש.
כדי להפיק את המקסימום משירותים מנוהלים וממודלים שאומנו מראש, כדאי לפעול לפי ההמלצות הבאות.
שימוש ב-Notebooks למחקר ולניסויים
סביבות Notebook הן חיוניות לניסויים חסכוניים ב-ML. Notebook מספק למדעני נתונים ולמהנדסים מרחב אינטראקטיבי ושיתופי שבו הם יכולים לחקור נתונים, לפתח מודלים, לשתף ידע ולבצע איטרציות ביעילות. שיתוף פעולה ושיתוף ידע באמצעות מסמכי Notebook מאיצים באופן משמעותי את הפיתוח, את סקירות הקוד ואת העברת הידע. הם עוזרים לייעל את תהליכי העבודה ולצמצם את הכפילויות.
במקום לרכוש ולנהל חומרה יקרה לסביבת הפיתוח, אתם יכולים להשתמש בתשתית הניתנת להתאמה אישית ועל פי דרישה של Agent Platform Workbench ו-Colab Enterprise.
Agent Platform Workbench היא סביבת פיתוח מבוססת-notebook של Jupyter לכל תהליך העבודה של מדעי הנתונים. אתם יכולים ליצור אינטראקציה עם Agent Platform ושירותים אחרים של Google Cloudמתוך ה-notebook של Jupyter במכונה. השילובים והתכונות של Agent Platform Workbench עוזרים לכם:
- גישה לנתונים מ-Jupyter Notebook וניתוח שלהם באמצעות שילובים של BigQuery ו-Cloud Storage.
- כדי להפוך עדכונים חוזרים של מודל לאוטומטיים, אפשר להשתמש בהפעלות מתוזמנות של קוד שפועל ב-Agent Platform.
- כדי לעבד נתונים במהירות, אפשר להריץ Notebook באשכול של Managed Service for Apache Spark.
- להריץ notebook כשלב בצינור עיבוד נתונים באמצעות Agent Platform Pipelines.
Colab Enterprise היא סביבת פיתוח מנוהלת של Notebooks שיתופיים, עם יכולות האבטחה והתאימות של Google Cloud. Colab Enterprise מתאים במיוחד אם הפרויקט שלכם מתמקד בפיתוח משותף ובצמצום המאמץ לניהול התשתית. Colab Enterprise משתלב עם שירותיGoogle Cloud ועם עוזר דיגיטלי מבוסס-AI שמשתמש ב-Gemini. ב-Colab Enterprise אתם יכולים:
- לעבוד ב-notebooks בלי לנהל את התשתית.
- לשתף תיקיית Notebook עם משתמש יחיד, קבוצת Google או דומיין ב-Google Workspace. אתם יכולים לשלוט בגישה ל-Notebook באמצעות IAM.
- אינטראקציה עם תכונות מובנות ב-Agent Platform וב-BigQuery.
כדי לעקוב אחרי שינויים ולחזור לגרסאות קודמות כשצריך, אתם יכולים לשלב את ה-notebooks עם כלים לניהול גרסאות כמו Git.
מתחילים עם מודלים קיימים שעברו אימון מקדים
אימון של מודלים מורכבים מאפס, במיוחד מודלים של למידה עמוקה, דורש הרבה זמן ומשאבי מחשוב. כדי להאיץ את תהליך הבחירה והפיתוח של המודל, כדאי להתחיל עם מודלים קיימים שעברו אימון מראש. המודלים האלה, שאומנו על מערכי נתונים עצומים, מייתרים את הצורך לאמן מודלים מאפס ומפחיתים באופן משמעותי את העלות ואת זמן הפיתוח.
להפחית את עלויות ההכשרה והפיתוח
לבחור מודל או API מתאימים לכל משימת למידת מכונה, ולשלב אותם כדי ליצור תהליך פיתוח מקצה לקצה של למידת מכונה.
ב-Model Garden יש אוסף עצום של מודלים שאומנו מראש למשימות כמו סיווג תמונות, זיהוי אובייקטים ועיבוד שפה טבעית. המודלים מחולקים לקטגוריות הבאות:
- מודלים של Google, כמו משפחת המודלים של Gemini ו-Imagen ליצירת תמונות.
- מודלים פתוחים כמו Gemma ו-Llama.
- מודלים של צד שלישי משותפים כמו Anthropic.
Google Cloud מספק ממשקי API של AI ו-ML שמאפשרים למפתחים לשלב יכולות AI מתקדמות באפליקציות בלי לבנות מודלים מאפס.
- Cloud Vision API מאפשר להפיק תובנות מתמונות. ה-API הזה שימושי לאפליקציות כמו ניתוח תמונות, ניהול תוכן והזנת נתונים אוטומטית.
- Cloud Natural Language API מאפשר לנתח טקסט כדי להבין את המבנה והמשמעות שלו. ה-API הזה שימושי למשימות כמו ניתוח משוב מלקוחות, סיווג תוכן והבנת מגמות ברשתות החברתיות.
- Speech-to-Text API ממיר אודיו לטקסט. ה-API הזה תומך במגוון רחב של שפות וניבים.
- Document AI API מעבד מסמכים כדי לחלץ, לסווג ולהבין נתונים. ה-API הזה עוזר להפוך את תהליכי העבודה של עיבוד המסמכים לאוטומטיים.
- Dialogflow API מאפשר ליצור ממשקי שיחה, כמו צ'אט בוטים ועוזרים קוליים. אתם יכולים להשתמש ב-API הזה כדי ליצור בוטים לשירות לקוחות ועוזרים וירטואליים.
- Gemini API מספק גישה למודל ה-AI הכי מתקדם ורב-תכליתי של Google.
הפחתת עלויות הכוונון
כדי לצמצם את הצורך בנתונים נרחבים ובזמן חישוב, כדאי לכוונן את המודלים שעברו אימון מראש לפי מערכי נתונים ספציפיים. אנחנו ממליצים על הגישות הבאות:
- למידת העברה: שימוש בידע ממודל שעבר אימון מראש למשימה חדשה, במקום להתחיל מאפס. הגישה הזו דורשת פחות נתונים וזמן חישוב, וכך עוזרת להפחית את העלויות.
- כוונון מתאם (כוונון יעיל בפרמטרים): התאמת מודלים למשימות או לדומיינים חדשים בלי כוונון מלא. הגישה הזו דורשת הרבה פחות משאבי מחשוב וקבוצת נתונים קטנה יותר.
- כוונון מפוקח (SFT): התאמת ההתנהגות של המודל באמצעות מערך נתונים מתויג. הגישה הזו מפשטת את ניהול התשתית הבסיסית ואת מאמצי הפיתוח שנדרשים למשימת אימון בהתאמה אישית.
איך משתמשים ב-Agent Studio ב-Gemini Enterprise Agent Platform כדי לחקור ולהתנסות
באמצעות Agent Studio אתם יכולים לבדוק, ליצור אב טיפוס ולפרוס במהירות אפליקציות של AI גנרטיבי.
- שילוב עם Model Garden: גישה מהירה למודלים העדכניים ביותר ופריסה יעילה של המודלים כדי לחסוך זמן ועלויות.
- גישה מאוחדת למודלים ייעודיים: מאחדת את הגישה למגוון רחב של מודלים וממשקי API שאומנו מראש, כולל מודלים לצ'אט, טקסט, מדיה, תרגום ודיבור. הגישה המאוחדת הזו יכולה לעזור לכם לצמצם את הזמן שאתם משקיעים בחיפוש ובשילוב של שירותים נפרדים.
שימוש בשירותים מנוהלים לאימון או להצגה של מודלים
שירותים מנוהלים יכולים לעזור להפחית את עלות אימון המודלים ולפשט את ניהול התשתית, וכך לאפשר לכם להתמקד בפיתוח המודלים ובאופטימיזציה שלהם. הגישה הזו יכולה להוביל ליתרונות משמעותיים מבחינת עלויות ולשפר את היעילות.
הפחתת התקורה התפעולית
כדי לצמצם את המורכבות והעלות של ניהול התשתית, כדאי להשתמש בשירותים מנוהלים כמו:
- אימון מנוהל ב-Agent Platform מספק סביבה מנוהלת לאימון מודלים בקנה מידה נרחב. אתם יכולים לבחור מתוך מגוון קונטיינרים מוכנים מראש עם מסגרות פופולריות של ML, או להשתמש בקונטיינרים בהתאמה אישית. Google Cloud מטפל בהקצאה, בהתאמה לעומס ובתחזוקה של התשתית, וכך מפחית את התקורה התפעולית.
- Agent Platform Inference מטפל בהתאמה לעומס (scaling) של התשתית, באיזון עומסים ובניתוב בקשות. אתם נהנים מזמינות גבוהה ומביצועים טובים בלי התערבות ידנית.
- Ray ב-Gemini Enterprise Agent Platform מספק אשכול Ray מנוהל באופן מלא. אתם יכולים להשתמש באשכול כדי להריץ עומסי עבודה מורכבים של AI בהתאמה אישית, שמבצעים הרבה חישובים (כוונון היפר-פרמטרים, כוונון מודלים, אימון מודלים מבוזר ולמידה ממשוב אנושי), בלי שתצטרכו לנהל את התשתית בעצמכם.
שימוש בשירותים מנוהלים כדי לייעל את ניצול המשאבים
למידע נוסף על ניצול יעיל של משאבים, קראו את המאמר אופטימיזציה של הקצאת משאבים.
שותפים ביצירת התוכן
מחברים:
- אייזק לו | מנהל פיתוח עסקי בתחום ה-AI
- אנסטסיה פרוקאייבה | ארכיטקטית פתרונות שטח, AI גנרטיבי
- איימי סאות'ווד | יועצת בנושא פתרונות טכניים, ניתוח נתונים ו-AI
תורמים אחרים:
- Filipe Gracio, PhD | Customer Engineer, AI/ML Specialist
- קומאר דהנגופאל | מפתח פתרונות למוצרים שונים
- מרוואן אל שאווי | מהנדס לקוחות של שותפים
- ניקולס פינטו | מהנדס לקוחות, מומחה למודרניזציה של אפליקציות