מידע על כוונון מפוקח (SFT) של מודלים של Gemini

כוונון מפוקח הוא אפשרות טובה כשיש לכם משימה מוגדרת היטב עם נתונים מתויגים זמינים. היא יעילה במיוחד לאפליקציות ספציפיות לדומיין, שבהן השפה או התוכן שונים באופן משמעותי מהנתונים שהמודל הגדול אומן עליהם במקור. אפשר לכוונן נתונים מסוג טקסט, תמונה, אודיו, וידאו ומסמך. אתם יכולים גם ליצור אפליקציות וסוכנים שמבוססים על Gemini ויכולים לקיים אינטראקציה עם מידע ושירותים בזמן אמת, כמו מסדי נתונים, מערכות לניהול קשרי לקוחות ומאגרי מסמכים.

כוונון מפוקח (SFT) מתאים את התנהגות המודל באמצעות מערך נתונים מתויג. בתהליך הזה, המערכת משנה את המשקלים של המודל כדי לצמצם את ההבדל בין התחזיות שלו לבין התוויות בפועל. לדוגמה, היא יכולה לשפר את ביצועי המודל במשימות מהסוגים הבאים:

  • סיווג
  • סיכום
  • מענה על שאלות באמצעות חילוץ מידע
  • צ'אט

בפוסט בבלוג Hundreds of organizations are fine-tuning Gemini models תוכלו לקרוא על תרחישי השימוש המובילים בכוונון מודלי Gemini. הנה כמה מהתרחישים לדוגמה שהם הכי אוהבים.

מידע נוסף זמין במאמר מתי כדאי להשתמש בכוונון מפוקח (SFT) ב-Gemini.

מודלים נתמכים

המודלים הבאים של Gemini תומכים בכוונון מפוקח:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מגבלות

כוונון מפוקח הוא לא שירות מכוסה, והוא לא נכלל ביעד למדידת רמת השירות (SLO) של אף הסכם רמת שירות (SLA).

בטבלה הבאה מוצגות המגבלות על מערכי נתונים של כוונון מפוקח:

‫Gemini 3.5 Flash
Gemini 3.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים בקלט ובפלט זהה למודל Gemini הבסיסי
המספר המקסימלי של דוגמאות במערך נתונים לאימות ‫5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודלים רק נקודות קצה במספר אזורים ב-us וב-eu
נקודת קצה נתמכת לפרסום מודל מכוונן נקודות קצה במספר אזורים ב-us וב-eu, וגם global
תמיכה בממשק המשתמש

Gemini 3.1 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים בקלט ובפלט זהה למודל Gemini הבסיסי
המספר המקסימלי של דוגמאות במערך נתונים לאימות ‫5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודלים רק נקודות קצה במספר אזורים ב-us וב-eu
נקודת קצה נתמכת לפרסום מודל מכוונן נקודות קצה במספר אזורים ב-us וב-eu, וגם global
תמיכה בממשק המשתמש

Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים בקלט ובפלט זהה למודל Gemini הבסיסי
המספר המקסימלי של דוגמאות במערך נתונים לאימות ‫5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16

Gemini ‎2.5 Pro

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים בקלט ובפלט זהה למודל Gemini הבסיסי
המספר המקסימלי של דוגמאות במערך נתונים לאימות ‫5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4 ו-8

בעיות מוכרות

  • אם תפעילו יצירה מבוקרת כשאתם שולחים בקשות להסקת מסקנות למודלי Gemini מכווננים, יכול להיות שאיכות המודל תרד בגלל חוסר התאמה של הנתונים בזמן הכוונון והסקת המסקנות. במהלך הכוונון, לא מתבצעת יצירה מבוקרת, ולכן המודל המכוונן לא יכול לטפל ביצירה מבוקרת בצורה טובה בזמן ההסקה. כוונון מפוקח (SFT) מתאים אישית את המודל בצורה יעילה כדי ליצור פלט מובנה. לכן, לא צריך להחיל יצירה מבוקרת כששולחים בקשות להסקת מסקנות במודלים מכווננים.

תרחישים לדוגמה לשימוש בכוונון מפוקח (SFT)

מודלים בסיסיים פועלים היטב כשאפשר להגדיר את הפלט או המשימה הצפויים בצורה ברורה ותמציתית בהנחיה, וההנחיה מפיקה באופן עקבי את הפלט הצפוי. אם אתם רוצים שהמודל ילמד משהו נישתי או ספציפי שחורג מהדפוסים הכלליים, כדאי לשקול כוונון של המודל. לדוגמה, אתם יכולים להשתמש בכוונון מודל כדי ללמד את המודל את הדברים הבאים:

  • מבנים או פורמטים ספציפיים ליצירת פלט.
  • התנהגויות ספציפיות, כמו מתי לספק פלט תמציתי או מפורט.
  • פלט ספציפי בהתאמה אישית לסוגים ספציפיים של קלט.

הדוגמאות הבאות הן תרחישים לדוגמה שקשה לתעד רק באמצעות הוראות בהנחיה:

  • סיווג: התשובה הצפויה היא מילה או ביטוי ספציפיים.

    כוונון המודל יכול לעזור למנוע מהמודל ליצור תשובות מילוליות.

  • סיכום: הסיכום מופיע בפורמט ספציפי. לדוגמה, יכול להיות שתצטרכו להסיר פרטים אישיים מזהים (PII) מסיכום של צ'אט.

    קשה לתאר את הפורמט הזה של החלפת שמות הדוברים ב-#Person1 וב-#Person2, ויכול להיות שהמודל הבסיסי לא יפיק תשובה כזו באופן טבעי.

  • מענה לשאלות באמצעות חילוץ: השאלה היא על הקשר מסוים, והתשובה היא מחרוזת משנה של ההקשר.

    התשובה "שיא תקופת הקרח האחרונה" היא ביטוי ספציפי מההקשר.

  • צ'אט: אתם צריכים להתאים אישית את התשובה של המודל כדי שתתאים לאישיות, לתפקיד או לדמות.

אפשר גם לכוונן מודל במצבים הבאים:

  • ההנחיות לא מניבות את התוצאות הצפויות באופן עקבי מספיק.
  • המשימה מורכבת מדי בשביל להגדיר אותה בהנחיה. לדוגמה, אתם רוצים שהמודל ישכפל התנהגות שקשה להסביר בהנחיה.
  • יש לכם אינטואיציות מורכבות לגבי משימה שקשה לנסח בהנחיה.
  • אתם רוצים להקטין את חלון ההקשר על ידי הסרת הדוגמאות.

הגדרת אזור למשימת הכוונון

נתוני משתמש, כמו קבוצת הנתונים שעברה טרנספורמציה והמודל שעבר כוונון, מאוחסנים באזור של משימת הכוונון. במהלך הכוונון, יכול להיות שהחישוב יועבר לאזורים אחרים של US או EU כדי להשתמש במאיצים זמינים. ההעברה שקופה למשתמשים.

  • אם אתם משתמשים ב-Google Gen AI SDK, אתם יכולים לציין את האזור באמצעות הגדרת משתנה הסביבה GOOGLE_CLOUD_LOCATION. לדוגמה:

    export GOOGLE_CLOUD_PROJECT=PROJECT_ID
    export GOOGLE_CLOUD_LOCATION=us # Use us-central1 for Gemini 2.5 and earlier models
    export GOOGLE_GENAI_USE_ENTERPRISE=True
    
  • אם יוצרים משימת כוונון מפוקח על ידי שליחת בקשת POST באמצעות השיטה tuningJobs.create, משתמשים בכתובת ה-URL כדי לציין את האזור שבו משימת הכוונון פועלת. לדוגמה, בכתובת ה-URL הבאה, מציינים אזור על ידי החלפת שני המופעים של TUNING_JOB_REGION באזור שבו המשימה פועלת.

    ‫Gemini 3.0 ואילך

    https://aiplatform.TUNING_JOB_REGION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
    

    ‫Gemini 2.5 וגרסאות קודמות

    https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
    
  • אם אתם משתמשים בGoogle Cloud מסוף (רק ב-Gemini 2.5 ובמודלים קודמים), אתם יכולים לבחור את שם האזור בשדה הנפתח Region בדף Model details. זה אותו דף שבו בוחרים את מודל הבסיס ואת השם של המודל המכוונן.

הערכת מודלים מכווננים

אתם יכולים להעריך מודלים מכווננים בדרכים הבאות:

מכסה

המכסה נאכפת על מספר משימות הכוונון שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצה של משימת כוונון אחת לפחות. זו מכסה גלובלית שמשותפת לכל האזורים הזמינים והמודלים הנתמכים. אם רוצים להריץ יותר משימות בו-זמנית, צריך לבקש מכסה נוספת ל-Global concurrent tuning jobs.

אם אתם מגדירים את שירות ההערכה ל-AI גנרטיבי כך שיריץ הערכות באופן אוטומטי במהלך הכוונון, כדאי לעיין במכסות של שירות ההערכה ל-AI גנרטיבי.

תמחור

התמחור של כוונון מפוקח (SFT) ב-Gemini מפורט במאמר התמחור של Gemini Enterprise Agent Platform.

מספר הטוקנים לאימון מחושב על ידי הכפלת מספר הטוקנים במערך נתוני האימון במספר התקופות. אחרי הכוונון, עדיין חלות עלויות הסקה (בקשת חיזוי) של המודל המכוונן. התמחור של הסקת מסקנות זהה לכל גרסה יציבה של Gemini. מידע נוסף זמין במאמר גרסאות המודלים היציבות של Gemini.

אם אתם מגדירים את שירות ההערכה של AI גנרטיבי כך שיפעל באופן אוטומטי במהלך כוונון, ההערכות יחויבו כמשימות חיזוי באצווה. מידע נוסף זמין במאמר תמחור.

המאמרים הבאים