תשלום לפי שימוש בעדיפות גבוהה

"תשלום לפי שימוש בעדיפות גבוהה" היא אפשרות צריכה שמספקת ביצועים עקביים יותר מאשר "תשלום רגיל לפי שימוש", בלי התחייבות מראש להקצאת משאבים לפי התפוקה שנקבעה.

כשמשתמשים ב-Priority PayGo, החיוב הוא לפי שימוש בטוקנים, בתעריף גבוה יותר מאשר ב-Standard PayGo. מידע על המחירים מופיע בדף התמחור של Gemini Enterprise Agent Platform.

מתי כדאי להשתמש ב-Priority PayGo

Priority PayGo אידיאלי לעומסי עבודה קריטיים לעסק עם דפוסי תעבורת נתונים משתנים או בלתי צפויים. הנה כמה תרחישים לדוגמה:

  • עוזרים וירטואליים שפונים ללקוחות
  • Agentic workflows ואינטראקציות בין סוכנים
  • סימולציות מחקר

מודלים ומיקומים נתמכים

באופן כללי, Priority PayGo נתמך בנקודות הקצה global,‏ us ו-eu. עם זאת, יכול להיות שחלק מהמודלים (כמו מודלים של Gemini 2.5) לא תומכים בכל שלוש נקודות הקצה. כדי לראות באילו נקודות קצה אפשר להשתמש ב-Priority PayGo, עיינו בדפים של המודלים הספציפיים שמקושרים מ-Google models.

המודלים הבאים תומכים ב-Priority PayGo:

שימוש ב-Priority PayGo

כדי לשלוח בקשות ל-Gemini API באמצעות Priority PayGo, צריך לכלול את הכותרת X-Vertex-AI-LLM-Shared-Request-Type בבקשה. יש שתי דרכים להשתמש ב-Priority PayGo:

  • שימוש במכסה של הקצאת משאבים לפי התפוקה שנקבעה (אם היא זמינה) ומעבר ל-Priority PayGo.

  • צריך להשתמש רק ב-Priority PayGo.

הדוגמאות הבאות משתמשות בנקודת הקצה global. כדי לשלוח את הבקשות לנקודת קצה במספר אזורים, מחליפים את global ב-us או ב-eu. בבקשות REST, צריך גם להחליף את שם המארח aiplatform.googleapis.com ב-aiplatform.us.rep.googleapis.com או ב-aiplatform.eu.rep.googleapis.com. מידע נוסף זמין במאמר נקודות קצה (endpoint) במספר אזורים.

שימוש ב-Priority PayGo בזמן השימוש ב"הקצאת משאבים לפי התפוקה שנקבעה" כברירת מחדל

כדי לנצל את המכסה הזמינה של "הקצאת משאבים לפי התפוקה שנקבעה" לפני שמשתמשים ב-Priority PayGo, צריך לכלול את הכותרת X-Vertex-AI-LLM-Shared-Request-Type: priority בבקשות, כמו בדוגמאות הבאות.

Python

התקנה

pip install --upgrade google-genai

מידע נוסף זמין במאמרי העזרה של ה-SDK.

מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI: 

# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values
# with appropriate values for your project.
export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT
export GOOGLE_CLOUD_LOCATION=global
export GOOGLE_GENAI_USE_ENTERPRISE=True

מאתחלים את לקוח ה-GenAI כדי להשתמש ב-Priority PayGo. אחרי שתבצעו את השלב הזה, לא תצטרכו לבצע שינויים נוספים בקוד כדי להשתמש ב-Gemini API באמצעות Priority PayGo באותו לקוח.

from google import genai
from google.genai.types import HttpOptions
client = genai.Client(
  vertexai=True, project='your_project_id', location='global',
  http_options=HttpOptions(
    api_version="v1",
      headers={
        "X-Vertex-AI-LLM-Shared-Request-Type": "priority"
      },
  )
)

REST

אחרי שמגדירים את הסביבה, אפשר להשתמש ב-REST כדי לבדוק פרומפט טקסטואלי. הדוגמה הבאה שולחת בקשה לנקודת הקצה של המודל של בעל התוכן הדיגיטלי.

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הערכים בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט. .
  • ‫MODEL_ID: מזהה המודל שרוצים להפעיל בו את Priority PayGo. כאן מפורטת רשימת המודלים שתומכים ב-Priority PayGo.
  • ‫PROMPT_TEXT: ההוראות בטקסט שצריך לכלול בהנחיה. ‫JSON.
curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json; charset=utf-8" \
  -H "X-Vertex-AI-LLM-Shared-Request-Type: priority" \
  "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID:generateContent" -d \
  $'{
      "contents": {
        "role": "model",
        "parts": { "text": "PROMPT_TEXT" }
    }
  }'

אתם אמורים לקבל תגובת JSON שדומה לזו:

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "Response to sample request."
          }
        ]
      },
      "finishReason": "STOP"
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 3,
    "candidatesTokenCount": 900,
    "totalTokenCount": 1957,
    "trafficType": "ON_DEMAND_PRIORITY",
    "thoughtsTokenCount": 1054
  }
}
  • משתמשים ב-method‏ generateContent כדי לבקש שהתשובה תוחזר אחרי שהיא נוצרת במלואה. כדי להפחית את תפיסת זמן האחזור בקרב קהל אנושי, אפשר להעביר בסטרימינג את התשובה בזמן שהיא נוצרת באמצעות השיטה streamGenerateContent.
  • המזהה של המודל המולטי-מודאלי נמצא בסוף כתובת ה-URL לפני ה-method (לדוגמה, gemini-3.5-flash). יכול להיות שהדוגמה הזו תומכת גם במודלים אחרים.

שימוש רק ב-Priority PayGo

כדי להשתמש רק ב-Priority PayGo, צריך לכלול את הכותרות X-Vertex-AI-LLM-Request-Type: shared ו-X-Vertex-AI-LLM-Shared-Request-Type: priority בבקשות, כמו בדוגמאות הבאות.

Python

התקנה

pip install --upgrade google-genai

מידע נוסף זמין במאמרי העזרה של ה-SDK.

מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI: 

# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values
# with appropriate values for your project.
export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT
export GOOGLE_CLOUD_LOCATION=global
export GOOGLE_GENAI_USE_ENTERPRISE=True

מאתחלים את לקוח ה-GenAI כדי להשתמש ב-Priority PayGo. אחרי שתבצעו את השלב הזה, לא תצטרכו לבצע שינויים נוספים בקוד כדי להשתמש ב-Gemini API באמצעות Priority PayGo באותו לקוח.

from google import genai
from google.genai.types import HttpOptions
client = genai.Client(
  vertexai=True, project='your_project_id', location='global',
  http_options=HttpOptions(
    api_version="v1",
      headers={
        "X-Vertex-AI-LLM-Request-Type": "shared",
        "X-Vertex-AI-LLM-Shared-Request-Type": "priority"
      },
  )
)

REST

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הערכים בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט. .
  • ‫MODEL_ID: מזהה המודל שרוצים להפעיל בו את Priority PayGo. כאן מפורטת רשימת המודלים שתומכים ב-Priority PayGo.
  • ‫PROMPT_TEXT: ההוראות בטקסט שצריך לכלול בהנחיה. ‫JSON.
curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json; charset=utf-8" \
  -H "X-Vertex-AI-LLM-Request-Type: shared" \
  -H "X-Vertex-AI-LLM-Shared-Request-Type: priority" \
  "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID:generateContent" -d \
  $'{
      "contents": {
        "role": "model",
        "parts": { "text": "PROMPT_TEXT" }
    }
  }'

אתם אמורים לקבל תגובת JSON שדומה לזו:

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "Response to sample request."
          }
        ]
      },
      "finishReason": "STOP"
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 3,
    "candidatesTokenCount": 900,
    "totalTokenCount": 1957,
    "trafficType": "ON_DEMAND_PRIORITY",
    "thoughtsTokenCount": 1054
  }
}
  • משתמשים ב-method‏ generateContent כדי לבקש שהתשובה תוחזר אחרי שהיא נוצרת במלואה. כדי להפחית את תפיסת זמן האחזור בקרב קהל אנושי, אפשר להעביר בסטרימינג את התשובה בזמן שהיא נוצרת באמצעות השיטה streamGenerateContent.
  • המזהה של המודל המולטי-מודאלי נמצא בסוף כתובת ה-URL לפני ה-method (לדוגמה, gemini-3.5-flash). יכול להיות שהדוגמה הזו תומכת גם במודלים אחרים.

אימות השימוש ב-Priority PayGo

כדי לבדוק אם בקשה השתמשה ב-Priority PayGo, אפשר לבדוק את סוג התנועה בתגובה, כמו בדוגמאות הבאות.

Python

כדי לבדוק אם נעשה שימוש ב-Priority PayGo בבקשה, אפשר לבדוק את השדה traffic_type בתשובה. אם הבקשה עובדה באמצעות Priority PayGo, השדה traffic_type מוגדר לערך ON_DEMAND_PRIORITY.

sdk_http_response=HttpResponse(
  headers=<dict len=9>
) candidates=[Candidate(
  avg_logprobs=-0.539712212302468,
  content=Content(
    parts=[
      Part(
        text="""Response to sample request.
        """
      ),
    ],
    role='model'
  ),
  finish_reason=<FinishReason.STOP: 'STOP'>
)] create_time=datetime.datetime(2025, 12, 3, 20, 32, 55, 916498, tzinfo=TzInfo(0)) model_version='gemini-2.5-flash' prompt_feedback=None response_id='response_id' usage_metadata=GenerateContentResponseUsageMetadata(
  candidates_token_count=1408,
  candidates_tokens_details=[
    ModalityTokenCount(
      modality=<MediaModality.TEXT: 'TEXT'>,
      token_count=1408
    ),
  ],
  prompt_token_count=5,
  prompt_tokens_details=[
    ModalityTokenCount(
      modality=<MediaModality.TEXT: 'TEXT'>,
      token_count=5
    ),
  ],
  thoughts_token_count=1356,
  total_token_count=2769,
  traffic_type=<TrafficType.ON_DEMAND_PRIORITY: 'ON_DEMAND_PRIORITY'>
) automatic_function_calling_history=[] parsed=None

REST

כדי לבדוק אם נעשה שימוש ב-Priority PayGo בבקשה, אפשר לבדוק את השדה trafficType בתשובה. אם הבקשה עובדה באמצעות Priority PayGo, השדה trafficType מוגדר לערך ON_DEMAND_PRIORITY.

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "Response to sample request."
          }
        ]
      },
      "finishReason": "STOP"
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 3,
    "candidatesTokenCount": 900,
    "totalTokenCount": 1957,
    "trafficType": "ON_DEMAND_PRIORITY",
    "thoughtsTokenCount": 1054
  }
}

מגבלות על קצב העברת הנתונים

ב-Priority PayGo יש מגבלת בסיס של קצב נתונים ברמת הארגון לכל מודל:

  • המודלים Gemini Pro,‏ Carbon ו-Argon: ‏10,000,000 טוקנים לדקה
  • ‫מודלים מסוג Gemini Flash,‏ Flash-Lite ו-Hydrogen: ‏50,000,000 טוקנים לדקה

המגבלות האלה זמינות לארגון באופן מיידי. אין תקופת הרצה של קמפיין, ואין צורך להגיע לשימוש קבוע כדי להגיע אליהם. בדומה לתשלום רגיל לפי שימוש, מגבלת הקיבולת שמוצגת למשפחת מודלים חלה בנפרד על כל מודל במשפחה הזו.

תנועה שחורגת מהמגבלה לא משונמכת באופן אוטומטי. כשהקיבולת זמינה, פלטפורמת Agent ממשיכה לשרת את התנועה הזו בעדיפות, והיא מחויבת לפי תעריפי Priority PayGo. בקשות משונמכות ל-Standard PayGo רק כשאין קיבולת פנויה לטפל בהן בעדיפות, והבקשות האלה מחויבות בתעריפים של Standard PayGo.

אתם יכולים לבדוק אם בקשה שודרגה לאחור לפי התגובה. בבקשות ששודרגו לאחור ל-Standard PayGo, סוג התנועה מוגדר ל-ON_DEMAND. למידע נוסף, קראו את המאמר אימות השימוש ב-Priority PayGo.

כדי להפחית את הסיכוי לשדרוג לאחור, כדאי לפזר את התנועה באופן שווה בכל דקה, במקום לשלוח עליות חדות ברמת השנייה. אם עומס העבודה שלכם דורש מגבלה גבוהה יותר, פנו לצוות המכירות. לעומסי עבודה שדורשים קיבולת ייעודית ומובטחת, ראו הקצאת משאבים לפי התפוקה שנקבעה.

המאמרים הבאים