Anfragen und Antworten protokollieren und teilen

Die Gemini Enterprise Agent Platform kann Beispiele von Anfragen und Antworten für Gemini und unterstützte Partnermodelle protokollieren. Die Logs werden zur Ansicht und Analyse in einer BigQuery-Tabelle gespeichert. Darüber hinaus kann die Agent Platform Anfrage-/Antwort-Logs für bestimmte Advanced AI-Modelle an bestimmte MaaS-Partner weitergeben, um Sie bei der Erfüllung Ihrer Verpflichtungen gegenüber diesen MaaS-Partnern zu unterstützen.

Auf dieser Seite wird beschrieben, wie Sie Anfrage-Antwort-Logs für Foundation Models und abgestimmte Modelle konfigurieren.

Unterstützte API-Methoden für das Logging

Anfrage-/Antwortlogs werden für alle Gemini-Modelle unterstützt, die generateContent oder streamGenerateContent verwenden.

Die folgenden Partnermodelle, die rawPredict oder streamRawPredict verwenden, werden ebenfalls unterstützt:

  • Anthropic Claude

Anfrage-/Antwort-Logs für Basis-Foundation-Models

Sie können Anfrage-/Antwortlogs für Basis-Foundation-Models mit der REST API oder dem Python SDK konfigurieren. Es kann einige Minuten dauern, bis Logging-Konfigurationen wirksam werden.

Logging von Anfragen/Antworten aktivieren

Wählen Sie einen der folgenden Tabs aus, um eine Anleitung zum Aktivieren von Anfrage-/Antwortprotokollen für ein Basis-Foundation-Model zu erhalten.

Für Anthropic-Modelle wird nur REST für die Logging-Konfiguration unterstützt. Aktivieren Sie die Logging-Konfiguration über die REST API, indem Sie den Publisher auf anthropic und den Modellnamen auf eines der unterstützten Claude-Modelle festlegen.

Python SDK

Mit dieser Methode kann ein PublisherModelConfig erstellt oder aktualisiert werden.

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

publisher_model = GenerativeModel("gemini-2.5-flash")

# Set logging configuration
publisher_model.set_request_response_logging_config(
    enabled=True,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME",
    enable_otel_logging=True
    )

REST API

Erstellen oder aktualisieren Sie einen PublisherModelConfig mit setPublisherModelConfig:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: Die Region der Modellressource, gefolgt von -. Beispiel: us-central1- Wenn Sie den globalen Endpunkt verwenden, lassen Sie das Feld leer. Das Anfrage-Antwort-Logging wird für alle vom Modell unterstützten Regionen unterstützt.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Die Region der Modellressource. Wenn Sie den globalen Endpunkt verwenden, geben Sie global ein.
  • PUBLISHER: Der Name des Publishers. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.
  • SAMPLING_RATE: Um die Speicherkosten zu senken, können Sie eine Zahl zwischen 0 und 1 festlegen, um den Anteil der zu protokollierenden Anfragen zu definieren. Beispiel: Der Wert 1 protokolliert alle Anfragen und der Wert 0,1 protokolliert 10 % der Anfragen.
  • BQ_URI: Der URI der BigQuery-Tabelle, die für das Logging verwendet werden soll. Beispiel: bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Wenn Sie den globalen Endpunkt verwenden (LOCATION auf global festgelegt), müssen Sie ein vorhandenes BigQuery-Dataset angeben, z. B. bq://PROJECT_ID.DATASET_NAME oder bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Wenn Sie einen regionalen Endpunkt verwenden und nur eine Projekt-ID (bq://PROJECT_ID) angeben, wird ein Dataset mit dem Namen publishers_PUBLISHER_models_MODEL_ENDPOINT_ID erstellt, wobei PUBLISHER und MODEL den BigQuery-Benennungsregeln folgen. Wenn Sie keinen Tabellennamen angeben, wird eine Tabelle mit dem Namen request_response_logging erstellt.

HTTP-Methode und URL: 

POST https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
     "loggingConfig": {
       "enabled": true,
       "samplingRate": SAMPLING_RATE,
       "bigqueryDestination": {
         "outputUri": "bq://BQ_URI"
       },
       "enableOtelLogging": true
     }
   }
 }

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

Logging-Konfiguration abrufen

Rufen Sie die Anfrage-/Antwort-Logging-Konfiguration für das Foundation Model mithilfe der REST API ab. Das Anfrage-Antwort-Logging ist standardmäßig deaktiviert, bis Sie eine PublisherModelConfig-Ressource mit setPublisherModelConfig konfigurieren.

REST API

Rufen Sie die Anfrage-/Antwort-Logging-Konfiguration mit fetchPublisherModelConfig ab:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort der Modellressource.
  • PUBLISHER: Der Name des Publishers. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.

HTTP-Methode und URL:

GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort erhalten, die in etwa so aussieht:

Wenn das Anfrage-/Antwort-Logging für das Modell am angegebenen Standort nicht konfiguriert wurde, gibt die Anfrage den Fehler 404 NOT_FOUND zurück. Dieser Fehler weist darauf hin, dass keine PublisherModelConfig-Ressource vorhanden ist und dass das Anfrage-/Antwort-Logging standardmäßig deaktiviert ist. Wenn das Anfrage-Antwort-Logging zuvor konfiguriert und dann deaktiviert wurde, wird in der Antwort im Feld loggingConfig der Wert "enabled": false zurückgegeben. Wenn die Freigabe von Anfrage-/Antwort-Logs mit einem MaaS-Partner für das Modell konfiguriert ist, enthält die Antwort auch das Feld dataSharingEnabledProvider (siehe Anfragen und Antworten mit MaaS-Partnern teilen).

Logging deaktivieren

Deaktivieren Sie das Anfrage-/Antwort-Logging für das Foundation Model mithilfe der REST API oder des Python SDK.

Python SDK

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

publisher_model = GenerativeModel("gemini-2.5-flash")

# Disable logging
publisher_model.set_request_response_logging_config(
    enabled=False,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    )

REST API

Verwenden Sie setPublisherModelConfig, um das Logging zu deaktivieren:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort der Modellressource.
  • PUBLISHER: Der Name des Publishers. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.

HTTP-Methode und URL:

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
     "loggingConfig": {
       "enabled": false
     }
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

Anfrage-/Antwort-Logs für abgestimmte Modelle

Sie können Anfrage-/Antwortprotokolle für optimierte Modelle mit der REST API oder dem Python SDK konfigurieren.

Anfrage-/Antwortlogs aktivieren

Wählen Sie einen der folgenden Tabs aus, um eine Anleitung zum Aktivieren von Anfrage-/Antwortprotokollen für ein abgestimmtes Modell zu erhalten.

Python SDK

Mit dieser Methode können Sie die Konfiguration des Anfrage-/Antwort-Loggings für einen Endpunkt aktualisieren.

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")

# Set logging configuration
tuned_model.set_request_response_logging_config(
    enabled=True,
    sampling_rate=1.0,
    bigquery_destination=f"bq://{PROJECT_ID}.DATASET_NAME.TABLE_NAME",
    enable_otel_logging=True,
    )

REST API

Sie können das Anfrage-/Antwort-Logging nur aktivieren, wenn Sie mit projects.locations.endpoints.create einen Endpunkt erstellen oder mit projects.locations.endpoints.patch einen vorhandenen Endpunkt patchen.

Anfragen und Antworten werden auf Endpunktebene protokolliert, sodass Anfragen, die an alle bereitgestellten Modelle unter demselben Endpunkt gesendet werden, protokolliert werden.

Wenn Sie einen Endpunkt erstellen oder patchen, füllen Sie das Feld predictRequestResponseLoggingConfig der Endpunktressource mit den folgenden Einträgen aus:

  • enabled: Wird auf True festgelegt, um das Anfrage-/Antwort-Logging zu aktivieren.

  • samplingRate: Um die Speicherkosten zu senken, können Sie eine Zahl zwischen 0 und 1 festlegen, um den Anteil der zu protokollierenden Anfragen zu definieren. Der Wert 1 protokolliert beispielsweise alle Anfragen und der Wert 0,1 protokolliert 10 % der Anfragen.

  • BigQueryDestination: Die BigQuery-Tabelle, die für das Logging verwendet werden soll. Wenn Sie nur eine Projekt-ID angeben, wird ein Dataset mit dem Namen ENDPOINT_DISPLAYNAMEENDPOINT_ID erstellt, wobei ENDPOINT_DISPLAY_NAME den BigQuery-Benennungsregeln folgt. Wenn Sie keinen Tabellennamen angeben, wird eine Tabelle mit dem Namen request_response_logging erstellt.

  • enableOtelLogging: Wird auf true gesetzt, um zusätzlich zum Standard-Anfrage-/Antwort-Logging das OpenTelemetry (OTEL)-Logging zu aktivieren.

Das BigQuery-Tabellenschema finden Sie unter Logging-Tabellenschema.

Hier sehen Sie eine Beispielkonfiguration:

{
  "predictRequestResponseLoggingConfig": {
    "enabled": true,
    "samplingRate": 0.5,
    "bigqueryDestination": {
      "outputUri": "bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    },
    "enableOtelLogging": true
  }
}

Logging-Konfiguration abrufen

Rufen Sie die Anfrage-/Antwort-Logging-Konfiguration für das abgestimmte Modell mithilfe der REST API ab.

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort der Endpunktressource.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.
  • ENDPOINT_ID: Die ID des Endpunkts.

HTTP-Methode und URL: 

GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort erhalten, die in etwa so aussieht:

Logging-Konfiguration deaktivieren

Deaktivieren Sie die Konfiguration des Anfrage-/Antwort-Loggings für den Endpunkt.

Python SDK

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")

# Disable logging
tuned_model.set_request_response_logging_config(
    enabled=False,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    )

REST API

{
"predictRequestResponseLoggingConfig": {
  "enabled": false
}
}

Logging-Tabellenschema

In BigQuery werden die Logs mit dem folgenden Schema aufgezeichnet:

Feldname Typ Hinweise
endpoint STRING Ressourcenname des Endpunkts, auf dem das abgestimmte Modell bereitgestellt wird.
deployed_model_id STRING ID des bereitgestellten Modells für ein abgestimmtes Modell, das auf einem Endpunkt bereitgestellt wurde.
logging_time TIMESTAMP Der Zeitpunkt, zu dem das Logging durchgeführt wird. Dies ist ungefähr die Zeit, zu der die Antwort zurückgegeben wird.
request_id NUMERIC Die automatisch generierte ganzzahlige Anfrage-ID basierend auf der API-Anfrage.
request_payload STRING Enthalten für das Logging von Partnermodellen und die Abwärtskompatibilität mit dem Anfrage-/Antwort-Log des Agent Platform-Endpunkts.
response_payload STRING Enthalten für das Logging von Partnermodellen und die Abwärtskompatibilität mit dem Anfrage-/Antwort-Log des Agent Platform-Endpunkts.
Modell STRING Modellressourcenname.
model_version STRING Die Modellversion. Bei Gemini-Modellen ist dies oft „default“.
api_method STRING generateContent, streamGenerateContent, rawPredict, streamRawPredict
full_request JSON Der vollständige GenerateContentRequest.
full_response JSON Der vollständige GenerateContentResponse.
Metadaten JSON Alle Metadaten des Aufrufs; enthält die Anfragelatenz.
otel_log JSON Logs im OpenTelemetry-Schemaformat. Nur verfügbar, wenn otel_logging in der Logging-Konfiguration aktiviert ist.

Anfrage-Antwort-Paare, die das Zeilenlimit von 10 MB der BigQuery Write API überschreiten, werden nicht aufgezeichnet.

Anfragen und Antworten mit MaaS-Partnern teilen

Für bestimmte Advanced AI-Modelle verlangen einige MaaS-Partner, dass ein Protokoll der Prompts und Antworten manipulationssicher an ihre Trust and Safety-Teams weitergegeben wird, damit diese auf potenziellen Missbrauch achten können. Die Nutzung von Anthropic Advanced AI unterliegt beispielsweise Abschnitt F der dienstspezifischen Nutzungsbedingungen von Anthropic. Während die Funktion dataSharingEnabledProvider aktiv ist, werden protokollierte Anfragen und Antworten im Rahmen des Addendums zur erweiterten KI-Sicherheit in Echtzeit an den MaaS-Partner weitergegeben.

Die manipulationssichere Freigabe von Anfrage-/Antwort-Logs kann mit der setPublisherModelConfig API aktiviert werden, wie in den folgenden Abschnitten beschrieben.

Unterstützte Modelle

In der folgenden Tabelle sind MaaS-Partner und ‑Modelle aufgeführt, die das Teilen von Anfragen und Antworten unterstützen:

Unterstützter MaaS-Partner Unterstützte Modelle
Anthropic
  • Claude Mythos Preview
  • Claude Mythos 5
  • Claude Fable 5 von Anthropic in Google Cloud

MaaS-Partner und Modell müssen übereinstimmen. Das Anfrage-/Antwort-Log kann nur für den MaaS-Partner freigegeben werden, der das Modell veröffentlicht hat.

Vorbereitung

Google muss die Einwilligung zum Zusatz zur Sicherheit fortschrittlicher KI-Funktionen in diesem Projekt erhalten, bevor die Datenweitergabe aktiviert werden kann. Weitere Informationen zum Zusatz finden Sie unter Erweiterte KI-Sicherheit.

Sie müssen das Anfrage-/Antwort-Logging für BigQuery nicht aktivieren, um die Freigabe von Anfrage-/Antwort-Logs zu verwenden.

Beschränkungen

Projekte, die durch VPC Service Controls geschützt sind, können standardmäßig keine Daten mit MaaS-Partnern teilen. Das Konfigurieren einer VPC Service Controls-Regel für ausgehenden Traffic wird nicht unterstützt. Wenn Sie die Datenweitergabe für ein durch VPC Service Controls geschütztes Projekt aktivieren möchten, erstellen Sie eine Supportanfrage.

Datenweitergabe aktivieren

Wenn Sie die Freigabe von Anfrage-/Antwort-Logs für ein Foundation Model aktivieren möchten, verwenden Sie setPublisherModelConfig, um das Feld dataSharingEnabledProvider der Ressource PublisherModelConfig auf den Namen des Publishers des Modells in Großbuchstaben festzulegen (z. B. ANTHROPIC):

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: das entsprechende Präfix für den Standort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den Endpunkt global den Wert aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu den Wert aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 die Option LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modell-Publishers in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.
  • MAAS_PARTNER: Wenn Sie die Freigabe aktivieren möchten, legen Sie für dieses Feld den Namen des Modell-Publishers in Großbuchstaben fest. Der MaaS-Partner muss die Großbuchstabenversion des PUBLISHER des MODEL sein. Beispiel: ANTHROPIC. Wenn Sie dieses Feld auf MODEL_PROVIDER_UNSPECIFIED setzen, wird die Datenweitergabe deaktiviert.

HTTP-Methode und URL: 

POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
    "dataSharingEnabledProvider": "MAAS_PARTNER"
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Freigabekonfiguration abrufen

Rufen Sie die Datenweitergabekonfiguration für das Foundation Model mit fetchPublisherModelConfig ab. Dies ist dieselbe API-Methode, die zum Abrufen der Logging-Konfiguration für Basis-Foundation-Models verwendet wird. Sie gibt die vollständige PublisherModelConfig-Ressource zurück:

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: das entsprechende Präfix für den Standort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den Endpunkt global den Wert aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu den Wert aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 die Option LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modell-Publishers in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.

HTTP-Methode und URL: 

GET https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

{
  "loggingConfig": {},
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Die Antwort umfasst die folgenden Felder:

  • loggingConfig: Die Anfrage-Antwort-Logging-Konfiguration für BigQuery. Wenn das Anfrage-/Antwort-Logging nicht konfiguriert ist, ist dieses Objekt leer ({}). Weitere Informationen zu den Feldern in loggingConfig finden Sie unter Anfrage-/Antwort-Logging aktivieren und Logging-Konfiguration abrufen.
  • dataSharingEnabledProvider: Der MaaS-Partner, für den die Freigabe von Anfrage-/Antwort-Logs aktiviert ist, z. B. ANTHROPIC. Wenn die Datenweitergabe deaktiviert ist, wird dieses Feld auf MODEL_PROVIDER_UNSPECIFIED gesetzt oder in der Antwort weggelassen.

Wenn für das Modell am angegebenen Standort weder das Logging von Anfragen und Antworten noch die Datenweitergabe konfiguriert wurde, gibt die Anfrage den Fehler 404 NOT_FOUND zurück. Das bedeutet, dass keine PublisherModelConfig-Ressource vorhanden ist und beide Einstellungen standardmäßig deaktiviert sind.

Datenweitergabe deaktivieren

Wenn Sie die Freigabe von Anfrage-/Antwortprotokollen für ein Foundation Model deaktivieren möchten, verwenden Sie setPublisherModelConfig, um dataSharingEnabledProvider auf MODEL_PROVIDER_UNSPECIFIED festzulegen. (Jeder gültige Anbieterwert außer dem Namen des Herausgebers des Modells in Großbuchstaben deaktiviert die Datenweitergabe für dieses Modell):

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: das entsprechende Präfix für den Standort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den Endpunkt global den Wert aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu den Wert aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 die Option LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modell-Publishers in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.

HTTP-Methode und URL: 

POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
    "dataSharingEnabledProvider": "MODEL_PROVIDER_UNSPECIFIED"
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Anfragen zur Datenweitergabe verhindern

Wenn der Projektadministrator verhindern möchte, dass Anfrage- und Antwortprotokolle an MaaS-Partner weitergegeben werden, kann er Folgendes tun:

  • Benutzerdefinierte Einschränkung des Organisationsrichtliniendienstes erzwingen: Erstellen Sie eine benutzerdefinierte Einschränkung des Organisationsrichtliniendienstes für aiplatform.googleapis.com/Endpoint, die das Festlegen von dataSharingEnabledProvider für alle Partnermodellanbieter verbietet, und erzwingen Sie sie. Weitere Informationen finden Sie unter Benutzerdefinierte Einschränkung erzwingen, um die Datenweitergabe zu verhindern.

  • VPC Service Controls-Perimeter erstellen: Erstellen Sie einen VPC Service Controls-Dienstperimeter, der das Projekt und aiplatform.googleapis.com als eingeschränkten Dienst enthält. Projekte, die durch VPC Service Controls geschützt sind, können standardmäßig keine Daten mit Partnermodellen teilen.

  • Zugriff auf Gemini Enterprise Agent Platform Model Garden-Modelle deaktivieren: Deaktivieren Sie den Zugriff auf Model Garden-Modelle, die die Datenweitergabe unterstützen.

  • Geringste Berechtigungen erzwingen: Schränken Sie die Berechtigung aiplatform.endpoints.setPublisherModelConfig ein, um zu verhindern, dass nicht autorisierte Nutzer das Logging oder die Logfreigabe aktivieren.

Benutzerdefinierte Einschränkung erzwingen, um die Datenweitergabe zu verhindern

So erstellen und erzwingen Sie eine benutzerdefinierte Einschränkung für den Organisationsrichtliniendienst, die verhindert, dass Anfrage- und Antwortprotokolle an Partnermodellanbieter weitergegeben werden:

  1. Erstellen Sie eine YAML-Datei für die benutzerdefinierte Einschränkung mit dem Namen prevent_data_sharing.yaml, die dem folgenden Beispiel ähnelt.

    name: organizations/ORGANIZATION_ID/customConstraints/custom.denyPartnerModelDataSharing
resourceTypes:

- aiplatform.googleapis.com/Endpoint
methodTypes:

- CREATE
- UPDATE
condition: "has(resource.publisherModelConfig.dataSharingEnabledProvider)"
actionType: DENY
displayName: Prevent partner model data sharing
description: Prohibits enabling request and response log sharing with any partner model provider.

    Ersetzen Sie ORGANIZATION_ID durch Ihre Organisations-ID von Google Cloud .

  2. Erstellen Sie die benutzerdefinierte Einschränkung mit dem Befehl gcloud org-policies:

    gcloud org-policies set-custom-constraint prevent_data_sharing.yaml

  3. Erzwingen Sie die Richtlinie, indem Sie eine Datei zur Erzwingung von Organisationsrichtlinien mit dem Namen enforce_policy.yaml erstellen, die dem folgenden Beispiel ähnelt:

    name: organizations/ORGANIZATION_ID/policies/custom.denyPartnerModelDataSharing
spec:
  rules:

  - enforce: true

  4. Wenden Sie die Organisationsrichtlinie an:

    gcloud org-policies set-policy enforce_policy.yaml

Nächste Schritte