Logging von Unterhaltungen – Übersicht

Mit dem Logging von Unterhaltungen für die konversationelle Analyse können Sie die Unterhaltungen eines Daten-Agenten in einer BigQuery-Tabelle in Ihrem Projekt aufzeichnen. So können Sie die Antwortqualität überprüfen, die Akzeptanz verfolgen und die Kosten für Ihre Agenten für die konversationelle Analyse überwachen. Für jede Runde werden im Protokoll die Frage des Nutzers, die Antwort des KI-Agenten, die Latenz, die Modelltokennutzung und die Kennungen erfasst, die Sie benötigen, um die Runden nach KI-Agent, Unterhaltung und Nutzer zu gruppieren. Zeilen werden mit dem Schema BigQuery Agent Analytics über die BigQuery Storage Write API (gRPC) geschrieben.

Was wird protokolliert?

Für jede protokollierte Runde werden mehrere Ereigniszeilen (events) in die Zieltabelle geschrieben, die die folgenden Informationen enthalten:

  • Die Frage des Nutzers.

  • Die Antwort des KI-Agenten: Text, Statistiken, Annahmen, vorgeschlagene Folgefragen, Zitationsquellen und die Namen aller Datenergebnisse oder Diagramme.

  • Latenz pro Runde.

  • Modelltokennutzung, Modellversion und der Grund für das Beenden (warum das Modell keine Tokens mehr generiert hat) für jeden Modellaufruf.

  • Die Daten-Agent-ID und die Konversations-ID, damit Sie mehrere Agenten in einer Tabelle analysieren können.

  • Eine Nutzer-ID. Weitere Informationen zu Nutzer-IDs finden Sie unter Nutzeridentität.

  • Status- und Fehlerdetails.

Was wird nicht protokolliert?

Folgendes wird beim Logging von Unterhaltungen nicht aufgezeichnet:

  • Die SQL-Abfragen, die der Agent ausführt: Das Protokoll enthält die endgültige Antwort und die Namen der referenzierten Datenergebnisse und Diagramme, aber nicht die Abfragen, die sie erzeugt haben. Eine Ausnahme ist, wenn ein Nutzer den Agenten explizit auffordert, SQL anzuzeigen oder zu erklären. In diesem Fall kann das SQL im Antworttext enthalten sein.

  • Die Toolaufrufe des KI-Agenten: Bei jedem Modellaufruf wird eine LLM_RESPONSE-Zeile geschrieben, einschließlich Aufrufen, bei denen das Modell entscheidet, ein Tool auszuführen. Bevor die Zeile geschrieben wird, wird die Ausgabe des Modells entfernt, einschließlich des Namens und der Argumente aller aufgerufenen Tools. Nur die Tokennutzung, die Modellversion und der Grund für die Beendigung werden beibehalten.

  • Nutzerfeedback: Feedback in Form von „Mag ich“ oder „Mag ich nicht“ wird nicht protokolliert.

Einige Unterhaltungen werden überhaupt nicht protokolliert, z. B. Unterhaltungen im Vorschaufenster von BigQuery Studio. Weitere Informationen zu nicht unterstützten Konversationsflächen finden Sie unter Einschränkungen.

So funktioniert das Logging von Unterhaltungen

Wenn ein Nutzer mit einem KI-Datenagenten chattet, für den das Logging von Unterhaltungen aktiviert ist, verarbeitet Conversational Analytics jede Runde in den folgenden Phasen:

  1. Konfigurieren: Ein Agent-Inhaber aktiviert das Gesprächs-Logging und wählt ein vorhandenes Ziel-Dataset und einen Tabellennamen im Projekt des Agenten in BigQuery Studio aus.

  2. Frage stellen: Ein Nutzer sendet eine Frage an den KI-Agenten. In BigQuery Studio sehen Nutzer einen Hinweis, dass ihre Unterhaltungen protokolliert werden.

  3. Datenschutzprüfung: Bevor der Agent mit der Bearbeitung der Anfrage beginnt, werden im Rahmen einer Datenschutzprüfung die Metadaten der Wissensquellentabellen des Agenten mit den Anmeldedaten des Nutzers gelesen, der den Chat gestartet hat. Bei dieser Prüfung wird bestätigt, dass keine der Tabellen Sicherheit auf Zeilenebene (Zeilenzugriffsrichtlinien), Sicherheit auf Spaltenebene (Richtlinien-Tags) oder dynamische Datenmaskierung verwendet. Wenn bei der Prüfung eine Richtlinie gefunden wird oder nicht bestätigt werden kann, dass keine Richtlinien vorhanden sind, wird die Interaktion nicht protokolliert und der KI-Agent beantwortet die Frage des Nutzers trotzdem.

  4. Antworten: Der Agent antwortet dem Nutzer wie gewohnt.

  5. Schreiben: Der Dienst-Agent der Conversational Analytics API des Projekts (service-PROJECT_NUMBER@gcp-sa-geminidataanalytics.) schreibt die Logzeilen über die Storage Write API (gRPC) in die Zieltabelle. Beim ersten protokollierten Turn erstellt der Dienst-Agent die Tabelle, falls sie noch nicht vorhanden ist.

  6. Abfrage: Zeilen werden in der Regel innerhalb weniger Sekunden nach Abschluss der Antwort angezeigt. Die Lieferdauer wird nicht garantiert.

Logging-Fehler führen nie zu einem Fehler bei einer Runde. Die Datenschutzprüfung und das Schreiben von Logs können jedoch zu Latenz führen. Eine fehlende Berechtigung für das Log-Dataset, ein nicht vorhandenes Dataset oder ein ausgeschöpftes Kontingent führen nicht dazu, dass die Chatanfrage fehlschlägt. Die konversationelle Analyse meldet keine Logging-Fehler in der Chatoberfläche oder in Cloud Logging.

Datenschutz, Data Governance und Sicherheit

Wenn Sie das Logging von Unterhaltungen für einen Agenten aktivieren, sollten Sie sich ansehen, wie sich Hinweise für Endnutzer, Datenzugriff, Verschlüsselung und Netzwerksteuerung auf Ihre Logs auswirken.

Mitteilungen an Endnutzer und protokollierte Inhalte

Die folgenden Hinweise und Regeln legen fest, was bei der Unterhaltungsprotokollierung aufgezeichnet wird und wer die protokollierten Daten einsehen kann:

  • Hinweis für Endnutzer in BigQuery Studio: Wenn das Unterhaltungs-Logging für einen KI-Agenten aktiviert ist, sehen Nutzer, die mit dem KI-Agenten in BigQuery Studio chatten, den folgenden Hinweis, wenn das Unterhaltungs-Logging aktiviert ist, einschließlich auf dem Bildschirm für neue Unterhaltungen, bevor der Nutzer einen ersten Prompt sendet:

    Alle Prompts und Antworten werden in BigQuery protokolliert und sind für Nutzer mit Dataset-Berechtigungen zugänglich.

  • Ihre Verantwortlichkeiten bei der Verwendung der API: Wenn Sie das Gesprächs-Logging (Trace-Logging) für einen KI-Datenagenten aktivieren und diesen Agenten Endnutzern über Ihre eigene Anwendung oder Integration zur Verfügung stellen, kann Google diesen Nutzern keinen Hinweis anzeigen. Sie sind für alle Mitteilungen, Offenlegungen oder Einwilligungen verantwortlich, die gemäß anwendbarem Recht und Ihren Vereinbarungen mit Ihren Endnutzern für die protokollierten Unterhaltungen gelten. Weitere Informationen finden Sie unter Sicherheit, Datenschutz, Risiko und Compliance für die Conversational Analytics API.

  • Inhalt des Logs und wer es sehen kann: In der Zieltabelle werden Frage-und-Antwort-Inhalte gemäß den folgenden Datenschutzregeln gespeichert:

    • Vollständige Fragen und Antworten: Antworten können Werte enthalten, die von Ihren Wissensquellen zurückgegeben werden. Jeder, der die Protokolltabelle lesen kann, kann Daten sehen, die der Agent an einen Nutzer zurückgegeben hat, einschließlich Daten, die er in den Quelltabellen nicht lesen kann. Gewähren Sie nur Personen, die diese Inhalte sehen sollen, Lesezugriff auf das Log-Dataset.

    • Nutzer-IDs und Schreibspeicherort: Die Spalte user_id identifiziert den Aufrufer, der die Frage gestellt hat (siehe Nutzeridentität). Zeilen werden nur in das Ziel geschrieben, das Sie im Projekt des KI-Agenten konfigurieren.

    • Tabellen mit Sicherheit auf Zeilenebene, Sicherheit auf Spaltenebene oder Datenmaskierung: Wenn die Wissensquellen eines Agenten Sicherheit auf Zeilenebene (Zeilenzugriffsrichtlinien), Sicherheit auf Spaltenebene (Richtlinien-Tags) oder dynamische Datenmaskierung verwenden, werden seine Runden nicht protokolliert. Bei der Datenschutzprüfung werden Tabellen in bigquery-public-data übersprungen und nur die Tabellen und Ansichten berücksichtigt, die Sie als Wissensquellen auswählen, nicht die Tabellen hinter einer Ansicht:

      • Eine Ansicht einer Tabelle, die diese Richtlinien verwendet, kann die Prüfung bestehen, sodass ihre Turns protokolliert werden können. Bevor Sie das Logging aktivieren, müssen Sie sicherstellen, dass die Tabellen hinter Ansichten keine Zeilenzugriffsrichtlinien, Richtlinien-Tags oder Datenmaskierung verwenden.

      • Wenn Sie eine dieser Richtlinien später einer Quelltabelle hinzufügen, bleiben Zeilen, die bereits protokolliert wurden, in der Protokolltabelle. Wenn Ihre Aufbewahrungs- oder Governance-Richtlinie das Beibehalten dieser Zeilen verbietet, löschen Sie sie.

Zugriffssteuerung, Verschlüsselung und Netzwerksicherheit

Mit den folgenden Einstellungen können Sie die Aufbewahrung, den Zugriff, die Verschlüsselung und die Perimetersicherheit für Ihre Unterhaltungslogs verwalten:

  • Aufbewahrung und Zugriffssteuerung für das Log-Dataset: Konfigurieren Sie die Aufbewahrung, Dataset-Rollen, Tabellenrichtlinien und Audit-Logs für Ihre Zieltabelle:

    • Aufbewahrung: Google löscht keine Logzeilen. Legen Sie für das Log-Dataset oder die Log-Tabelle einen Partitionsablauf fest, der Ihrer Richtlinie entspricht (z. B. 90 Tage).

    • Geringste Berechtigung: Halten Sie das Log-Dataset von Ihren anderen Datasets getrennt, damit der Schreibzugriff des freigegebenen Conversational Analytics API-Dienst-Agents nicht auf Ihre anderen Tabellen zugreifen kann. Gewähren Sie Analysten roles/bigquery.dataViewer für das Log-Dataset oder gewähren Sie ihnen nur Zugriff auf autorisierte Ansichten oder autorisierte Datasets.

    • Steuerelemente auf Spalten- und Zeilenebene für die Logtabelle: Sie können Richtlinien-Tags, Datenmaskierung oder Zeilenzugriffsrichtlinien auf die Logtabelle selbst anwenden, z. B. auf content oder user_id. Diese Einstellungen für Protokolltabellen haben keine Auswirkungen auf die Datenschutzprüfung für Wissensquellen.

    • Audit-Logging: Änderungen an einem Daten-Agenten werden in Audit-Logs für Administratoraktivitäten aufgezeichnet. In BigQuery-Audit-Logs werden die Erstellung von Tabellen und die Aktualisierung von Metadaten durch den Dienst-Agenten unter bigquery.googleapis.com protokolliert. Das Anhängen von Zeilen über die Storage Write API (gRPC) wird unter bigquerystorage.googleapis.com protokolliert.

  • CMEK, VPC Service Controls und Datenstandort: Die folgenden Verschlüsselungs-, Perimeter- und Standortkontrollen gelten für das Gesprächs-Logging:

    • CMEK: Wenn das Log-Dataset vom Kunden verwaltete Cloud KMS-Schlüssel (CMEK) verwendet, weisen Sie dem BigQuery-Verschlüsselungsdienstkonto (bq-PROJECT_NUMBER@bigquery-encryption.) die Rolle roles/cloudkms.cryptoKeyEncrypterDecrypter für den Schlüssel zu. CMEK für einen KI-Datenagenten verschlüsselt die Agentenressource, nicht die Protokolltabelle (siehe Kundenverwaltete Verschlüsselungsschlüssel).

    • VPC Service Controls: Wenn Sie einen Dienstperimeter verwenden, fügen Sie sowohl geminidataanalytics.googleapis.com als auch bigquery.googleapis.com in den Perimeter ein, der das Projekt des Agents enthält. Der Dienst-Agent schreibt aus der von Google verwalteten Infrastruktur in die Logtabelle. Wenn der Perimeter also bigquery.googleapis.com einschränkt, fügen Sie eine Regel für eingehenden Traffic wie die folgende hinzu. Ersetzen Sie PROJECT_NUMBER durch die Projektnummer des Agenten:

      - ingressFrom:
          identities:
          - serviceAccount:service-PROJECT_NUMBER@gcp-sa-geminidataanalytics.
          sources:
          - accessLevel: "*"
        ingressTo:
          operations:
          - serviceName: bigquery.googleapis.com
            methodSelectors:
            - permission: bigquery.tables.get
            - permission: bigquery.tables.create
            - permission: bigquery.tables.update
            - permission: bigquery.tables.updateData
          resources:
          - projects/PROJECT_NUMBER
      

      Weitere Informationen finden Sie unter Perimetersicherheit mit VPC Service Controls konfigurieren.

    • Datenstandort: Logzeilen und die automatisch erstellte Tabelle werden am Speicherort des Log-Datasets gespeichert, für das Organisationsrichtlinien für Ressourcenstandorte (gcp.resourceLocations) gelten.

Beschränkungen

Für das Unterhaltungs-Logging gelten die folgenden Einschränkungen:

  • Der Bereich Vorschau im BigQuery Studio-Agent-Editor wird nicht protokolliert.

  • Direkte Unterhaltungen ohne KI-Datenagenten werden nicht protokolliert.

  • Agenten, die einen Suchbereich anstelle bestimmter Tabellen verwenden oder keine BigQuery-Tabellen deklarieren, werden nicht protokolliert. Agenten, die BigQuery-Property-Graphen als Wissensquellen konfigurieren, werden nicht protokolliert.

  • Generierte SQL, Toolaufrufe und Tool- oder Anfrageereignisse des Agent Development Kit (ADK) (TOOL_STARTING, TOOL_COMPLETED, TOOL_ERROR und LLM_REQUEST) werden nicht protokolliert. Nur die Antwort und die Namen der Datenergebnisse und Diagramme werden protokolliert. Bei Turns, die direkt aus einer verifizierten Abfrage beantwortet werden, werden keine LLM_RESPONSE-Zeilen geschrieben. Fehlgeschlagene Turns mit verifizierten Abfragen werden nicht protokolliert.

  • Nutzerfeedback in Form von „Mag ich“ oder „Mag ich nicht“ wird nicht protokolliert.

  • Runden werden nicht protokolliert, wenn Wissensquellen Zugriffsrichtlinien auf Zeilenebene, Sicherheit auf Spaltenebene (Richtlinien-Tags) oder Datenmaskierung verwenden oder wenn die Datenschutzprüfung nicht abgeschlossen werden kann. Bei der Prüfung werden die Ansichten der dahinter liegenden Tabellen nicht berücksichtigt.

  • Es werden nur BigQuery-Tabelle-Agenten unterstützt. Looker-, Data Studio-, AlloyDB-, Spanner- und Cloud SQL-Datenquellen werden nicht unterstützt.

  • Das Ziel-Dataset muss bereits im selben Projekt wie der Agent vorhanden sein.

  • Schemaänderungen an vorhandenen Tabellen sind nur additiv. Ein in Konflikt stehender Spaltentyp oder -modus verhindert Schreibvorgänge in diese Tabelle.

  • Jede zulässige Runde wird ohne Stichprobeneinstellung protokolliert. Nehmen Sie stattdessen eine Stichprobe zum Zeitpunkt der Abfrage (siehe Beispielfragen und ‑antworten aller Agenten zur Überprüfung).

  • Die Spalte agent enthält den Agententyp und nicht den Anzeigenamen des Agenten. Verwenden Sie die Daten-Agent-ID in attributes.

  • API-Aufrufer, die ein Dienstkonto für viele Endnutzer verwenden, sehen die E-Mail-Adresse dieses Dienstkontos in jeder Zeile.

  • Textwerte,die länger als 512.000 Zeichen (500 * 1,024) sind, werden mit dem Suffix ...[TRUNCATED] abgeschnitten. Der entfernte Teil kann nicht wiederhergestellt werden.

  • Schreibvorgänge werden nach dem Best-Effort-Prinzip mit einer begrenzten Anzahl von Wiederholungsversuchen ausgeführt. Runden, die nicht geschrieben werden können, werden nicht protokolliert. Wiederholungsversuche können gelegentlich zu doppelten Zeilen führen. Verwenden Sie event_id, um Duplikate zu deduplizieren.

  • Ein KI-Agent übernimmt die Einstellung für die Beobachtbarkeit auf Projektebene nicht.

Preise

Für die konversationelle Analyse fallen keine separaten Gebühren für das Logging von Unterhaltungen an. Für Ihr Projekt fallen die standardmäßigen BigQuery-Preise für die Datenaufnahme über die BigQuery Storage Write API (gRPC), den Speicher und Analyseabfragen an. Die Aufnahme über die BigQuery Storage Write API (gRPC) umfasst 2 TiB kostenlose Nutzung pro Monat für jedes Rechnungskonto, die auf die Nutzung der Storage Write API (gRPC) aufgeteilt wird. Filtern Sie Abfragen nach timestamp, um die Anzahl der gescannten Byte zu reduzieren. Bei der Datenschutzprüfung vor der Aktivierung werden Tabellenmetadaten gelesen und Probelaufabfragen kostenlos ausgeführt.

Nächste Schritte