Anwendungsfall für generative KI: Lösungen für Kundensupportanfragen generieren

Last reviewed 2026-11-11 UTC

Dieses Dokument bietet eine allgemeine Architektur für eine Anwendung, die mithilfe von KI Lösungen für Supportfragen von Kunden generiert.

Die Zielgruppe für dieses Dokument umfasst Architekten, Entwickler und Administratoren, die generative KI-Anwendungen in der Cloud erstellen und verwalten. In diesem Dokument wird davon ausgegangen, dass Sie über grundlegende Kenntnisse der generativen KI verfügen.

Im Abschnitt Bereitstellung dieses Dokuments finden Sie Codebeispiele für KI-gestützte Kundensupport-Anwendungsfälle.

Architektur

Das folgende Diagramm zeigt eine Architektur für eine KI-gestützte Support-Desk-Anwendung in Google Cloud. Die Anwendung empfängt Fragen von Kunden, ruft relevante Ressourcen aus einer Wissensdatenbank ab und generiert dann Lösungen für die Fragen. Die Architektur ist eine Implementierung des Retrieval-Augmented Generation (RAG)-Ansatzes.

Architektur für eine Anwendung, die mithilfe von KI Antworten auf Supportanfragen von Kunden generiert. Architektur für eine Anwendung, die mithilfe von KI Antworten auf Supportanfragen von Kunden generiert.

Die Anwendung in dieser Architektur besteht aus Containerdiensten, die in einem GKE-Cluster (Google Kubernetes Engine) bereitgestellt werden. Die Architektur zeigt den folgenden Ablauf:

  1. Ein Kunde sendet eine Frage an die Support-Desk-Anwendung.
  2. Die Support-Desk-Anwendung leitet die Frage des Kunden an den Knowledge Retriever-Dienst weiter.
  3. Der Knowledge Retriever-Dienst erstellt einen Prompt und sendet ihn an die Gemini Enterprise Agent Platform, um Ressourcen abzurufen, die für die Frage des Kunden relevant sind.
  4. Das Gemini-Modell auf der Agent Platform identifiziert relevante Ressourcen aus einer Support-Wissensdatenbank, die in Cloud Storage gespeichert ist.
  5. Gemini gibt die IDs der relevanten Ressourcen an den Knowledge Retriever-Dienst zurück.
  6. Der Knowledge Retriever-Dienst ruft die relevanten Ressourcen aus Cloud Storage ab.
  7. Der Knowledge Retriever-Dienst sendet die Frage des Kunden und relevante Ressourcen an den Solution Generator-Dienst.
  8. Der Solution Generator-Dienst sendet die Ressourcen an die Agent Platform, zusammen mit einem Prompt, um eine detaillierte Lösung für die Frage des Kunden zu generieren.
  9. Gemini generiert eine Lösung, z. B. eine detaillierte Anleitung oder ein Video mit einer Schritt-für-Schritt-Anleitung.
  10. Der Dienst zur Lösungserstellung stellt dem Kunden die Lösung über die Support-Desk-Anwendung zur Verfügung.

Verwendete Produkte

In dieser Beispielarchitektur werden die folgenden Google Cloud Produkte verwendet:

  • Google Kubernetes Engine (GKE): Ein Kubernetes-Dienst, mit dem Sie Containeranwendungen in großem Maßstab mithilfe der Infrastruktur von Google bereitstellen und betreiben können.
  • Gemini Enterprise Agent Platform: Eine umfassende Plattform, mit der Sie KI-Agenten auf Unternehmensniveau erstellen, skalieren, verwalten und optimieren können.
  • Cloud Storage: Ein kostengünstiger, unbegrenzter Objektspeicher für verschiedene Datentypen. Auf Daten kann von innerhalb und außerhalb von Google Cloudzugegriffen werden. Sie werden zu Redundanzzwecken über Standorte hinweg repliziert.

Designaspekte

In diesem Abschnitt werden Designfaktoren, Best Practices und Empfehlungen im Einklang mit dem Google Cloud Well-Architected Framework beschrieben. Berücksichtigen Sie diese Informationen, wenn Sie diese Referenzarchitektur verwenden, um eine Topologie zu entwickeln, die Ihren spezifischen Anforderungen an Sicherheit, Kostenoptimierung, betriebliche Effizienz und Leistung entspricht.

Sicherheit, Datenschutz und Compliance

Beachten Sie die folgenden Empfehlungen, um eine Topologie in Google Cloud zu entwerfen, die die Sicherheits-, Datenschutz- und Compliance-Anforderungen Ihrer Arbeitslast erfüllt:

  • Mit Model Armor können Sie nicht vertrauenswürdige Kunden-Prompts und RAG-Antworten auf Prompt Injection, Jailbreaking und schädliche Inhalte prüfen.
  • Wenn Sie personenidentifizierbare Informationen (PII) in Support-Tickets und Wissensdatenbankdokumenten erkennen und entfernen möchten, binden Sie Sensitive Data Protection ein.

Sicherheitsgrundsätze und Empfehlungen speziell für KI- und ML-Arbeitslasten finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Sicherheit.

Kostenoptimierung

Dieser Abschnitt enthält Anleitungen zum Optimieren der Kosten für die Einrichtung und den Betrieb Ihrer Kundensupport-Topologie in Google Cloud.

Wenn Support-Prompts wiederholt Systemanweisungen und Referenzdokumente enthalten, aktivieren Sie das Kontext-Caching auf der Agent Platform. Die Wiederverwendung von im Cache gespeicherten Präfixtokens über Anfragen hinweg reduziert die Kosten für wiederholte Eingabetokens und verringert die Antwortlatenz.

Prinzipien und Empfehlungen zur Kostenoptimierung, die speziell für KI- und ML-Arbeitslasten gelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Kostenoptimierung.

Betriebliche Effizienz

Beachten Sie die folgenden Empfehlungen, um eine Google Cloud -Topologie zu entwerfen, die Sie effizient betreiben können:

  • Wenn Sie das Aufteilen von Dokumenten in Chunks, Einbettungen und fundierte Abrufe über Cloud Storage automatisieren möchten, verwenden Sie die RAG Engine auf der Gemini Enterprise Agent Platform. Für eine sofort einsatzbereite Enterprise-Suche mit Zitaten aus unstrukturierten Hilfeartikeln können Sie Antworten alternativ mit der Agentensuche fundieren.
  • Wenn Sie Support-Workflows mit mehreren Interaktionen und Toolaufrufe orchestrieren möchten, erstellen Sie Ihre Dienste mit dem Agent Development Kit (ADK). Wenn Sie den Unterhaltungsstatus über mehrere Runden hinweg beibehalten möchten, verwenden Sie Gemini Enterprise Agent Platform-Sitzungen. Wenn Sie den langfristigen Kundenkontext über Support-Sitzungen hinweg beibehalten möchten, können Sie Agent Platform-Sitzungen mit Memory Bank verknüpfen.
  • Wenn Ihr Team keine GKE-Anpassung auf Clusterebene benötigt, können Sie Support-Agenten in der Agent Runtime auf der Gemini Enterprise Agent Platform bereitstellen. Für zustandslose containerisierte HTTP-Dienste können Sie Arbeitslasten auch in Cloud Run ausführen, um den Aufwand für die Infrastrukturverwaltung zu reduzieren.
  • Bevor Sie Aktualisierungen an Prompts, der Abruflgik oder dem Modell bereitstellen, sollten Sie die Fundiertheit und Antwortqualität mit der Modell- und Agentenbewertung auf der Agent Platform messen.

Prinzipien und Empfehlungen für operative Exzellenz, die speziell für KI- und ML-Arbeitslasten gelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Operative Exzellenz.

Leistungsoptimierung

Beachten Sie die folgenden Empfehlungen, um eine Topologie in Google Cloud zu entwerfen, die die Leistungsanforderungen Ihrer Arbeitslasten erfüllt:

  • Wenn Sie semantische Abrufe mit niedriger Latenz in großen Support-Wissensdatenbanken erreichen möchten, indexieren Sie Dokumenteinbettungen in der Vektorsuche. Wenn Sie die Vektor- und Stichwortsuche mit der automatischen Einbettungsgenerierung in einer einzigen Sammlung kombinieren möchten, sollten Sie den Agentenabruf in Betracht ziehen.
  • Um eine konsistente Antwortlatenz aufrechtzuerhalten und eine Erschöpfung des Kontingents bei Traffic-Spitzen zu vermeiden, reservieren Sie Kapazität mit bereitgestelltem Durchsatz auf der Agent Platform.

Prinzipien und Empfehlungen zur Leistungsoptimierung, die speziell für KI- und ML-Arbeitslasten gelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Leistungsoptimierung.

Bereitstellung

Verwenden Sie die folgenden Codebeispiele, um mit KI-gestützten Kundensupportanwendungen inGoogle Cloudzu experimentieren:

Nächste Schritte

Beitragende

Autor: Kumar Dhanagopal | Cross-product Solution Developer

Weitere Beitragende: