RAG basierend auf generativer KI mit Cloud SQL

Mit der Vorlage Generative AI RAG with Cloud SQL im Application Design Center können Sie eine KI-Chat-Anwendung mit generativer KI bereitstellen, die Retrieval-Augmented Generation (RAG) verwendet, um Antworten auf die Daten Ihrer Organisation zu fundieren. Sie können die vorkonfigurierten Cloud Run-, Vertex AI- und Cloud SQL-Vektordatenbankkomponenten an Ihre Arbeitslast anpassen und als Anwendung bereitstellen.

Sie können diese Vorlage beispielsweise für die folgenden geschäftlichen Anforderungen implementieren:

Beispiel Geschäftliche Anforderung Implementierung
Kundensupport-Chatbot Unternehmen müssen sofortigen Kundensupport bieten. Chatoberfläche in Cloud Run hosten Vertex AI verarbeitet Einbettungen und generiert Antworten basierend auf technischer Dokumentation, die als Vektoren in Cloud SQL gespeichert ist.
Interner HR-Assistent Mitarbeiter müssen Informationen zu Leistungen, Unternehmensrichtlinien und internen Verfahren finden. Hosten Sie den HR-Assistenten in Cloud Run. Wenn Mitarbeitende das Tool abfragen, ruft Vertex AI relevante Richtlinieninformationen aus Cloud SQL ab, um genaue, auf Quellen basierende Antworten zu generieren.
Rechercheur für Rechtsdokumente Rechtsteams müssen in großen Dokument-Repositories relevante Rechtsprechung oder Vertragsklauseln finden. Hosten Sie das Forschungsportal in Cloud Run. Vertex AI fasst relevante Präzedenzfälle zusammen und identifiziert bestimmte Formulierungen in Verträgen anhand von Rechtsdokumenten, die als Vektoren in Cloud SQL gespeichert sind.
Semantische Produktsuche E-Commerce-Unternehmen möchten die Produktsuche mit Beschreibungen in natürlicher Sprache statt mit genauen Keywords ermöglichen. Suchoberfläche in Cloud Run hosten Vertex AI verarbeitet Nutzerbeschreibungen, um die semantisch relevantesten Produkte aus Produktkatalogen zurückzugeben, die als Vektoren in Cloud SQL gespeichert sind.

Architektur

Die folgende Abbildung zeigt die Komponenten und Verbindungen in der Anwendung:

Eine RAG-Anwendung für generative KI im Design-Canvas. Die Anwendung umfasst Frontend-, Abruf-, KI-, Secret-Management- und Datenbankkomponenten.

Im Folgenden wird der Ablauf der Anfrageverarbeitung der Anwendung dargestellt:

  1. Sie laden Daten in eine PostgreSQL-Datenbank in Cloud SQL.
  2. Vertex AI erstellt Einbettungen von Textfeldern und speichert sie als Vektoren in der Datenbank.
  3. Ein Cloud Load Balancing-Frontend empfängt externe Anfragen und verteilt den Traffic an das Cloud Load Balancing-Backend.
  4. Das Cloud Load Balancing-Backend verteilt den Traffic an den Cloud Run-Frontend-Dienst.
  5. Der Frontend-Dienst kommuniziert mit einem Abrufdienst zwecks eines Aufrufs basierend auf generativer KI.
  6. Der Abrufdienst verwendet Secret Manager, um sicher auf API-Schlüssel und Anmeldedaten zuzugreifen, die für den Zugriff auf Vertex AI und Cloud SQL erforderlich sind.
  7. Der Abrufdienst konvertiert die Anfrage in eine Einbettung und sucht in der Cloud SQL-Datenbank nach ähnlichen Vektoren.
  8. Der Abrufdienst sendet die Suchergebnisse zusammen mit dem ursprünglichen Prompt an Vertex AI, um eine Antwort zu erstellen.

Nächste Schritte