Mit der Vorlage Generative AI RAG with Cloud SQL im App Design Center können Sie eine KI-Chat-Anwendung mit generativer KI bereitstellen, die Retrieval-Augmented Generation (RAG) verwendet, um Antworten auf die Daten Ihrer Organisation zu fundieren. Sie können die vorkonfigurierten Cloud Run-, Vertex AI- und Cloud SQL-Vektordatenbankkomponenten an Ihre Arbeitslast anpassen und als Anwendung bereitstellen.
Sie können diese Vorlage beispielsweise für die folgenden geschäftlichen Anforderungen implementieren:
| Beispiel | Geschäftliche Anforderung | Implementierung |
|---|---|---|
| Kundensupport-Chatbot | Unternehmen müssen sofortigen Kundensupport bieten. | Chatoberfläche in Cloud Run hosten Vertex AI verarbeitet Einbettungen und generiert Antworten auf Grundlage der technischen Dokumentation, die als Vektoren in Cloud SQL gespeichert ist. |
| Interner HR-Assistent | Mitarbeiter müssen Informationen zu Leistungen, Unternehmensrichtlinien und internen Verfahren finden. | Hosten Sie den HR-Assistenten in Cloud Run. Wenn Mitarbeitende das Tool abfragen, ruft Vertex AI relevante Richtlinieninformationen aus Cloud SQL ab, um genaue, auf Quellen basierende Antworten zu generieren. |
| Rechercheur für Rechtsdokumente | Rechtsteams müssen in großen Dokument-Repositories schnell relevante Rechtsprechung oder Vertragsklauseln finden. | Forschungsportal in Cloud Run hosten Vertex AI fasst relevante Präzedenzfälle zusammen und identifiziert bestimmte Formulierungen in Verträgen anhand von Rechtsdokumenten, die als Vektoren in Cloud SQL gespeichert sind. |
| Semantische Produktsuche | E-Commerce-Unternehmen möchten die Produktsuche mit Beschreibungen in natürlicher Sprache anstelle von genauen Keywords ermöglichen. | Suchoberfläche in Cloud Run hosten Vertex AI verarbeitet Nutzerbeschreibungen, um die semantisch relevantesten Produkte aus Produktkatalogen zurückzugeben, die als Vektoren in Cloud SQL gespeichert sind. |
Architektur
Die folgende Abbildung zeigt die Komponenten und Verbindungen in der Anwendung:
Im Folgenden wird der Ablauf der Anfrageverarbeitung der Anwendung dargestellt:
- Daten in eine PostgreSQL-Datenbank in Cloud SQL laden.
- Vertex AI erstellt Einbettungen von Textfeldern und speichert sie als Vektoren in der Datenbank.
- Ein Cloud Load Balancing-Frontend empfängt externe Anfragen und verteilt den Traffic an das Cloud Load Balancing-Backend.
- Das Cloud Load Balancing-Backend verteilt den Traffic an den Cloud Run-Frontend-Dienst.
- Der Frontend-Dienst kommuniziert mit einem Abrufdienst zwecks eines Aufrufs basierend auf generativer KI.
- Der Abrufdienst verwendet Secret Manager, um sicher auf API-Schlüssel und Anmeldedaten zuzugreifen, die für den Zugriff auf Vertex AI und Cloud SQL erforderlich sind.
- Der Abrufdienst konvertiert die Anfrage in eine Einbettung und sucht in der Cloud SQL-Datenbank nach ähnlichen Vektoren.
- Der Abrufdienst sendet die Suchergebnisse zusammen mit dem ursprünglichen Prompt an Vertex AI, um eine Antwort zu erstellen.
Nächste Schritte
- Informationen zum Duplizieren und Anpassen dieser Vorlage finden Sie unter Kurzanleitung: Google-Vorlage anpassen und bereitstellen.
- Sie können eigene Konfigurationen definieren, indem Sie Anwendungsvorlagen entwerfen.
- Allgemeine Best Practices für die Architektur mit dem Google Cloud Architecture Framework identifizieren