In diesem Dokument wird eine Referenzarchitektur für Krankenversicherungen beschrieben, die die Verarbeitung von Anträgen auf Vorabgenehmigung automatisieren und ihre Prozesse zur Nutzungsprüfung mithilfe von Google Cloudverbessern möchten. Es richtet sich an Softwareentwickler und Programmadministratoren in diesen Organisationen. Diese Architektur hilft Anbietern von Krankenversicherungen, den Verwaltungsaufwand zu reduzieren, die Effizienz zu steigern und die Entscheidungsfindung zu verbessern, indem die Datenaufnahme und die Extraktion von Erkenntnissen aus klinischen Formularen automatisiert werden. Außerdem können sie KI-Modelle für die Prompt-Generierung und Empfehlungen verwenden.
Architektur
Das folgende Diagramm zeigt eine Architektur und einen Ansatz zur Automatisierung des Workflows für die Datenaufnahme und zur Optimierung des Überprüfungsprozesses für das Nutzungsmanagement (UM). Bei diesem Ansatz werden Daten- und KI-Dienste in Google Cloudverwendet.
Die obige Architektur enthält zwei Datenflüsse, die von den folgenden Subsystemen unterstützt werden:
- Claims Data Activator (CDA), der Daten aus unstrukturierten Quellen wie Formularen und Dokumenten extrahiert und in einem strukturierten, maschinenlesbaren Format in eine Datenbank einfügt. CDA implementiert den Datenfluss, um Formulare für Vorabgenehmigungsanfragen aufzunehmen.
- Utilization Review Service (UR-Dienst), der Daten zu Vorabgenehmigungsanfragen, Richtliniendokumente und andere Behandlungsrichtlinien einbezieht, um Empfehlungen zu generieren. Der UR-Dienst implementiert den Datenfluss zur Überprüfung von PA-Anfragen mithilfe von generativer KI.
In den folgenden Abschnitten werden diese Datenflüsse beschrieben.
CDA-Datenfluss
Das folgende Diagramm zeigt den Datenfluss bei der Verwendung von CDA zum Erfassen von PA-Anfrageformularen.
Wie im vorherigen Diagramm dargestellt, interagiert der PA-Fallmanager mit den Systemkomponenten, um die PA-Anfragen aufzunehmen, zu validieren und zu verarbeiten. Die PA-Fallmanager sind die Personen aus dem Team für Geschäftstätigkeiten, die für die Annahme der PA-Anfragen verantwortlich sind. Der Ablauf der Ereignisse sieht so aus:
- Die PA-Fallmanager erhalten die PA-Anfrageformulare (
pa_forms) vom Gesundheitsdienstleister und laden sie in den Cloud Storage-Bucketpa_forms_bkthoch. - Der Dienst
ingestion_serviceüberwacht den Bucketpa_forms_bktauf Änderungen. Der Dienstingestion_serviceruftpa_formsFormulare aus dem Bucketpa_forms_bktab. Der Dienst identifiziert die vorkonfigurierten Document AI-Prozessoren, dieform_processorsheißen. Diese Prozessoren sind für die Verarbeitung derpa_forms-Formulare definiert. Der Dienstingestion_serviceextrahiert Informationen aus den Formularen mithilfe der Prozessorenform_processors. Die aus den Formularen extrahierten Daten liegen im JSON-Format vor. - Der Dienst
ingestion_serviceschreibt die extrahierten Informationen mit Konfidenzwerten auf Feldebene in die Firestore-Datenbanksammlung mit dem Namenpa_form_collection. - Die Anwendung
hitl_appruft die Informationen (JSON) mit Konfidenzwerten aus der Datenbankpa_form_collectionab. Die Anwendung berechnet den Konfidenzwert auf Dokumentebene aus den Konfidenzwerten auf Feldebene, die in der Ausgabe derform_processors-ML-Modelle (Machine Learning) verfügbar sind. - Die Anwendung
hitl_appzeigt den PA-Fallmanagern die extrahierten Informationen mit den Konfidenzwerten auf Feld- und Dokumentebene an, damit sie die Informationen prüfen und korrigieren können, wenn die extrahierten Werte ungenau sind. PA-Fallbearbeiter können die falschen Werte aktualisieren und das Dokument in derpa_form_collection-Datenbank speichern.
Datenfluss des UR-Dienstes
Das folgende Diagramm zeigt den Datenfluss für den UR-Dienst.
Wie im vorherigen Diagramm dargestellt, interagieren die UR-Spezialisten mit den Systemkomponenten, um eine klinische Überprüfung der PA-Anfragen durchzuführen. Die UR-Spezialisten sind in der Regel Pflegekräfte oder Ärzte mit Erfahrung in einem bestimmten klinischen Bereich, die bei Krankenversicherungen angestellt sind. Der Workflow für die Fallverwaltung und das Routing von PA-Anfragen ist nicht Teil des in diesem Abschnitt beschriebenen Workflows.
Der Ablauf der Ereignisse sieht so aus:
- In der Anwendung
ur_appwird den UR-Spezialisten eine Liste der PA-Anfragen und deren Überprüfungsstatus angezeigt. Der Status wird alsin_queue,in_progressodercompletedangezeigt. - Die Liste wird erstellt, indem die
pa_form information-Daten aus derpa_form_collection-Datenbank abgerufen werden. Der UR-Spezialist öffnet eine Anfrage, indem er in der Anwendungur_appauf ein Element in der angezeigten Liste klickt. Die Anwendung
ur_appsendet die Daten vonpa_form informationan das Modellprompt_model. Dabei wird die Gemini API der Agent Platform verwendet, um einen Prompt zu generieren, der in etwa so aussieht:Review a PA request for {medication|device|medical service} for our member, {Patient Name}, who is {age} old, {gender} with {medical condition}. The patient is on {current medication|treatment list}, has {symptoms}, and has been diagnosed with {diagnosis}.In der Anwendung
ur_appwird der generierte Prompt den UR-Spezialisten zur Überprüfung und für Feedback angezeigt. UR-Spezialisten können den Prompt in der Benutzeroberfläche aktualisieren und an die Anwendung senden.Die Anwendung
ur_appsendet den Prompt an das Modellur_modelmit der Anfrage, eine Empfehlung zu generieren. Das Modell generiert eine Antwort und gibt sie an die Anwendung zurück. Die Anwendung zeigt den UR-Spezialisten das empfohlene Ergebnis an.Die UR-Spezialisten können die Anwendung
ur_search_appverwenden, um nachclinical documents,care guidelinesundplan policy documentszu suchen.clinical documents,care guidelinesundplan policy documentssind vorindexiert und für dieur_search_app-Anwendung zugänglich.
Komponenten
Die Architektur umfasst die folgenden Komponenten:
Cloud Storage-Buckets: Für UM-Anwendungsdienste sind die folgenden Cloud Storage-Buckets in Ihrem Google Cloud -Projekt erforderlich:
pa_forms_bkt: Ein Bucket zum Aufnehmen der PA-Formulare, die genehmigt werden müssen.training_forms: Ein Bucket für historische PA-Formulare zum Trainieren der DocAI-Formularprozessoren.eval_forms: Ein Bucket für PA-Formulare, um die Genauigkeit der DocAI-Formularprozessoren zu bewerten.tuning_dataset: Ein Bucket für die Daten, die für die Abstimmung des Large Language Model (LLM) erforderlich sind.eval_dataset: Ein Bucket für die Daten, die für die Bewertung des LLM erforderlich sind.clinical_docs: Ein Bucket für die klinischen Dokumente, die die Dienstleister als Anhänge zu den Vorabgenehmigungsformularen oder danach zur Unterstützung des Vorabgenehmigungsfalls einreichen. Diese Dokumente werden von der Suchanwendung im Agent Search-Dienst indexiert.um_policies: Ein Bucket für Richtlinien zur medizinischen Notwendigkeit und Versorgung, Dokumente zu Krankenversicherungsrichtlinien und Richtlinien zur Abdeckung. Diese Dokumente werden von der Suchanwendung im Agent Search-Dienst indexiert.
form_processors: Diese Prozessoren sind darauf trainiert, Informationen aus denpa_forms-Formularen zu extrahieren.pa_form_collection: Ein Firestore-Datenspeicher, in dem die extrahierten Informationen als JSON-Dokumente in der NoSQL-Datenbanksammlung gespeichert werden.ingestion_service: Ein Mikrodienst, der die Dokumente aus dem Bucket liest, sie zum Parsen an die DocAI-Endpunkte übergibt und die extrahierten Daten in der Firestore-Datenbanksammlung speichert.hitl_app: Ein Mikrodienst (Webanwendung), der aus dempa_formsextrahierte Datenwerte abruft und anzeigt. Außerdem wird der von Formularprozessoren (ML-Modellen) gemeldete Konfidenzwert an den PA-Fallmanager gerendert, damit dieser die Informationen im Datenspeicher prüfen, korrigieren und speichern kann.ur_app: Ein Mikrodienst (Webanwendung), mit dem UR-Spezialisten die PA-Anfragen mithilfe von generativer KI prüfen können. Es verwendet das Modellprompt_model, um einen Prompt zu generieren. Der Mikrodienst übergibt die aus denpa_forms-Formularen extrahierten Daten an dasprompt_model-Modell, um einen Prompt zu generieren. Anschließend wird der generierte Prompt an dasur_model-Modell übergeben, um die Empfehlung für einen Fall zu erhalten.Medizinisch abgestimmte LLMs der Agent Platform: Die Agent Platform bietet eine Vielzahl von generativen KI-Foundation Models, die abgestimmt werden können, um Kosten und Latenz zu reduzieren. In dieser Architektur werden die folgenden Modelle verwendet:
prompt_model: Ein Adapter im LLM, der so abgestimmt ist, dass er Prompts basierend auf der Datenextraktion aus dempa_formsgeneriert.ur_model: Ein Adapter für das LLM, der so abgestimmt ist, dass er basierend auf dem Eingabe-Prompt einen Empfehlungsentwurf generiert.
ur_search_app: Eine mit Agent Search erstellte Suchanwendung, mit der UR-Spezialisten personalisierte und relevante Informationen aus klinischen Dokumenten, UM-Richtlinien und Abdeckungsrichtlinien finden können.
Verwendete Produkte
In dieser Referenzarchitektur werden die folgenden Google Cloud -Produkte verwendet:
- Gemini Enterprise Agent Platform: Eine umfassende Plattform, mit der Sie KI-Agenten auf Unternehmensniveau erstellen, skalieren, verwalten und optimieren können.
- Agent Search: Eine Plattform, mit der Sie KI-basierte Agenten und Anwendungen auf Unternehmensniveau erstellen und bereitstellen können.
- Document AI: Eine Plattform zur Dokumentverarbeitung, die unstrukturierte Daten aus Dokumenten in strukturierte Daten transformiert.
- Firestore: Eine NoSQL-Dokumentdatenbank, die auf Autoscaling, hohe Leistung und einfache Anwendungsentwicklung ausgelegt ist.
- Cloud Run ist eine serverlose Computing-Plattform, mit der Sie Container direkt auf der skalierbaren Infrastruktur von Google ausführen können.
- Cloud Storage: Ein kostengünstiger, unbegrenzter Objektspeicher für verschiedene Datentypen. Auf Daten kann von innerhalb und außerhalb von Google Cloudzugegriffen werden. Sie werden zu Redundanzzwecken über Standorte hinweg repliziert.
- Cloud Logging: Ein Echtzeit-Log-Verwaltungssystem mit Speicher, Suche, Analyse und Benachrichtigungen.
- Cloud Monitoring: Ein Dienst, der Einblicke in die Leistung, Verfügbarkeit und Integrität Ihrer Anwendungen und Infrastruktur bietet.
Anwendungsfall
Das UM ist ein Prozess, der von Krankenversicherungen hauptsächlich in den USA verwendet wird. Ähnliche Prozesse (mit einigen Änderungen) werden jedoch weltweit im Krankenversicherungsmarkt eingesetzt. Das Ziel des UM ist es, dafür zu sorgen, dass Patienten die richtige Versorgung in der richtigen Umgebung, zum optimalen Zeitpunkt und zu den geringstmöglichen Kosten erhalten. Das UM trägt auch dazu bei, dass die medizinische Versorgung effektiv, effizient und im Einklang mit evidenzbasierten Versorgungsstandards ist. Die Vorabgenehmigung ist ein UM-Tool, das die Genehmigung der Versicherung erfordert, bevor ein Patient medizinisch versorgt wird.
Der von vielen Unternehmen verwendete UM-Prozess ist ein Hindernis für die rechtzeitige Bereitstellung und den Erhalt von Pflege. Es ist kostspielig, zeitaufwendig und mit einem hohen Verwaltungsaufwand verbunden. Außerdem ist es komplex, manuell und langsam. Dieser Prozess hat erhebliche Auswirkungen auf die Fähigkeit des Krankenversicherers, die Qualität der Versorgung effektiv zu verwalten und die Zufriedenheit von Anbietern und Mitgliedern zu verbessern. Wenn diese Unternehmen jedoch ihren UM-Prozess ändern würden, könnten sie dazu beitragen, dass Patienten eine qualitativ hochwertige und kostengünstige Behandlung erhalten. Durch die Optimierung des UR-Prozesses können Krankenversicherungen die Kosten und Ablehnungen durch eine beschleunigte Bearbeitung von PA-Anfragen reduzieren, was wiederum die Zufriedenheit von Patienten und Anbietern verbessern kann. Dieser Ansatz trägt dazu bei, den Verwaltungsaufwand für Gesundheitsdienstleister zu reduzieren.
Wenn Krankenversicherungen Anträge auf Vorabgenehmigung erhalten, erstellen die Fallmanager für Vorabgenehmigungen Fälle im Fallverwaltungssystem, um die Anträge zu verfolgen, zu verwalten und zu bearbeiten. Ein erheblicher Teil dieser Anfragen geht per Fax und Post mit angehängten klinischen Dokumenten ein. Die Informationen in diesen Formularen und Dokumenten sind jedoch für Krankenversicherungen nicht ohne Weiteres für Datenanalysen und Business Intelligence zugänglich. Der aktuelle Prozess, bei dem Informationen aus diesen Dokumenten manuell in die Fallverwaltungssysteme eingegeben werden, ist ineffizient, zeitaufwendig und fehleranfällig.
Durch die Automatisierung der Datenaufnahme können Leistungsträger im Gesundheitswesen Kosten, Dateneingabefehler und den Verwaltungsaufwand für das Personal reduzieren. Durch das Extrahieren wertvoller Informationen aus den klinischen Formularen und Dokumenten können Krankenversicherungen den UR-Prozess beschleunigen.
Designaspekte
Dieser Abschnitt enthält eine Anleitung zur Verwendung dieser Referenzarchitektur, um eine oder mehrere Architekturen zu entwickeln, die Ihren spezifischen Anforderungen an Sicherheit, Zuverlässigkeit, betriebliche Effizienz, Kosten und Leistung entsprechen.
Sicherheit, Datenschutz und Compliance
In diesem Abschnitt werden die Faktoren beschrieben, die Sie bei der Verwendung dieser Referenzarchitektur berücksichtigen sollten, um eine Architektur inGoogle Cloud zu entwerfen und zu erstellen, die Ihre Sicherheits-, Datenschutz- und Compliance-Anforderungen erfüllt.
In den USA fordert der Health Insurance Portability and Accountability Act (HIPAA, in der jeweils gültigen Fassung, inklusive Änderungen durch das HITECH-Gesetz, Health Information Technology for Economic and Clinical Health Act) die Einhaltung der Sicherheitsregeln (Security Rule), der Datenschutzregeln (Privacy Rule) und der Regeln zur Benachrichtigung bei Sicherheitsverletzungen (Breach Notification Rule). Google Cloud unterstützt die HIPAA-Compliance, aber letztendlich sind Sie für die Bewertung Ihrer eigenen HIPAA-Compliance verantwortlich. Die Einhaltung des HIPAA ist eine gemeinsame Verantwortung von Ihnen und Google. Wenn Ihre Organisation dem HIPAA unterliegt und Sie Produkte von Google Cloudin Verbindung mit geschützten Gesundheitsdaten (Protected Health Information, PHI) verwenden möchten, müssen Sie die Geschäftspartner-Vereinbarung (Business Associate Agreement, BAA) von Google lesen und akzeptieren. Die der BAA unterliegenden Google-Produkte erfüllen die HIPAA-Anforderungen sowie die ISO/IEC 27001-, 27017- und 27018-Zertifizierungen und entsprechen dem SOC 2-Bericht.
Nicht alle im Model Garden gehosteten LLMs unterstützen HIPAA. Bewerten und verwenden Sie die LLMs, die HIPAA unterstützen.
Wenn Sie wissen möchten, wie die Produkte von Google Ihre Anforderungen an die HIPAA-Compliance erfüllen können, können Sie die Auditberichte von Drittanbietern im Center für Compliance-Ressourcen einsehen.
Wir empfehlen Kunden, bei der Auswahl von KI-Anwendungsfällen Folgendes zu berücksichtigen und bei der Entwicklung zu beachten:
- Datenschutz: Die Google Cloud Agent Platform und Document AI verwenden keine Kundendaten, Datennutzung, Inhalte oder Dokumente, um die Foundation Models zu verbessern oder zu trainieren. Sie können die Foundation Models mit Ihren Daten und Dokumenten in Ihrem sicheren Mandanten in Google Cloudoptimieren.
- Firestore-Server-Clientbibliotheken verwenden Identity and Access Management (IAM), um den Zugriff auf Ihre Datenbank zu verwalten. Informationen zu den Sicherheits- und Datenschutzrichtlinien von Firebase finden Sie unter Datenschutz und Sicherheit in Firebase.
- Damit Sie sensible Daten speichern können, können
ingestion_service-,hitl_app- undur_app-Dienst-Images mit kundenverwalteten Verschlüsselungsschlüsseln (CMEKs) verschlüsselt oder in Secret Manager eingebunden werden. - Die Agent Platform implementiert Sicherheitskontrollen von Google Cloud , um Ihre Modelle und Trainingsdaten zu schützen. Einige Sicherheitskontrollen werden von den generativen KI-Funktionen in der Agent Platform nicht unterstützt. Weitere Informationen finden Sie unter Sicherheitskontrollen für Dienste für maschinelles Lernen und Sicherheitskontrollen für generative KI.
- Wir empfehlen, IAM zu verwenden, um die Prinzipien der geringsten Berechtigung und der Aufgabentrennung für Cloud-Ressourcen zu implementieren. Mit dieser Einstellung kann der Zugriff auf Projekt-, Ordner- oder Dataset-Ebene eingeschränkt werden.
- Cloud Storage speichert Daten automatisch in einem verschlüsselten Zustand. Weitere Informationen zu zusätzlichen Methoden zur Verschlüsselung von Daten finden Sie unter Datenverschlüsselungsoptionen.
Die Produkte von Google entsprechen den Grundsätzen für verantwortungsbewusste KI.
Sicherheitsgrundsätze und Empfehlungen speziell für KI- und ML-Arbeitslasten finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Sicherheit.
Zuverlässigkeit
In diesem Abschnitt werden Designfaktoren beschrieben, die Sie beim Erstellen und Betrieb einer zuverlässigen Infrastruktur für die Automatisierung der Verarbeitung von Vorabgenehmigungsanfragen berücksichtigen sollten.
Document AI form_processors ist ein regionaler Dienst. Die Daten werden synchron über mehrere Zonen innerhalb einer Region hinweg gespeichert. Der Traffic wird automatisch auf die Zonen verteilt. Wenn ein zonaler Ausfall auftritt, gehen keine Daten verloren1. Wenn ein regionaler Ausfall auftritt, ist der Dienst erst verfügbar, wenn Google den Ausfall behoben hat.
Sie können Cloud Storage-Buckets an einem von drei Standorten erstellen: regional, biregional oder multiregional. Verwenden Sie dazu pa_forms_bkt-, training_forms-, eval_forms-, tuning_dataset-, eval_dataset-, clinical_docs- oder um_policies-Buckets. In regionalen Buckets gespeicherte Daten werden synchron über mehrere Zonen innerhalb einer Region repliziert. Für eine höhere Verfügbarkeit können Sie biregionale oder multiregionale Buckets verwenden, bei denen Daten asynchron über Regionen hinweg repliziert werden.
In Firestore können die aus der pa_form_collection-Datenbank extrahierten Informationen auf mehrere Rechenzentren verteilt werden, um globale Skalierbarkeit und Zuverlässigkeit zu gewährleisten.
Die Cloud Run-Dienste ingestion_service, hitl_app und ur_app sind regionale Dienste. Die Daten werden synchron über mehrere Zonen innerhalb einer Region hinweg gespeichert. Der Traffic wird automatisch auf die Zonen verteilt. Wenn ein Zonenausfall auftritt, werden Cloud Run-Jobs weiterhin ausgeführt und es gehen keine Daten verloren. Wenn ein regionaler Ausfall auftritt, werden die Cloud Run-Jobs so lange ausgeführt, bis Google den Ausfall behoben hat. Einzelne Cloud Run-Jobs oder -Aufgaben können fehlschlagen. Zur Behebung solcher Fehler können Sie Aufgabenwiederholungen und Prüfpunktausführung verwenden. Weitere Informationen finden Sie unter Best Practices für Wiederholungsversuche und Prüfpunkte.
In den allgemeinen Entwicklungstipps für Cloud Run werden einige Best Practices für die Verwendung von Cloud Run beschrieben.
Die Agent Platform ist eine umfassende und nutzerfreundliche Plattform für maschinelles Lernen, die eine einheitliche Umgebung für den Lebenszyklus des maschinellen Lernens bietet – von der Datenvorbereitung bis zur Modellbereitstellung und zum Monitoring.
Zuverlässigkeitsprinzipien und Empfehlungen speziell für KI- und ML-Arbeitslasten finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Zuverlässigkeit.
Kostenoptimierung
In diesem Abschnitt finden Sie eine Anleitung zum Optimieren der Kosten für das Erstellen und Ausführen einer Architektur, mit der die Verarbeitung von PA-Anfragen automatisiert und Ihre UR-Prozesse verbessert werden. Eine sorgfältige Verwaltung der Ressourcennutzung und die Auswahl geeigneter Dienststufen können die Gesamtkosten erheblich beeinflussen.
Cloud Storage-Speicherklassen: Verwenden Sie die verschiedenen Speicherklassen (Standard, Nearline, Coldline oder Archive) je nach Häufigkeit des Datenzugriffs. Nearline, Coldline und Archive sind für seltener abgerufene Daten kostengünstiger.
Cloud Storage-Lebenszyklusrichtlinien: Implementieren Sie Lebenszyklusrichtlinien, um Objekte automatisch in kostengünstigere Speicherklassen zu verschieben oder sie basierend auf Alter und Zugriffsmustern zu löschen.
Die Preise für Document AI richten sich nach der Anzahl der bereitgestellten Prozessoren und der Anzahl der von den Document AI-Prozessoren verarbeiteten Seiten. Berücksichtige Folgendes:
- Prozessoroptimierung: Analysieren Sie Arbeitslastmuster, um die optimale Anzahl von Document AI-Prozessoren zu ermitteln, die bereitgestellt werden sollen. Vermeiden Sie eine Überdimensionierung von Ressourcen.
- Seitenvolumenverwaltung: Dokumente werden vorverarbeitet, um unnötige Seiten zu entfernen oder die Auflösung zu optimieren. Dadurch können die Verarbeitungskosten gesenkt werden.
Die Preise für Firestore richten sich nach der Aktivität im Zusammenhang mit Dokumenten, Indexeinträgen, dem von der Datenbank verwendeten Speicher und der Netzwerkbandbreite. Berücksichtige Folgendes:
- Datenmodellierung: Entwerfen Sie Ihr Datenmodell so, dass die Anzahl der Indexeinträge minimiert und die Abfragemuster für mehr Effizienz optimiert werden.
- Netzwerkbandbreite: Überwachen und optimieren Sie die Netzwerknutzung, um zusätzliche Kosten zu vermeiden. Erwägen Sie, häufig aufgerufene Daten im Cache zu speichern.
Cloud Run-Gebühren werden basierend auf der On-Demand-CPU-Nutzung, dem Arbeitsspeicher und der Anzahl der Anfragen berechnet. Überlegen Sie sich die Ressourcenzuweisung genau. CPU- und Arbeitsspeicherressourcen basierend auf den Merkmalen der Arbeitslast zuweisen. Mit Autoscaling können Sie Ressourcen dynamisch an die Nachfrage anpassen.
Agent Platform LLMs werden in der Regel basierend auf der Eingabe und Ausgabe des Texts oder der Medien abgerechnet. Die Anzahl der Eingabe- und Ausgabetokens wirkt sich direkt auf die LLM-Kosten aus. Prompts und Antwortgenerierung im Hinblick auf Effizienz optimieren
Die Gebühren für die Suchmaschine Agent Search hängen von den verwendeten Funktionen ab. Zur Verwaltung Ihrer Kosten können Sie aus den folgenden drei Optionen wählen:
- Search Standard Edition, die unstrukturierte Suchfunktionen bietet.
- Search Enterprise Edition, die Funktionen für die unstrukturierte Suche und die Websitesuche bietet.
- Search LLM-Add-on, das Funktionen für Zusammenfassungen und die Suche in mehreren Schritten bietet.
Sie können auch die folgenden zusätzlichen Überlegungen zur Kostenoptimierung berücksichtigen:
- Monitoring und Benachrichtigungen: Richten Sie Cloud Monitoring und Abrechnungsbenachrichtigungen ein, um die Kosten im Blick zu behalten und Benachrichtigungen zu erhalten, wenn die Nutzung die Grenzwerte überschreitet.
- Kostenberichte: Prüfen Sie regelmäßig die Kostenberichte in derGoogle Cloud Console, um Trends zu erkennen und die Ressourcennutzung zu optimieren.
- Rabatte für zugesicherte Nutzung in Betracht ziehen: Wenn Sie vorhersehbare Arbeitslasten haben, sollten Sie sich verpflichten, diese Ressourcen für einen bestimmten Zeitraum zu nutzen, um Rabatte zu erhalten.
Wenn Sie diese Faktoren sorgfältig berücksichtigen und die empfohlenen Strategien implementieren, können Sie die Kosten für die Ausführung Ihrer PA- und UR-Automatisierungsarchitektur in Google Cloudeffektiv verwalten und optimieren.
Prinzipien und Empfehlungen zur Kostenoptimierung, die speziell für KI- und ML-Arbeitslasten gelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Kostenoptimierung.
Bereitstellung
Der Referenzimplementierungscode für diese Architektur ist unter einer Open-Source-Lizenz verfügbar. Die Architektur, die dieser Code implementiert, ist ein Prototyp und enthält möglicherweise nicht alle Funktionen und Härtungen, die Sie für eine Produktionsbereitstellung benötigen. Wenn Sie diese Referenzarchitektur implementieren und erweitern möchten, um Ihre Anforderungen besser zu erfüllen, empfehlen wir Ihnen, sich an Google Cloud Consulting zu wenden.
Der Starter-Code für diese Referenzarchitektur ist in den folgenden Git-Repositories verfügbar:
- CDA-Git-Repository: Dieses Repository enthält Terraform-Bereitstellungsskripts für die Infrastrukturbereitstellung und die Bereitstellung von Anwendungscode.
- Git-Repository für den UR-Dienst: Dieses Repository enthält Codebeispiele für den UR-Dienst.
Sie können eine der folgenden beiden Optionen auswählen, um Support und Dienste für diese Referenzarchitektur zu implementieren:
- Google Cloud Consulting einbeziehen.
- Wenden Sie sich an einen Partner, der ein Paketangebot erstellt hat, und verwenden Sie die in dieser Architektur beschriebenen Produkte und Lösungskomponenten.
Nächste Schritte
- RAG-Infrastruktur für generative KI mit Agent Platform und Vektorsuche
- RAG-Infrastruktur für generative KI mit Agent Platform und AlloyDB for PostgreSQL
- RAG-Infrastruktur für generative KI mit GKE und Cloud SQL
- RAG-Infrastruktur für generative KI mit Gemini Enterprise und Agent Platform
- GraphRAG-Infrastruktur für generative KI mit Agent Platform und Spanner Graph
- Google Cloud Optionen für die Fundierung generativer KI-Antworten
- Python-Anwendungen für Cloud Run optimieren
- Eine Übersicht über Architekturprinzipien und Empfehlungen, die speziell für KI- und ML-Arbeitslasten in Google Cloudgelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive.
- Weitere Referenzarchitekturen, Diagramme und Best Practices finden Sie im Cloud-Architekturcenter.
Beitragende
Autor: Dharmesh Patel | Industry Solutions Architect, Gesundheitswesen
Weitere Beitragende:
- Ben Swenka | Key Enterprise Architect
- Emily Qiao | AI/ML Customer Engineer
- Luis Urena | Developer Relations Engineer
- Praney Mittal | Group Product Manager
- Lakshmanan Sethu | Technical Account Manager
-
Weitere Informationen zu regionsspezifischen Aspekten finden Sie unter Geografie und Regionen ↩