Application Design Center の Cloud SQL を使用した生成 AI RAG テンプレートを使用すると、検索拡張生成（RAG）を使用して組織のデータに対するレスポンスをグラウンディングする生成 AI チャット アプリケーションをデプロイできます。事前構成された Cloud Run、Vertex AI、Cloud SQL ベクトル データベース コンポーネントをワークロードに合わせてカスタマイズし、アプリケーションとしてデプロイできます。
たとえば、このテンプレートを実装して、次のビジネスニーズに対応できます。
| 例 | ビジネスニーズ | 実装 |
|---|---|---|
| カスタマー サポート chatbot | 企業は、即座にカスタマー サポートを提供する必要があります。 | チャット インターフェースを Cloud Run でホストする。Vertex AI は、Cloud SQL にベクトルとして保存されている技術ドキュメントに基づいて、エンベディングを処理し、回答を生成します。 |
| 社内人事アシスタント | 従業員は、福利厚生、会社のポリシー、社内手続きに関する情報を探す必要があります。 | Cloud Run で HR アシスタントをホストする。従業員がツールにクエリを実行すると、Vertex AI が Cloud SQL から関連するポリシー情報を取得し、ソースに基づいた正確な回答を生成します。 |
| 法律文書リサーチャー | 法務チームは、大規模なドキュメント リポジトリから、関連する判例や契約条項を迅速に見つける必要があります。 | Cloud Run でリサーチ ポータルをホストする。Vertex AI は、Cloud SQL にベクトルとして保存された法的文書を使用して、関連する判例を要約し、契約書の特定の文言を特定します。 |
| セマンティック商品検索 | e コマース企業は、正確なキーワードではなく、自然言語による説明を使用して商品検索を容易にしたいと考えています。 | Cloud Run で検索インターフェースをホストします。Vertex AI は、ユーザーの説明を AI 処理して、Cloud SQL にベクトルとして保存されている商品カタログから、意味的に最も関連性の高い商品を返します。 |
アーキテクチャ
次の図は、アプリケーションのコンポーネントと接続を示しています。
アプリケーションのリクエスト処理フローは次のとおりです。
- Cloud SQL の PostgreSQL データベースにデータを読み込みます。
- Vertex AI は、テキスト フィールドのエンベディングを作成し、データベースにベクトルとして保存します。
- Cloud Load Balancing フロントエンドは、外部リクエストを受信し、Cloud Load Balancing バックエンドにトラフィックを分散します。
- Cloud Load Balancing バックエンドは、トラフィックを Cloud Run フロントエンド サービスに分散します。
- フロントエンド サービスは、生成 AI を呼び出すために検索サービスと通信します。
- 検索サービスは、Secret Manager を使用して、Vertex AI と Cloud SQL へのアクセスに必要な API キーと認証情報に安全にアクセスします。
- 検索サービスはリクエストをエンベディングに変換し、Cloud SQL データベースで類似のベクトルを検索します。
- 検索サービスは、検索結果を元のプロンプトとともに Vertex AI に送信して、レスポンスを作成します。
次のステップ
- このテンプレートを複製してカスタマイズする方法については、クイックスタート: Google テンプレートをカスタマイズしてデプロイするをご覧ください。
- アプリケーション テンプレートを設計して、独自の構成を定義する。
- Google Cloud アーキテクチャ フレームワークで、一般的なアーキテクチャのベスト プラクティスを確認する。