‫RAG עם AI גנרטיבי ב-Cloud SQL

התבנית Generative AI RAG with Cloud SQL ב-Application Design Center מאפשרת לפרוס אפליקציית צ'אט מבוסס-AI גנרטיבי, שמשתמשת ב-Retrieval-Augmented Generation (יצירה משולבת-אחזור, RAG) כדי לבסס את התשובות על הנתונים של הארגון. אתם יכולים להתאים אישית את הרכיבים שהוגדרו מראש של מסד הנתונים הווקטורי של Cloud Run, ‏Vertex AI ו-Cloud SQL כך שיתאימו לעומס העבודה שלכם, ולפרוס אותם כאפליקציה.

לדוגמה, אתם יכולים להטמיע את התבנית הזו כדי לתת מענה לצרכים העסקיים הבאים:

דוגמה	הצורך העסקי	הטמעה
צ'אט בוט לתמיכת לקוחות	חברות צריכות לספק תמיכת לקוחות מיידית.	לארח את ממשק הצ'אט ב-Cloud Run. ‫Vertex AI מבצע עיבוד באמצעות AI של הטמעות ויוצר תשובות על סמך מאמרי עזרה שמאוחסנים כווקטורים ב-Cloud SQL.
עוזר אישי פנימי למשאבי אנוש	העובדים צריכים למצוא מידע על הטבות, מדיניות החברה ונהלים פנימיים.	לארח את העוזר האישי למשאבי אנוש ב-Cloud Run. כשהעובדים שולחים שאילתות לכלי, Vertex AI מאחזר מידע רלוונטי על המדיניות מ-Cloud SQL כדי ליצור תשובות מדויקות שמבוססות על מקורות.
חוקר מסמכים משפטיים	צוותים משפטיים צריכים למצוא במהירות פסיקות רלוונטיות או סעיפים בחוזים במאגרים גדולים של מסמכים.	לארח את פורטל המחקר ב-Cloud Run. ‫Vertex AI מסכם תקדימים רלוונטיים ומזהה שפה ספציפית בחוזים באמצעות מסמכים משפטיים שמאוחסנים כווקטורים ב-Cloud SQL.
חיפוש מוצרים סמנטי	חברות מסחר אלקטרוני רוצות לאפשר חיפושי מוצרים באמצעות תיאורים בשפה טבעית במקום מילות מפתח מדויקות.	לארח את ממשק החיפוש ב-Cloud Run. ‫Vertex AI מעבד את התיאורים של המשתמשים כדי להחזיר את המוצרים הכי רלוונטיים מבחינה סמנטית מקטלוגי המוצרים שמאוחסנים כווקטורים ב-Cloud SQL.

ארכיטקטורה

בתמונה הבאה מוצגים הרכיבים והחיבורים באפליקציה:

זהו תהליך עיבוד הבקשות של האפליקציה:

1. טעינת נתונים למסד נתונים של PostgreSQL ב-Cloud SQL.
2. ‫Vertex AI יוצר הטמעות של שדות טקסט ושומר אותן כווקטורים במסד הנתונים.
3. ממשק קצה (frontend) של Cloud Load Balancing מקבל בקשות חיצוניות ומפיץ את התנועה לקצה העורפי (backend) של Cloud Load Balancing.
4. ה-backend של Cloud Load Balancing מפיץ את התנועה לשירות ה-frontend של Cloud Run.
5. שירות הקצה הקדמי מתקשר עם שירות אחזור לקריאה ל-AI גנרטיבי.
6. שירות האחזור משתמש ב-Secret Manager כדי לגשת באופן מאובטח למפתחות API ולפרטי כניסה שנדרשים כדי לגשת ל-Vertex AI ול-Cloud SQL.
7. שירות השליפה ממיר את הבקשה להטמעה ומחפש וקטורים דומים במסד הנתונים של Cloud SQL.
8. שירות האחזור שולח את תוצאות החיפוש, יחד עם ההנחיה המקורית, אל Vertex AI כדי ליצור תשובה.

המאמרים הבאים

• במאמר מדריך למתחילים: התאמה אישית ופריסה של תבנית Google מוסבר איך לשכפל את התבנית הזו ולהתאים אותה אישית.
• להגדיר הגדרות אישיות על ידי עיצוב תבניות של אפליקציות.
• לזהות שיטות מומלצות כלליות לארכיטקטורה באמצעות Google Cloud Architecture Framework.