本文說明應用程式的整體架構,該應用程式會透過代理式 AI 工作流程,生成及管理互動式學習測驗。代理會評估使用者對特定主題的知識,並使用永久工作階段狀態和長期記憶,打造個人化體驗。代理會保留使用者的回答記錄,並據此動態調整後續問題的難度和內容。
本文件適用於建構及管理代理式 AI 應用程式的架構師、開發人員和管理員。這個架構可靈活調整,適合用於建立各產業的互動式有狀態教育應用程式。本文假設您對 AI 代理系統已有基本瞭解。如要瞭解代理與非代理系統的差異,請參閱「AI 代理、AI 助理和機器人有何不同?」一文。
本文的部署一節提供程式碼範例連結,協助您試著部署代理式 AI 應用程式,管理互動式學習測驗。
架構
下圖顯示互動式學習代理的高階架構。
架構顯示下列資料流程:
- 使用者在託管於 Cloud Run 的測驗應用程式中執行動作,例如開始測驗或提交答案。
- 應用程式將使用者的輸入內容轉送給 AI 代理。
AI 代理會使用 Gemini Enterprise Agent Platform 上的 Gemini 模型解讀使用者輸入內容。代理會根據使用者要求,呼叫適當的工具來執行要求的測驗動作。
例如,代理會選取工具來啟動測驗工作階段、評估答案或生成下一個問題。
代理將回覆傳送至測驗應用程式。
測驗應用程式將回覆轉送給使用者。
為維持測驗狀態並提供個人化體驗,代理會執行下列背景工作:
- 代理會將最新的測驗進度和分數,附加至儲存在 Gemini Enterprise Agent Platform 工作階段中的已儲存工作階段記錄。
- 代理會將測驗資料轉換為記憶,並儲存在 Memory Bank 中,以便長期回顧。代理會使用儲存在記憶體中的歷來資料,在日後的工作階段中生成符合情境的回覆。
使用的產品
這個範例架構使用下列 Google Cloud 和開放原始碼產品和工具:
- Cloud Run:無伺服器運算平台,可讓您直接在 Google 可擴充的基礎架構上執行容器。
- Agent Development Kit (ADK):一組工具和程式庫,用於開發、測試及部署 AI 代理。
- Gemini Enterprise Agent Platform:全方位平台,可建構、擴充、管理及最佳化企業級 AI 代理。
- Gemini Enterprise Agent Platform 工作階段:永久儲存空間服務,可儲存及擷取使用者與代理之間的互動記錄。
- Memory Bank:永久儲存空間服務,可根據使用者與代理的對話,生成、精煉、管理及擷取長期記憶。
安全性考量
為因應 AI 代理特有的安全風險,Google 建議採取做法,結合確定性安全控管機制與動態、基於推論的防禦措施:
- 人工監督:在業務關鍵系統中加入人工介入迴路流程,讓人工監督員審查輸出內容,並核准、覆寫或暫停代理動作。
- Agent Identity:為每個代理指派與工作負載繫結的身分,強制執行最小權限存取控管,並集中管理外部工具的憑證。
- Agent Gateway:強制執行輸入和輸出流量管理、預設拒絕存取政策,以及使用 Model Armor 進行內嵌提示和工具檢查。
- Agent Registry:確認代理只會連結至核准的子代理和 MCP 工具。
本節提供的指引僅供參考,如要進一步瞭解設計因素和最佳做法,以及建構和部署多代理式 AI 系統的建議,請參閱「 Google Cloud中的多代理式 AI 系統」。
部署作業
如要部署這個架構的範例實作,提供程式設計相關測驗,請使用 GitHub 上的 Python 導師程式碼範例。
後續步驟
- (Notebook) 開始使用 Agent Platform 工作階段和 Memory Bank,在 Cloud Run 執行 ADK 代理。
- (網誌) 進一步瞭解使用 ADK 管理狀態和記憶。
- (程式碼實驗室) 使用 ADK 建構正式環境 AI 程式碼審查助理。
- (影片) 觀看「AI 代理長期記憶與 Memory Bank」。
- 瞭解如何在 Cloud Run 託管 AI 代理。
- 如要概略瞭解 Google Cloud中 AI 和機器學習工作負載專屬的架構原則和建議,請參閱 Well-Architected Framework 中的「AI 和機器學習觀點」一文。
- 如要查看更多參考架構、圖表和最佳做法,請瀏覽 Cloud Architecture Center。
貢獻者
作者:Samantha He | 技術文件撰稿者
其他貢獻者:
- Amina Mansour | 全球開發人員關係與策略內容技術負責人
- Kumar Dhanagopal | 跨產品解決方案開發人員
- Megan O'Keefe | 開發人員服務代表
- Rachael Deacon-Smith | 開發人員服務代表
- Shir Meir Lador | 開發人員關係工程經理