Agent Runtime 是一种全托管式、有主张的运行时,可用于部署、运行和扩缩智能体应用。Agent Runtime 剥离出了底层基础设施,让您可以专注于智能体逻辑,而无需担心运营问题。
借助 Agent Runtime,您可以执行以下操作:
- 利用托管式运行时和端到端管理功能部署和扩缩智能体。
- 使用系统依赖项的构建时安装脚本自定义智能体的容器映像。
- 使用安全功能,包括 VPC-SC 合规性以及身份验证和 IAM 的配置。
- 访问模型和工具,例如函数调用。
- 部署使用不同语言和框架以及 Agent2Agent 开放协议构建的代理。
在 Agent Runtime 上创建和部署
在 Agent Runtime 上构建智能体的工作流如下:
- 设置环境:设置 Google 项目并安装最新版本的 Agent Platform SDK for Python。
- 开发智能体:开发可在 Agent Runtime 上部署的智能体。
- 部署代理:将代理部署在 Agent Runtime 托管式运行时上。
- 使用智能体:通过发送 API 请求来查询智能体。
- 管理已部署的智能体:管理和删除已部署到 Agent Runtime 的智能体。
支持的语言和框架
Agent Runtime 支持部署以任何编程语言和代理框架编写的代理,前提是代理应用可以容器化并符合运行时合约:
从容器映像:如果您为智能体构建了容器映像,可以直接从 Artifact Registry 将其部署到 Agent Runtime。如需了解详情,请参阅从容器映像进行部署。
从 Dockerfile:如果您已将源代码容器化,则可以提供包含源文件的
Dockerfile。Agent Runtime 会自动构建和部署容器映像。如需了解详情,请参阅从 Dockerfile 进行部署。
对于支持的语言和框架,可以使用更高级别的工具和 SDK 来简化部署。下表介绍了 Agent Runtime 为各种智能体框架提供的支持级别:
| 支持级别 | 智能体框架 |
|---|---|
| 自定义模板:您可以调整自定义模板,以支持从框架部署到 Agent Runtime。如需部署自定义容器,请参阅运行时合同。 | CrewAI、自定义框架 |
| Agent Platform SDK 集成:Agent Runtime 在 Agent Platform SDK 和文档中按框架提供托管式模板。 | LangChain、LangGraph、AG2、LlamaIndex |
| 全面集成:这些功能已集成,可在框架、Agent Runtime 和更广泛的 Google Cloud 生态系统中运行。 | 智能体开发套件 (ADK) |
使用 Agents CLI 在生产环境中部署
Agents CLI 是 Gemini Enterprise Agent Platform 的统一命令行界面和技能集。它为编码智能体和开发者提供了一条可预测的智能体开发生命周期路径:基架搭建、评估、部署、发布和观察。Agents CLI 提供以下功能:
- 预构建的智能体模板:ReAct、RAG、多智能体和其他模板。
- 互动式平台:测试您的智能体并与之互动。
- 自动化基础设施:使用 Terraform 来简化资源管理。
- CI/CD 流水线:利用 Cloud Build 实现自动化部署工作流。
- 可观测性:内置对 Cloud Trace 和 Cloud Logging 的支持。
如需开始使用,请参阅快速入门。
使用场景
如需通过端到端示例了解 Agent Runtime,请参阅以下资源:
点击即可展开使用情形
支持的区域
如需查看 Agent Runtime 支持的区域列表,请参阅位置。
配额
如需了解 Agent Runtime 配额信息,请参阅配额和系统限制。
价格
Agent Runtime 提供免费层级。如需了解 Agent Runtime 的价格,请参阅 Gemini Enterprise Agent Platform 价格。
迁移到基于客户端的 SDK
在 Agent Platform SDK 的 2.0.1 版中,agent_engines 模块已重构并重命名为独立 google-cloud-agentplatform 软件包 (agentplatform) 下的各个模块(例如 runtimes、sessions、sandboxes 和 memory_banks)。该 SDK 采用基于客户端的设计,主要原因如下:
- 为了与智能体开发套件 (ADK) 和 Google Gen AI SDK (
google-genai) 在规范类型表示方面保持一致。这可确保以一致且标准化的方式在不同 SDK 中表示数据类型,从而简化互操作性并减少转换开销。 - 用于在多项目多位置应用中对 Google Cloud 参数进行客户端级范围限定。这样,应用就可以通过为每个客户端实例 (
client = agentplatform.Client(project=..., location=...)) 配置特定的项目和位置信息设置,来管理与不同 Google Cloud 项目和地理位置的资源之间的互动。 - 为了提高 Gemini Enterprise Agent Platform 服务(
client.runtimes、client.sessions、client.sandboxes和client.memory_banks)的可发现性和凝聚力。 - 为了提供轻量级、解耦的软件包 (
google-cloud-agentplatform),该软件包专为代理工作负载量身打造,同时生成式 AI 模块迁移到 Google Gen AI SDK (google-genai)。
如需详细了解如何迁移到新的 SDK 结构,请参阅以下指南:
- Agent Runtime SDK 迁移:从
vertexai.agent_engines迁移到agentplatform.Client().runtimes。 - Agent Platform SDK for Python:版本 2.0.1 迁移指南:总体指南,涵盖了软件包解耦、模块弃用以及将生成式 AI 模块迁移到 Google Gen AI SDK。