Agent Runtime

Agent Runtime 是一种全托管式、有主张的运行时,可用于部署、运行和扩缩智能体应用。Agent Runtime 剥离出了底层基础设施,让您可以专注于智能体逻辑,而无需担心运营问题。

借助 Agent Runtime,您可以执行以下操作:

  • 利用托管式运行时和端到端管理功能部署和扩缩智能体。
  • 使用系统依赖项的构建时安装脚本自定义智能体的容器映像。
  • 使用安全功能,包括 VPC-SC 合规性以及身份验证和 IAM 的配置。
  • 访问模型和工具,例如函数调用
  • 部署使用不同语言和框架以及 Agent2Agent 开放协议构建的代理。

在 Agent Runtime 上创建和部署

在 Agent Runtime 上构建智能体的工作流如下:

  1. 设置环境:设置 Google 项目并安装最新版本的 Agent Platform SDK for Python。
  2. 开发智能体:开发可在 Agent Runtime 上部署的智能体。
  3. 部署代理:将代理部署在 Agent Runtime 托管式运行时上。
  4. 使用智能体:通过发送 API 请求来查询智能体。
  5. 管理已部署的智能体:管理和删除已部署到 Agent Runtime 的智能体。

支持的语言和框架

Agent Runtime 支持部署以任何编程语言和代理框架编写的代理,前提是代理应用可以容器化并符合运行时合约

  • 从容器映像:如果您为智能体构建了容器映像,可以直接从 Artifact Registry 将其部署到 Agent Runtime。如需了解详情,请参阅从容器映像进行部署

  • 从 Dockerfile:如果您已将源代码容器化,则可以提供包含源文件的 Dockerfile。Agent Runtime 会自动构建和部署容器映像。如需了解详情,请参阅从 Dockerfile 进行部署

对于支持的语言和框架,可以使用更高级别的工具和 SDK 来简化部署。下表介绍了 Agent Runtime 为各种智能体框架提供的支持级别:

支持级别 智能体框架
自定义模板:您可以调整自定义模板,以支持从框架部署到 Agent Runtime。如需部署自定义容器,请参阅运行时合同 CrewAI自定义框架
Agent Platform SDK 集成:Agent Runtime 在 Agent Platform SDK 和文档中按框架提供托管式模板。 LangChainLangGraphAG2LlamaIndex
全面集成:这些功能已集成,可在框架、Agent Runtime 和更广泛的 Google Cloud 生态系统中运行。 智能体开发套件 (ADK)

使用 Agents CLI 在生产环境中部署

Agents CLI 是 Gemini Enterprise Agent Platform 的统一命令行界面和技能集。它为编码智能体和开发者提供了一条可预测的智能体开发生命周期路径:基架搭建、评估、部署、发布和观察。Agents CLI 提供以下功能:

  • 预构建的智能体模板:ReAct、RAG、多智能体和其他模板。
  • 互动式平台:测试您的智能体并与之互动。
  • 自动化基础设施:使用 Terraform 来简化资源管理。
  • CI/CD 流水线:利用 Cloud Build 实现自动化部署工作流。
  • 可观测性:内置对 Cloud Trace 和 Cloud Logging 的支持。

如需开始使用,请参阅快速入门

使用场景

如需通过端到端示例了解 Agent Runtime,请参阅以下资源:

点击即可展开使用情形

使用场景 说明 链接
通过连接到公共 API 来构建智能体 货币换算。

创建一个连接到货币兑换应用的函数,使模型能够为诸如“今天欧元兑美元的汇率是多少?”之类的查询提供准确的答案。
Agent Platform SDK (Python) 笔记本 - 使用 Agent Runtime 构建和部署代理简介
设计社区太阳能项目。

确定潜在位置,查询相关政府办公室和供应商,并查看区域和建筑物的卫星图像和太阳能板发电潜力,以找到安装太阳能板的最佳位置。
Agent Platform SDK (Python) 笔记本 - 使用 Agent Runtime 构建和部署 Google 地图 API 代理
通过连接到数据库来构建智能体 与 AlloyDB 和 Cloud SQL for PostgreSQL 集成。 博文 - 宣布在 Gemini Enterprise Agent Platform 上为 AlloyDB 和 Cloud SQL for PostgreSQL 提供 LangChain

Agent Platform SDK (Python) 笔记本 - 将使用 Cloud SQL for PostgreSQL 的 RAG 应用部署到 Agent Runtime

Agent Platform SDK (Python) 笔记本 - 将使用 AlloyDB for PostgreSQL 的 RAG 应用部署到 Agent Runtime
使用可访问数据库中数据的工具构建智能体。 Agent Platform SDK (Python) 笔记本 - 使用 Agent Runtime 和 MCP Toolbox for Databases 部署智能体
使用自然语言查询和理解结构化数据存储区。 Agent Platform SDK (Python) 笔记本 - 在 Agent Search 上使用 Agent Runtime 和 RAG 构建对话式搜索代理
使用自然语言查询和理解图表数据库 博文 - 将 Agent Runtime 与 LangChain 和 Neo4j 搭配使用的生成式 AI GraphRAG 和 AI 智能体
使用自然语言查询和理解矢量存储区 博文 - 使用 MongoDB Atlas 和 Agent Runtime 简化生成式 AI RAG
使用智能体开发套件构建智能体 使用智能体开发套件构建和部署智能体。 智能体开发套件 - 部署到 Agent Runtime
使用 OSS 框架构建智能体 使用 OneTwo 开源框架构建和部署代理。 博文 - OneTwo 和 Agent Runtime:探索 Google Cloud上的高级 AI 智能体开发
使用 LangGraph 开源框架构建和部署代理。 Agent Platform SDK (Python) 笔记本 - 使用 Agent Runtime 构建和部署 LangGraph 应用
调试和优化代理 使用 OpenTelemetry 和 Cloud Trace 构建和跟踪代理。 Agent Platform SDK (Python) 笔记本 - 调试和优化代理:Agent Runtime 中的跟踪指南
使用 A2A protocol 构建多智能体系统(预览版) 构建可互操作的智能体,使其能够与其他智能体进行通信和协作,而无需考虑其框架。 如需了解详情,请参阅 A2A protocol 文档

支持的区域

如需查看 Agent Runtime 支持的区域列表,请参阅位置

配额

如需了解 Agent Runtime 配额信息,请参阅配额和系统限制

价格

Agent Runtime 提供免费层级。如需了解 Agent Runtime 的价格,请参阅 Gemini Enterprise Agent Platform 价格

迁移到基于客户端的 SDK

在 Agent Platform SDK 的 2.0.1 版中,agent_engines 模块已重构并重命名为独立 google-cloud-agentplatform 软件包 (agentplatform) 下的各个模块(例如 runtimessessionssandboxesmemory_banks)。该 SDK 采用基于客户端的设计,主要原因如下:

  • 为了与智能体开发套件 (ADK) 和 Google Gen AI SDK (google-genai) 在规范类型表示方面保持一致。这可确保以一致且标准化的方式在不同 SDK 中表示数据类型,从而简化互操作性并减少转换开销。
  • 用于在多项目多位置应用中对 Google Cloud 参数进行客户端级范围限定。这样,应用就可以通过为每个客户端实例 (client = agentplatform.Client(project=..., location=...)) 配置特定的项目和位置信息设置,来管理与不同 Google Cloud 项目和地理位置的资源之间的互动。
  • 为了提高 Gemini Enterprise Agent Platform 服务(client.runtimesclient.sessionsclient.sandboxesclient.memory_banks)的可发现性和凝聚力。
  • 为了提供轻量级、解耦的软件包 (google-cloud-agentplatform),该软件包专为代理工作负载量身打造,同时生成式 AI 模块迁移到 Google Gen AI SDK (google-genai)。

如需详细了解如何迁移到新的 SDK 结构,请参阅以下指南:

后续步骤

指南

设置环境以使用 Agent Platform Runtime。

资源

获取 Agent Platform 开发支持。