Hospedar agentes de IA em recursos do Cloud Run

Com o Cloud Run, é possível implantar e executar agentes de IA em uma infraestrutura de contêiner gerenciada. Essas entidades de software autônomas usam sistemas com tecnologia de LLM para perceber, decidir e agir para alcançar metas. O Cloud Run escalona automaticamente seus agentes para lidar com cargas de trabalho flutuantes, loops de raciocínio dinâmicos e execução de ferramentas.

Para uma introdução aos agentes de IA, consulte O que é um agente de IA.

Escolher um recurso do Cloud Run

Dependendo do design do agente, é possível executar o contêiner do agente como um dos seguintes tipos de recurso do Cloud Run:

  • Serviços: ideal para agentes sem estado, orientados por solicitações, que lidam com tráfego de usuários variável, se beneficiam do escalonamento automático e podem ser reduzidos a zero quando ociosos. Exemplos incluem APIs de chatbot e back-ends de API da Web.
  • Instâncias: ideais para loops de agente singleton dedicados, com estado e sempre ativos que exigem comandos de estado de ciclo de vida semelhantes aos de VM. Alguns exemplos são agentes pessoais, como o OpenClaw e o Hermes.
  • Pools de workers: ideais para executar frotas de agentes distribuídos em segundo plano que consomem tarefas de filas de mensagens, como Kafka ou Pub/Sub, e escalonam horizontalmente sem expor endpoints HTTP públicos.
  • Jobs: ideais para Agentic Workflows que são executados até a conclusão, como avaliações em lote, pipelines de ingestão de dados em grande escala ou scripts de sincronização programados.

Escolher o framework do agente

Antes de implantar o agente no Cloud Run, escolha e configure o framework do agente localmente ou na plataforma de desenvolvimento. Exemplos de frameworks de agentes incluem o Kit de Desenvolvimento de Agente (ADK), o Dify, o LangGraph e o n8n.

No Cloud Run, o código geralmente é executado como um serviço ou instância. Esses dois tipos de recursos executam instâncias de contêiner em sandbox no mesmo ambiente de execução e se integram aos serviços do Google Cloud .

Agente de IA na arquitetura do Cloud Run

Uma arquitetura típica de agente de IA implantada no Cloud Run pode envolver vários componentes do Google Cloud , bem como de fora do Google Cloud. A arquitetura a seguir mostra um exemplo de implementação de um agente de IA como um serviço do Cloud Run para orquestrar um conjunto de tarefas assíncronas e fornecer informações por meio de várias interações de solicitação-resposta.

Os quatro componentes do agente de IA hospedado no Cloud Run.
Figura 1. Arquitetura de um agente de IA no Cloud Run.

O diagrama mostra estes elementos:

  • Plataforma de hospedagem: um serviço do Cloud Run é um endpoint de API escalonável para a lógica principal do aplicativo. Ele gerencia com eficiência vários usuários simultâneos por meio do escalonamento automático, sob demanda e rápido de instâncias. O Cloud Run oferece os seguintes benefícios:

    • Oferece suporte à execução de qualquer framework de agente para criar diferentes tipos de agentes e arquiteturas agênticas.
    • Suporte integrado para Identidade do agente. Atribui uma identidade exclusiva e criptograficamente verificável ao agente para chamar APIs do Google Cloud , ferramentas e se conectar com segurança a outros agentes. Para saber mais, consulte Configurar recursos da plataforma de agentes.
    • Integração direta com o Agent Registry. Designar os serviços implantados como um agente ou um servidor MCP para descoberta automática e mecanismos robustos de autenticação de agente para agente (A2A). Para saber mais, consulte Configurar recursos da plataforma de agentes.
    • Permite conectar o framework do agente a outros serviços. É possível conectar seu agente a ferramentas próprias ou de terceiros implantadas no Cloud Run. Por exemplo, para ter visibilidade das tarefas e execuções do agente, implante e use ferramentas como Langfuse e Arize.

  • Interações do agente: o Cloud Run é compatível com respostas HTTP de streaming para o usuário e WebSockets para interações em tempo real.

  • Modelos de IA generativa: a camada de orquestração chama modelos para recursos de raciocínio. Esses modelos podem ser hospedados em serviços como os seguintes:

  • Memória: os agentes geralmente precisam de memória para reter o contexto e aprender com interações anteriores. Você pode usar os seguintes serviços:

  • Banco de dados vetorial: para geração aumentada por recuperação (RAG) ou busca de dados estruturados, use um banco de dados vetorial para consultar informações de entidades específicas ou realizar uma busca vetorial em embeddings. Use a extensão pgvector com os seguintes serviços:

  • Ferramentas: o orquestrador usa ferramentas para realizar tarefas específicas e interagir com serviços, APIs ou sites externos. Isso inclui:

    • Protocolo de Contexto de Modelo (MCP): use esse protocolo padronizado para se comunicar com ferramentas externas executadas por um servidor MCP.
    • Utilitários básicos: cálculos matemáticos precisos, conversões de tempo ou outros utilitários semelhantes.
    • Chamada de API: faça chamadas para outras APIs internas ou de terceiros (acesso de leitura ou gravação).
    • Geração de imagens ou gráficos: crie conteúdo visual de forma rápida e eficaz.
    • Automação de navegador e SO: execute um sistema operacional headless ou totalmente gráfico em instâncias de contêiner para permitir que o agente navegue na Web, extraia informações de sites ou execute ações usando cliques e entrada de teclado.
    • Execução de código: execute código em um ambiente seguro com sandbox de várias camadas, com permissões mínimas ou nenhuma permissão do IAM.
    • Execução de código do Vertex AI Agent Engine: execute código em um ambiente de sandbox seguro, isolado e gerenciado que oferece suporte à entrada e saída de arquivos, execução de código em menos de um segundo e memória de longa duração. É necessário criar pelo menos uma instância do Vertex AI Agent Engine para usar esse recurso no Cloud Run.

A seguir