Aloja agentes de IA en recursos de Cloud Run

Cloud Run te permite implementar y ejecutar agentes de IA en una infraestructura de contenedores administrada. Estas entidades de software autónomas usan sistemas potenciados por LLM para percibir, decidir y actuar para lograr objetivos. Cloud Run escala automáticamente tus agentes para controlar cargas de trabajo fluctuantes, bucles de razonamiento dinámicos y la ejecución de herramientas.

Para obtener una introducción a los agentes de IA, consulta Qué es un agente de IA.

Elige un recurso de Cloud Run

Según el diseño de tu agente, puedes ejecutar el contenedor de tu agente como uno de los siguientes tipos de recursos de Cloud Run:

• Servicios: Son ideales para agentes sin estado basados en solicitudes que controlan el tráfico variable de los usuarios, se benefician del escalado automático y pueden reducir la escala a cero cuando están inactivos. Algunos ejemplos son las APIs de chatbot y los backends de APIs web.
• Instancias: Son ideales para bucles de agentes singleton dedicados, con estado y siempre activos que requieren comandos de estado del ciclo de vida similares a los de las VM. Algunos ejemplos son los agentes personales, como OpenClaw y Hermes.
• Grupos de trabajadores: Son ideales para ejecutar flotas de agentes distribuidos en segundo plano que consumen tareas de colas de mensajes, como Kafka o Pub/Sub, y escalan de forma horizontal sin exponer extremos HTTP públicos.
• Trabajos: Son ideales para flujos de trabajo de agentes que se ejecutan hasta completarse, como evaluaciones por lotes, canalizaciones de transferencia de datos a gran escala o secuencias de comandos de sincronización programadas.

Elige el framework de tu agente

Antes de implementar tu agente en Cloud Run, elige y configura tu framework de agentes de forma local o en tu plataforma de desarrollo. Entre los ejemplos de frameworks de agentes, se incluyen el Kit de desarrollo de agentes (ADK), Dify, LangGraph y n8n.

En Cloud Run, tu código suele ejecutarse como un servicio de servicio o instancia. Ambos tipos de recursos ejecutan instancias de contenedor de zona de pruebas en el mismo entorno de ejecución y se integran en los servicios de Google Cloud .

Arquitectura de agente de IA en Cloud Run

Una arquitectura típica de agente de IA implementada en Cloud Run puede incluir varios componentes de Google Cloud , así como de fuera de Google Cloud. En la siguiente arquitectura, se muestra un ejemplo de implementación de un agente de IA como un servicio de Cloud Run para organizar un conjunto de tareas asíncronas y proporcionar información a través de múltiples interacciones de solicitud-respuesta.

Figura 1. Arquitectura de un agente de IA en Cloud Run.

En el diagrama se muestra lo siguiente:

• Plataforma de hosting: Un servicio de Cloud Run es un extremo de API escalable para la lógica principal de tu aplicación. Administra de manera eficiente varios usuarios simultáneos a través del escalamiento automático, rápido y a pedido de las instancias. Cloud Run ofrece los siguientes beneficios:

  • Admite la ejecución de cualquier framework de agentes para compilar diferentes tipos de agentes y arquitecturas de agentes.
  • Compatibilidad integrada con la identidad del agente. Asigna una identidad única y verificable de forma criptográfica a tu agente para llamar a las APIs de Google Cloud , las herramientas y conectarse de forma segura a otros agentes. Para obtener más información, consulta Configura las funciones de la plataforma de agentes.
  • Integración integrada en Agent Registry. Designa tus servicios implementados como un agente o un servidor de MCP para el descubrimiento automático y mecanismos de autenticación de agente a agente (A2A) sólidos. Para obtener más información, consulta Configura las funciones de la plataforma de agentes.
  • Admite la conexión de tu framework de agentes a otros servicios. Puedes conectar tu agente a herramientas propias o de terceros implementadas en Cloud Run. Por ejemplo, para obtener visibilidad de las tareas y ejecuciones de tu agente, puedes implementar y usar herramientas como Langfuse y Arize.

• Interacciones con el agente: Cloud Run admite respuestas HTTP de transmisión al usuario y WebSockets para interacciones en tiempo real.

• Modelos de IA generativa: La capa de organización llama a los modelos para obtener capacidades de razonamiento. Estos modelos se pueden alojar en servicios, como los siguientes:

  • API de Gemini para los modelos de IA generativa de Google
  • Extremos de Vertex AI para modelos personalizados o de base.
  • Servicio de Cloud Run habilitado para GPU para tus propios modelos ajustados

• Memoria: Los agentes suelen necesitar memoria para retener el contexto y aprender de las interacciones pasadas. Puedes usar los siguientes servicios:

  • Memorystore para Redis para la memoria a corto plazo
  • Firestore para la memoria a largo plazo, como almacenar el historial de conversaciones o recordar las preferencias del usuario en función de los datos sin procesar.
  • Banco de memoria de Vertex AI Agent Engine para la memoria personalizada a largo plazo Esta función extrae automáticamente del historial de conversaciones del usuario para recordar y actualizar sus preferencias con el tiempo. Ten en cuenta que debes crear al menos una instancia de Agent Engine para usar esta función con Cloud Run.

• Base de datos vectorial: Para la generación aumentada por recuperación (RAG) o la recuperación de datos estructurados, usa una base de datos vectorial para consultar información específica de la entidad o realizar una búsqueda vectorial en los embeddings. Usa la extensión pgvector con los siguientes servicios:

  • Cloud SQL para PostgreSQL
  • AlloyDB para PostgreSQL

• Herramientas: El organizador usa herramientas para realizar tareas específicas y, así, interactuar con servicios, APIs o sitios web externos. Esto puede incluir lo siguiente:

  • Protocolo de contexto del modelo (MCP): Usa este protocolo estandarizado para comunicarte con herramientas externas que se ejecutan a través de un servidor de MCP.
  • Utilidades básicas: Cálculos matemáticos precisos, conversiones de tiempo o cualquier otra utilidad similar
  • Llamadas a la API: Realiza llamadas a otras APIs internas o de terceros (acceso de lectura o escritura).
  • Generación de imágenes o gráficos: Crea contenido visual con rapidez y eficacia.
  • Automatización del navegador y del SO: Ejecuta un sistema operativo gráfico completo o sin interfaz gráfica dentro de instancias de contenedor para permitir que el agente navegue por la Web, extraiga información de sitios web o realice acciones con clics y entradas de teclado.
  • Ejecución de código: Ejecuta código en un entorno seguro con zona de pruebas de varias capas, con permisos de IAM mínimos o sin ellos.
  • Ejecución de código de Vertex AI Agent Engine: Ejecuta código en un entorno de zona de pruebas seguro, aislado y administrado que admite la entrada y salida de archivos, la ejecución de código en menos de un segundo y la memoria de larga duración. Ten en cuenta que debes crear al menos una instancia de Vertex AI Agent Engine para usar esta función en Cloud Run.

¿Qué sigue?

• Compila e implementa agentes en Cloud Run:
  • A2A
  • ADK
  • n8n
• Mira Crea agentes de IA en Cloud Run.
• Prueba el codelab para aprender a compilar e implementar una app de LangChain en Cloud Run.
• Aprende a implementar el Kit de desarrollo de agentes (ADK) en Cloud Run.
• Obtén más información para crear y administrar instancias de Cloud Run.
• Prueba el codelab para usar un servidor de MCP en Cloud Run con un agente del ADK.
• Prueba el codelab para implementar tu agente de ADK en Cloud Run con GPU.
• Encuentra muestras de agentes listas para usar en Muestras del ADK.
• Aloja servidores del Protocolo de contexto del modelo (MCP) en Cloud Run.