Système d'IA multi-agents dans Google Cloud

Last reviewed 2026-10-09 UTC

Ce document fournit une architecture de référence pour vous aider à concevoir des systèmes d'IA multi-agents robustes dans Google Cloud. Un système d'IA multi-agent optimise les processus complexes et dynamiques en les segmentant en tâches distinctes que plusieurs agents IA spécialisés exécutent en collaboration.

Ce document s'adresse aux architectes, aux développeurs et aux administrateurs qui créent et gèrent des infrastructures et des applications d'IA dans le cloud. Ce document suppose que vous possédez des connaissances de base sur les agents IA et les modèles. Ce document ne fournit pas de conseils spécifiques pour la conception et le codage d'agents IA.

La section Déploiement de ce document liste des exemples de code que vous pouvez utiliser pour apprendre à créer et à déployer des systèmes d'IA multi-agents.

Architecture

Le schéma suivant illustre l'architecture d'un exemple de système d'IA multi-agent déployé dans Google Cloud.

Architecture d'un système d'IA multi-agent dans Google Cloud. Architecture d'un système d'IA multi-agent dans Google Cloud.

Composants d'architecture

L'exemple d'architecture de la section précédente contient les composants suivants :

Interface
Les utilisateurs interagissent avec le système multi-agent via une interface, telle qu'une interface de chat, qui s'exécute en tant que service Cloud Run sans serveur.
Agents

Dans cet exemple, un agent coordinateur contrôle le système d'IA agentive. L'agent coordinateur appelle un sous-agent approprié pour déclencher le flux agentique. Les agents peuvent communiquer entre eux à l'aide du protocole Agent2Agent (A2A), qui permet l'interopérabilité entre les agents, quels que soient leur langage de programmation et leur environnement d'exécution. L'exemple d'architecture montre des agents dans un modèle séquentiel et un modèle d'affinement itératif.

Pour en savoir plus sur les sous-agents de cet exemple, consultez la section Flux d'agents.

Environnement d'exécution des agents

Les agents IA peuvent être déployés en tant que services Cloud Run sans serveur, en tant qu'applications conteneurisées sur Google Kubernetes Engine (GKE) ou sur Agent Runtime sur Gemini Enterprise Agent Platform.

ADK

Agent Development Kit (ADK) fournit des outils et un framework pour développer, tester et déployer des agents. ADK élimine la complexité de la création d'agents et permet aux développeurs d'IA de se concentrer sur la logique et les capacités de l'agent.

Modèle d'IA et environnements d'exécution de modèle

Pour la diffusion d'inférence, les agents de cet exemple d'architecture utilisent un modèle d'IA sur Gemini Enterprise Agent Platform. L'architecture présente Cloud Run et GKE comme environnements d'exécution alternatifs pour le modèle d'IA que vous choisissez d'utiliser.

Model Armor

Model Armor permet d'inspecter et de nettoyer les entrées et les réponses des modèles déployés dans Agent Platform et GKE. Model Armor peut également être utilisé pour le trafic des agents et des outils acheminé via Agent Gateway. Pour en savoir plus, consultez Intégration de Model Armor aux services Google Cloud .

Clients, serveurs et outils MCP

Le protocole MCP (Model Context Protocol) facilite l'accès aux outils en standardisant l'interaction entre les agents et les outils. Pour chaque paire agent-outil, un client MCP envoie des requêtes à un serveur MCP par lequel l'agent accède à un outil tel qu'une base de données, un système de fichiers ou une API.

Flux agentique

L'exemple de système multi-agents de l'architecture précédente présente le flux suivant :

  1. Un utilisateur saisit une requête via une interface, telle qu'une interface de chat, qui s'exécute en tant que service Cloud Run sans serveur.
  2. L'interface transmet le prompt à un agent coordinateur.

  3. L'agent coordinateur démarre l'un des flux agentifs suivants en fonction de l'intention exprimée dans le prompt.

    • Séquentiel :
      1. Le sous-agent task-A effectue une tâche.
      2. Le sous-agent de la tâche A appelle le sous-agent de la tâche A.1.

    • Affinement itératif :

      1. Le sous-agent task-B effectue une tâche.
      2. Le sous-agent d'évaluation de la qualité examine le résultat du sous-agent de la tâche B.
      3. Si le résultat n'est pas satisfaisant, l'évaluateur de qualité appelle le sous-agent d'amélioration de prompt pour affiner le prompt.
      4. Le sous-agent de la tâche B effectue à nouveau sa tâche à l'aide de la requête améliorée.

      Ce cycle se poursuit jusqu'à ce que le résultat soit satisfaisant ou que le nombre maximal d'itérations soit atteint.

    L'exemple d'architecture inclut un chemin d'accès human-in-the-loop pour permettre aux utilisateurs humains d'intervenir dans le flux d'agents si nécessaire.

  4. Le sous-agent task-A.1 et le sous-agent d'évaluation de la qualité appellent indépendamment le sous-agent de génération de réponses.

  5. Le sous-agent de génération de réponses génère une réponse, effectue des vérifications de validation et d'ancrage, puis envoie la réponse finale à l'utilisateur via l'agent coordinateur.

Produits et outils utilisés

Cette architecture de référence utilise les produits et outils Google Cloud et tiers suivants :

  • Cloud Run : plate-forme de calcul gérée qui vous permet d'exécuter des conteneurs directement sur l'infrastructure évolutive de Google.
  • Gemini Enterprise Agent Platform : plate-forme complète qui vous permet de créer, de faire évoluer, de gérer et d'optimiser des agents IA de niveau entreprise.
  • Google Kubernetes Engine (GKE) : service Kubernetes que vous pouvez utiliser pour déployer et exploiter des applications conteneurisées à grande échelle, à l'aide de l'infrastructure de Google.
  • Model Armor : service qui protège vos ressources d'IA générative et d'IA agentique contre l'injection de prompt, les fuites de données sensibles et les contenus nuisibles.
  • Agent Development Kit (ADK) : ensemble d'outils et de bibliothèques permettant de développer, de tester et de déployer des agents IA.
  • Protocole Agent2Agent (A2A) : protocole ouvert qui permet la communication et l'interopérabilité entre les agents, quels que soient leur langage de programmation et leur environnement d'exécution.
  • Model Context Protocol (MCP) : norme Open Source permettant de connecter des applications d'IA à des systèmes externes.

Cas d'utilisation

Les systèmes d'IA multi-agents sont adaptés aux cas d'utilisation complexes qui nécessitent une collaboration et une coordination entre plusieurs compétences spécialisées pour atteindre un objectif commercial. Pour identifier les cas d'utilisation adaptés aux systèmes d'IA multi-agents, analysez vos processus métier et identifiez les tâches spécifiques que l'IA peut améliorer. Concentrez-vous sur des résultats commerciaux tangibles, comme la réduction des coûts et l'accélération du traitement. Cette approche vous aide à aligner vos investissements dans l'IA sur la valeur commerciale.

Voici des exemples de cas d'utilisation de systèmes d'IA multi-agents.

Conseiller financier

Fournir des recommandations personnalisées de trading d'actions et exécuter des transactions. Le diagramme suivant montre un exemple de flux d'agent pour ce cas d'utilisation. Cet exemple utilise un modèle séquentiel.

Cas d'utilisation d'un conseiller financier pour un système multi-agents.

Ce flux est représenté dans le diagramme suivant :

  1. Un agent de récupération de données récupère les cours des actions en temps réel et historiques, les rapports financiers de l'entreprise et d'autres données pertinentes à partir de sources fiables.
  2. Un agent d'analyse financière applique les techniques d'analyse et de représentation graphique appropriées aux données, identifie les schémas de mouvement des prix et effectue des prédictions.
  3. Un agent de recommandation d'actions utilise l'analyse et les graphiques pour générer des recommandations personnalisées d'achat et de vente d'actions spécifiques en fonction du profil de risque et des objectifs d'investissement de l'utilisateur.
  4. Un agent d'exécution des transactions achète et vend des actions pour le compte de l'utilisateur.

Assistant de recherche

Créez un plan de recherche, rassemblez des informations, évaluez et affinez la recherche, puis rédigez un rapport. Le schéma suivant illustre un exemple de flux d'agent pour ce cas d'utilisation. Le flux principal de cet exemple utilise un modèle séquentiel. L'exemple inclut également un modèle d'affinement itératif.

Cas d'utilisation d'un assistant de recherche pour un système multi-agent.

Ce flux est représenté dans le diagramme suivant :

  1. Un agent de planification crée un plan de recherche détaillé.

  2. Un agent de recherche effectue les tâches suivantes :

    1. Utilise le plan de recherche pour identifier les sources de données internes et externes appropriées.
    2. Collecte et analyse les données requises.
    3. Prépare un résumé de la recherche et le fournit à un agent évaluateur.

    L'agent Researcher répète ces tâches jusqu'à ce que l'agent Evaluator approuve la recherche.

  3. Un agent de composition de rapport crée le rapport de recherche final.

Optimiseur de chaîne d'approvisionnement

Optimisez l'inventaire, suivez les expéditions et communiquez avec les partenaires de la chaîne d'approvisionnement. Le schéma suivant illustre un exemple de flux agentif pour ce cas d'utilisation. Cet exemple utilise un modèle séquentiel.

Cas d'utilisation d'un optimiseur de chaîne d'approvisionnement pour un système multi-agent.

  1. Un agent de gestion d'entrepôt garantit des niveaux de stock optimaux en créant des commandes de réapprovisionnement en fonction de l'inventaire, des prévisions de la demande et des délais de livraison des fournisseurs.

    • L'agent interagit avec l'agent de suivi des livraisons pour suivre les livraisons.
    • L'agent interagit avec l'agent de communication avec les fournisseurs pour les informer des modifications apportées aux commandes.

  2. Un agent de suivi des expéditions garantit l'exécution rapide et efficace des commandes en s'intégrant aux plates-formes logistiques des fournisseurs et aux systèmes des transporteurs.

  3. Un agent de communication avec les fournisseurs communique avec les fournisseurs externes au nom des autres agents du système.

Alternatives de conception

En fonction de vos exigences en termes de gérabilité, de contrôle et de flexibilité, vous pouvez choisir parmi plusieurs options d'exécution dans Google Cloud pour vos agents et votre modèle d'IA. Pour en savoir plus, consultez Choisir les composants de votre architecture d'IA agentive.

Considérations de conception

Cette section décrit les facteurs de conception, les bonnes pratiques et les recommandations à prendre en compte lorsque vous utilisez cette architecture de référence pour développer une topologie répondant à vos exigences spécifiques en termes de sécurité, de fiabilité, de coût et de performances.

Les conseils de cette section ne sont pas exhaustifs. En fonction des exigences de votre charge de travail et des produits et fonctionnalités Google Cloud et tiers que vous utilisez, il peut y avoir d'autres facteurs de conception et compromis à prendre en compte.

Conception du système

Cette section fournit des conseils pour vous aider à choisir les régions Google Cloud pour votre déploiement et à sélectionner les produits et outils Google Cloud appropriés.

Sélection de la région

Lorsque vous sélectionnez des régions Google Cloud pour vos applications d'IA, tenez compte des facteurs suivants :

Pour sélectionner les emplacements Google Cloud appropriés pour vos applications, utilisez les outils suivants :

  • Google Cloud Outil de sélection de région : outil Web interactif permettant de sélectionner la région Google Cloudoptimale pour vos applications et vos données en fonction de facteurs tels que l'empreinte carbone, le coût et la latence.
  • API Cloud Location Finder : API publique qui fournit un moyen programmatique de trouver des emplacements de déploiement dans Google Cloud, Google Distributed Cloud et d'autres fournisseurs de services cloud.

Conception de l'agent

Cette section fournit des recommandations générales pour concevoir des agents IA. Les instructions détaillées sur l'écriture du code et de la logique de l'agent n'entrent pas dans le cadre de ce document.

  • Définition et conception de l'agent :
    • Définissez clairement l'objectif commercial du système d'IA agentique et la tâche effectuée par chaque agent.
    • Choisissez le modèle de conception d'agent qui répond le mieux à vos besoins.
    • Utilisez ADK pour créer, déployer et gérer efficacement votre architecture d'agents.
  • Interactions avec l'agent :
    • Concevez les agents humains de l'architecture pour qu'ils prennent en charge les interactions en langage naturel.
    • Assurez-vous que chaque agent communique clairement ses actions et son état aux clients qui en dépendent.
    • Concevez les agents de manière à détecter et à gérer les requêtes ambiguës et les interactions nuancées.
  • Contexte, outils et données :
    • Assurez-vous que les agents disposent d'un contexte suffisant pour suivre les interactions multitours et les paramètres de session.
    • Décrivez clairement l'objectif, les arguments et l'utilisation des outils que les agents peuvent utiliser.
    • Assurez-vous que les réponses des agents sont ancrées dans des sources de données fiables pour réduire les hallucinations.
    • Implémentez une logique pour gérer les situations sans correspondance, par exemple lorsqu'une requête est hors sujet.

Sécurité

Cette section décrit les considérations de conception et les recommandations pour concevoir une topologie dans Google Cloud qui répond aux exigences de sécurité de votre charge de travail.

Considérations de sécurité pour les agents

Les agents IA introduisent des risques de sécurité uniques et critiques que les pratiques de sécurité déterministes conventionnelles ne sont peut-être pas en mesure d'atténuer de manière adéquate. Google recommande une approche de sécurisation de l'IA qui combine les avantages des contrôles de sécurité déterministes avec des défenses dynamiques basées sur le raisonnement. Cette approche repose sur trois principes fondamentaux : la supervision humaine, l'autonomie soigneusement définie des agents et l'observabilité. Voici des recommandations spécifiques qui s'alignent sur ces principes fondamentaux.

  • Supervision humaine : un système d'IA agentive peut parfois échouer ou ne pas fonctionner comme prévu. Par exemple, le modèle peut générer du contenu inexact ou un agent peut sélectionner des outils inappropriés. Dans les systèmes d'IA agentique essentiels à l'activité, intégrez un flux human-in-the-loop (avec intervention humaine) pour permettre aux superviseurs humains de surveiller, de remplacer et de mettre en pause les agents. Par exemple, les utilisateurs humains peuvent examiner les résultats des agents, les approuver ou les rejeter, et fournir des conseils supplémentaires pour corriger les erreurs ou prendre des décisions stratégiques. Cette approche combine l'efficacité des systèmes d'IA agentive avec l'esprit critique et l'expertise métier des utilisateurs humains.
  • Identité de l'agent et accès de moindre privilège :
  • Gouvernance du trafic entrant et sortant : routez le trafic des agents via Agent Gateway pour appliquer des règles de sécurité d'exécution aux limites d'entrée et de sortie. Pour en savoir plus sur les plates-formes d'exécution compatibles avec Agent Gateway, consultez Environnements d'exécution d'agent compatibles.
    • Client vers agent (entrée) : déployez Agent Gateway devant votre Agent Runtime. La passerelle permet d'authentifier les appelants et d'inspecter les requêtes entrantes en temps réel à l'aide de Model Armor.
    • Agent vers n'importe où (sortie) :
      • Acheminez les requêtes sortantes d'agent à agent (A2A) et d'agent à outil (MCP) via Agent Gateway en mode sortie.
      • Appliquez des règles d'accès de refus par défaut à l'aide des règles d'accès IAM et d'Identity-Aware Proxy (IAP).
      • Vérifiez que les agents et outils cibles sont enregistrés dans Agent Registry.
      • Inspectez les appels et les réponses des outils sortants avec Model Armor pour empêcher l'exfiltration de données, l'injection indirecte de prompt et l'utilisation abusive des outils.
  • Surveillance : surveillez le comportement des agents à l'aide de fonctionnalités de traçage complètes qui vous permettent de suivre chaque action d'un agent, y compris son processus de raisonnement, la sélection d'outils et les chemins d'exécution. Pour en savoir plus, consultez Connexion d'un agent dans Agent Runtime et Connexion dans l'ADK.

Pour en savoir plus sur la sécurisation des agents IA, consultez Sûreté et sécurité des agents IA.

Points à noter concernant la sécurité d'Agent Platform

Pour vous assurer que les configurations et l'utilisation de votre plate-forme d'agents répondent à vos exigences de sécurité, tenez compte des recommandations suivantes :

  • Responsabilité partagée : la sécurité est une responsabilité partagée. Agent Platform sécurise l'infrastructure sous-jacente et fournit des outils et des contrôles de sécurité pour vous aider à protéger vos données, votre code et vos modèles. Vous êtes responsable de la configuration de vos services, de la gestion des contrôles d'accès et de la sécurisation de vos applications. Pour en savoir plus, consultez Responsabilité partagée de la plate-forme d'agent.
  • Contrôles de sécurité : Agent Platform est compatible avec Google Cloud des contrôles de sécurité que vous pouvez utiliser pour répondre à vos exigences en matière de résidence des données, de clés de chiffrement gérées par le client (CMEK), de sécurité réseau à l'aide de VPC Service Controls et d'Access Transparency. Pour en savoir plus, consultez la documentation suivante :
  • Sécurité : les modèles d'IA peuvent produire des réponses nuisibles, parfois en réponse à des requêtes malveillantes.
    • Pour améliorer la sécurité et limiter les cas d'utilisation abusive du système d'IA agentique, vous pouvez configurer des filtres de contenu pour bloquer les entrées et les réponses nuisibles. Pour en savoir plus, consultez Filtres de sécurité et de contenu.
    • Pour inspecter et nettoyer les requêtes d'inférence, les prompts d'agent, les appels d'outils et les réponses afin de détecter les menaces telles que l'injection de prompt et les contenus nuisibles, vous pouvez utiliser Model Armor pour les appels d'API de modèle directs et pour les requêtes acheminées via Agent Gateway. Model Armor vous aide à empêcher les entrées malveillantes, à vérifier la sécurité du contenu, à protéger les données sensibles, à maintenir la conformité et à appliquer de manière cohérente les règles de sécurité.
  • Accès aux modèles : vous pouvez configurer des règles d'administration pour limiter le type et les versions des modèles d'IA pouvant être utilisés dans un projet Google Cloud . Pour en savoir plus, consultez Contrôler l'accès aux modèles Model Garden.
  • Protection des données : pour découvrir et anonymiser les données sensibles dans les requêtes et les réponses, ainsi que dans les données de journaux, utilisez l'API Cloud Data Loss Prevention. Pour en savoir plus, consultez Anonymiser des données sensibles.

Points à noter concernant la sécurité de MCP

Pour vous assurer que votre implémentation de MCP répond à vos exigences de sécurité, tenez compte des recommandations suivantes :

  • Enregistrement et découverte d'outils : enregistrez les serveurs et les outils MCP dans Agent Registry afin que les agents ne se connectent qu'aux points de terminaison MCP inventoriés et approuvés par l'administrateur.
  • Contrôle des accès et inspection du trafic : acheminez le trafic entre l'agent et le serveur MCP via Agent Gateway en mode Agent-to-Anywhere (sortie) et protégez les serveurs MCP (comme ceux hébergés sur Cloud Run) à l'aide d'IAP et de stratégies d'accès IAM. Configurez des règles Model Armor ou de gouvernance sémantique sur Agent Gateway pour inspecter les entrées et sorties de l'outil MCP afin de détecter l'exposition de données sensibles et l'injection indirecte de prompt.
  • Sécurité générale du MCP : lorsque vous configurez vos agents pour qu'ils utilisent le MCP, assurez-vous que l'accès aux données et aux outils externes est autorisé, implémentez des contrôles de confidentialité tels que le chiffrement, appliquez des filtres pour protéger les données sensibles et surveillez les interactions des agents. Pour en savoir plus, consultez MCP et sécurité.

Considérations de sécurité pour les communications A2A

Pour vous assurer que votre implémentation A2A répond à vos exigences de sécurité, tenez compte des recommandations suivantes :

  • Sécurité du transport : le protocole A2A impose le protocole HTTPS pour toutes les communications A2A dans les environnements de production et recommande les versions 1.2 ou ultérieures de Transport Layer Security (TLS).
  • Authentification : le protocole A2A délègue l'authentification à des mécanismes Web standards tels que les en-têtes HTTP et à des normes telles que OAuth2 et OpenID Connect. Chaque agent annonce les exigences d'authentification dans sa fiche d'agent. Pour en savoir plus, consultez Authentification A2A.
  • Gouvernance entre agents : enregistrez les agents A2A dans Agent Registry et acheminez les requêtes entre agents via Agent Gateway. En combinant Agent Gateway avec Agent Identity, IAP et les règles d'accès IAM, vous pouvez valider de manière cryptographique l'identité de l'agent appelant, appliquer une autorisation précise entre les agents coordinateurs et les sous-agents, et inspecter les charges utiles entre les agents avec Model Armor.

Considérations de sécurité pour Cloud Run

Pour vous assurer que votre implémentation Cloud Run répond à vos exigences de sécurité, tenez compte des recommandations suivantes :

  • Sécurité d'entrée (pour le service d'interface) : pour contrôler l'accès à l'application, désactivez l'URL run.app par défaut du service Cloud Run d'interface et configurez un équilibreur de charge d'application externe régional. En plus d'équilibrer la charge du trafic entrant vers l'application, l'équilibreur de charge gère les certificats SSL. Pour une protection renforcée, vous pouvez utiliser des stratégies de sécurité Google Cloud Armor afin de fournir un filtrage des requêtes, une protection contre les attaques DDoS et une limitation du débit pour le service.

  • Authentification des utilisateurs :

    • Utilisateurs de votre organisation : pour authentifier l'accès des utilisateurs internes au service Cloud Run d'interface, utilisez IAP. Lorsqu'un utilisateur tente d'accéder à une ressource sécurisée par IAP, IAP effectue des vérifications d'authentification et d'autorisation.
    • Utilisateurs extérieurs à votre organisation : pour authentifier l'accès des utilisateurs externes au service d'interface, utilisez Identity Platform ou Firebase Authentication. Pour gérer l'accès des utilisateurs externes, configurez votre application de sorte qu'elle gère un flux de connexion et effectue des appels d'API authentifiés vers le service Cloud Run.

    Pour en savoir plus, consultez Authentifier les utilisateurs.

  • Sécurité de l'agent et du serveur MCP : lorsque vous hébergez des agents ou des serveurs MCP sur Cloud Run, configurez les fonctionnalités d'Agent Platform pour Cloud Run afin d'attribuer une identité d'agent gérée au service, et utilisez IAP avec Agent Gateway pour authentifier et autoriser les requêtes entrantes de l'agent et de l'outil.

  • Sécurité des images de conteneurs : pour vous assurer que seules les images de conteneurs autorisées sont déployées sur Cloud Run, vous pouvez utiliser l'autorisation binaire. Pour identifier et limiter les risques de sécurité dans les images de conteneurs, utilisez Artifact Analysis pour exécuter automatiquement des analyses de failles. Pour en savoir plus, consultez Présentation de l'analyse des conteneurs.

  • Résidence des données : Cloud Run vous aide à répondre aux exigences de résidence des données. Vos services Cloud Run s'exécutent dans la région sélectionnée.

Pour en savoir plus sur la sécurité des conteneurs, consultez Conseils de développement généraux pour Cloud Run.

Considérations de sécurité pour tous les produits Google Cloud de l'architecture

Pour vous assurer que votre architecture répond à vos exigences de sécurité, tenez compte des recommandations générales suivantes :

  • Chiffrement des données : par défaut, Google Cloud chiffre les données au repos à l'aide de Google-owned and Google-managed encryption keys. Pour protéger les données de vos agents à l'aide de clés de chiffrement que vous contrôlez, vous pouvez utiliser des CMEK que vous créez et gérez dans Cloud KMS. Pour en savoir plus sur les services Google Cloud compatibles avec Cloud KMS, consultez Services compatibles.
  • Limiter le risque d'exfiltration de données : pour réduire le risque d'exfiltration de données, créez un périmètre VPC Service Controls autour de l'infrastructure. VPC Service Controls est compatible avec tous les servicesGoogle Cloud utilisés par cette architecture de référence.
  • Contrôle des accès : lorsque vous configurez des autorisations pour les ressources de votre topologie, suivez le principe du moindre privilège.
  • Sécurité de l'environnement cloud : utilisez les outils de Security Command Center pour détecter les failles, identifier et atténuer les menaces, définir et déployer une stratégie de sécurité, et exporter des données pour une analyse plus approfondie.
  • Optimisation post-déploiement : après avoir déployé votre application dansGoogle Cloud, obtenez des recommandations pour optimiser davantage la sécurité à l'aide d'Active Assist. Examinez les recommandations et appliquez-les en fonction de votre environnement. Pour en savoir plus, consultez Trouver des recommandations dans Active Assist.

Pour connaître les principes et recommandations de sécurité spécifiques aux charges de travail d'IA et de ML, consultez Enjeux spécifiques à l'IA et au ML : sécurité dans le Well-Architected Framework.

Fiabilité

Cette section décrit les considérations de conception et les recommandations pour créer et exploiter une infrastructure fiable pour votre déploiement dans Google Cloud.

Considérations sur la fiabilité des agents

Pour vous assurer que vos configurations d'agent répondent à vos exigences de fiabilité, tenez compte des recommandations suivantes :

  • Tolérance aux pannes : concevez le système agentif de manière à tolérer ou à gérer les défaillances au niveau de l'agent. Dans la mesure du possible, utilisez une approche décentralisée où les agents peuvent fonctionner de manière indépendante.
  • Simuler des défaillances : avant de déployer le système d'IA agentique en production, validez-le en simulant un environnement de production. Identifiez et corrigez les problèmes de coordination entre les agents et les comportements inattendus.
  • Gestion des erreurs : pour permettre le diagnostic et le dépannage des erreurs, implémentez des mécanismes de journalisation, de gestion des exceptions et de nouvelle tentative.

Considérations relatives à la fiabilité d'Agent Platform

Pour vous assurer que vos configurations et votre utilisation d'Agent Platform répondent à vos exigences de fiabilité, tenez compte des recommandations suivantes :

  • Planification de la capacité : si le nombre de vos requêtes dépasse la capacité allouée, le code d'erreur 429 est renvoyé. Pour les charges de travail critiques qui nécessitent systématiquement un haut débit, vous pouvez réserver du débit à l'aide du débit provisionné.
  • Disponibilité du point de terminaison du modèle : si les données peuvent être partagées entre plusieurs régions ou pays, vous pouvez utiliser un point de terminaison global pour le modèle.

Robustesse de Cloud Run en cas de pannes zonales et régionales

Cloud Run est un service régional. Il stocke les données de manière synchrone dans plusieurs zones d'une région et équilibre automatiquement la charge du trafic entre les zones. En cas de panne zonale, Cloud Run continue de s'exécuter et les données ne sont pas perdues. Si une panne régionale se produit, le service cesse de fonctionner jusqu'à ce que Google la résolve.

Considérations de fiabilité pour tous les produits Google Cloud de l'architecture

Après avoir déployé votre application dans Google Cloud, obtenez des recommandations pour optimiser davantage la fiabilité à l'aide d'Active Assist. Examinez les recommandations et appliquez-les en fonction de votre environnement. Pour en savoir plus, consultez Trouver des recommandations dans Active Assist.

Pour connaître les principes et recommandations de fiabilité spécifiques aux charges de travail d'IA et de ML, consultez Enjeux spécifiques à l'IA et au ML : fiabilité dans le Well-Architected Framework.

Opérations

Cette section décrit les facteurs à prendre en compte lorsque vous utilisez cette architecture de référence pour concevoir une topologie Google Cloud que vous pouvez exploiter efficacement.

Considérations relatives aux opérations Agent Platform

Pour vous assurer que les configurations et l'utilisation de votre plate-forme d'agent répondent à vos exigences opérationnelles, tenez compte des recommandations suivantes :

  • Surveillance à l'aide de journaux : par défaut, les journaux d'agent écrits dans les flux stdout et stderr sont acheminés vers Cloud Logging. Pour une journalisation avancée, vous pouvez intégrer l'enregistreur Python à Cloud Logging. Si vous avez besoin d'un contrôle total sur la journalisation et les journaux structurés, utilisez le client Cloud Logging. Pour en savoir plus, consultez Journaliser un agent et Journaliser dans l'ADK.
  • Évaluation continue : effectuez régulièrement une évaluation qualitative de la sortie des agents et de la trajectoire ou des étapes suivies par les agents pour produire la sortie. Pour implémenter l'évaluation des agents, vous pouvez utiliser le service d'évaluation de l'IA générative ou les méthodes d'évaluation compatibles avec ADK.

Considérations concernant les opérations MCP

Pour vous assurer que votre implémentation MCP répond à vos exigences opérationnelles, tenez compte des recommandations suivantes :

  • Outils de base de données : pour gérer efficacement les outils de base de données pour vos agents IA et vous assurer qu'ils gèrent de manière sécurisée les complexités telles que le regroupement de connexions et l'authentification, utilisez MCP Toolbox for Databases. Il fournit un emplacement centralisé pour stocker et mettre à jour les outils de base de données. Vous pouvez partager les outils entre les agents et les mettre à jour sans les redéployer. La boîte à outils comprend un large éventail d'outils pour les bases de données Google Cloudcomme AlloyDB pour PostgreSQL et pour les bases de données tierces comme MongoDB.
  • Modèles d'IA générative : pour permettre aux agents IA d'utiliser les modèles d'IA générative de Google tels qu'Imagen et Veo, vous pouvez utiliser les serveurs MCP pour les API de contenus multimédias génératifs Google Cloud .
  • Produits et outils de sécurité Google : pour permettre à vos agents IA d'accéder aux produits et outils de sécurité Google tels que Google Security Operations, Google Threat Intelligence et Security Command Center, utilisez les serveurs MCP pour les produits de sécurité Google.

Considérations opérationnelles pour tous les produits Google Cloud de l'architecture

Recueillez et analysez en continu les données de trace à l'aide de Cloud Trace. Les données de trace vous permettent d'identifier et de diagnostiquer rapidement les erreurs dans les workflows d'agents complexes. Vous pouvez effectuer une analyse approfondie grâce aux visualisations de l'outil Explorateur de traces. Pour en savoir plus, consultez Afficher les traces de l'agent.

Pour connaître les principes et recommandations d'excellence opérationnelle spécifiques aux charges de travail d'IA et de ML, consultez Perspective de l'IA et du ML : excellence opérationnelle dans le Well-Architected Framework.

Optimisation des coûts

Cette section fournit des conseils pour optimiser les coûts de configuration et d'exploitation d'une topologie Google Cloud que vous créez à l'aide de cette architecture de référence.

Considérations relatives aux coûts d'Agent Platform

Pour vous assurer que les configurations et l'utilisation de votre plate-forme d'agents répondent à vos exigences de coût, tenez compte des recommandations suivantes :

  • Analyse et gestion des coûts : pour analyser et gérer les coûts d'Agent Platform, nous vous recommandons de créer des métriques de référence pour les requêtes par seconde (RPS) et les jetons par seconde (TPS). Ensuite, surveillez ces métriques après le déploiement. La référence permet également de planifier la capacité. Par exemple, la référence vous aide à déterminer quand un débit provisionné peut être nécessaire.
  • Sélection du modèle : le modèle que vous sélectionnez pour votre application d'IA a un impact direct sur les coûts et les performances. Pour identifier le modèle qui offre un équilibre optimal entre performances et coût pour votre cas d'utilisation spécifique, testez les modèles de manière itérative. Nous vous recommandons de commencer par le modèle le plus économique et de passer progressivement à des options plus puissantes.
  • Prompting économique : la longueur de vos prompts (entrée) et des réponses générées (sortie) affecte directement les performances et les coûts. Rédigez des prompts courts, directs et fournissant suffisamment de contexte. Concevez vos requêtes de manière à obtenir des réponses concises du modèle. Par exemple, incluez des expressions telles que "résumer en deux phrases" ou "lister trois points clés". Pour en savoir plus, consultez les bonnes pratiques pour la conception de requêtes.
  • Cache de contexte : pour réduire le coût des requêtes contenant du contenu répété avec un nombre élevé de jetons d'entrée, utilisez le cache de contexte.
  • Requêtes par lot : le cas échéant, envisagez d'utiliser la prédiction par lot. Les requêtes par lot sont moins coûteuses que les requêtes standards.

Considérations liées aux coûts de Cloud Run

Pour vous assurer que votre implémentation Cloud Run répond à vos exigences de coût, tenez compte des recommandations suivantes :

Considérations sur les coûts pour tous les produits Google Cloud de l'architecture

Après avoir déployé votre application dans Google Cloud, obtenez des recommandations pour optimiser davantage les coûts à l'aide d'Active Assist. Examinez les recommandations et appliquez-les en fonction de votre environnement. Pour en savoir plus, consultez Trouver des recommandations dans Active Assist.

Pour estimer le coût de vos ressources Google Cloud , utilisez le simulateur de coûtGoogle Cloud .

Pour connaître les principes et recommandations d'optimisation des coûts spécifiques aux charges de travail d'IA et de ML, consultez Perspective de l'IA et du ML : optimisation des coûts dans le Well-Architected Framework.

Optimisation des performances

Cette section décrit les considérations de conception et les recommandations pour concevoir une topologie dans Google Cloud qui répond aux exigences de performances de vos charges de travail.

Considérations sur les performances des agents

Pour vous assurer que vos configurations d'agent répondent à vos exigences de performances, tenez compte des recommandations suivantes :

  • Sélection du modèle : lorsque vous sélectionnez des modèles pour votre système d'IA agentive, tenez compte des fonctionnalités requises pour les tâches que les agents doivent effectuer.
  • Optimisation des requêtes : pour améliorer et optimiser rapidement les performances des requêtes à grande échelle et éliminer le besoin de réécriture manuelle, utilisez l'optimiseur de requêtes de la plate-forme d'agents. L'optimiseur vous aide à adapter efficacement les prompts à différents modèles.

Considérations sur les performances d'Agent Platform

Pour vous assurer que les configurations et l'utilisation de votre plate-forme d'agent répondent à vos exigences de performances, tenez compte des recommandations suivantes :

  • Sélection du modèle : le modèle que vous sélectionnez pour votre application d'IA a un impact direct sur les coûts et les performances. Pour identifier le modèle qui offre un équilibre optimal entre performances et coût pour votre cas d'utilisation spécifique, testez les modèles de manière itérative. Nous vous recommandons de commencer par le modèle le plus économique et de passer progressivement à des options plus puissantes.
  • Prompt engineering : la longueur de vos prompts (entrée) et des réponses générées (sortie) affecte directement les performances et les coûts. Rédigez des prompts courts, directs et fournissant suffisamment de contexte. Concevez vos requêtes de manière à obtenir des réponses concises du modèle. Par exemple, incluez des expressions telles que "résumer en deux phrases" ou "lister trois points clés". Pour en savoir plus, consultez les bonnes pratiques pour la conception de requêtes.
  • Cache de contexte : pour réduire la latence des requêtes contenant du contenu répété avec un nombre élevé de jetons d'entrée, utilisez le cache de contexte.

Considérations sur les performances de Cloud Run

En fonction de vos exigences de performances, configurez la mémoire et le processeur à allouer au service Cloud Run. Pour en savoir plus, consultez Configurer les limites de mémoire pour les services et Configurer les limites de processeur pour les services.

Pour obtenir d'autres conseils d'optimisation des performances, consultez Conseils de développement généraux pour Cloud Run.

Considérations relatives aux performances pour tous les produits Google Cloud de l'architecture

Après avoir déployé votre application dans Google Cloud, obtenez des recommandations pour optimiser davantage les performances à l'aide d'Active Assist. Examinez les recommandations et appliquez-les en fonction de votre environnement. Pour en savoir plus, consultez Trouver des recommandations dans Active Assist.

Pour connaître les principes et recommandations d'optimisation des performances spécifiques aux charges de travail d'IA et de ML, consultez Perspective de l'IA et du ML : optimisation des performances dans le Well-Architected Framework.

Déploiement

Pour apprendre à créer et à déployer des systèmes d'IA multi-agents, utilisez les exemples de code suivants. Ces exemples de code sont des points de départ entièrement fonctionnels pour l'apprentissage et l'expérimentation. Pour un fonctionnement optimal dans les environnements de production, vous devez personnaliser le code en fonction de vos exigences commerciales et techniques spécifiques.

Étapes suivantes

Contributeurs

Auteur : Kumar Dhanagopal | Cross-product solution developer

Autres contributeurs :