Sistema di AI multi-agente in Google Cloud

Last reviewed 2026-10-09 UTC

Questo documento fornisce un'architettura di riferimento per aiutarti a progettare sistemi di AI multi-agente affidabili in Google Cloud. Un sistema di AI multi-agente ottimizza i processi complessi e dinamici suddividendoli in attività distinte che più agenti AI specializzati eseguono in modo collaborativo.

Il pubblico di destinazione di questo documento include architetti, sviluppatori e amministratori che creano e gestiscono l'infrastruttura e le applicazioni di AI nel cloud. Questo documento presuppone una conoscenza di base degli agenti e dei modelli AI. Il documento non fornisce indicazioni specifiche per la progettazione e la programmazione di agenti AI.

La sezione Deployment di questo documento elenca gli esempi di codice che puoi utilizzare per imparare a creare ed eseguire il deployment di sistemi AI multi-agente.

Architettura

Il seguente diagramma mostra un'architettura per un esempio di sistema di AI multi-agente di cui è stato eseguito il deployment in Google Cloud.

Architettura per un sistema di AI multi-agente in Google Cloud. Architettura per un sistema di AI multi-agente in Google Cloud.

Componenti dell'architettura

L'architettura di esempio nella sezione precedente contiene i seguenti componenti:

Frontend
Gli utenti interagiscono con il sistema multi-agente tramite un frontend, ad esempio un'interfaccia di chat, che viene eseguito come servizio Cloud Run serverless.
Agenti

In questo esempio, un agente coordinatore controlla il sistema di AI agentica. L'agente coordinatore richiama un sub-agente appropriato per attivare il flusso dell'agente. Gli agenti possono comunicare tra loro utilizzando il protocollo Agent2Agent (A2A), che consente l'interoperabilità tra gli agenti indipendentemente dal linguaggio di programmazione e dal runtime. L'architettura di esempio mostra gli agenti in un pattern sequenziale e un pattern di perfezionamento iterativo.

Per saperne di più sui subagenti in questo esempio, consulta la sezione Flusso degli agenti.

Agent Runtime

È possibile eseguire il deployment degli agenti AI come servizi Cloud Run serverless, come app containerizzate su Google Kubernetes Engine (GKE) o su Agent Runtime su Gemini Enterprise Agent Platform.

ADK

Agent Development Kit (ADK) fornisce strumenti e un framework per sviluppare, testare ed eseguire il deployment degli agenti. ADK astrae la complessità della creazione degli agenti e consente agli sviluppatori di AI di concentrarsi sulla logica e sulle funzionalità degli agenti.

Modello di AI e runtime del modello

Per l'inferenza, gli agenti in questa architettura di esempio utilizzano un modello di AI su Gemini Enterprise Agent Platform. L'architettura mostra Cloud Run e GKE come runtime alternativi per il modello di AI che scegli di utilizzare.

Model Armor

Model Armor consente l'ispezione e la sanitizzazione degli input e delle risposte per i modelli di cui è stato eseguito il deployment in Agent Platform e GKE. Model Armor può essere utilizzato anche per il traffico di agenti e strumenti instradato tramite Agent Gateway. Per saperne di più, consulta Integrazione di Model Armor con i servizi Google Cloud .

Client, server e strumenti MCP

Il Model Context Protocol (MCP) facilita l'accesso agli strumenti standardizzando l'interazione tra agenti e strumenti. Per ogni coppia agente-strumento, un client MCP invia richieste a un server MCP tramite il quale l'agente accede a uno strumento come un database, un file system o un'API.

Flusso agentico

Il sistema multi-agente di esempio nell'architettura precedente ha il seguente flusso:

  1. Un utente inserisce un prompt tramite un frontend, ad esempio un'interfaccia di chat, che viene eseguito come servizio Cloud Run serverless.
  2. Il frontend inoltra il prompt a un agente coordinatore.

  3. L'agente coordinatore avvia uno dei seguenti flussi agentici in base all'intent espresso nel prompt.

    • Sequenziale:
      1. Il subagente dell'attività A esegue un'attività.
      2. Il subagente dell'attività A richiama il subagente dell'attività A.1.

    • Perfezionamento iterativo:

      1. Il subagente dell'attività B esegue un'attività.
      2. Il subagente di valutazione della qualità esamina l'output del subagente dell'attività B.
      3. Se l'output non è soddisfacente, il valutatore della qualità richiama il subagente di ottimizzazione dei prompt per perfezionare il prompt.
      4. Il subagente dell'attività B esegue nuovamente l'attività utilizzando il prompt migliorato.

      Questo ciclo continua finché l'output non è soddisfacente o non viene raggiunto il numero massimo di iterazioni.

    L'architettura di esempio include un percorso human-in-the-loop per consentire agli utenti umani di intervenire nel flusso agentico quando necessario.

  4. Il sub-agente task-A.1 e il sub-agente valutatore della qualità richiamano in modo indipendente il sub-agente generatore di risposte.

  5. Il subagente generatore di risposte genera una risposta, esegue i controlli di convalida e grounding, quindi invia la risposta finale all'utente tramite l'agente coordinatore.

Prodotti e strumenti utilizzati

Questa architettura di riferimento utilizza i seguenti prodotti e strumenti Google Cloud e di terze parti:

  • Cloud Run: una piattaforma di serverless computing che consente di eseguire container direttamente sull'infrastruttura scalabile di Google.
  • Gemini Enterprise Agent Platform: una piattaforma completa che ti consente di creare, scalare, gestire e ottimizzare agenti AI di livello enterprise.
  • Google Kubernetes Engine (GKE): un servizio Kubernetes che puoi utilizzare per eseguire il deployment e gestire applicazioni containerizzate su larga scala utilizzando l'infrastruttura di Google.
  • Model Armor: un servizio che protegge le tue risorse di AI generativa e agentica da prompt injection, fughe di dati sensibili e contenuti dannosi.
  • Agent Development Kit (ADK): un insieme di strumenti e librerie per sviluppare, testare ed eseguire il deployment di agenti AI.
  • Protocollo Agent2Agent (A2A): un protocollo aperto che consente la comunicazione e l'interoperabilità tra gli agenti indipendentemente dal linguaggio di programmazione e dal runtime.
  • Model Context Protocol (MCP): uno standard open source per connettere le applicazioni AI a sistemi esterni.

Casi d'uso

I sistemi di AI multi-agente sono adatti per casi d'uso complessi che richiedono la collaborazione e il coordinamento di più competenze specializzate per raggiungere un obiettivo commerciale. Per identificare i casi d'uso per cui sono adatti i sistemi AI multi-agente, analizza i tuoi processi aziendali e identifica le attività specifiche che l'AI può migliorare. Concentrati su risultati aziendali tangibili, come la riduzione dei costi e l'accelerazione dell'elaborazione. Questo approccio aiuta ad allineare gli investimenti nell'AI al valore aziendale.

Di seguito sono riportati alcuni esempi di casi d'uso per i sistemi di AI multi-agente.

Consulente finanziario

Fornire consigli personalizzati sul trading di azioni ed eseguire operazioni. Il seguente diagramma mostra un esempio di flusso agentico per questo caso d'uso. Questo esempio utilizza un pattern sequenziale.

Caso d'uso di un consulente finanziario per un sistema multi-agente.

Il diagramma mostra il seguente flusso:

  1. Un agente di recupero dati recupera i prezzi delle azioni in tempo reale e storici, i report finanziari delle società e altri dati pertinenti da fonti affidabili.
  2. Un agente di analisi finanziaria applica ai dati tecniche di analisi e creazione di grafici appropriate, identifica i pattern di movimento dei prezzi e formula previsioni.
  3. Un agente di suggerimenti azionari utilizza l'analisi e i grafici per generare suggerimenti personalizzati per l'acquisto e la vendita di azioni specifiche in base al profilo di rischio e agli obiettivi di investimento dell'utente.
  4. Un agente di esecuzione delle operazioni di trading acquista e vende azioni per conto dell'utente.

Assistente di ricerca

Crea un piano di ricerca, raccogli informazioni, valuta e perfeziona la ricerca, quindi componi un report. Il seguente diagramma mostra un esempio di flusso agentico per questo caso d'uso. Il flusso principale in questo esempio utilizza un pattern sequenziale. L'esempio include anche un pattern di perfezionamento iterativo.

Caso d'uso dell'assistente di ricerca per un sistema multi-agente.

Il diagramma mostra il seguente flusso:

  1. Un agente di pianificazione crea un piano di ricerca dettagliato.

  2. Un agente di ricerca completa le seguenti attività:

    1. Utilizza il piano di ricerca per identificare le origini dati interne ed esterne appropriate.
    2. Raccoglie e analizza i dati richiesti.
    3. Prepara un riepilogo della ricerca e lo fornisce a un agente valutatore.

    L'agente ricercatore ripete queste attività finché l'agente valutatore non approva la ricerca.

  3. Un agente di composizione dei report crea il report di ricerca finale.

Ottimizzatore della catena di fornitura

Ottimizza l'inventario, monitora le spedizioni e comunica con i partner della catena di fornitura. Il seguente diagramma mostra un esempio di flusso agentico per questo caso d'uso. Questo esempio utilizza un pattern sequenziale.

Caso d'uso dell'ottimizzatore della catena di fornitura per un sistema multi-agente.

  1. Un agente responsabile del magazzino garantisce livelli di stock ottimali creando ordini di rifornimento in base all'inventario, alle previsioni della domanda e ai tempi di risposta dei fornitori.

    • L'agente interagisce con l'agente di monitoraggio delle spedizioni per monitorare le consegne.
    • L'agente interagisce con l'agente di comunicazione con i fornitori per informare i fornitori delle modifiche agli ordini.

  2. Un agente di monitoraggio delle spedizioni garantisce l'evasione tempestiva ed efficiente degli ordini integrandosi con le piattaforme logistiche dei fornitori e i sistemi dei corrieri.

  3. Un agente di comunicazione con i fornitori comunica con i fornitori esterni per conto degli altri agenti del sistema.

Alternative di design

A seconda dei tuoi requisiti di gestibilità, controllo e flessibilità, puoi scegliere tra una gamma di opzioni di runtime in Google Cloud per i tuoi agenti AI e il tuo modello. Per saperne di più, consulta Scegli i componenti dell'architettura AI agentica.

Considerazioni sulla progettazione

Questa sezione descrive i fattori di progettazione, le best practice e i suggerimenti da considerare quando utilizzi questa architettura di riferimento per sviluppare una topologia che soddisfi i tuoi requisiti specifici di sicurezza, affidabilità, costi e prestazioni.

Le indicazioni riportate in questa sezione non sono esaustive. A seconda dei requisiti del tuo workload e dei prodotti e delle funzionalità Google Cloud e di terze parti che utilizzi, potrebbero esserci ulteriori fattori di progettazione e compromessi da considerare.

Progettazione del sistema

Questa sezione fornisce indicazioni per aiutarti a scegliere le regioni Google Cloud per il tuo deployment e a selezionare i prodotti e gli strumenti Google Cloud appropriati.

Selezione delle regioni

Quando selezioni le regioni Google Cloud per le tue applicazioni di AI, tieni presente i seguenti fattori:

Per selezionare le località Google Cloud appropriate per le tue applicazioni, utilizza i seguenti strumenti:

  • Google Cloud Selettore di regioni: uno strumento interattivo basato sul web per selezionare la regione Google Cloud ottimale per le tue applicazioni e i tuoi dati in base a fattori come impronta di carbonio, costo e latenza.
  • API Cloud Location Finder: un'API pubblica che fornisce un modo programmatico per trovare le località di deployment in Google Cloud, Google Distributed Cloud e altri cloud provider.

Progettazione di agenti

Questa sezione fornisce suggerimenti generali per la progettazione di agenti AI. Le indicazioni dettagliate sulla scrittura del codice e della logica dell'agente non rientrano nell'ambito di questo documento.

  • Definizione e progettazione degli agenti:
    • Definisci chiaramente l'obiettivo commerciale del sistema di AI agentica e l'attività che ogni agente esegue.
    • Scegli un pattern di progettazione degli agenti che soddisfi al meglio i tuoi requisiti.
    • Utilizza ADK per creare, eseguire il deployment e gestire in modo efficiente la tua architettura di agenti.
  • Interazioni con l'agente:
    • Progetta gli agenti rivolti agli utenti nell'architettura per supportare le interazioni in linguaggio naturale.
    • Assicurati che ogni agente comunichi chiaramente le proprie azioni e il proprio stato ai client dipendenti.
    • Progetta gli agenti in modo che rilevino e gestiscano query ambigue e interazioni sfumate.
  • Contesto, strumenti e dati:
    • Assicurati che gli agenti abbiano un contesto sufficiente per monitorare le interazioni a più turni e i parametri della sessione.
    • Descrivi chiaramente lo scopo, gli argomenti e l'utilizzo degli strumenti che gli agenti possono utilizzare.
    • Assicurati che le risposte degli agenti siano basate su origini dati affidabili per ridurre le allucinazioni.
    • Implementa la logica per gestire le situazioni di mancata corrispondenza, ad esempio quando un prompt è fuori tema.

Sicurezza

Questa sezione descrive le considerazioni e i suggerimenti per la progettazione di una topologia in Google Cloud che soddisfi i requisiti di sicurezza del tuo workload.

Considerazioni sulla sicurezza per gli agenti

Gli agenti AI introducono alcuni rischi per la sicurezza unici e critici che le pratiche di sicurezza convenzionali e deterministiche potrebbero non essere in grado di mitigare adeguatamente. Google consiglia un approccio per la protezione dell'AI che combina i punti di forza dei controlli di sicurezza deterministici con difese dinamiche basate sul ragionamento. Questo approccio si basa su tre principi fondamentali: supervisione umana, autonomia degli agenti attentamente definita e osservabilità. Di seguito sono riportati consigli specifici in linea con questi principi fondamentali.

  • Supervisione umana: un sistema di AI agentica potrebbe a volte non funzionare o non comportarsi come previsto. Ad esempio, il modello potrebbe generare contenuti imprecisi o un agente potrebbe selezionare strumenti inappropriati. Nei sistemi di AI agentica business-critical, incorpora un flusso human-in-the-loop per consentire ai supervisori umani di monitorare, eseguire l'override e mettere in pausa gli agenti. Ad esempio, gli utenti umani possono esaminare l'output degli agenti, approvarlo o rifiutarlo e fornire ulteriori indicazioni per correggere gli errori o prendere decisioni strategiche. Questo approccio combina l'efficienza dei sistemi di AI agentica con il pensiero critico e l'esperienza di dominio degli utenti umani.
  • Agent Identity e accesso con privilegi minimi:
  • Governance del traffico in entrata e in uscita: instrada il traffico degli agenti tramite Agent Gateway per applicare le policy di sicurezza di runtime sia ai confini in entrata che in uscita. Per informazioni sulle piattaforme di runtime che supportano Agent Gateway, consulta Runtime degli agenti supportati.
    • Da client ad agente (in entrata): esegui il deployment di Agent Gateway davanti all'Agent Runtime. Il gateway aiuta ad autenticare i chiamanti e a ispezionare i prompt in entrata in tempo reale utilizzando Model Armor.
    • Da agente a ovunque (in uscita):
      • Instrada le richieste in uscita da agente ad agente (A2A) e da agente a strumento (MCP) tramite Agent Gateway in modalità in uscita.
      • Applica policy di accesso con rifiuto predefinito utilizzando le policy di accesso IAM e Identity-Aware Proxy (IAP).
      • Verifica che gli agenti e gli strumenti di destinazione siano registrati in Agent Registry.
      • Ispeziona le chiamate e le risposte degli strumenti in uscita con Model Armor per contribuire a prevenire l'esfiltrazione di dati, il prompt injection indiretto e l'uso improprio degli strumenti.
  • Monitoraggio: monitora il comportamento degli agenti utilizzando funzionalità di tracciamento complete che ti offrono visibilità su ogni azione intrapresa da un agente, tra cui il processo di ragionamento, la selezione degli strumenti e i percorsi di esecuzione. Per maggiori informazioni, consulta Accesso di un agente in Agent Runtime e Accesso in ADK.

Per saperne di più sulla protezione degli agenti AI, consulta Sicurezza e protezione per gli agenti AI.

Considerazioni sulla sicurezza di Agent Platform

Per assicurarti che le configurazioni e l'utilizzo della piattaforma degli agenti soddisfino i tuoi requisiti di sicurezza, tieni presente i seguenti suggerimenti:

  • Responsabilità condivisa: la sicurezza è una responsabilità condivisa. Agent Platform protegge l'infrastruttura sottostante e fornisce strumenti e controlli di sicurezza per aiutarti a proteggere i tuoi dati, il tuo codice e i tuoi modelli. Sei responsabile della corretta configurazione dei tuoi servizi, della gestione dei controlli di accesso e della protezione delle tue applicazioni. Per saperne di più, consulta Responsabilità condivisa di Agent Platform.
  • Controlli di sicurezza: Agent Platform supporta Google Cloud controlli di sicurezza che puoi utilizzare per soddisfare i tuoi requisiti di residenza dei dati, chiavi di crittografia gestite dal cliente (CMEK), sicurezza di rete utilizzando i Controlli di servizio VPC e Access Transparency. Per saperne di più, consulta la seguente documentazione:
  • Sicurezza: i modelli di AI potrebbero produrre risposte dannose, a volte in risposta a prompt dannosi.
    • Per migliorare la sicurezza e mitigare il potenziale uso improprio del sistema di AI agentica, puoi configurare i filtri dei contenuti in modo che fungano da barriere per input e risposte dannosi. Per saperne di più, consulta Filtri di sicurezza e dei contenuti.
    • Per ispezionare e sanificare le richieste di inferenza, i prompt degli agenti, le chiamate degli strumenti e le risposte per rilevare minacce come prompt injection e contenuti dannosi, puoi utilizzare Model Armor per le chiamate API dirette al modello e per le richieste instradate tramite Agent Gateway. Model Armor ti aiuta a prevenire input dannosi, verificare la sicurezza dei contenuti, proteggere i dati sensibili, mantenere la conformità e applicare in modo coerente le policy di sicurezza.
  • Accesso ai modelli: puoi configurare policy dell'organizzazione per limitare il tipo e le versioni dei modelli di AI che possono essere utilizzati in un progetto Google Cloud . Per saperne di più, consulta Controlla l'accesso ai modelli di Model Garden.
  • Protezione dei dati: per rilevare e anonimizzare i dati sensibili nei prompt e nelle risposte e nei dati di log, utilizza l'API Cloud Data Loss Prevention. Per ulteriori informazioni, consulta Anonimizzazione dei dati sensibili.

Considerazioni sulla sicurezza di MCP

Per assicurarti che l'implementazione di MCP soddisfi i tuoi requisiti di sicurezza, tieni presente i seguenti suggerimenti:

  • Registrazione e rilevamento degli strumenti: registra i server e gli strumenti MCP in Agent Registry in modo che gli agenti si connettano solo agli endpoint MCP inventariati e approvati dall'amministratore.
  • Controllo degli accessi e ispezione del traffico: instrada il traffico dall'agente all'MCP tramite Agent Gateway in modalità Agent-to-Anywhere (traffico in uscita) e proteggi i server MCP (ad esempio i server MCP ospitati su Cloud Run) utilizzando IAP e le policy di accesso IAM. Configura Model Armor o le norme di governance semantica su Agent Gateway per ispezionare gli input e gli output dello strumento MCP per l'esposizione dei dati sensibili e il prompt injection indiretto.
  • Sicurezza generale dell'MCP: quando configuri gli agenti per l'utilizzo dell'MCP, assicurati che l'accesso a dati e strumenti esterni sia autorizzato, implementa controlli per la privacy come la crittografia, applica filtri per proteggere i dati sensibili e monitora le interazioni degli agenti. Per saperne di più, consulta MCP e sicurezza.

Considerazioni sulla sicurezza A2A

Per assicurarti che l'implementazione A2A soddisfi i tuoi requisiti di sicurezza, tieni presente i seguenti consigli:

  • Sicurezza del trasporto: il protocollo A2A richiede HTTPS per tutte le comunicazioni A2A negli ambienti di produzione e consiglia Transport Layer Security (TLS) versioni 1.2 o successive.
  • Autenticazione: il protocollo A2A delega l'autenticazione a meccanismi web standard come le intestazioni HTTP e a standard come OAuth2 e OpenID Connect. Ogni agente pubblicizza i requisiti di autenticazione nella propria scheda agente. Per saperne di più, consulta Autenticazione A2A.
  • Governance tra agenti: registra gli agenti A2A in Agent Registry e instrada le richieste tra agenti tramite Agent Gateway. Combinando Agent Gateway con Agent Identity, IAP e policy di accesso IAM, puoi verificare in modo crittografico l'identità dell'agente chiamante, applicare un'autorizzazione granulare tra agenti coordinatori e subagenti e ispezionare i payload tra agenti con Model Armor.

Considerazioni sulla sicurezza di Cloud Run

Per assicurarti che l'implementazione di Cloud Run soddisfi i tuoi requisiti di sicurezza, tieni presente i seguenti suggerimenti:

  • Sicurezza del traffico in entrata (per il servizio frontend): per controllare l'accesso all'applicazione, disattiva l'URL run.app predefinito del servizio Cloud Run di frontend e configura un bilanciatore del carico delle applicazioni esterno regionale. Oltre a bilanciare il carico del traffico in entrata verso l'applicazione, il bilanciatore del carico gestisce la gestione dei certificati SSL. Per una maggiore protezione, puoi utilizzare le policy di sicurezza di Google Cloud Armor per fornire il filtro delle richieste, la protezione DDoS e la limitazione di frequenza per il servizio.

  • Autenticazione utente:

    • Utenti all'interno della tua organizzazione: per autenticare l'accesso degli utenti interni al servizio Cloud Run frontend, utilizza IAP. Quando un utente tenta di accedere a una risorsa protetta da IAP, IAP esegue i controlli di autenticazione e autorizzazione.
    • Utenti esterni alla tua organizzazione: per autenticare l'accesso degli utenti esterni al servizio frontend, utilizza Identity Platform o Firebase Authentication. Per gestire l'accesso degli utenti esterni, configura l'applicazione in modo che gestisca un flusso di accesso ed effettui chiamate API autenticate al servizio Cloud Run.

    Per saperne di più, consulta Autenticazione degli utenti.

  • Sicurezza degli agenti e dei server MCP: quando ospiti agenti o server MCP su Cloud Run, configura le funzionalità di Agent Platform per Cloud Run per assegnare un'identità dell'agente gestita al servizio e utilizza IAP con Agent Gateway per autenticare e autorizzare le richieste di agenti e strumenti in entrata.

  • Sicurezza delle immagini container: per garantire che venga eseguito il deployment in Cloud Run solo delle immagini container autorizzate, puoi utilizzare Autorizzazione binaria. Per identificare e mitigare i rischi per la sicurezza nelle immagini container, utilizza Artifact Analysis per eseguire automaticamente le analisi delle vulnerabilità. Per saperne di più, consulta la panoramica dell'analisi dei container.

  • Residenza dei dati: Cloud Run ti aiuta a soddisfare i requisiti di residenza dei dati. I servizi Cloud Run vengono eseguiti all'interno della regione selezionata.

Per ulteriori indicazioni sulla sicurezza dei container, consulta Suggerimenti generali per lo sviluppo di Cloud Run.

Considerazioni sulla sicurezza per tutti i prodotti Google Cloud nell'architettura

Per assicurarti che la tua architettura soddisfi i requisiti di sicurezza, tieni presente i seguenti suggerimenti generali:

  • Crittografia dei dati: per impostazione predefinita, Google Cloud cripta i dati at-rest utilizzando Google-owned and Google-managed encryption keys. Per proteggere i dati degli agenti utilizzando chiavi di crittografia che controlli, puoi utilizzare le CMEK che crei e gestisci in Cloud KMS. Per informazioni sui servizi Google Cloud compatibili con Cloud KMS, consulta Servizi compatibili.
  • Mitiga il rischio di esfiltrazione di dati: per ridurre il rischio di esfiltrazione di dati, crea un perimetro dei Controlli di servizio VPC attorno all'infrastruttura. I Controlli di servizio VPC supportano tutti i serviziGoogle Cloud utilizzati da questa architettura di riferimento.
  • Controllo degli accessi: quando configuri le autorizzazioni per le risorse nella tua topologia, segui il principio del privilegio minimo.
  • Sicurezza dell'ambiente cloud: utilizza gli strumenti di Security Command Center per rilevare le vulnerabilità, identificare e mitigare le minacce, definire e implementare una security posture ed esportare i dati per ulteriori analisi.
  • Ottimizzazione post-deployment: dopo aver eseguito il deployment dell'applicazione inGoogle Cloud, ricevi consigli per ottimizzare ulteriormente la sicurezza utilizzando Active Assist. Esamina i suggerimenti e applicali in base alle esigenze del tuo ambiente. Per saperne di più, consulta Trova i suggerimenti in Active Assist.

Per i principi e i suggerimenti di sicurezza specifici per i workload di AI e ML, consulta Prospettiva di AI e ML: sicurezza nel Well-Architected Framework.

Affidabilità

Questa sezione descrive le considerazioni e i suggerimenti di progettazione per creare e gestire un'infrastruttura affidabile per il tuo deployment in Google Cloud.

Considerazioni sull'affidabilità per gli agenti

Per assicurarti che le configurazioni degli agenti soddisfino i tuoi requisiti di affidabilità, tieni presente i seguenti suggerimenti:

  • Tolleranza di errore: progetta il sistema agentico in modo che tolleri o gestisca gli errori a livello di agente. Se possibile, utilizza un approccio decentralizzato in cui gli agenti possono operare in modo indipendente.
  • Simula gli errori: prima di eseguire il deployment del sistema di AI agentica in produzione, convalidalo simulando un ambiente di produzione. Identifica e risolvi i problemi di coordinamento tra agenti e i comportamenti imprevisti.
  • Gestione degli errori: per consentire la diagnosi e la risoluzione dei problemi, implementa meccanismi di logging, gestione delle eccezioni e nuovi tentativi.

Considerazioni sull'affidabilità di Agent Platform

Per assicurarti che le configurazioni e l'utilizzo della piattaforma Agent soddisfino i tuoi requisiti di affidabilità, tieni presente i seguenti suggerimenti:

  • Pianificazione della capacità: se il numero di richieste supera la capacità allocata, viene restituito il codice di errore 429. Per i workload business-critical che richiedono costantemente un throughput elevato, puoi prenotare il throughput utilizzando il throughput riservato.
  • Disponibilità dell'endpoint del modello: se i dati possono essere condivisi tra più regioni o paesi, puoi utilizzare un endpoint globale per il modello.

Robustezza di Cloud Run in caso di interruzioni di zone e regioni

Cloud Run è un servizio a livello di regione. Archivia i dati in modo sincrono in più zone all'interno di una regione e bilancia automaticamente il carico del traffico tra le zone. In caso di interruzione a livello di zona, Cloud Run continua a funzionare e i dati non vengono persi. Se si verifica un'interruzione nella regione, il servizio smette di funzionare finché Google non risolve il problema.

Considerazioni sull'affidabilità per tutti i prodotti Google Cloud nell'architettura

Dopo aver eseguito il deployment dell'applicazione in Google Cloud, ricevi suggerimenti per ottimizzare ulteriormente l'affidabilità utilizzando Active Assist. Esamina i consigli e applicali in base al tuo ambiente. Per saperne di più, consulta Trova i suggerimenti in Active Assist.

Per i principi e i suggerimenti di affidabilità specifici per i workload di AI e ML, consulta Prospettiva di AI e ML: affidabilità nel Well-Architected Framework.

Operazioni

Questa sezione descrive i fattori da considerare quando utilizzi questa architettura di riferimento per progettare una topologia Google Cloud che puoi gestire in modo efficiente.

Considerazioni sulle operazioni di Agent Platform

Per assicurarti che le configurazioni e l'utilizzo della piattaforma dell'agente soddisfino i tuoi requisiti operativi, tieni presente i seguenti consigli:

  • Monitoraggio tramite i log: per impostazione predefinita, i log dell'agente scritti negli stream stdout e stderr vengono indirizzati a Cloud Logging. Per un logging avanzato, puoi integrare il logger Python con Cloud Logging. Se hai bisogno di un controllo completo su logging e log strutturati, utilizza il client Cloud Logging. Per saperne di più, consulta Logging di un agente e Logging in ADK.
  • Valutazione continua: esegui regolarmente una valutazione qualitativa dell'output degli agenti e della traiettoria o dei passaggi eseguiti dagli agenti per produrre l'output. Per implementare la valutazione degli agenti, puoi utilizzare il servizio di valutazione di AI generativa o i metodi di valutazione supportati da ADK.

Considerazioni sulle operazioni MCP

Per assicurarti che l'implementazione di MCP soddisfi i tuoi requisiti operativi, tieni presente i seguenti consigli:

  • Strumenti per i database: per gestire in modo efficiente gli strumenti per i database per i tuoi agenti AI e per garantire che gli agenti gestiscano in modo sicuro complessità come il connection pooling e l'autenticazione, utilizza MCP Toolbox for Databases. Fornisce una posizione centralizzata per archiviare e aggiornare gli strumenti del database. Puoi condividere gli strumenti tra gli agenti e aggiornarli senza rifare il deployment degli agenti. La toolbox include un'ampia gamma di strumenti per i database Google Cloudcome AlloyDB per PostgreSQL e per database di terze parti come MongoDB.
  • Modelli di AI generativa: per consentire agli agenti AI di utilizzare i modelli di AI generativa di Google come Imagen e Veo, puoi utilizzare i server MCP per le API di media generativi di Google Cloud .
  • Prodotti e strumenti di sicurezza di Google: per consentire agli agenti AI di accedere ai prodotti e agli strumenti di sicurezza di Google come Google Security Operations, Google Threat Intelligence e Security Command Center, utilizza i server MCP per i prodotti di sicurezza di Google.

Considerazioni operative per tutti i prodotti Google Cloud dell'architettura

Raccogli e analizza continuamente i dati di traccia utilizzando Cloud Trace. I dati di Trace ti consentono di identificare e diagnosticare rapidamente gli errori all'interno di Agentic Workflows complessi. Puoi eseguire un'analisi approfondita tramite le visualizzazioni nello strumento Esplora tracce. Per saperne di più, consulta Visualizza le tracce dell'agente.

Per i principi e i suggerimenti di eccellenza operativa specifici per i workload di AI e ML, consulta Prospettiva di AI e ML: eccellenza operativa nel Well-Architected Framework.

Ottimizzazione dei costi

Questa sezione fornisce indicazioni per ottimizzare i costi di configurazione e gestione di una topologia Google Cloud creata utilizzando questa architettura di riferimento.

Considerazioni sui costi di Agent Platform

Per assicurarti che le configurazioni e l'utilizzo di Agent Platform soddisfino i tuoi requisiti di costo, tieni presente i seguenti suggerimenti:

  • Analisi e gestione dei costi: per analizzare e gestire i costi della piattaforma Agent, ti consigliamo di creare metriche di riferimento per le query al secondo (QPS) e i token al secondo (TPS). Poi, monitora queste metriche dopo il deployment. La baseline aiuta anche con la pianificazione della capacità. Ad esempio, la base di riferimento ti aiuta a determinare quando potrebbe essere necessario il throughput riservato.
  • Selezione del modello: il modello che selezioni per la tua applicazione di AI influisce direttamente sia sui costi che sulle prestazioni. Per identificare il modello che offre un equilibrio ottimale tra prestazioni e costi per il tuo caso d'uso specifico, testa i modelli in modo iterativo. Ti consigliamo di iniziare con il modello più conveniente e di passare gradualmente a opzioni più potenti.
  • Prompting conveniente: la lunghezza dei prompt (input) e delle risposte generate (output) influisce direttamente sulle prestazioni e sui costi. Scrivi prompt brevi e diretti che forniscano un contesto sufficiente. Progetta i prompt in modo da ottenere risposte concise dal modello. Ad esempio, includi frasi come "riassumi in 2 frasi" o "elenca 3 punti chiave". Per saperne di più, consulta le best practice per la progettazione dei prompt.
  • Memorizzazione nella cache del contesto: per ridurre il costo delle richieste che contengono contenuti ripetuti con un numero elevato di token di input, utilizza la memorizzazione nella cache del contesto.
  • Richieste batch: se pertinente, prendi in considerazione le previsioni in batch. Le richieste batch hanno un costo inferiore rispetto alle richieste standard.

Considerazioni sui costi di Cloud Run

Per assicurarti che l'implementazione di Cloud Run soddisfi i tuoi requisiti di costo, tieni presente i seguenti suggerimenti:

Considerazioni sui costi per tutti i prodotti Google Cloud dell'architettura

Dopo aver eseguito il deployment dell'applicazione in Google Cloud, ricevi suggerimenti per ottimizzare ulteriormente i costi utilizzando Active Assist. Esamina i consigli e applicali in base al tuo ambiente. Per saperne di più, consulta Trova i suggerimenti in Active Assist.

Per stimare il costo delle risorse Google Cloud , utilizza il Calcolatore prezziGoogle Cloud .

Per i principi e i suggerimenti di ottimizzazione dei costi specifici per i workload di AI e ML, consulta Prospettiva di AI e ML: ottimizzazione dei costi nel Well-Architected Framework.

Ottimizzazione delle prestazioni

Questa sezione descrive le considerazioni e i suggerimenti di progettazione per creare una topologia in Google Cloud che soddisfi i requisiti di prestazioni dei tuoi workload.

Considerazioni sulle prestazioni per gli agenti

Per assicurarti che le configurazioni degli agenti soddisfino i tuoi requisiti di prestazioni, tieni presente i seguenti suggerimenti:

  • Selezione del modello: quando selezioni i modelli per il tuo sistema di AI agentica, considera le funzionalità richieste per le attività che gli agenti devono eseguire.
  • Ottimizzazione dei prompt: per migliorare e ottimizzare rapidamente le prestazioni dei prompt su larga scala ed eliminare la necessità di riscrittura manuale, utilizza lo strumento di ottimizzazione dei prompt della piattaforma Agent. L'ottimizzatore ti aiuta ad adattare in modo efficiente i prompt tra diversi modelli.

Considerazioni sulle prestazioni di Agent Platform

Per assicurarti che le configurazioni e l'utilizzo della piattaforma dell'agente soddisfino i tuoi requisiti di prestazioni, tieni conto dei seguenti suggerimenti:

  • Selezione del modello: il modello che selezioni per la tua applicazione di AI influisce direttamente sia sui costi che sulle prestazioni. Per identificare il modello che offre un equilibrio ottimale tra prestazioni e costi per il tuo caso d'uso specifico, testa i modelli in modo iterativo. Ti consigliamo di iniziare con il modello più conveniente e di passare gradualmente a opzioni più potenti.
  • Prompt engineering: la lunghezza dei prompt (input) e delle risposte generate (output) influisce direttamente sulle prestazioni e sui costi. Scrivi prompt brevi, diretti e che forniscano un contesto sufficiente. Progetta i prompt in modo da ottenere risposte concise dal modello. Ad esempio, includi diciture come "riassumi in 2 frasi" o "elenca 3 punti chiave". Per saperne di più, consulta le best practice per la progettazione dei prompt.
  • Memorizzazione nella cache del contesto: per ridurre la latenza per le richieste che contengono contenuti ripetuti con un numero elevato di token di input, utilizza la memorizzazione nella cache del contesto.

Considerazioni sulle prestazioni di Cloud Run

A seconda dei requisiti di prestazioni, configura la memoria e la CPU da allocare al servizio Cloud Run. Per saperne di più, consulta Configura i limiti di memoria per i servizi e Configura i limiti della CPU per i servizi.

Per ulteriori indicazioni sull'ottimizzazione delle prestazioni, consulta Suggerimenti generali per lo sviluppo di Cloud Run.

Considerazioni sulle prestazioni per tutti i prodotti Google Cloud nell'architettura

Dopo aver eseguito il deployment dell'applicazione in Google Cloud, ricevi suggerimenti per ottimizzare ulteriormente le prestazioni utilizzando Active Assist. Esamina i consigli e applicali in base al tuo ambiente. Per saperne di più, consulta Trova i suggerimenti in Active Assist.

Per i principi e i suggerimenti di ottimizzazione delle prestazioni specifici per i workload di AI e ML, consulta Prospettiva di AI e ML: ottimizzazione delle prestazioni nel Well-Architected Framework.

Deployment

Per scoprire come creare ed eseguire il deployment di sistemi di AI multi-agente, utilizza i seguenti esempi di codice. Questi esempi di codice sono punti di partenza completamente funzionali per l'apprendimento e la sperimentazione. Per un funzionamento ottimale negli ambienti di produzione, devi personalizzare il codice in base ai tuoi requisiti aziendali e tecnici specifici.

Passaggi successivi

Collaboratori

Autore: Kumar Dhanagopal | Cross-Product Solution Developer

Altri collaboratori: