Gestisci il traffico agentico con Agent Gateway

Quando esegui il deployment di agenti AI autonomi su Google Kubernetes Engine (GKE), i tuoi workload funzionano in modo diverso rispetto ai microservizi standard. Gli agenti AI determinano i propri percorsi di esecuzione e chiamano dinamicamente API SaaS esterne, server Model Context Protocol (MCP) remoti o altri agenti interni in base ai prompt degli utenti.

Poiché questo comportamento non è deterministico, i firewall di rete standard di livello 4 non possono proteggere completamente l'ambiente AI. Per proteggere il traffico degli agenti, devi valutare l'identità dell'agente chiamante, limitare esattamente gli strumenti che può utilizzare e sanitizzare il contesto semantico del prompt per prevenire minacce come gli attacchi di prompt injection.

Se sei un amministratore della piattaforma, un security engineer o uno sviluppatore AI, puoi utilizzare Agent Gateway per proteggere e gestire questo traffico degli agenti. Agent Gateway funge da punto di ingresso e uscita di rete centrale per gli agenti ospitati su GKE, collegandosi direttamente al livello di applicazione delle policy di Gemini Enterprise Agent Platform.

Vantaggi di Agent Gateway per i workload AI

Puoi utilizzare Agent Gateway per raggiungere i seguenti obiettivi per le tue applicazioni basate su agenti:

  • Disaccoppia la sicurezza dal codice dell'agente: gli sviluppatori di AI non devono creare logiche complesse di autenticazione, mutual TLS (mTLS) o sanitizzazione del payload nei loro framework degli agenti. Agent Gateway gestisce la crittografia di rete e l'applicazione delle policy a livello di piattaforma.
  • Implementa l'applicazione senza sidecar: il networking Ambient di GKE acquisisce il traffico degli agenti all'esterno dei pod, senza sidecar da inserire e senza modifiche al codice degli agenti. Inoltre, cripta il traffico tra i workload con mTLS in base all'identità di ogni pod, quindi non devi gestire i certificati manualmente.
  • Applica misure di sicurezza per l'AI: sanitizza i prompt degli utenti in entrata e le risposte degli strumenti in uscita in tempo reale. Agent Gateway si integra direttamente con Google Cloud Model Armor per esaminare i payload alla ricerca di attacchi di prompt injection o contenuti dannosi prima che raggiungano il motore di ragionamento dell'agente.
  • Esecuzione sicura degli strumenti: verifica che solo gli agenti autorizzati possano accedere a specifici server MCP o API con privilegi elevati. Puoi applicare controlli degli accessi granulari basati sull'identità per ogni chiamata allo strumento.
  • Monitora i sistemi multi-agente: raccogli e visualizza la telemetria di osservabilità per tutte le interazioni degli agenti, in modo da poter tracciare il ragionamento degli agenti in più passaggi su diversi strumenti ed endpoint.

Come funziona Agent Gateway su GKE

A seconda della direzione del traffico, puoi utilizzare le risorse di networking GKE standard per configurare Agent Gateway per gestire i seguenti flussi di interazione con l'AI:

  • Da client ad agente (ingress): gestisci il modo in cui i client esterni (come le interfacce di chat o le CLI per sviluppatori) interagiscono con gli agenti ospitati nel tuo cluster GKE. Esegui il deployment di un bilanciatore del carico delle applicazioni regionale utilizzando l'API gateway GKE. Poi, applichi le risorse personalizzate di Kubernetes (GCPAgentGateway, GCPAuthzPolicy e GCPExtensionBinding) per applicare i controlli degli accessi basati sull'identità, limitare chiamate allo strumento MCP specifiche e filtrare i prompt in entrata con Model Armor prima che la richiesta raggiunga l'agente.
  • Da agente a qualsiasi destinazione (traffico in uscita): instrada le richieste in uscita in modo sicuro dagli agenti ospitati su GKE ai datastore esterni, ai server MCP remoti e alle API. Utilizza il proxy ambient GKE per reindirizzare questo traffico a un Secure Web Proxy (SWP). SWP applica le policy di sicurezza, verifica l'identità dell'agente con Identity-Aware Proxy (IAP) e ispeziona i payload in uscita con Model Armor prima che il traffico lasci la tua rete.
  • Est-Ovest (all'interno del cluster): controlla il modo in cui gli agenti collaborano con agenti peer, strumenti interni condivisi o server MCP all'interno dello stesso cluster. Esegui il deployment di proxy ambientali di livello 7 con un proxy per spazio dei nomi per applicare il mutual TLS (mTLS) e policy di accesso granulari senza inserire proxy sidecar nei pod degli agenti. Per richiedere l'accesso all'anteprima dei proxy ambient di livello 7, contatta il team dedicato al tuo account Google Cloud.

Limitazioni e requisiti

Per gestire gli agenti ospitati su GKE con Agent Gateway, il tuo ambiente deve soddisfare i seguenti requisiti di base:

  • Workload supportati: Agent Gateway supporta gli agenti di cui è stato eseguito il deployment come pod GKE standard. Agent Substrate su GKE e Agent Sandbox su GKE non sono supportati.
  • Versione del cluster GKE: il cluster deve eseguire GKE versione 1.37.1-gke.1697000 o successiva.
  • Identità dell'agente: devi assegnare un'identità SPIFFE crittografica ai workload dell'agente in modo che il gateway possa valutare le policy basate sull'identità. Per scoprire come assegnare queste identità ai tuoi pod, consulta Informazioni su Agent Identity in GKE.
  • Agent Registry: devi registrare i deployment degli agenti in modo che Agent Registry possa rilevare i workload e sincronizzare i relativi metadati. Per registrarli, aggiungi l'etichetta registry.gke.io/functional-type: "AGENT" ai tuoi deployment. Per saperne di più, consulta Utilizza la registrazione automatica.
  • Componenti di networking di GKE:
    • Per la governance del traffico in entrata, devi abilitare l'API gateway GKE nel tuo cluster.
    • Per la governance del traffico in uscita, devi preparare il cluster per l'Ambient Networking ed eseguire il provisioning di un'istanza di Secure Web Proxy.

Agent Gateway per GKE è soggetto a vincoli per singolo progetto, limiti specifici per le estensioni personalizzate e limiti di disponibilità a livello di regione.

Passaggi successivi