Agent Gateway로 에이전트형 트래픽 관리

Google Kubernetes Engine(GKE)에 자율 AI 에이전트를 배포하면 워크로드가 표준 마이크로서비스와 다르게 작동합니다. AI 에이전트는 자체 실행 경로를 결정하고 사용자 프롬프트를 기반으로 외부 SaaS API, 원격 모델 컨텍스트 프로토콜(MCP) 서버 또는 기타 내부 에이전트를 동적으로 호출합니다.

이 동작은 비결정론적이므로 표준 레이어 4 네트워크 방화벽은 AI 환경을 완전히 보호할 수 없습니다. 에이전트 트래픽을 보호하려면 호출 에이전트의 ID를 평가하고, 사용이 허용된 도구를 정확하게 제한하고, 프롬프트의 시맨틱 컨텍스트를 정제하여 프롬프트 인젝션 공격과 같은 위협을 방지해야 합니다.

플랫폼 관리자, 보안 엔지니어 또는 AI 개발자는 Agent Gateway를 사용하여 이 에이전트 트래픽을 보호하고 관리할 수 있습니다. Agent Gateway는 GKE 호스팅 에이전트의 중앙 네트워크 진입 및 종료 지점 역할을 하며 Gemini Enterprise Agent Platform의 정책 시행 레이어에 직접 연결됩니다.

AI 워크로드에 Agent Gateway를 사용할 때의 이점

Agent Gateway를 사용하여 에이전트 애플리케이션에 대해 다음 목표를 달성할 수 있습니다.

  • 에이전트 코드에서 보안 분리: AI 개발자는 에이전트 프레임워크에 복잡한 인증, 상호 TLS(mTLS) 또는 페이로드 삭제 로직을 빌드할 필요가 없습니다. Agent Gateway는 플랫폼 레이어에서 네트워크 암호화 및 정책 시행을 처리합니다.
  • 사이드카 없는 시행 구현: GKE 앰비언트 네트워킹은 삽입할 사이드카가 없고 에이전트 코드를 변경하지 않고도 포드 외부에서 에이전트 트래픽을 캡처합니다. 또한 각 포드의 ID를 기반으로 mTLS를 사용하여 워크로드 간의 트래픽을 암호화하므로 인증서를 직접 관리할 필요가 없습니다.
  • AI 안전 가드레일 적용: 수신되는 사용자 프롬프트와 발신되는 도구 응답을 실시간으로 정제합니다. Agent Gateway는 Google Cloud Model Armor와 직접 통합되어 페이로드가 에이전트의 추론 엔진에 도달하기 전에 프롬프트 인젝션 공격이나 유해한 콘텐츠가 있는지 검사합니다.
  • 안전한 도구 실행: 승인된 에이전트만 특정 권한이 높은 MCP 서버 또는 API에 액세스할 수 있는지 확인합니다. 모든 도구 호출에 대해 세분화된 ID 기반 액세스 제어를 시행할 수 있습니다.
  • 멀티 에이전트 시스템 모니터링: 모든 에이전트 상호작용에 대한 모니터링 가능성 원격 분석을 수집하고 확인하여 다양한 도구와 엔드포인트에서 다단계 에이전트 추론을 추적할 수 있습니다.

GKE에서 Agent Gateway가 작동하는 방식

트래픽 방향에 따라 표준 GKE 네트워킹 리소스를 사용하여 Agent Gateway를 구성하고 다음 AI 상호작용 흐름을 제어할 수 있습니다.

  • 클라이언트-에이전트(인그레스): 외부 클라이언트(예: 채팅 인터페이스 또는 개발자 CLI)가 GKE 클러스터에서 호스팅되는 에이전트와 상호작용하는 방식을 관리합니다. GKE 게이트웨이 API를 사용하여 리전 애플리케이션 부하 분산기를 배포합니다. 그런 다음 Kubernetes 커스텀 리소스(GCPAgentGateway, GCPAuthzPolicy, GCPExtensionBinding)를 적용하여 ID 기반 액세스 제어를 시행하고, 특정 MCP 도구 호출을 제한하고, 요청이 에이전트에 도달하기 전에 Model Armor를 사용하여 수신 프롬프트를 검사합니다.
  • Agent-to-Anywhere(이그레스): GKE 호스팅 에이전트에서 외부 데이터 스토어, 원격 MCP 서버, API로 아웃바운드 요청을 안전하게 라우팅합니다. GKE 주변 프록시를 사용하여 이 트래픽을 Secure Web Proxy(SWP)로 리디렉션합니다. SWP는 보안 정책을 시행하고, IAP(Identity-Aware Proxy)를 통해 에이전트의 ID를 확인하며, 트래픽이 네트워크를 벗어나기 전에 Model Armor를 사용하여 아웃바운드 페이로드를 검사합니다.
  • East-West(클러스터 내부): 에이전트가 동일한 클러스터 내에서 피어 에이전트, 공유 내부 도구 또는 MCP 서버와 공동작업하는 방식을 제어합니다. 에이전트 포드에 사이드카 프록시를 삽입하지 않고 상호 TLS(mTLS) 및 세분화된 액세스 정책을 적용하기 위해 네임스페이스당 프록시 레이어 7 앰비언트 프록시를 배포합니다. 레이어 7 앰비언트 프록시 프리뷰에 대한 액세스를 요청하려면 Google Cloud 계정팀에 문의하세요.

제한사항 및 요구사항

Agent Gateway로 GKE 호스팅 에이전트를 관리하려면 환경이 다음 기본 요구사항을 충족해야 합니다.

  • 지원되는 워크로드: Agent Gateway는 표준 GKE 포드로 배포된 에이전트를 지원합니다. GKE의 Agent Substrate 및 GKE의 Agent Sandbox는 지원되지 않습니다.
  • GKE 클러스터 버전: 클러스터에서 GKE 버전 1.37.1-gke.1697000 이상을 실행해야 합니다.
  • 에이전트 ID: 게이트웨이가 ID 기반 정책을 평가할 수 있도록 에이전트 워크로드에 암호화 SPIFFE ID를 할당해야 합니다. 이러한 ID를 포드에 할당하는 방법은 GKE의 에이전트 ID 정보를 참조하세요.
  • Agent Registry: Agent Registry가 워크로드를 검색하고 메타데이터를 동기화할 수 있도록 에이전트 배포를 등록해야 합니다. 등록하려면 배포에 registry.gke.io/functional-type: "AGENT" 라벨을 추가하세요. 자세한 내용은 자동 등록 사용을 참조하세요.
  • GKE 네트워킹 구성요소:
    • 인그레스 거버넌스의 경우 클러스터에서 GKE 게이트웨이 API를 사용 설정해야 합니다.
    • 이그레스 거버넌스의 경우 앰비언트 네트워킹을 위해 클러스터를 준비하고 Secure Web Proxy 인스턴스를 프로비저닝해야 합니다.

GKE용 Agent Gateway에는 단일 프로젝트 제약 조건, 특정 커스텀 확장 프로그램 경계, 리전별 사용 가능 여부 제한이 적용됩니다.

다음 단계