KI-Agenten verwalten

Die Gemini Enterprise Agent Platform bietet eine umfassende Suite von Funktionen für den gesamten Lebenszyklus der Agentenentwicklung, mit denen Entwickler und Unternehmen ihre agentischen Anwendungen erstellen, skalieren, verwalten und optimieren können.

Governance bietet den Rahmen für das Erkennen, Sichern und Prüfen von KI-Agenten und ihrer zugrunde liegenden Infrastruktur in großem Maßstab. Wenn Unternehmen komplexe agentische Workflows bereitstellen, dient die Govern-Suite als zentrale Kommandozentrale für Administratoren und Sicherheitsteams, um den Überblick zu behalten.

Governance-Ökosystem der Agent Platform.
Governance-Ökosystem der Agentenplattform (zum Vergrößern klicken).

Wichtige Governance-Komponenten

Die folgenden Komponenten der Agent-Plattform arbeiten zusammen, um eine einheitliche Architektur für die Agent-Governance bereitzustellen:

  • Agent Identity (Wer hat die Anfrage gestellt?): Weist jedem KI-Agenten eine eindeutige, sichere ID (eine SPIFFE-ID) zu. Diese Identität dient als digitale Signatur des KI-Agenten für Authentifizierung, Zugriffssteuerung und Auditing.

    Agentenidentitäten sind standardmäßig sicher mit kontextsensitivem Zugriff, der eine kryptografische End-to-End-Authentifizierung mithilfe von mTLS und DPoP erzwingt.

  • Agent Registry (Welche Ziele sind genehmigt?): Dient als zentrales Verzeichnis für alle genehmigten KI-Agenten, Tools, MCP-Server (Model Context Protocol) und Endpunkte (z. B. wichtige Google Cloud -APIs) in Ihrer Organisation. Agent Gateway verwendet dieses Verzeichnis, um Berechtigungen zu prüfen, bevor Verbindungen zugelassen werden.

  • Richtlinien (Welche Aktionen sind zulässig?): Sie können umfangreiche agentische Sicherheits- und Governance-Richtlinien implementieren, mit denen Sie steuern, welche KI-Agenten auf bestimmte Ressourcen zugreifen können und welche Inhalte weitergegeben werden dürfen:

    • IAM Unified Access Policies: Zugriffsregeln, die die Identität eines KI-Agenten mit genehmigten Tools und Endpunkten in Agent Registry verknüpfen. Standardmäßig werden alle Verbindungen blockiert, sofern nicht eine explizite IAM-Richtlinie Zugriff gewährt.
    • Model Armor: Sicherheitsfilter für Inhalte, die an Gateways angehängt sind. Model Armor scannt Nutzer-Prompts und Toolantworten in Echtzeit, um Prompt-Injection-Angriffe, Datenlecks mit sensiblen Daten und schädliche Inhalte zu blockieren.
    • Semantische Governance-Richtlinien: Regeln in natürlicher Sprache, die festlegen, wie Agenten Tools verwenden. Sie setzen Geschäftsregeln zur Laufzeit durch, um zu verhindern, dass KI-Agenten unbeabsichtigte Aktionen ausführen, z. B. unsichere Kombinationen von Tools ausführen.
    • Richtlinien für die Tokenverwaltung: Richtlinien, die die Tokennutzung von Large Language Models (LLMs) überwachen und zuordnen und gemeinsame Tokenbudgets für Ihre Agenten und Anwendungen erzwingen, um einen unkontrollierten Tokenverbrauch und unerwartete Kostenspitzen zu vermeiden.
    • Benutzerdefinierte Autorisierungs-Engines: Benutzerdefinierte Autorisierungserweiterungen, mit denen Sie Autorisierungsentscheidungen mithilfe von Diensterweiterungen an Drittanbietersysteme delegieren können.

    Intern werden alle diese Richtlinientypen mithilfe von Autorisierungsrichtlinien oder Erweiterungsbindungen erzwungen, die über Service Extensions verwaltet werden.

  • Agent Gateway (Wo werden Richtlinien durchgesetzt?): Dient als Haupteingangs- und -ausgangspunkt für den Netzwerkverkehr zwischen Clients und KI-Agenten sowie zwischen KI-Agenten und beliebigen anderen Zielen. Außerdem werden Sicherheits- und Governance-Richtlinien auf den gesamten Traffic angewendet, der das Gateway passiert. Weitere Informationen finden Sie unter So setzt Agent Gateway Richtlinien durch.

  • Beobachtbarkeit von KI-Agenten: Agent Gateway generiert Beobachtbarkeitstelemetrie für alle Interaktionen von KI-Agenten auf der Netzwerkschicht und exportiert sie in Agent Observability, um Ihnen einen umfassenden Überblick über die Aktionen von KI-Agenten zu geben.

Empfohlene Reihenfolge der Konfiguration

Damit die Bereitstellung reibungslos verläuft, empfehlen wir, beim Einrichten einer verwalteten Agent Platform-Umgebung die folgende Reihenfolge einzuhalten:

  1. Agentenidentitäten bereitstellen: Stellen Sie Workload Identities (SPIFFE-IDs) für Ihre Agenten bereit. Eine Anleitung finden Sie unter Agentenidentitäten.

  2. Ziele in Agent Registry registrieren: Registrieren Sie Zieltools, MCP-Server, Endpunkte und KI-Agenten in Agent Registry. Eine Anleitung finden Sie unter Agent Registry.

  3. IAM-Richtlinien konfigurieren: Definieren Sie IAM-Zugriffsrichtlinien, die Agentenidentitäten (SPIFFE-IDs) Zugriff auf wichtige Plattform-APIs und Ihre registrierten Ziele gewähren. Eine Anleitung finden Sie unter IAM-Zugriffsrichtlinien konfigurieren.

  4. Model Armor-Vorlagen konfigurieren: Richten Sie Vorlagen für die Inhaltssicherheit ein, um Prompt-Nutzlasten und Tool-Antworten auf Prompt Injections, Jailbreaks und Lecks sensibler Daten zu prüfen. Eine Anleitung finden Sie unter Model Armor konfigurieren.

  5. Semantische Governance-Richtlinien konfigurieren: Definieren Sie Einschränkungen in natürlicher Sprache, die die Toolnutzung regeln und unsichere Toolkombinationen zur Laufzeit verhindern. Eine Anleitung finden Sie unter Semantische Governance-Richtlinien konfigurieren.

  6. Agent Gateway bereitstellen und Traffic überwachen: Stellen Sie Agent Gateway bereit, um Traffic abzufangen. Wenn Sie einen der Zugriffssteuerungsmechanismen im Audit-Modus aktiviert haben, fragen Sie Cloud Logging ab, um einen konsolidierten Bericht „Wäre blockiert worden“ zu generieren. Bestätigen Sie, dass der Zugriff wie erwartet bewertet wird, bevor Sie Ihre Richtlinien auf die aktive Erzwingung umstellen. Eine Anleitung finden Sie unter Agent Gateway einrichten und Richtlinienverstöße im Probelauf über Kontrollen hinweg prüfen.

Agent Registry, Sicherheit und Freigabe

Übersicht

Agent Registry ist ein zentraler Katalog, in dem Sie Server, Tools und KI-Agenten in Google Cloud speichern, erkennen und verwalten können.

Übersicht

Mit der Agent-Identität können sich Agents sicher bei Cloud-Ressourcen, Endpunkten und anderen Agents authentifizieren und dabei in ihrem eigenen Namen oder im Namen des Endnutzers agieren.

Anleitung

Informationen zum Teilen eines KI-Agenten

Anleitung

Mit der Google Agent Platform können Sie dafür sorgen, dass Ihre KI-Agenten sicher und zuverlässig sind.

Anleitung

Echtzeitbeziehungen und Trafficflüsse zwischen allen KI-Agenten und MCP-Servern ansehen, die in der Agent Registry bekannt sind.

Richtlinien

Anleitung

Semantische Governance-Richtlinien bieten eine zusätzliche Sicherheitsebene, um sicherzustellen, dass die Aktionen des Agenten der Nutzerabsicht und den Einschränkungen der Organisation entsprechen.

Übersicht

Verschaffen Sie sich einen Überblick über die Richtlinien in der Google Agent Platform.

Agent Gateway

Anleitung

Hier erfahren Sie, wie Sie Agent Runtime-Traffic über Agent Gateway weiterleiten, um eine sichere und verwaltete Verbindung zu ermöglichen.

Codelab

Hier erfahren Sie, wie Sie agentische Arbeitslasten mit Agent Gateway auf der Gemini Enterprise Agent Platform verwalten.

Codelab

Hier erfahren Sie mehr über die Governance für ausgehenden Traffic von Agent Gateway für KI-Agenten, die auf MCP-Server (Model Context Protocol) von Google Cloud zugreifen.

Codelab

Informationen zur Governance für ausgehenden Traffic von Agent Gateway für KI-Agenten, die auf externe MCP-Server zugreifen.

Codelab

Informationen zur Governance für ausgehenden Traffic von Agent Gateway für KI-Agenten, die auf Ziele in einem VPC-Netzwerk zugreifen.

Codelab

Informationen zur Agent Gateway-Governance für projektübergreifende Agent Runtime-Agenten.

Codelab

Informationen zum Einrichten der Governance für ausgehenden Traffic über ein privates Agent Gateway für Gemini Enterprise.

Übersicht

Verschaffen Sie sich einen Überblick über das KI-Agenten-Gateway.

Anleitung

Hier erfahren Sie, wie Sie die Autorisierung für Agent Gateway an IAP, Model Armor oder Ihren eigenen benutzerdefinierten Autorisierungsdienst delegieren.

Anleitung

Informationen zum Monitoring des KI-Agenten-Gateways

Anleitung

Informationen zum Einrichten eines Agent-Gateways.

Fehlerbehebung

Informationen zur Fehlerbehebung bei der Verbindung zum KI-Agenten-Gateway.

Anleitung

Hier erfahren Sie, wie Sie Gemini Enterprise-Traffic über Agent Gateway weiterleiten.

Sicherheit

Codelab

Im Codelab „Securing Cross-Cloud Agentic AI Applications“ erfahren Sie, wie Sie Ihre agentischen Anwendungen schützen.

Ressource

Hier erfahren Sie, wie Sie sichere Multi-Agenten-Architekturen auf der Gemini Enterprise Agent Platform von Google Cloud erstellen.

Anleitung

Informationen zum Aufrufen von Sicherheitsergebnissen

Anleitung

Informationen zum Konfigurieren von Model Armor auf einem Gateway.

Anleitung

Informationen zum Überwachen der Inhaltssicherheit

Anleitung

Informationen zum Aufrufen von Model Armor-Spans.