Viele Agentenaufgaben umfassen das Ausführen von nicht vertrauenswürdigem Code, das Ausführen von Befehlen, das Verwenden eines Webbrowsers oder das Interagieren mit externen Umgebungen auf eine Weise, die Sicherheitsrisiken bergen könnte. Die Gemini Enterprise Agent Platform bietet isolierte Sandboxes, um diese Arbeitslasten sicher zu verarbeiten.
Sandboxes bieten sichere, isolierte Ausführungsumgebungen, die erstellt werden, um bestimmte Aufgaben im Namen eines KI-Agenten auszuführen. Wenn Sie diese Vorgänge in einer Sandbox ausführen, können Sie Ihre Infrastruktur und Daten vor potenziell schädlichen oder fehlerhaften Aktionen des Agents schützen. Sandboxes minimieren diese Risiken durch:
- Isolation: Jede Sandbox ist von anderen Sandboxen und dem Hostsystem isoliert. Aktionen, die von einem Agenten in einer Sandbox ausgeführt werden, haben keine Auswirkungen auf andere Agenten oder Nutzer, die dieselben Laufzeitressourcen verwenden.
- Sicherheit: Vorgänge in der Sandbox sind eingeschränkt, um unbefugten Zugriff auf Ihre Ressourcen zu verhindern. Alle Sandbox-Umgebungen verwenden sicheres Container-Sandboxing, das eine starke Sicherheitsgrenze bietet. Schädlicher Code kann nicht auf vertrauliche Daten oder Anmeldedaten in der Laufzeit zugreifen.
- Sicherheit: Wenn ein Agent einen schädlichen Befehl oder eine Endlosschleife ausführt, sind die Auswirkungen auf die Sandbox beschränkt. Beispielsweise könnte schlecht geschriebener oder bösartiger Code die gesamte verfügbare CPU oder den gesamten Arbeitsspeicher verbrauchen.
Sandbox im Vergleich zur Laufzeit
Die Agent Runtime und eine Sandbox unterscheiden sich in ihrem Zweck und ihrer Verwendung:
- Agent Runtime: Dies ist die Umgebung, in der die Kernlogik, die Entscheidungsfindung und die Orchestrierung des KI-Agenten ausgeführt werden. Es ist eine vertrauenswürdige Umgebung, in der Ihr Code ausgeführt und der Lebenszyklus des KI-Agenten verwaltet wird.
- Sandbox: Dies ist eine Hilfsumgebung, die vom KI-Agenten oder der Plattform erstellt wird, um bestimmte, potenziell unsichere Aufgaben auszuführen. Sandboxes können kurzlebig, sitzungsbasiert oder mehrere Tage lang zustandsorientiert sein.
Wenn ein Agent beispielsweise eine komplexe Formel berechnen muss, indem er ein benutzerdefiniertes Python-Skript generiert und ausführt, sollte er dieses Skript in einer Sandbox für die Codeausführung und nicht in seiner eigenen Laufzeit ausführen. Wenn der Agent einen Skill und ein Shell-Script verwendet, muss er diese außerdem in einer Umgebung ausführen, die speziell für diese Sitzung bereitgestellt wurde, und den Zugriff des Endnutzers verwenden.
TTL und Sandbox-Bereitstellungsgeschwindigkeiten
Sandbox-Umgebungen haben die folgenden Merkmale für die Gültigkeitsdauer (TTL) und die Bereitstellung:
- TTL: Die TTLs von Sandboxen variieren zwischen 7 Tagen für ein benutzerdefiniertes Container-Image und 14 Tagen für eine Sandbox zur Code-Ausführung. So können Sie den Status in einer Sandbox-Umgebung mehrere Tage später für langfristige Aufgaben und fortsetzbare Shell-Umgebungen wiederherstellen.
- Bereitstellung: Das Erstellen einer neuen Sandbox dauert bis zu 2 Minuten, um Ressourcen aus einem Kaltstart bereitzustellen. Nach der Bereitstellung werden Sandboxes jedoch in der Regel innerhalb von Sekunden gestartet. Die zugrunde liegende Architektur können Sie sich in den folgenden Open-Source-Projekten ansehen: AX und Substrate.
Features
Sandboxes bieten verschiedene Funktionen wie vordefinierte Sandboxes, benutzerdefinierte Container, Sicherheitskontrollen für Unternehmen und Lebenszyklusverwaltung:
- Code-Ausführung: Ermöglicht dem Agenten, Code in einer sicheren Umgebung zu generieren und auszuführen. Dies ist nützlich für komplexe mathematische Berechnungen, Datenanalysen und andere Aufgaben, die Berechnungen erfordern.
- Computernutzung: Ermöglicht dem Agenten, mit einem Webbrowser zu interagieren, um Aufgaben wie das Ausfüllen von Formularen, die Suche im Web oder die Navigation durch komplexe UI-Workflows auszuführen.
- Benutzerdefinierte Container: Sie können Ihren eigenen Container verwenden, um die Ausführungsumgebung mit bestimmten Bibliotheken, Tools oder Konfigurationen anzupassen. Damit erhält Ihr Agent eine Shell-Umgebung mit den Befehlen und Tools in Ihrem benutzerdefinierten Image.
- VPC Service Controls: Konfigurieren Sie Sicherheitsperimeter, um sensible Daten zu schützen und unbefugten ausgehenden Traffic aus Sandbox-Umgebungen zu verhindern.
- Kundenverwaltete Verschlüsselungsschlüssel (CMEK): Schützen Sie ruhende Sandbox-Daten mit Verschlüsselungsschlüsseln, die im Cloud Key Management Service (Cloud KMS) verwaltet werden.
Sicherheits-, Identitäts- und Beobachtbarkeitsgrenzen
Wenn Sie KI-Agenten entwerfen, die nicht vertrauenswürdigen Code oder Befehle in einer Sandbox ausführen, sollten Sie berücksichtigen, wie die Agent Platform die Ausführungsidentität, die Filterung des ausgehenden Traffics und das Audit-Logging zwischen der Agent Runtime und dem Sandbox-Container trennt.
Ausführungsidentität und Grenzen für Anmeldedaten
Code, der in einer Sandbox ausgeführt wird, wird in einem von Google verwalteten Mandantenprojekt in einem gVisor-isolierten Container ausgeführt und übernimmt nicht die Identität oder die Anmeldedaten Ihres übergeordneten KI-Agenten. In der folgenden Tabelle sind die Identitäten zusammengefasst, die an Sandbox-Vorgängen beteiligt sind:
| Identitätsebene | Hauptkonto | Bereich und Berechtigungen |
|---|---|---|
| Agent Runtime-Identität des übergeordneten Agenten | Agentenidentität (principal://agents.global.org-ORG_ID.system.id.goog/...) oder das benutzerdefinierte oder Standarddienstkonto, das an die ReasoningEngine-Instanz angehängt ist |
Wird vom Orchestrierungscode verwendet, der in Agent Runtime ausgeführt wird, um Google Cloud -APIs aufzurufen und Sandboxes zu verwalten oder aufzurufen. Wird nie im Sandbox-Container bereitgestellt. |
| Sandbox-Dienst-Agent | service-PROJECT_NUMBER@gcp-sa-vertex-sandbox. |
Von Google verwalteter projektspezifischer Dienst-Agent, der von der Sandbox-Steuerungsebene für Infrastrukturaufgaben verwendet wird, z. B. zum Abrufen benutzerdefinierter Container-Images aus Artifact Registry oder zum Verwenden von CMEK-Schlüsseln. Für Code, der in der Sandbox ausgeführt wird, ist er nie zugänglich. |
| Ausführungsumgebung in der Sandbox | Nicht privilegierter Container-Nutzer (z. B. appuser in Shell-Sandboxes), der durch eine nicht privilegierte Mandantenidentität (sandbox-untrusted) ohne IAM-Rollen (Identity and Access Management) in Ihrem Projekt unterstützt wird |
Führt nicht vertrauenswürdigen Code im Sandbox-Pod aus. Hat keine Ambient-Anmeldedaten von Google Cloud und keine Berechtigungen für Ihr Projekt oder übergeordnetes Element vonReasoningEngine. |
Beachten Sie beim Ausführen von Code in einer Sandbox die folgenden Einschränkungen für Anmeldedaten und Authentifizierung:
- Keine Umgebungsanmeldedaten oder Metadatenserver-Tokenzugriff: Sandbox-Code hat keine Standardanmeldedaten für Anwendungen (Application Default Credentials, ADC) für Ihr Projekt und kann den Compute Engine-Metadatenserver (
169.254.169.254:80) nicht abfragen, um OAuth 2.0-Zugriffstokens zu erstellen, Dienstkontoschlüssel zu lesen oder Hostprojektmetadaten zu prüfen. - Authentifizierung eingehender Aufrufer: Ihr Agent oder Client authentifiziert sich bei der Sandbox-Steuerungsebene und -Datenebene mithilfe von IAM (Berechtigung
aiplatform.sandboxEnvironments.execute, enthalten in Rollen wieroles/aiplatform.user) oder einem kurzlebigen Zugriffstoken, das vongenerate_access_tokenodergenerate_browser_ws_headersgeneriert wurde. - Ausgehende Aufrufe aus einer Sandbox authentifizieren: Da die Sandbox keine Umgebungskennung hat, müssen für alle externen API-Aufrufe, die direkt aus der Sandbox erfolgen, von Ihnen explizit bereitgestellte Anmeldedaten verwendet werden. Führen Sie authentifizierte Google Cloud -API-Vorgänge im übergeordneten Agenten in der Agent Runtime aus und übergeben Sie nur die erforderlichen Eingabedaten an die Sandbox. Wenn Code in der Sandbox einen externen Dienst direkt aufrufen muss, fügen Sie kurzlebige, eng gefasste Tokens für diese spezifische Ausführung ein, anstatt langlebige Dienstkontoschlüssel zu übergeben.
Ausgehender Netzwerktraffic und Zulassungsliste für Domains
Sandboxes bieten keine integrierte Domain-Zulassungsliste für die Sandbox oder die SandboxEnvironmentTemplate-Ressource. Das Verhalten des ausgehenden Netzwerks hängt vom Sandbox-Typ und den egress_control_config-Einstellungen in der Vorlage ab:
- Codeausführungs-Sandboxes: Werden ohne ausgehenden Internetzugriff oder Zugriff auf ein VPC-Netzwerk (Virtual Private Cloud) ausgeführt.
- Vorlagenbasierte Sandboxes (Computernutzung, Shell-Sandbox und Benutzerdefinierte Container):
Deaktivieren Sie standardmäßig den ausgehenden Internetzugriff (
internet_accessistFalse). - Direkter ausgehender Internet-Traffic (
internet_access: Trueohnenetwork_attachment): Gewährt der Sandbox uneingeschränkten ausgehenden Zugriff auf öffentliche IP-Adressen (0.0.0.0/0), während Netzwerkrichtlinien den Zugriff auf private RFC 1918-Adressbereiche (10.0.0.0/8,172.16.0.0/12,192.168.0.0/16) und den Link-Local-Metadatenbereich (169.254.0.0/16) blockieren. Sie können eine Liste der zulässigen oder abgelehnten Domains nicht direkt inegress_control_configangeben. - Domain-Zulassungsliste und Filterung des ausgehenden Traffics mit VPC-Steuerelementen:
Wenn Sie eine Sandbox auf bestimmte Domains (FQDNs), URLs oder IP-Bereiche beschränken möchten, konfigurieren Sie
egress_control_config.network_attachmentin der Vorlage, um den gesamten ausgehenden Traffic der Sandbox über eine Private Service Connect-Schnittstelle in Ihre VPC zu leiten. Sobald Traffic in Ihre VPC gelangt, können Sie Domain-Zulassungslisten und Richtlinien für ausgehenden Traffic mit folgenden Optionen erzwingen:- Cloud Next Generation Firewall (Cloud NGFW): Erstellen Sie Regeln für ausgehenden Traffic in globalen Netzwerk-Firewallrichtlinien, die bestimmte Ziel-FQDNs oder IP-Bereiche zulassen und den gesamten anderen ausgehenden Traffic (
0.0.0.0/0) ablehnen. - Secure Web Proxy: Leiten Sie ausgehenden Traffic aus dem Private Service Connect-Subnetz über Secure Web Proxy weiter, um eine Layer-7-TLS-Prüfung und eine Zulassungsliste auf URL-Ebene zu ermöglichen.
- Cloud DNS-Peering: Konfigurieren Sie
dns_peering_configsund private Cloud DNS-Zonen, damit die Sandbox nur genehmigte Namen über Ihre VPC und nicht über öffentliche DNS-Resolver auflöst.
- Cloud Next Generation Firewall (Cloud NGFW): Erstellen Sie Regeln für ausgehenden Traffic in globalen Netzwerk-Firewallrichtlinien, die bestimmte Ziel-FQDNs oder IP-Bereiche zulassen und den gesamten anderen ausgehenden Traffic (
Eine detaillierte Konfigurationsanleitung finden Sie unter VPC Service Controls und Private Service Connect mit Sandboxes konfigurieren.
Audit-Logging und Bedrohungserkennung
Das Beobachtbarkeits- und Sicherheitsmonitoring für Sandboxen umfasst die Steuerungs- und Datenebenen der Agent Platform API, den übergeordneten Agenten in der Agent Runtime und Ihr VPC-Netzwerk.
Cloud-Audit-Logs-Abdeckung
Die Agent Platform schreibt Cloud-Audit-Logeinträge unter dem Dienstnamen aiplatform.googleapis.com und dem überwachten Ressourcentyp audited_resource für API-Aufrufe an Sandbox-Ressourcen, generiert aber keine Audit-Logeinträge für interne Prozesse, die in einem Container gestartet werden. In der folgenden Tabelle ist zusammengefasst, was an den einzelnen Grenzen protokolliert wird:
| Aktivitätstyp | API-Methoden oder -Vorgänge | Logkategorie | Hinweise |
|---|---|---|---|
| Sandbox- und Vorlagen-Lebenszyklusmutationen | CreateSandboxEnvironment, DeleteSandboxEnvironment, SnapshotSandboxEnvironment, PauseSandboxEnvironment, ResumeSandboxEnvironment, CreateSandboxEnvironmentTemplate, UpdateSandboxEnvironmentTemplate, DeleteSandboxEnvironmentTemplate, DeleteSandboxEnvironmentSnapshot |
Admin-Aktivität (ADMIN_WRITE) |
Standardmäßig immer aktiviert. Zeichnet die Identität des Aufrufers, den Ressourcennamen und die Vorgangsmetadaten auf. |
| Lesevorgänge für Sandbox- und Vorlagenmetadaten | GetSandboxEnvironment, ListSandboxEnvironments, GetSandboxEnvironmentTemplate, ListSandboxEnvironmentTemplates, GetSandboxEnvironmentSnapshot, ListSandboxEnvironmentSnapshots |
Datenzugriff (ADMIN_READ) |
Standardmäßig deaktiviert. Aktivieren Sie ADMIN_READ-Logs für aiplatform.googleapis.com, um zu prüfen, wer Sandboxes prüft oder auflistet. |
| Befehlsausführung und Zugriffsberechtigung auf Datenebene | ExecuteSandboxEnvironment, BidiExecuteSandboxEnvironment, AuthorizeSandboxEnvironmentAccess, ExecuteCode |
Datenzugriff (DATA_WRITE) |
Standardmäßig deaktiviert. Aktivieren Sie DATA_WRITE-Logs für aiplatform.googleapis.com, um Ausführungs-RPCs und die Tokengenerierung zu prüfen. Bei Ressourcen innerhalb eines VPC Service Controls-Perimeters werden Anfrage- und Antwortnutzlasten aus Audit-Logs weggelassen. |
| Untergeordnete Prozesse, Dateischreibvorgänge und interaktive Stream-Frames im Container | Unterprozesse, die von einem Shell-Befehl, Änderungen am Dateisystem und einzelnen Frames erzeugt werden, die über eine offene WebSocket-, Chrome-Entwicklertools-Protokoll- (CDP) oder PTY-Sitzung gesendet werden | Nicht in Cloud-Audit-Logs protokolliert | Cloud-Audit-Logs zeichnet den ersten API-Aufruf (ExecuteSandboxEnvironment, BidiExecuteSandboxEnvironment oder AuthorizeSandboxEnvironmentAccess) auf, nicht nachfolgende Systemaufrufe im Gastsystem oder Stream-Frames. |
Container stdout und stderr-Ausgabe |
Standardausgabe- und Fehlerstreams von Befehlen, die in der Sandbox ausgeführt werden | In der API-Antwort der Ausführung zurückgegeben | Die automatische Cloud Logging-Erfassung (z. B. reasoning_engine_stdout) gilt nur für die übergeordnete ReasoningEngine-Laufzeit und erfasst keine Logs aus untergeordneten Sandbox-Ressourcen. Loggen Sie Befehlsausgaben von Ihrem übergeordneten Agenten in Agent Runtime oder lesen Sie den Abschnitt Sandboxen verwalten. |
Bedrohungserkennung und -überwachung
Sandboxes erzwingen die Laufzeiteingrenzung mithilfe der gVisor-Kernel-Isolierung in von Google verwalteten Mandantenprojekten. Sie führen keinen integrierten Agent zur Intrusion Detection im Gastsystem oder einen automatischen Vulnerability Scanner vor der Bereitstellung aus. Kombinieren Sie die folgenden Kontrollen, um die Sandbox-Aktivität zu überwachen und Bedrohungen zu erkennen:
- Audit-Logs zum Datenzugriff aktivieren: Aktivieren Sie
ADMIN_READ- undDATA_WRITE-Cloud-Audit-Logs füraiplatform.googleapis.com, um die unbefugte Erstellung von Sandboxes, die Generierung von Zugriffstokens (AuthorizeSandboxEnvironmentAccess) oder Ausführungsanfragen zu erkennen. - Verhalten des übergeordneten KI-Agenten überwachen: Aktivieren Sie die Anomalieerkennung für KI-Agenten, um Traces, Toolaufrufe und Ausführungsmuster in Ihren Agent Runtime-Agenten zu analysieren.
- Ausgehenden Netzwerktraffic in Ihrer VPC prüfen: Leiten Sie ausgehenden Sandbox-Traffic über eine Private Service Connect-Schnittstelle in Ihre VPC weiter und aktivieren Sie VPC-Flusslogs im Private Service Connect-Subnetz, Cloud NGFW-Regel-Logging, Secure Web Proxy-Zugriffslogs und Cloud DNS-Abfrage-Logging, um anomale ausgehende Verbindungen oder Versuche der Daten-Exfiltration zu erkennen.
- Benutzerdefinierte Container-Images vor der Bereitstellung scannen: Wenn Sie benutzerdefinierte Container (BYOC) verwenden, aktivieren Sie das Scannen auf Sicherheitslücken in Artifact Registry, um anfällige Pakete zu identifizieren, bevor Sie den Image-URI in einer
SandboxEnvironmentTemplatereferenzieren.