Übersicht

Model Armor lässt sich in Dienste von Google Cloud integrieren, um KI- und LLM-Interaktionen (Large Language Model) zu sichern. Model Armor erkennt und meldet potenzielle Richtlinienverstöße und kann Aktionen basierend auf Sicherheitsbewertungen aktiv blockieren.

Wann sollten Model Armor-Integrationen verwendet werden?

Im Folgenden sind einige gängige Anwendungsfälle aufgeführt:

  • API-Gateway-Traffic sichern: Schädliche Anfragen und Antworten abfangen, um Backend-KI-Endpunkte auf der Gateway-Ebene mit Apigee oder Agent Gateway zu schützen.
  • Inline-Modellschutz erzwingen: Prompt- und Antwortstreams direkt in Agent Platform-, Gemini- und Gemini Enterprise-Workflows filtern, ohne benutzerdefinierten Wrapper-Code.
  • Sicherheitsvorgänge und Benachrichtigungen zentralisieren: Leiten Sie Ergebnisse und Ereignisse zu Richtlinienverstößen direkt an das Security Command Center weiter, um eine einheitliche Bedrohungsüberwachung zu ermöglichen.
  • Agenteninteraktionen schützen: Stellen Sie Schutzmaßnahmen für Konversations-Agenten und Toolaufrufe in integrierten Unternehmensarchitekturen bereit.

Unterstützte Modalitäten

Welche Modalitäten Model Armor scannen und bereinigen kann, hängt davon ab, wie Sie auf den Dienst zugreifen:

Weitere Informationen zu den unterstützten Dokumenttypen und Größenbeschränkungen finden Sie unter Dokumentprüfung.

Unterstützte Dienste

In diesem Abschnitt werden die Google Cloud -Dienste beschrieben, die Sie in Model Armor einbinden können.

Agent Gateway

Binden Sie Model Armor in Agent Gateway ein, um Sicherheitsrichtlinien für den Traffic zu und von allen KI-Agenten durchzusetzen, die vom Gateway verwaltet werden. Diese Integration ermöglicht die Inline-Prüfung und das Blockieren von schädlichen oder nicht richtlinienkonformen Inhalten. Diese Integration soll die Sicherheit von Workflows und die Einhaltung von Sicherheitsrichtlinien des Unternehmens verbessern, ohne dass Änderungen am Anwendungscode erforderlich sind. Dieser Schutz gilt für unterstützte Protokolle sowohl für eingehende (zum Agent) als auch für ausgehende (vom Agent) Pfade. Weitere Informationen finden Sie unter In Agent Gateway einbinden.

Apigee

Durch die Integration von Model Armor und Apigee können Sie die KI-Schutzfunktionen von Model Armor direkt in der Apigee API-Gateway-Ebene verwenden. Sie konfigurieren bestimmte Model Armor-Richtlinien in Ihren Apigee API-Proxys. Wenn ein API-Aufruf einen Apigee-Proxy mit diesen Richtlinien durchläuft, sendet Apigee die Prompts und Antworten zur Prüfung an den Model Armor-Dienst. Weitere Informationen finden Sie unter In Apigee einbinden.

Gemini Enterprise

Model Armor kann mithilfe von Vorlagen direkt in Gemini Enterprise eingebunden werden. Gemini Enterprise leitet Interaktionen zwischen Nutzern, Agents und zugrunde liegenden LLMs – einschließlich Text, Dokumenten und Bildern – zur Prüfung durch Model Armor, bevor die Antworten dem Nutzer präsentiert werden. Weitere Informationen finden Sie unter In Gemini Enterprise einbinden.

Google- und Google Cloud MCP-Server

Model Armor kann so konfiguriert werden, dass Ihre Daten und Inhalte geschützt werden, wenn Sie Anfragen an Google Cloud -Dienste senden, die MCP-Tools (Model Context Protocol) und ‑Server bereitstellen. Model Armor trägt zum Schutz Ihrer agentischen KI-Anwendungen bei, indem MCP-Toolaufrufe und ‑Antworten mithilfe von Mindesteinstellungen bereinigt werden. Dieser Prozess minimiert Risiken wie Prompt Injection und die Offenlegung sensibler Daten. Weitere Informationen finden Sie unter In Google- und Google Cloud MCP-Server einbinden.

Diensterweiterungen

Model Armor kann über Service Extensions in Netzwerkdienste von Google Cloud eingebunden werden. Mit Service Extensions können Sie Dienste von Google Cloud oder nutzerverwaltete Dienste zur Verarbeitung von Traffic einbinden. Sie können eine Diensterweiterung für Application Load Balancer konfigurieren, um den Netzwerkverkehr für verschiedene KI-Interaktionen zu filtern, z. B. mit Agenten und MCP-Servern. Sie können Diensterweiterungen auch mit GKE-Inferenz-Gateways verwenden, um den Traffic zu und von einem GKE-Cluster zu filtern. So wird dafür gesorgt, dass alle KI-Interaktionen, die über den Load Balancer laufen, durch Model Armor geschützt sind. Weitere Informationen finden Sie unter In Netzwerkdienste von Google Cloud einbinden.

Gemini Enterprise Agent Platform

Model Armor kann entweder über Mindesteinstellungen oder Vorlagen direkt in die Gemini Enterprise Agent Platform eingebunden werden. Bei dieser Integration werden Anfragen und Antworten von Gemini-Modellen geprüft und solche blockiert, die gegen die Mindesteinstellungen verstoßen. Diese Einbindung bietet Prompt- und Antwortschutz in der Gemini API in Vertex AI für die Methode generateContent. Das Bereinigen von Prompts und Antworten, die Dokumente oder Bilder enthalten, wird in dieser Integration nicht unterstützt. Sie müssen Cloud Logging aktivieren, um Einblick in die Bereinigungsergebnisse von Prompts und Antworten zu erhalten. Weitere Informationen finden Sie unter In die Gemini Enterprise Agent Platform einbinden.

Hinweis

APIs aktivieren

Sie müssen die Model Armor API aktivieren, bevor Sie Model Armor verwenden können.

Console

  1. Aktivieren Sie die Model Armor API, falls sie noch nicht aktiviert ist.

    Rollen, die zum Aktivieren von APIs erforderlich sind

    Zum Aktivieren von APIs benötigen Sie die Berechtigung serviceusage.services.enable. Wenn Sie das Projekt erstellt haben, haben Sie diese Berechtigung wahrscheinlich bereits über die Inhaberrolle (roles/owner). Andernfalls können Sie diese Berechtigung über die Rolle „Service Usage-Administrator“ (roles/serviceusage.serviceUsageAdmin) erhalten. Informationen zum Zuweisen von Rollen

    API aktivieren

  2. Wählen Sie das Projekt aus, in dem Sie Model Armor aktivieren möchten.

gcloud

Führen Sie die folgenden Schritte mit der Google Cloud CLI und der Model Armor API aus, bevor Sie beginnen:

  1. Installieren Sie die Google Cloud CLI und melden Sie sich dann mit Ihrer föderierten Identität in der gcloud CLI an. Nach der Anmeldung initialisieren Sie die Google Cloud CLI mit dem folgenden Befehl: 

    gcloud init

  2. Aktivieren Sie die Model Armor API, falls sie noch nicht aktiviert ist:

    Rollen, die zum Aktivieren von APIs erforderlich sind

    Zum Aktivieren von APIs benötigen Sie die Berechtigung serviceusage.services.enable. Wenn Sie das Projekt erstellt haben, haben Sie diese Berechtigung wahrscheinlich bereits über die Inhaberrolle (roles/owner). Andernfalls können Sie diese Berechtigung über die Rolle „Service Usage-Administrator“ (roles/serviceusage.serviceUsageAdmin) erhalten. Informationen zum Zuweisen von Rollen 

    gcloud services enable modelarmor.googleapis.com

  3. API-Endpunktüberschreibung mit der gcloud CLI festlegen

API-Endpunktüberschreibung mit der gcloud CLI festlegen

Dieser Schritt ist nur erforderlich, wenn Sie die gcloud CLI mit Model Armor verwenden und eine andere Region oder Multiregion als die standardmäßige Multiregion us verwenden möchten. Sie müssen den API-Endpunkt-Überschreibung manuell festlegen, damit die gcloud CLI Anfragen korrekt an den Model Armor-Dienst weiterleitet.

Führen Sie den folgenden Befehl aus, um den API-Endpunkt für den Model Armor-Dienst festzulegen.

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

Ersetzen Sie LOCATION durch die Region oder Multiregion, in der Sie Model Armor verwenden möchten.

Kontingent verwalten

Model Armor verwendet ein Kontingentsystem, um eine faire Nutzung zu gewährleisten und die Systemstabilität zu schützen. Das Standardkontingent für die Model Armor API beträgt 1.200 Anfragen pro Minute und Projekt. Sie können einen Wert von 0 bis 1.200 Anfragen pro Minute pro Projekt anwenden. Informationen zum Anfordern einer Anpassung finden Sie unter Kontingentanpassung anfordern. Wenn Sie mehr als das Standardkontingent benötigen, wenden Sie sich an den Cloud Customer Care.

Bei der Einbindung in andere Dienste müssen wichtige Überlegungen zum Model Armor-Kontingent angestellt werden. Das primäre Kontingent, mit dem Sie interagieren, ist die Anzahl der API-Anfragen pro Minute und Projekt.

Berücksichtigen Sie die folgenden Kontingenttypen, wenn Sie Model Armor in andere Dienste einbinden.

  • Model Armor-Standardkontingent: Wenn ein Dienst die Model Armor API zur Analyse aufruft (z. B. zum Prüfen von Prompts oder Antworten), wird das Model Armor API-Kontingent Ihres Projekts verbraucht.
  • Kontingent für integrierte Dienste: Das Model Armor-Kontingent ist von allen Kontingenten getrennt, die mit den integrierten Diensten verknüpft sind. Sie müssen dafür sorgen, dass für alle Dienste in Ihrem Anfragepfad ein ausreichendes Kontingent vorhanden ist. Jeder Aufruf der Model Armor API zum Bereinigen von Inhalten für Ihre Anwendung wird auf die Kontingentlimits der Model Armor API angerechnet.

Kontingentüberschreitungen erkennen

Sie erreichen die Kontingentlimits von Model Armor, wenn in den Anwendungsprotokollen Fehler von Model Armor angezeigt werden, in der Regel HTTP-429 RESOURCE_EXHAUSTED-Fehler, die auf zu viele Anfragen hinweisen.

Kontingentanforderungen schätzen

So ermitteln Sie, wie viel Model Armor-Kontingent Sie anfordern müssen:

  • Schätzen Sie die maximale Anzahl von Anfragen pro Minute, die Ihre Dienste an Model Armor senden werden.
  • Berücksichtigen Sie, wie oft Model Armor pro Nutzerinteraktion mit Ihrem Dienst aufgerufen wird (z. B. einmal für den Prompt und einmal für die Antwort).
  • Berücksichtigen Sie die maximale Anzahl gleichzeitiger Nutzer oder Sitzungen.
  • Fordern Sie ein Kontingent mit einem angemessenen Puffer an (z. B. 20–30 % über der erwarteten Spitze), um unerwartete Spitzen zu bewältigen.
  • Beginnen Sie mit Ihrer besten Schätzung, beobachten Sie die Nutzung nach der Einführung genau und fordern Sie bei Bedarf weitere Anpassungen an.

Wenn Sie beispielsweise 500 Nutzer pro Minute erwarten und jede Nutzerinteraktion Model Armor zweimal aufruft (Prompt und Antwort), benötigen Sie mindestens 1.000 QPM. Wenn Sie einen Puffer einplanen, sind 1.200–1.300 Anfragen pro Minute ein guter Ausgangspunkt.

Hinweise

Beachten Sie bei der Einbindung in andere Dienste Folgendes:

  • Achten Sie darauf, die Kontingente für andere Dienste zu überwachen und zu verwalten. Wenn das Kontingent für andere Dienste erschöpft ist, wirkt sich das auf Ihre Anwendung aus, auch wenn Sie über ausreichend Model Armor-Kontingent verfügen.
  • Implementieren Sie clientseitige Wiederholungsversuche mit exponentiellem Backoff in Ihrer Anwendung, um vorübergehende Kontingentprobleme oder andere wiederholbare Fehler zu beheben. Weitere Informationen finden Sie unter Wiederholungsstrategie.

Erzwingungstypen

Wenn Sie Model Armor in andere Dienste einbinden, ist der Erzwingungstyp ein wichtiger Aspekt, den Sie konfigurieren müssen. Diese Einstellung bestimmt, wie Model Armor reagiert, wenn ein potenzieller Richtlinienverstoß in den geprüften Daten erkannt wird, z. B. in LLM-Prompts oder ‑Antworten. Der Erzwingungstyp bestimmt, ob Model Armor Verstöße nur meldet oder aktiv eingreift. Weitere Informationen finden Sie unter Erzwingungstyp definieren.

Über die REST API einbinden

Wenn Sie die REST API für die Integration verwenden, fungiert Model Armor nur als Detektor, der Vorlagen verwendet. Es identifiziert und meldet potenzielle Richtlinienverstöße anhand vordefinierter Vorlagen, anstatt sie aktiv zu verhindern. Bei der Einbindung in die Model Armor API kann Ihre Anwendung die Ausgabe von Model Armor verwenden, um Aktionen basierend auf den bereitgestellten Ergebnissen der Sicherheitsbewertung zu blockieren oder zuzulassen. Die Model Armor API gibt Informationen zu potenziellen Bedrohungen oder Richtlinienverstößen im Zusammenhang mit Ihrem API-Traffic zurück, insbesondere bei KI-Interaktionen. Ihre Anwendung kann die Model Armor API aufrufen und die in der Antwort erhaltenen Informationen verwenden, um eine Entscheidung zu treffen und Maßnahmen auf Grundlage Ihrer vordefinierten benutzerdefinierten Logik zu ergreifen.

Optionen beim Einbinden von Model Armor

Model Armor bietet die folgenden Integrationsoptionen. Jede Option bietet unterschiedliche Funktionen und Möglichkeiten.

Integrationsoption Erkennungen konfigurieren Unterstützte Modalitäten Nur prüfen Prüfen und blockieren Abdeckung
Agent Gateway Nur Vorlagen verwenden Text Ja Ja Alle Modelle und alle Clouds
Apigee Nur Vorlagen verwenden Text Ja Ja Alle Modelle und alle Clouds2
Gemini Enterprise Nur Vorlagen verwenden Text, Dokumente, Bilder Ja Ja Alle Modelle und alle Clouds2
Google- und Google Cloud MCP-Server Nur Mindesteinstellungen verwenden Text Ja Ja Google- und Google Cloud MCP-Server
Service Extensions Nur Vorlagen verwenden Text Ja Ja Modelle im OpenAI-Format1, KI-Agenten und MCP-Server in allen Clouds2
Gemini Enterprise Agent Platform Sowohl Grundlegende Einstellungen als auch Vorlagen Text Ja Ja Gemini-Modelle (Nicht-Streaming)

1 Mehrere gängige Modelle, darunter Anthropic Claude, Mistral AI und Grok, unterstützen OpenAI-Spezifikationen. Diese Modelle werden in der Regel mit Inferenz-Engines wie vLLM bereitgestellt, die die erforderliche OpenAI-kompatible API-Ebene bereitstellen. vLLM unterstützt eine Vielzahl von Modellen, darunter die Meta Llama-Serie, DeepSeek, Mistral- und Mixtral-Familien sowie Gemma.

2 Umfasst andere öffentliche Clouds wie AWS und Azure.

Durch die Einbindung in die Gemini Enterprise Agent Platform bietet Model Armor Inline-Erzwingung mithilfe von Mindesteinstellungen oder Vorlagen. Mit der Inline-Richtlinienerzwingung kann Model Armor Richtlinien aktiv durchsetzen, indem es direkt in den Prozess eingreift, ohne dass Änderungen am Anwendungscode erforderlich sind.

Die Integrationen von Service Extensions und Gemini Enterprise verwenden nur Vorlagen für die Inline-Richtlinienerzwingung. Durch die Inline-Richtlinienerzwingung kann Model Armor Richtlinien direkt erzwingen, ohne dass Sie den Anwendungscode in Service Extensions oder während Nutzer- oder Agenteninteraktionen in Gemini Enterprise-Instanzen ändern müssen.

Die Model Armor-Integrationen mit Gemini Enterprise, Agent Runtime und Apigee bereinigen den ursprünglichen Nutzer-Prompt, die endgültige Antwort des KI-Agenten oder Modells sowie Zwischenschritte wie Grounding-Daten und Antworten, die von Websuchtools zurückgegeben werden. Wenn die abgerufenen Fundierungsdaten oder die Zwischennutzlast gegen Ihre konfigurierten Model Armor-Vorlagen oder Sensitive Data Protection-Richtlinien verstoßen, wird die Anfrage blockiert und mit dem Vorgangstyp SANITIZE_USER_PROMPT protokolliert.

Model Armor im Security Command Center

Model Armor prüft LLM-Prompts und ‑Antworten auf verschiedene Bedrohungen, darunter Prompt Injection, Jailbreaking-Versuche, schädliche URLs und schädliche Inhalte. Wenn Model Armor einen Verstoß gegen eine konfigurierte Mindesteinstellung erkennt, wird der Prompt oder die Antwort blockiert und ein Ergebnis an das Security Command Center gesendet. Weitere Informationen finden Sie unter Model Armor-Ergebnisse.