Aperçu

Model Armor s'intègre aux services Google Cloud pour sécuriser les interactions avec l'IA et les grands modèles de langage (LLM). Model Armor identifie et signale les cas potentiels de non-respect des règles, et peut bloquer activement les actions en fonction des évaluations de sécurité.

Quand utiliser les intégrations Model Armor

Voici quelques cas d'utilisation courants :

  • Sécuriser le trafic de la passerelle d'API : interceptez les requêtes et les réponses malveillantes pour protéger les points de terminaison d'IA de backend au niveau de la couche de la passerelle à l'aide d'Apigee ou d'Agent Gateway.
  • Appliquer des protections de modèle intégrées : filtrez les flux de requêtes et de réponses directement dans les workflows Agent Platform, Gemini et Gemini Enterprise sans code de wrapper personnalisé.
  • Centralisez les opérations de sécurité et les alertes : transmettez les résultats et les événements de non-respect des règles directement à Security Command Center pour une surveillance unifiée des menaces.
  • Protéger les interactions des agents : fournissez des garde-fous pour les agents conversationnels et les appels d'outils dans les architectures d'entreprise intégrées.

Modalités compatibles

Les modalités que Model Armor peut analyser et nettoyer dépendent de la façon dont vous accédez au service :

Pour en savoir plus sur les types de documents acceptés et les limites de taille, consultez Filtrage des documents.

Services compatibles

Cette section décrit les services Google Cloud que vous pouvez intégrer à Model Armor.

Agent Gateway

Intégrez Model Armor à Agent Gateway pour appliquer des règles de sécurité au trafic entrant et sortant de tous les agents régis par la passerelle. Cette intégration permet d'inspecter et de bloquer en ligne les contenus malveillants ou non conformes. Cette intégration vise à améliorer la sécurité des workflows et le respect des consignes de sécurité de l'organisation, sans qu'il soit nécessaire de modifier le code de l'application. Cette protection s'applique aux protocoles compatibles sur les chemins d'entrée (vers l'agent) et de sortie (depuis l'agent). Pour en savoir plus, consultez Intégrer Agent Gateway.

Apigee

L'intégration de Model Armor et d'Apigee vous permet d'utiliser les fonctionnalités de protection de l'IA de Model Armor directement dans la couche de passerelle d'API Apigee. Vous configurez des règles Model Armor spécifiques dans vos proxys d'API Apigee. Lorsqu'un appel d'API passe par un proxy Apigee doté de ces règles, Apigee envoie les prompts et les réponses au service Model Armor pour inspection. Pour en savoir plus, consultez Intégrer à Apigee.

Gemini Enterprise

Model Armor peut être directement intégré à Gemini Enterprise à l'aide de modèles. Gemini Enterprise achemine les interactions entre les utilisateurs, les agents et les LLM sous-jacents (y compris le texte, les documents et les images) via Model Armor pour inspection avant de présenter les réponses à l'utilisateur. Pour en savoir plus, consultez Intégrer à Gemini Enterprise.

Serveurs Google et Google Cloud MCP

Model Armor peut être configuré pour vous aider à protéger vos données et à sécuriser le contenu lorsque vous envoyez des requêtes aux services Google Cloud qui exposent les outils et les serveurs MCP (Model Context Protocol). Model Armor vous aide à sécuriser vos applications d'IA agentiques en nettoyant les appels d'outil et les réponses des outils MCP à l'aide de paramètres de plancher. Ce processus atténue les risques tels que l'injection de prompt et la divulgation de données sensibles. Pour en savoir plus, consultez Intégrer avec les serveurs Google et Google Cloud MCP.

Extensions de service

Model Armor peut être intégré aux services de mise en réseau Google Cloud via Service Extensions. Les extensions de service vous permettent d'intégrer des services Google Cloud ou des services gérés par l'utilisateur pour traiter le trafic. Vous pouvez configurer une extension de service sur les équilibreurs de charge d'application pour filtrer le trafic réseau pour diverses interactions d'IA, par exemple avec des agents et des serveurs MCP. Vous pouvez également utiliser des extensions de service avec des passerelles d'inférence GKE pour filtrer le trafic vers et depuis un cluster GKE. Cela permet de s'assurer que toutes les interactions d'IA passant par l'équilibreur de charge sont protégées par Model Armor. Pour en savoir plus, consultez Intégrer aux services de mise en réseau Google Cloud .

Gemini Enterprise Agent Platform

Model Armor peut être directement intégré à Gemini Enterprise Agent Platform à l'aide de paramètres de plancher ou de modèles. Cette intégration analyse les requêtes et les réponses du modèle Gemini, et bloque celles qui ne respectent pas les paramètres de plancher. Cette intégration fournit une protection des requêtes et des réponses dans l'API Gemini dans Vertex AI pour la méthode generateContent. La désinfection des requêtes et des réponses contenant des documents ou des images n'est pas prise en charge dans cette intégration. Vous devez activer Cloud Logging pour voir les résultats de l'assainissement des prompts et des réponses. Pour en savoir plus, consultez Intégrer à Gemini Enterprise Agent Platform.

Avant de commencer

Activer les API

Vous devez activer l'API Model Armor avant de pouvoir utiliser Model Armor.

Console

  1. Activez l'API Model Armor si ce n'est pas déjà fait.

    Rôles requis pour activer les API

    Pour activer des API, vous devez disposer de l'autorisation serviceusage.services.enable. Si vous avez créé le projet, vous disposez probablement déjà de cette autorisation via le rôle Propriétaire (roles/owner). Sinon, vous pouvez l'obtenir via le rôle Administrateur Service Usage (roles/serviceusage.serviceUsageAdmin). Découvrez comment attribuer des rôles.

    Activer l'API

  2. Sélectionnez le projet dans lequel vous souhaitez activer Model Armor.

gcloud

Avant de commencer, suivez ces étapes en utilisant la Google Cloud CLI avec l'API Model Armor :

  1. Installez la Google Cloud CLI, puis connectez-vous à la gcloud CLI avec votre identité fédérée. Après vous être connecté, initialisez la Google Cloud CLI en exécutant la commande suivante : 

    gcloud init

  2. Activez l'API Model Armor si ce n'est pas déjà fait :

    Rôles requis pour activer les API

    Pour activer des API, vous devez disposer de l'autorisation serviceusage.services.enable. Si vous avez créé le projet, vous disposez probablement déjà de cette autorisation via le rôle Propriétaire (roles/owner). Sinon, vous pouvez l'obtenir via le rôle Administrateur Service Usage (roles/serviceusage.serviceUsageAdmin). Découvrez comment attribuer des rôles. 

    gcloud services enable modelarmor.googleapis.com

  3. Définissez le remplacement du point de terminaison de l'API à l'aide de la gcloud CLI.

Définir le remplacement du point de terminaison de l'API à l'aide de la gcloud CLI

Cette étape n'est requise que si vous utilisez la gcloud CLI avec Model Armor et que vous souhaitez utiliser une région ou une zone multirégionale autre que la zone multirégionale par défaut us. Vous devez définir manuellement le remplacement du point de terminaison de l'API pour vous assurer que la gcloud CLI achemine correctement les requêtes vers le service Model Armor.

Exécutez la commande suivante pour définir le point de terminaison de l'API pour le service Model Armor.

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

Remplacez LOCATION par la région ou l'emplacement multirégional où vous souhaitez utiliser Model Armor.

Gérer le quota

Model Armor utilise un système de quotas pour garantir une utilisation équitable et protéger la stabilité du système. Le quota par défaut pour l'API Model Armor est de 1 200 RPM par projet. Vous pouvez appliquer une valeur comprise entre 0 et 1 200 RPM par projet. Pour demander un ajustement, consultez Demander un ajustement de quota. Si vous avez besoin d'un quota supérieur au quota par défaut, contactez Cloud Customer Care.

Le quota Model Armor nécessite des considérations importantes lors de l'intégration à d'autres services. Le quota principal avec lequel vous interagissez est le nombre de requêtes API par minute et par projet.

Tenez compte des types de quotas suivants lorsque vous intégrez Model Armor à d'autres services.

  • Quota par défaut de Model Armor : lorsqu'un service appelle l'API Model Armor pour une analyse (par exemple, pour vérifier des prompts ou des réponses), cela consomme le quota de l'API Model Armor de votre projet.
  • Quota des services d'intégration : le quota de Model Armor est distinct de tout quota associé aux services d'intégration. Vous devez vous assurer que le quota est suffisant pour tous les services de votre chemin de requête. Tout appel effectué à l'API Model Armor pour nettoyer le contenu de votre application est comptabilisé dans les limites de quota de l'API Model Armor.

Détecter les situations de dépassement de quota

Vous atteignez les limites de quota de Model Armor si les journaux de votre application affichent des erreurs de Model Armor, généralement des erreurs HTTP 429 RESOURCE_EXHAUSTED, qui indiquent un nombre excessif de requêtes.

Estimer les besoins en quotas

Pour déterminer le quota Model Armor à demander :

  • Estimez le nombre maximal de requêtes par minute que vos services enverront à Model Armor.
  • Déterminez le nombre de fois où Model Armor est appelé par interaction utilisateur avec votre service (par exemple, une fois pour le prompt et une fois pour la réponse).
  • Prenez en compte le nombre maximal d'utilisateurs ou de sessions simultanés.
  • Demandez un quota avec un tampon raisonnable (par exemple, 20 à 30 % au-dessus de votre pic attendu) pour gérer les pics inattendus.
  • Commencez par une estimation, surveillez de près l'utilisation après le lancement et demandez d'autres ajustements si nécessaire.

Par exemple, si vous prévoyez 500 utilisateurs par minute et que chaque interaction utilisateur appelle Model Armor deux fois (prompt et réponse), vous avez besoin d'au moins 1 000 RPM. En tenant compte d'une marge, demander 1 200 à 1 300 RPM est un bon point de départ.

Remarques

Lorsque vous intégrez d'autres services, tenez compte des points suivants :

  • Assurez-vous de surveiller et de gérer les quotas des autres services. Si vous manquez de quota pour d'autres services, cela aura un impact sur votre application, même si vous disposez d'un quota Model Armor suffisant.
  • Implémentez des nouvelles tentatives côté client avec un intervalle exponentiel entre les tentatives dans la configuration de votre application pour gérer les problèmes de quota temporaires ou d'autres erreurs permettant des nouvelles tentatives. Pour en savoir plus, consultez Stratégie de nouvelle tentative.

Types de mesures d'application

Lorsque vous intégrez Model Armor à d'autres services, un aspect crucial à configurer est le type d'application. Ce paramètre détermine la façon dont Model Armor réagit lorsqu'il détecte un non-respect potentiel des règles dans les données qu'il inspecte, comme les prompts ou les réponses des LLM. Le type d'application détermine si Model Armor ne fait que signaler les cas de non-respect ou s'il intervient activement. Pour en savoir plus, consultez Définir le type d'application.

Intégrer à l'aide de l'API REST

Lorsque vous utilisez l'API REST pour l'intégration, Model Armor ne fonctionne que comme un détecteur utilisant des modèles. Il identifie et signale les cas potentiels de non-respect des règles en fonction de modèles prédéfinis, plutôt que de les empêcher activement. Lors de l'intégration à l'API Model Armor, votre application peut utiliser la sortie de Model Armor pour bloquer ou autoriser des actions en fonction des résultats d'évaluation de sécurité fournis. L'API Model Armor renvoie des informations sur les menaces potentielles ou les cas de non-respect des règles liés au trafic de votre API, en particulier dans le cas d'interactions avec l'IA. Votre application peut appeler l'API Model Armor et utiliser les informations reçues dans la réponse pour prendre une décision et agir en fonction de votre logique personnalisée prédéfinie.

Options d'intégration de Model Armor

Model Armor propose les options d'intégration suivantes. Chaque option offre des fonctionnalités et des capacités différentes.

Option d'intégration Configurer les détections Modalités compatibles Inspecter uniquement Inspecter et bloquer Couverture
Agent Gateway En utilisant uniquement des modèles Texte Oui Oui Tous les modèles et tous les clouds
Apigee En utilisant uniquement des modèles Texte Oui Oui Tous les modèles et tous les clouds2
Gemini Enterprise En utilisant uniquement des modèles Texte, documents, images Oui Oui Tous les modèles et tous les clouds2
Serveurs Google et Google Cloud MCP Utiliser uniquement les paramètres de plancher Texte Oui Oui Serveurs Google et Google Cloud MCP
Extensions de service En utilisant uniquement des modèles Texte Oui Oui Modèles au format OpenAI1, agents et serveurs MCP sur tous les clouds2
Gemini Enterprise Agent Platform En utilisant à la fois les paramètres de plancher et les modèles Texte Oui Oui Modèles Gemini (sans streaming)

1Plusieurs modèles populaires, dont Anthropic Claude, Mistral AI et Grok, sont compatibles avec les spécifications OpenAI. Ces modèles sont généralement déployés à l'aide de moteurs d'inférence tels que vLLM, qui fournissent la couche d'API compatible avec OpenAI nécessaire. vLLM est compatible avec un large éventail de modèles, y compris la série Meta Llama, les familles DeepSeek, Mistral et Mixtral, ainsi que Gemma.

2 Inclut d'autres clouds publics comme AWS et Azure.

Grâce à l'intégration à Gemini Enterprise Agent Platform, Model Armor permet d'appliquer des mesures intégrées à l'aide de paramètres de plancher ou de modèles. L'application des règles intégrées permet à Model Armor d'appliquer activement des règles en intervenant directement dans le processus, sans nécessiter de modifications du code de votre application.

Les intégrations Service Extensions et Gemini Enterprise n'utilisent que des modèles pour l'application des règles intégrées. Grâce à l'application de règles intégrée, Model Armor peut appliquer des règles directement sans que vous ayez à modifier le code de l'application, à la fois dans les extensions de service et lors des interactions des utilisateurs ou des agents dans les instances Gemini Enterprise.

Les intégrations de Model Armor à Gemini Enterprise, Agent Runtime et Apigee nettoient le prompt utilisateur initial, la réponse finale de l'agent ou du modèle, ainsi que les étapes intermédiaires, telles que les données d'ancrage et les réponses renvoyées par les outils de recherche sur le Web. Si les données d'ancrage récupérées ou la charge utile intermédiaire ne respectent pas vos modèles Model Armor ou vos règles Sensitive Data Protection configurés, la requête est bloquée et consignée avec un type d'opération SANITIZE_USER_PROMPT.

Model Armor dans Security Command Center

Model Armor inspecte les prompts et les réponses des LLM pour détecter diverses menaces, y compris l'injection de prompt, les tentatives de jailbreak, les URL malveillantes et les contenus nuisibles. Lorsque Model Armor détecte une violation d'un paramètre de plancher configuré, il bloque le prompt ou la réponse et envoie un résultat à Security Command Center. Pour en savoir plus, consultez Résultats Model Armor.