L'intégration de Model Armor à Gemini Enterprise vous permet d' analyser les requêtes des utilisateurs et les réponses de vos agents IA, ce qui réduit les risques tels qu' une injection de prompt, des contenus nuisibles et des fuites de données sensibles. Une fois l'intégration configurée, elle s'applique à toutes les interactions utilisateur.
Avant de commencer
Créez un modèle Model Armor et assurez-vous qu'il se trouve dans le même Google Cloud projet que Gemini Enterprise. L'emplacement du modèle et de l'instance Gemini Enterprise doit correspondre. Pour en savoir plus sur les emplacements compatibles, consultez Emplacements Model Armor et Emplacements Gemini Enterprise.
Rôles requis
Avant d'intégrer Model Armor à Gemini Enterprise, assurez-vous de disposer du rôle requis.
Pour obtenir les autorisations nécessaires pour créer et gérer des modèles Model Armor, demandez à votre administrateur de vous accorder le rôle IAM Administrateur Model Armor (roles/modelarmor.admin) sur les modèles Model Armor.
Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.
Vous pouvez également obtenir les autorisations requises via des rôles personnalisés ou d'autres rôles prédéfinis.
Activer l'intégration
Pour activer Gemini Enterprise avec Model Armor, votre administrateur de la sécurité crée des règles dans Model Armor, et votre administrateur Gemini Enterprise les applique à l'instance Gemini Enterprise.
Limites et points à noter
Tenez compte des limites et des points suivants lorsque vous intégrez Model Armor à Gemini Enterprise :
- Anonymisation et masquage : lorsque Model Armor utilise un
modèle Sensitive Data Protection pour analyser des requêtes ou des réponses,
il vérifie si le contenu correspond aux critères du détecteur d'infoType
définis dans le modèle. Bien que Sensitive Data Protection soit compatible avec l'anonymisation en fonction de la configuration du modèle, Model Armor ne renvoie pas les données anonymisées ou masquées à Gemini Enterprise. Si le contenu déclenche des détecteurs d'infoType de Sensitive Data Protection et que le type d'application est
INSPECT_AND_BLOCK, Gemini Enterprise bloque la requête ou la réponse au lieu de l'anonymiser. Analyse de documents et d'images : en plus des requêtes textuelles, l'intégration est compatible avec les documents (tels que les PDF) et les images. L'intégration n'analyse les fichiers suivants que lorsque vous les importez dans l'assistant Gemini Enterprise :
- Images que vous importez directement
- Images contenues dans d'autres fichiers et documents que vous importez directement
Si un fichier ou une image dans un document enfreint les règles que vous avez configurées, l'intégralité du fichier ou du document est supprimée et exclue de la requête.
Agents et interactions analysés : l'analyse s'applique à l'assistant Gemini Enterprise, aux agents créés par les employés (dans l'application Gemini Enterprise à l'aide du Workflow Builder) et aux agents créés par Google. Les interactions avec les agents personnalisés de votre organisation (tels qu'ADK, A2A et Dialogflow) ne sont pas analysées.
Limites de jetons et quotas : bien qu'il n'y ait pas de limites de jetons directes lorsque vous utilisez Model Armor avec Gemini Enterprise, le débit total des évaluations Model Armor est régi par les quotas système de Gemini Enterprise et les limites de débit de l'API Model Armor.
Contrat de niveau de service (SLA) : Gemini Enterprise fournit un contrat de niveau de service. Lorsque Gemini Enterprise est configuré pour utiliser Model Armor, les requêtes bloquées ne sont pas considérées comme des violations du contrat de niveau de service, que le mode fail-open ou fail-closed soit utilisé.
Conformité : Gemini Enterprise et Model Armor proposent différentes certifications de conformité. Lorsqu'ils sont utilisés ensemble, les certifications de conformité effectives sont le sous-ensemble commun aux deux produits. Consultez les certifications de conformité des deux produits pour vous assurer qu'ils répondent à vos exigences réglementaires.
Fonctionnement
Une fois l'intégration configurée, Gemini Enterprise achemine les entrées utilisateur et les sorties de l'assistant via l'API Model Armor pour les analyser à l'aide des modèles sélectionnés. Gemini Enterprise s'authentifie auprès de Model Armor à l'aide de l'agent de service. Model Armor répond en fonction de la configuration du filtre définie dans le modèle, que Gemini Enterprise applique en bloquant ou en autorisant la requête ou la réponse.
Par exemple, Gemini Enterprise peut détecter une requête contenant des informations permettant d'identifier personnellement l'utilisateur et l'acheminer vers Model Armor pour analyse. Si le modèle Model Armor est configuré pour bloquer les informations permettant d'identifier personnellement l'utilisateur, il indique à Gemini Enterprise de bloquer la requête.
Journalisation
Model Armor génère des journaux de plate-forme pour les requêtes de nettoyage et leurs réponses dans Cloud Logging. Vous devez disposer du rôle IAM Lecteur des journaux privés (roles/logging.privateLogViewer) pour afficher les journaux d'audit Model Armor. Pour en savoir plus sur les
journaux d'audit générés automatiquement, consultez
Journaux d'audit Model Armor.
Pour enregistrer les opérations de nettoyage, définissez le champ templateMetadata.logSanitizeOperations sur true. Pour en savoir plus, consultez
Configurer la journalisation dans les modèles.