L'intégration de Model Armor à Gemini Enterprise vous permet d'analyser les requêtes des utilisateurs envoyées à vos agents d'IA et les réponses qu'ils reçoivent, ce qui atténue les risques tels que l'injection de prompt, les contenus nuisibles et les fuites de données sensibles. Une fois l'intégration configurée, elle s'applique à toutes les interactions utilisateur.
Avant de commencer
Créez un modèle Model Armor et assurez-vous qu'il se trouve dans le même projet Google Cloud que Gemini Enterprise. L'emplacement du modèle et de l'instance Gemini Enterprise doivent correspondre. Pour en savoir plus sur les emplacements compatibles, consultez Emplacements Model Armor et Emplacements Gemini Enterprise.
Rôles requis
Avant d'intégrer Model Armor à Gemini Enterprise, assurez-vous de disposer du rôle requis.
Pour obtenir les autorisations nécessaires pour créer et gérer des modèles Model Armor, demandez à votre administrateur de vous accorder le rôle IAM Administrateur Model Armor (roles/modelarmor.admin) sur les modèles Model Armor.
Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.
Vous pouvez également obtenir les autorisations requises avec des rôles personnalisés ou d'autres rôles prédéfinis.
Activer l'intégration
Pour activer Gemini Enterprise avec Model Armor, votre administrateur de sécurité crée des règles dans Model Armor, et votre administrateur Gemini Enterprise les applique à l'instance Gemini Enterprise.
Limites et points à noter
Tenez compte des limites et des points suivants lorsque vous intégrez Model Armor à Gemini Enterprise :
- Anonymisation et masquage : lorsque Model Armor utilise un modèle Sensitive Data Protection pour analyser les requêtes ou les réponses, il vérifie si le contenu correspond aux critères du détecteur d'infoType définis dans le modèle. Bien que Sensitive Data Protection prenne en charge l'anonymisation en fonction de la configuration du modèle, Model Armor ne renvoie pas les données anonymisées ou masquées à Gemini Enterprise. Si le contenu déclenche des détecteurs d'infoTypes de protection des données sensibles et que le type d'application est
INSPECT_AND_BLOCK, Gemini Enterprise bloque la requête ou la réponse au lieu de les désidentifier. Analyse de documents et d'images : en plus des requêtes textuelles, l'intégration est compatible avec les documents (tels que les PDF) et les images. L'intégration analyse les fichiers suivants uniquement lorsque vous les importez dans l'assistant Gemini Enterprise :
- Images que vous importez directement.
- Images contenues dans d'autres fichiers et documents que vous importez directement.
Si un fichier ou une image dans un document enfreint les règles que vous avez configurées, l'intégralité du fichier ou du document est supprimée et exclue de la demande.
Agents et interactions filtrés : le filtrage s'applique à l'assistant Gemini Enterprise, aux agents créés par les employés (dans l'application Gemini Enterprise à l'aide du Workflow Builder) et aux agents créés par Google. Les interactions avec les agents personnalisés de votre organisation (tels qu'ADK, A2A et Dialogflow) ne sont pas filtrées.
Limites et quotas de jetons : aucune limite de jetons ne s'applique lorsque vous utilisez Model Armor avec Gemini Enterprise. Toutefois, le débit total des évaluations Model Armor est régi par les quotas du système Gemini Enterprise et les limites de débit de l'API Model Armor.
Contrat de niveau de service (SLA) : Gemini Enterprise propose un contrat de niveau de service. Lorsque Gemini Enterprise est configuré pour utiliser Model Armor, les requêtes bloquées ne sont pas considérées comme des cas de non-respect du SLA, que le mode fail-open ou fail-closed soit utilisé.
Conformité : Gemini Enterprise et Model Armor proposent tous deux diverses certifications de conformité. Lorsqu'ils sont utilisés ensemble, les certifications de conformité effectives sont le sous-ensemble commun aux deux produits. Consultez les certifications de conformité pour les deux produits afin de vous assurer qu'ils répondent à vos exigences réglementaires.
Fonctionnement
Une fois l'intégration configurée, Gemini Enterprise achemine les entrées utilisateur et les sorties de l'assistant via l'API Model Armor pour les filtrer à l'aide des modèles sélectionnés. Gemini Enterprise s'authentifie auprès de Model Armor à l'aide de l'agent de service. Model Armor répond en fonction de la configuration du filtre définie dans le modèle, que Gemini Enterprise applique en bloquant ou en autorisant la requête ou la réponse.
Par exemple, Gemini Enterprise peut détecter une requête contenant des informations permettant d'identifier personnellement l'utilisateur et l'envoyer à Model Armor pour qu'elle soit examinée. Si le modèle Model Armor est configuré pour bloquer les informations permettant d'identifier personnellement l'utilisateur, il indique à Gemini Enterprise de bloquer la requête.
Journalisation
Model Armor génère des journaux de plate-forme pour les demandes de désinfection et leurs réponses dans Cloud Logging. Vous devez disposer du rôle IAM Lecteur des journaux privés (roles/logging.privateLogViewer) pour afficher les journaux d'audit Model Armor. Pour en savoir plus sur les journaux d'audit générés automatiquement, consultez Journaux d'audit Model Armor.
Pour consigner les opérations de nettoyage, définissez le champ templateMetadata.logSanitizeOperations sur true. Pour en savoir plus, consultez Configurer la journalisation dans les modèles.