L'integrazione di Model Armor con Gemini Enterprise ti consente di esaminare i prompt degli utenti e le risposte degli agenti AI, mitigando i rischi come prompt injection, contenuti dannosi e fughe di dati sensibili. Una volta configurata l'integrazione, viene applicata a tutte le interazioni utente.
Prima di iniziare
Crea un modello Model Armor e assicurati che si trovi nello stesso Google Cloud progetto di Gemini Enterprise. La posizione del modello e dell'istanza di Gemini Enterprise deve corrispondere. Per saperne di più sulle località supportate, consulta Località di Model Armor e Località di Gemini Enterprise.
Ruoli obbligatori
Prima di integrare Model Armor con Gemini Enterprise, assicurati di disporre del ruolo richiesto.
Per ottenere le autorizzazioni necessarie per creare e gestire i modelli Model Armor, chiedi all'amministratore di concederti il ruolo IAM Model Armor Admin (roles/modelarmor.admin) sui modelli Model Armor.
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.
Attivare l'integrazione
Per abilitare Gemini Enterprise con Model Armor, l'amministratore della sicurezza crea policy in Model Armor e l'amministratore di Gemini Enterprise applica queste policy all'istanza Gemini Enterprise.
Limitazioni e considerazioni
Tieni presenti le seguenti limitazioni e considerazioni quando integri Model Armor con Gemini Enterprise:
- Anonimizzazione e mascheramento: quando Model Armor utilizza un
modello Sensitive Data Protection per la scansione di prompt o risposte,
Model Armor verifica se i contenuti corrispondono ai criteri del rilevatore di infoType
definiti nel modello. Sebbene Sensitive Data Protection
supporti l'anonimizzazione in base alla configurazione del modello,
Model Armor non restituisce dati anonimizzati o mascherati a
Gemini Enterprise. Se i contenuti attivano uno dei rilevatori di infoType
di Sensitive Data Protection e il tipo di applicazione è
INSPECT_AND_BLOCK, Gemini Enterprise blocca la richiesta o la risposta anziché de-identificarla. Screening di documenti e immagini: oltre ai prompt di testo, l'integrazione supporta documenti (ad esempio PDF) e immagini. Le schermate di integrazione esaminano i seguenti file solo quando li carichi nell'assistente Gemini Enterprise:
- Immagini caricate direttamente.
- Immagini contenute in altri file e documenti che carichi direttamente.
Se un file o un'immagine all'interno di un documento viola le norme configurate, l'intero file o documento viene eliminato ed escluso dalla richiesta.
Agenti e interazioni sottoposti a screening: lo screening si applica all'assistente Gemini Enterprise, agli agenti creati dai dipendenti (nell'app Gemini Enterprise utilizzando Workflow Builder) e agli agenti creati da Google. Le interazioni con gli agenti personalizzati della tua organizzazione (come ADK, A2A e Dialogflow) non vengono esaminate.
Limiti e quote di token: non sono previsti limiti di token quando utilizzi Model Armor con Gemini Enterprise. Tuttavia, il throughput totale delle valutazioni di Model Armor è regolato dalle quote del sistema Gemini Enterprise e dai limiti di frequenza dell'API Model Armor.
Accordo sul livello del servizio (SLA): Gemini Enterprise fornisce un accordo sul livello del servizio. Quando Gemini Enterprise è configurato per utilizzare Model Armor, le query bloccate non vengono conteggiate come violazioni dello SLA, indipendentemente dal fatto che venga utilizzata la modalità fail-open o fail-closed.
Conformità: sia Gemini Enterprise che Model Armor offrono varie certificazioni di conformità. Se utilizzati insieme, le certificazioni di conformità effettive sono il sottoinsieme comune di entrambi i prodotti. Esamina le certificazioni di conformità per entrambi i prodotti per assicurarti che soddisfino i requisiti normativi.
Come funziona
Una volta configurata l'integrazione, Gemini Enterprise indirizza gli input dell'utente e gli output dell'assistente tramite l'API Model Armor per lo screening utilizzando i modelli selezionati. Gemini Enterprise esegue l'autenticazione a Model Armor utilizzando l'agente di servizio. Model Armor risponde in base alla configurazione del filtro definita nel modello, che Gemini Enterprise utilizza per bloccare la richiesta o la risposta o per consentirla.
Ad esempio, Gemini Enterprise potrebbe rilevare una richiesta contenente informazioni che consentono l'identificazione personale e indirizzarla a Model Armor per il controllo. Se il modello Model Armor è configurato per bloccare le informazioni che consentono l'identificazione personale (PII), indica a Gemini Enterprise di bloccare la richiesta.
Logging
Model Armor genera log della piattaforma per le richieste di sanificazione e
le relative risposte in Cloud Logging. Per visualizzare i log di controllo di Model Armor, devi disporre del ruolo IAM Visualizzatore log privati (roles/logging.privateLogViewer). Per ulteriori informazioni sui log di controllo generati automaticamente, vedi
Log di controllo di Model Armor.
Per registrare le operazioni di sanificazione, imposta il campo templateMetadata.logSanitizeOperations
su true. Per saperne di più, consulta Configurare la registrazione nei modelli.