Visão geral

O Model Armor se integra aos serviços do Google Cloud para proteger as interações de IA e modelos de linguagem grandes (LLMs). O Model Armor identifica e relata possíveis violações da política e pode bloquear ativamente ações com base em avaliações de segurança.

Quando usar as integrações do Model Armor

Veja alguns casos de uso comuns:

  • Proteger o tráfego do gateway de API: intercepte solicitações e respostas maliciosas para proteger os endpoints de IA de back-end na camada de gateway usando a Apigee ou o Gateway de Agente.
  • Aplicar proteções de modelo inline: filtre fluxos de comandos e respostas diretamente na Agent Platform, no Gemini e nos fluxos de trabalho do Gemini Enterprise sem código de wrapper personalizado.
  • Centralize as operações de segurança e os alertas: encaminhe descobertas e eventos de violação de política diretamente para o Security Command Center para monitoramento unificado de ameaças.
  • Proteja as interações dos agentes: forneça proteções para agentes de conversação e invocações de ferramentas em arquiteturas corporativas integradas.

Modalidades aceitas

As modalidades que o Model Armor pode verificar e limpar dependem de como você acessa o serviço:

Para detalhes sobre os tipos de documentos e limites de tamanho aceitos, consulte Triagem de documentos.

Serviços compatíveis

Nesta seção, descrevemos os serviços do Google Cloud que podem ser integrados ao Model Armor.

Gateway de Agente

Integre o Model Armor ao Gateway de Agente para aplicar políticas de segurança ao tráfego que entra e sai de todos os agentes controlados pelo gateway. Essa integração permite a inspeção inline e o bloqueio de conteúdo malicioso ou não conforme. O objetivo dessa integração é melhorar a segurança do fluxo de trabalho e a adesão às diretrizes de segurança organizacional, sem precisar modificar o código do aplicativo. Essa proteção se aplica aos protocolos compatíveis nos caminhos de entrada (para o agente) e de saída (do agente). Para mais informações, consulte Integrar com o Gateway de Agente.

Apigee

A integração do Model Armor com a Apigee permite usar os recursos de proteção de IA do Model Armor diretamente na camada do gateway de API da Apigee. Configure políticas específicas do Model Armor nos proxies de API da Apigee. Quando uma chamada de API passa por um proxy da Apigee que tem essas políticas, a Apigee envia os comandos e as respostas para o serviço Model Armor para inspeção. Para mais informações, consulte Integrar com a Apigee.

Gemini Enterprise

O Model Armor pode ser integrado diretamente ao Gemini Enterprise usando modelos. O Gemini Enterprise encaminha as interações entre usuários, agentes e LLMs, incluindo texto, documentos e imagens, pelo Model Armor para inspeção antes de apresentar as respostas ao usuário. Para mais informações, consulte Integrar com o Gemini Enterprise.

Servidores MCP do Google e do Google Cloud

O Model Armor pode ser configurado para ajudar a proteger seus dados e conteúdo ao enviar solicitações para serviços do Google Cloud que expõem ferramentas e servidores do Protocolo de Contexto de Modelo (MCP, na sigla em inglês). O Model Armor ajuda a proteger seus aplicativos de IA agêntica limpando as chamadas de ferramenta e respostas do MCP usando configurações mínimas. Esse processo mitiga riscos como injeção de comandos e divulgação de dados sensíveis. Para mais informações, consulte Integrar com servidores do Google e do Google Cloud MCP.

Extensões de serviço

O Model Armor pode ser integrado aos serviços de rede do Google Cloud pelas extensões de serviço. Com as extensões de serviço, é possível integrar serviços do Google Cloud ou serviços gerenciados pelo usuário para processar o tráfego. É possível configurar uma extensão de serviço em balanceadores de carga de aplicativo para filtrar o tráfego de rede em várias interações de IA, como com agentes e servidores MCP. Também é possível usar extensões de serviço com gateways de inferência do GKE para filtrar o tráfego de entrada e saída de um cluster do GKE. Isso ajuda a garantir que todas as interações de IA que passam pelo balanceador de carga sejam protegidas pelo Model Armor. Para mais informações, consulte Integrar com os serviços de rede do Google Cloud .

Gemini Enterprise Agent Platform

O Model Armor pode ser integrado diretamente à Gemini Enterprise Agent Platform usando as configurações mínimas ou os modelos. Essa integração analisa as solicitações e respostas do modelo do Gemini, bloqueando as que violam as configurações mínimas. Essa integração oferece proteção de comandos e respostas na API Gemini na Vertex AI para o método generateContent. A limpeza de comandos e respostas que contêm documentos ou imagens não é compatível com essa integração. É necessário ativar o Cloud Logging para ter visibilidade dos resultados da sanitização de comandos e respostas. Para mais informações, consulte Integração com a Gemini Enterprise Agent Platform.

Antes de começar

Ativar APIs

É necessário ativar a API Model Armor antes de usar o Model Armor.

Console

  1. Ative a API Model Armor, se ainda não estiver ativada.

    Funções necessárias para ativar APIs

    Para ativar APIs, você precisa da permissão serviceusage.services.enable. Se você criou o projeto, provavelmente já tem essa permissão pelo papel de proprietário (roles/owner). Caso contrário, é possível conseguir essa permissão pelo papel de administrador do Service Usage (roles/serviceusage.serviceUsageAdmin). Saiba como conceder papéis.

    Ativar a API

  2. Selecione o projeto em que você quer ativar o Model Armor.

gcloud

Antes de começar, siga estas etapas usando a Google Cloud CLI com a API Model Armor:

  1. Instale a Google Cloud CLI e faça login na CLI gcloud com sua identidade federada. Depois de fazer login, inicialize a Google Cloud CLI executando o seguinte comando: 

    gcloud init

  2. Ative a API Model Armor, se ainda não estiver ativada:

    Funções necessárias para ativar APIs

    Para ativar APIs, você precisa da permissão serviceusage.services.enable. Se você criou o projeto, provavelmente já tem essa permissão pelo papel de proprietário (roles/owner). Caso contrário, é possível conseguir essa permissão pelo papel de administrador do Service Usage (roles/serviceusage.serviceUsageAdmin). Saiba como conceder papéis. 

    gcloud services enable modelarmor.googleapis.com

  3. Defina a substituição do endpoint de API usando a CLI gcloud.

Definir a substituição do endpoint de API usando a CLI gcloud

Essa etapa só é necessária se você usa a CLI gcloud com o Model Armor e quer usar uma região ou multirregião diferente da multirregião padrão us. É necessário definir manualmente a substituição do endpoint de API para garantir que a CLI gcloud encaminhe corretamente as solicitações para o serviço Model Armor.

Execute o comando a seguir para definir o endpoint de API para o serviço Model Armor.

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

Substitua LOCATION pela região ou multirregião em que você quer usar o Model Armor.

Gerenciar cota

O Model Armor usa um sistema de cotas para garantir o uso justo e proteger a estabilidade do sistema. A cota padrão da API Model Armor é de 1.200 QPM por projeto. É possível aplicar um valor de 0 a 1.200 QPM por projeto. Para solicitar um ajuste, consulte Solicitar um ajuste de cota. Se você precisar de mais do que a cota padrão, entre em contato com o Cloud Customer Care.

A cota do Model Armor exige considerações importantes ao fazer a integração com outros serviços. A cota principal com que você interage é o número de solicitações de API por minuto em cada projeto.

Considere os seguintes tipos de cota ao integrar o Model Armor com outros serviços.

  • Cota padrão do Model Armor: quando um serviço faz uma chamada para a API Model Armor para análise (por exemplo, verificação de comandos ou respostas), isso consome a cota da API Model Armor do seu projeto.
  • Cota de serviços de integração: a cota do Model Armor é separada de todas as cotas associadas aos serviços de integração. Verifique se há cota suficiente para todos os serviços no caminho da solicitação. Qualquer chamada feita à API Model Armor para limpar o conteúdo do seu aplicativo é contabilizada nos limites de cota da API Model Armor.

Descobrir situações de falta de cota

Você atingirá os limites de cota do Model Armor se os registros do aplicativo mostrarem erros do Model Armor, normalmente erros HTTP 429 RESOURCE_EXHAUSTED, o que indica um número excessivo de solicitações.

Estimar as necessidades de cota

Para determinar quanta cota do Model Armor solicitar:

  • Estime o número máximo de solicitações por minuto que seus serviços vão enviar ao Model Armor.
  • Considere quantas vezes o Model Armor é chamado por interação do usuário com seu serviço (por exemplo, uma vez para o comando e outra para a resposta).
  • Considere o número máximo de usuários ou sessões simultâneos.
  • Solicite uma cota com um buffer razoável (por exemplo, 20% a 30% acima do pico esperado) para lidar com picos inesperados.
  • Comece com sua melhor estimativa, monitore o uso de perto após o lançamento e solicite mais ajustes conforme necessário.

Por exemplo, se você espera 500 usuários por minuto e cada interação do usuário chama o Model Armor duas vezes (comando e resposta), você precisa de pelo menos 1.000 QPM. Considerando uma margem de segurança, solicitar de 1.200 a 1.300 QPM é um bom ponto de partida.

Considerações

Ao fazer a integração com outros serviços, considere o seguinte:

  • Monitore e gerencie as cotas de outros serviços. Ficar sem cota para outros serviços afeta seu aplicativo, mesmo que você tenha cota suficiente do Model Armor.
  • Implemente novas tentativas do lado do cliente com espera exponencial na configuração do aplicativo para lidar com problemas temporários de cota ou outros erros que podem ser repetidos. Para mais informações, consulte Estratégia de nova tentativa.

Tipos de restrição

Ao integrar o Model Armor com outros serviços, um aspecto crucial a ser configurado é o tipo de aplicação. Essa configuração determina como o Model Armor age ao detectar uma possível violação da política nos dados que ele inspeciona, como comandos ou respostas de LLMs. O tipo de aplicação determina se o Model Armor apenas relata violações ou intervém ativamente. Para mais informações, consulte Definir o tipo de restrição.

Integrar usando a API REST

Quando você usa a API REST para integração, o Model Armor funciona apenas como um detector que usa modelos. Ele identifica e relata possíveis violações de política com base em modelos predefinidos, em vez de evitá-las ativamente. Ao se integrar à API Model Armor, seu aplicativo pode usar a saída do Model Armor para bloquear ou permitir ações com base nos resultados da avaliação de segurança fornecidos. A API Model Armor retorna informações sobre possíveis ameaças ou violações de política relacionadas ao tráfego da API, especialmente no caso de interações de IA. Seu aplicativo pode chamar a API Model Armor e usar as informações recebidas na resposta para tomar uma decisão e entrar em ação com base na sua lógica personalizada predefinida.

Opções ao integrar o Model Armor

O Model Armor oferece as seguintes opções de integração. Cada opção oferece recursos e capacidades diferentes.

Opção de integração Configurar detecções Modalidades aceitas Somente inspecionar Inspecionar e bloquear Cobertura
Gateway de Agente Usando apenas modelos Texto Sim Sim Todos os modelos e todas as nuvens
Apigee Usando apenas modelos Texto Sim Sim Todos os modelos e todas as nuvens2
Gemini Enterprise Usando apenas modelos Texto, documentos, imagens Sim Sim Todos os modelos e todas as nuvens2
Servidores MCP do Google Cloud Google e Usar apenas configurações mínimas Texto Sim Sim Servidores MCP do Google e do Google Cloud
Extensões de serviço Usando apenas modelos Texto Sim Sim Modelos de formato OpenAI1, agentes e servidores MCP em todas as nuvens2
Gemini Enterprise Agent Platform Usar configurações mínimas e modelos Texto Sim Sim Modelos do Gemini (não streaming)

1Vários modelos conhecidos, incluindo Anthropic Claude, Mistral AI e Grok, são compatíveis com as especificações da OpenAI. Esses modelos geralmente são implantados usando mecanismos de inferência como o vLLM, que fornecem a camada de API necessária compatível com a OpenAI. O vLLM é compatível com uma ampla variedade de modelos, incluindo as séries Meta Llama, DeepSeek, Mistral e Mixtral, além do Gemma.

2Inclui outras nuvens públicas, como AWS e Azure.

Com a integração à Gemini Enterprise Agent Platform, o Model Armor oferece aplicação inline usando configurações mínimas ou modelos. A aplicação de políticas inline permite que o Model Armor aplique políticas de forma ativa, intervindo diretamente no processo sem exigir modificações no código do aplicativo.

As integrações das extensões de serviço e do Gemini Enterprise usam apenas modelos para aplicação de políticas inline. Com a aplicação de políticas inline, o Model Armor pode aplicar políticas diretamente, sem que você precise modificar o código do aplicativo nas extensões de serviço e durante as interações do usuário ou do agente nas instâncias do Gemini Enterprise.

As integrações do Model Armor com o Gemini Enterprise, o Agent Runtime e a Apigee limpam o comando inicial do usuário, a resposta final do agente ou do modelo e as etapas intermediárias, como dados de embasamento e respostas retornadas por ferramentas de pesquisa na Web. Se os dados de embasamento recuperados ou o payload intermediário violarem os modelos do Model Armor ou as políticas de Proteção de Dados Sensíveis configurados, a solicitação será bloqueada e registrada com um tipo de operação SANITIZE_USER_PROMPT.

Model Armor no Security Command Center

O Model Armor inspeciona comandos e respostas de LLMs em busca de várias ameaças, incluindo injeção de comandos, tentativas de jailbreak, URLs maliciosos e conteúdo nocivo. Quando o Model Armor detecta uma violação de uma configuração de piso, ele bloqueia o comando ou a resposta e envia uma descoberta para o Security Command Center. Para mais informações, consulte Descobertas do Model Armor.