Descripción general

Model Armor se integra en los servicios de Google Cloud para proteger las interacciones de IA y modelos de lenguaje grandes (LLM). Model Armor identifica y denuncia posibles incumplimientos de políticas, y puede bloquear de forma activa acciones según las evaluaciones de seguridad.

Cuándo usar las integraciones de Model Armor

A continuación, se muestran algunos casos de uso comunes:

  • Protege el tráfico de API Gateway: Intercepta las solicitudes y respuestas maliciosas para proteger los extremos de IA de backend en la capa de la puerta de enlace con Apigee o Agent Gateway.
  • Aplica protecciones de modelos intercaladas: Filtra los flujos de instrucciones y respuestas directamente en Agent Platform, Gemini y los flujos de trabajo de Gemini Enterprise sin código de wrapper personalizado.
  • Centraliza las operaciones de seguridad y las alertas: Enruta los hallazgos y los eventos de incumplimiento de políticas directamente a Security Command Center para supervisar las amenazas de forma unificada.
  • Protege las interacciones de los agentes: Proporciona lineamientos para los agentes conversacionales y las invocaciones de herramientas en las arquitecturas empresariales integradas.

Modalidades compatibles

Las modalidades que Model Armor puede analizar y limpiar dependen de cómo accedas al servicio:

Para obtener detalles sobre los tipos de documentos admitidos y los límites de tamaño, consulta Revisión de documentos.

Servicios compatibles

En esta sección, se describen los servicios de Google Cloud que puedes integrar en Model Armor.

Agent Gateway

Integra Model Armor con Agent Gateway para aplicar políticas de seguridad al tráfico que fluye hacia y desde todos los agentes regidos por la puerta de enlace. Esta integración permite la inspección intercalada y el bloqueo de contenido malicioso o que no cumple con las políticas. Esta integración tiene como objetivo mejorar la seguridad del flujo de trabajo y el cumplimiento de las normas de seguridad de la organización, sin necesidad de modificar el código de la aplicación. Esta protección se aplica a los protocolos compatibles en las rutas de entrada (al agente) y de salida (desde el agente). Para obtener más información, consulta Cómo realizar la integración con Agent Gateway.

Apigee

La integración de Model Armor y Apigee te permite usar las funciones de protección de IA de Model Armor directamente en la capa de la puerta de enlace de la API de Apigee. Configuras políticas específicas de Model Armor en tus proxies de API de Apigee. Cuando una llamada a la API pasa por un proxy de Apigee que tiene estas políticas, Apigee envía las instrucciones y las respuestas al servicio de Model Armor para su inspección. Para obtener más información, consulta Integra con Apigee.

Gemini Enterprise

Model Armor se puede integrar directamente en Gemini Enterprise con plantillas. Gemini Enterprise enruta las interacciones entre los usuarios, los agentes y los LLM subyacentes, incluidos el texto, los documentos y las imágenes, a través de Model Armor para su inspección antes de presentar las respuestas al usuario. Para obtener más información, consulta Cómo realizar la integración en Gemini Enterprise.

Servidores de MCP de Google y Google Cloud

Model Armor se puede configurar para ayudar a proteger tus datos y el contenido cuando envías solicitudes a servicios de Google Cloud que exponen herramientas y servidores del Protocolo de contexto del modelo (MCP). Model Armor ayuda a proteger tus aplicaciones de IA agéntica limpiando las llamadas y respuestas de las herramientas de MCP con la configuración de límites. Este proceso mitiga riesgos como la inyección de instrucciones y la divulgación de datos sensibles. Para obtener más información, consulta Cómo realizar la integración con los servidores de Google y Google Cloud servidores de MCP.

Extensiones del servicio

Model Armor se puede integrar en los servicios de redes de Google Cloud a través de Service Extensions. Service Extensions te permite integrar servicios de Google Cloud o administrados por el usuario para procesar el tráfico. Puedes configurar una extensión de servicio en los balanceadores de cargas de aplicaciones para filtrar el tráfico de red de varias interacciones de IA, como con agentes y servidores de MCP. También puedes usar extensiones de servicio con puertas de enlace de inferencia de GKE para filtrar el tráfico que fluye desde y hacia un clúster de GKE. Esto ayuda a garantizar que Model Armor proteja todas las interacciones de IA que pasan por el balanceador de cargas. Para obtener más información, consulta Integra con los servicios de redes de Google Cloud .

Agent Platform de Gemini Enterprise

Model Armor se puede integrar directamente en Gemini Enterprise Agent Platform con la configuración mínima o las plantillas. Esta integración analiza las solicitudes y respuestas del modelo de Gemini, y bloquea las que infringen la configuración de límites. Esta integración proporciona protección de instrucciones y respuestas en la API de Gemini en Vertex AI para el método generateContent. En esta integración, no se admite la limpieza de instrucciones y respuestas que contengan documentos o imágenes. Debes habilitar Cloud Logging para obtener visibilidad de los resultados de la limpieza de instrucciones y respuestas. Para obtener más información, consulta Integra con Gemini Enterprise Agent Platform.

Antes de comenzar

Habilita las APIs

Para poder usar Model Armor, debes habilitar su API.

Console

  1. Habilita la API de Model Armor si aún no está habilitada.

    Roles necesarios para habilitar las APIs

    Para habilitar las APIs, necesitas el permiso serviceusage.services.enable. Si creaste el proyecto, es probable que ya tengas este permiso a través del rol de propietario (roles/owner). De lo contrario, puedes obtenerlo a través del rol de administrador de Service Usage (roles/serviceusage.serviceUsageAdmin). Obtén más información para otorgar roles.

    Habilitar la API

  2. Elige el proyecto en el que quieres activar Model Armor.

gcloud

Antes de empezar, sigue estos pasos a través de la Google Cloud CLI con la API de Model Armor:

  1. Instala Google Cloud CLI y, luego, accede a gcloud CLI con tu identidad federada. Después de acceder, inicializa Google Cloud CLI con el siguiente comando: 

    gcloud init

  2. Habilita la API de Model Armor si aún no está habilitada:

    Roles necesarios para habilitar las APIs

    Para habilitar las APIs, necesitas el permiso serviceusage.services.enable. Si creaste el proyecto, es probable que ya tengas este permiso a través del rol de propietario (roles/owner). De lo contrario, puedes obtenerlo a través del rol de administrador de Service Usage (roles/serviceusage.serviceUsageAdmin). Obtén más información para otorgar roles. 

    gcloud services enable modelarmor.googleapis.com

  3. Configura la anulación del extremo de API con la gcloud CLI.

Configura la anulación del extremo de API con gcloud CLI

Este paso solo es necesario si usas gcloud CLI con Model Armor y quieres usar una región o multirregión que no sea la multirregión us predeterminada. Debes configurar de forma manual la anulación del extremo de API para asegurarte de que gcloud CLI enrute correctamente las solicitudes al servicio de Model Armor.

Ejecuta el comando siguiente para configurar el extremo de API del servicio de Model Armor.

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

Reemplaza LOCATION por la región o multirregión en la que quieres usar Model Armor.

Administrar cuota

Model Armor usa un sistema de cuotas para garantizar un uso justo y proteger la estabilidad del sistema. La cuota predeterminada para la API de Model Armor es de 1,200 QPM por proyecto. Puedes aplicar un valor de 0 a 1,200 QPM por proyecto. Para solicitar un ajuste, consulta Solicita un ajuste de cuota. Si necesitas más de la cuota predeterminada, comunícate con Atención al cliente de Cloud.

La cuota de Model Armor requiere consideraciones importantes cuando se integra en otros servicios. La cuota principal con la que interactúas es la cantidad de solicitudes a la API por minuto y por proyecto.

Ten en cuenta los siguientes tipos de cuotas cuando integres Model Armor con otros servicios.

  • Cuota predeterminada de Model Armor: Cuando un servicio realiza una llamada a la API de Model Armor para su análisis (por ejemplo, para verificar instrucciones o respuestas), se consume la cuota de la API de Model Armor de tu proyecto.
  • Cuota de servicios de integración: La cuota de Model Armor es independiente de las cuotas asociadas con los servicios de integración. Debes asegurarte de que haya suficiente cuota para todos los servicios en tu ruta de solicitud. Cualquier llamada que se realice a la API de Model Armor para limpiar el contenido de tu aplicación se descuenta de los límites de cuota de la API de Model Armor.

Descubre situaciones de falta de cuota

Alcanzas los límites de cuota de Model Armor si los registros de tu aplicación muestran errores de Model Armor, por lo general, errores de HTTP 429 RESOURCE_EXHAUSTED, lo que indica que hay demasiadas solicitudes.

Estima las necesidades de cuota

Para determinar cuánta cuota de Model Armor solicitar, haz lo siguiente:

  • Estima la cantidad máxima de solicitudes por minuto que tus servicios enviarán a Model Armor.
  • Considera cuántas veces se llama a Model Armor por interacción del usuario con tu servicio (por ejemplo, una vez para el mensaje y otra para la respuesta).
  • Ten en cuenta la cantidad máxima de usuarios o sesiones simultáneos.
  • Solicita una cuota con un búfer razonable (por ejemplo, un 20% o 30% por encima de tu pico esperado) para controlar los aumentos repentinos inesperados.
  • Comienza con tu mejor estimación, supervisa el uso de cerca después del lanzamiento y solicita más ajustes según sea necesario.

Por ejemplo, si esperas 500 usuarios por minuto y cada interacción del usuario llama a Model Armor dos veces (instrucción y respuesta), necesitas al menos 1,000 QPM. Si se tiene en cuenta un margen, solicitar entre 1,200 y 1,300 QPM es un buen punto de partida.

Consideraciones

Cuando realices la integración con otros servicios, ten en cuenta lo siguiente:

  • Asegúrate de supervisar y administrar las cuotas de otros servicios. Quedarse sin cuota para otros servicios afecta a tu aplicación, incluso si tienes suficiente cuota de Model Armor.
  • Implementa reintentos del cliente con retirada exponencial en la configuración de la aplicación para controlar problemas de cuota transitorios o cualquier otro error que se pueda reintentar. Para obtener más información, consulta Estrategia de reintento.

Tipos de aplicación de medidas por incumplimiento

Cuando integras Model Armor con otros servicios, un aspecto crucial que debes configurar es el tipo de aplicación de medidas por incumplimiento. Este parámetro de configuración determina cómo actúa Model Armor cuando detecta un posible incumplimiento de política en los datos que inspecciona, como las instrucciones o respuestas de LLM. El tipo de aplicación de medidas por incumplimiento determina si Model Armor solo informa las infracciones o interviene de forma activa. Para obtener más información, consulta Define el tipo de aplicación de política.

Realiza la integración con la API de REST

Cuando usas la API de REST para la integración, Model Armor funciona solo como un detector que usa plantillas. Identifica y, además, informa posibles incumplimientos de políticas en función de plantillas predefinidas, en lugar de prevenirlos de forma activa. Cuando se integra en la API de Model Armor, tu aplicación puede usar el resultado de Model Armor para bloquear o permitir acciones según los resultados de la evaluación de seguridad proporcionados. La API de Model Armor devuelve información sobre posibles amenazas o incumplimientos de política relacionados con el tráfico de tu API, en especial en el caso de las interacciones de IA. Tu aplicación puede llamar a la API de Model Armor y usar la información que se recibe en la respuesta para tomar una decisión y tomar medidas según tu lógica personalizada predefinida.

Opciones para integrar Model Armor

Model Armor ofrece las siguientes opciones de integración. Cada opción proporciona diferentes funciones y capacidades.

Opción de integración Configura las detecciones Modalidades compatibles Solo inspeccionar Inspeccionar y bloquear Cobertura
Agent Gateway Solo se usan plantillas Texto Sí Sí Todos los modelos y todas las nubes
Apigee Solo se usan plantillas Texto Sí Sí Todos los modelos y todas las nubes2
Gemini Enterprise Solo se usan plantillas Texto, documentos, imágenes Sí Sí Todos los modelos y todas las nubes2
Servidores de MCP de Google y Google Cloud Solo se usa la configuración de límites Texto Sí Sí Servidores de MCP de Google y Google Cloud
Extensiones de servicio Solo se usan plantillas Texto Sí Sí Modelos con formato de OpenAI1, agentes y servidores de MCP en todas las nubes2
Gemini Enterprise Agent Platform Usa la configuración de límites y las plantillas Texto Sí Sí Modelos de Gemini (sin transmisión)

1Varios modelos populares, incluidos Anthropic Claude, Mistral AI y Grok, admiten las especificaciones de OpenAI. Por lo general, estos modelos se implementan con motores de inferencia como vLLM, que proporcionan la capa de API compatible con OpenAI necesaria. vLLM admite una amplia variedad de modelos, incluidas las series Meta Llama, DeepSeek, Mistral y Mixtral, y Gemma.

2Incluye otras nubes públicas, como AWS y Azure.

Con la integración de Gemini Enterprise Agent Platform, Model Armor proporciona aplicación de medidas por incumplimiento intercalada con la configuración mínima o las plantillas. La aplicación de políticas intercaladas permite que Model Armor aplique políticas de forma activa interviniendo directamente en el proceso sin necesidad de modificar el código de la aplicación.

Las integraciones de Service Extensions y Gemini Enterprise solo usan plantillas para la aplicación de políticas intercaladas. A través de la aplicación de políticas intercaladas, Model Armor puede aplicar políticas directamente sin que tengas que modificar el código de la aplicación, tanto en las extensiones de servicio como durante las interacciones de los usuarios o agentes en las instancias de Gemini Enterprise.

Las integraciones de Model Armor con Gemini Enterprise, Agent Runtime y Apigee limpian el mensaje inicial del usuario, la respuesta final del agente o del modelo, y los pasos intermedios, como los datos de fundamentación y las respuestas que devuelven las herramientas de búsqueda web. Si los datos de fundamentación recuperados o la carga útil intermedia infringen las plantillas de Model Armor o las políticas de Sensitive Data Protection configuradas, la solicitud se bloquea y se registra con un tipo de operación SANITIZE_USER_PROMPT.

Model Armor en Security Command Center

Model Armor inspecciona las instrucciones y respuestas de los LLM en busca de varias amenazas, como la inyección de instrucciones, los intentos de jailbreaking, las URLs maliciosas y el contenido dañino. Cuando Model Armor detecta un incumplimiento de un parámetro de configuración de piso, bloquea la instrucción o la respuesta, y envía un hallazgo a Security Command Center. Para obtener más información, consulta Hallazgos de Model Armor.