En este documento, se describen las capacidades de inspección y ocultamiento de imágenes de Sensitive Data Protection.
Con los detectores de infotipos, Sensitive Data Protection inspecciona una imagen codificada en Base64 y detecta datos sensibles dentro de la imagen. Luego, Sensitive Data Protection puede devolver información sobre la ubicación de los datos sensibles dentro de la imagen o redactar los datos sensibles enmascarándolos con un rectángulo opaco.
La inspección y la ocultación son dos operaciones distintas:
- Inspección: Sensitive Data Protection inspecciona la imagen codificada en Base64 enviada para buscar los infotipos especificados. Muestra los Infotipos detectados, junto con uno o más conjuntos de coordenadas de píxeles y dimensiones. Cada conjunto de valores de coordenadas de píxeles y dimensiones indica la esquina inferior izquierda y las dimensiones de los cuadros delimitadores, respectivamente. Cada cuadro delimitador corresponde a todo o parte de un hallazgo de Sensitive Data Protection.
- Ocultación: Sensitive Data Protection inspecciona la imagen codificada en Base64 enviada para buscar los infotipos especificados. Sensitive Data Protection oculta los hallazgos de datos sensibles enmascarándolos con rectángulos opacos. Muestra la imagen oculta codificada en base64 en el mismo formato de imagen que la imagen original. También puedes configurar el color de los cuadros de ocultamiento en la solicitud.
Cuándo usar la inspección y ocultamiento de imágenes
A continuación, se muestran algunos casos de uso comunes:
- Ofusca datos sensibles en documentos escaneados: Enmascara licencias de conducir, documentos de identidad nacionales y números de tarjetas de crédito de archivos PDF o imágenes adjuntas subidos antes de procesarlos en flujos de trabajo posteriores.
- Limpia las cargas de asistencia al cliente: Oculta automáticamente los números de cuenta y los datos de contacto personales en las capturas de pantalla que envían los usuarios antes de que los tickets se enruten a los agentes de asistencia.
- Ubica elementos sensibles en medios digitales: Inspecciona imágenes para recuperar las coordenadas de píxeles del cuadro delimitador del texto detectado, lo que permite que las aplicaciones personalizadas revisen o desenfoquen de forma selectiva las regiones objetivo.
- Prepara conjuntos de datos visuales para el aprendizaje automático: Enmascara datos personales sensibles de los corpus de imágenes de entrenamiento para cumplir con los lineamientos de privacidad y, al mismo tiempo, preservar el contexto visual circundante.
Tipos de imágenes compatibles
Para obtener una lista de los tipos de imágenes admitidos, consulta Tipos de archivos admitidos en las operaciones de inspección y desidentificación.
Acerca de la inspección de imágenes
El servicio de inspección de Sensitive Data Protection acepta una imagen codificada en Base64 y, luego, busca en la imagen cualquier dato que coincida con sus criterios de inspección. Sensitive Data Protection devuelve las ubicaciones de los datos sensibles que detecta.
Considera la siguiente imagen.
El proceso de inspección de imágenes es el siguiente:
- Envías una solicitud
content.inspecta la API de DLP. La solicitud contiene la imagen codificada en base64 y la configuración de inspección, que contiene tus criterios de detección. - Sensitive Data Protection analiza la imagen con la configuración de inspección y, luego, identifica las coincidencias.
- Sensitive Data Protection devuelve las coordenadas y las dimensiones de las regiones dentro de la imagen en las que encontró datos sensibles según tus criterios de detección.
Las coordenadas que se muestran indican dónde encontrar los datos sensibles. Ten en cuenta que Sensitive Data Protection suele usar varios cuadros para indicar dónde se encuentra una sola instancia de datos sensibles en la imagen.
Si Sensitive Data Protection no encuentra ningún dato en la imagen que corresponda a tus criterios de detección, devuelve una respuesta HTTP 200 vacía y exitosa.
Acerca del ocultamiento de información en imágenes
La ocultación de imágenes es similar a la inspección de imágenes, con un paso adicional. Después de que Sensitive Data Protection identifica las ubicaciones de los datos sensibles dentro de la imagen, en lugar de devolver las coordenadas de las áreas que contienen los datos, coloca rectángulos opacos en esas áreas y devuelve una imagen ocultada codificada en Base64.
El proceso de ocultamiento de imágenes es el siguiente:
- Envías una solicitud
image.redacta la API de DLP. La solicitud contiene la imagen codificada en Base64 y la configuración de ocultamiento de imágenes, que contiene tus criterios de detección. - Sensitive Data Protection analiza la imagen con la configuración de ocultación de imágenes y, luego, identifica las coincidencias.
- Sensitive Data Protection oculta todos los datos sensibles detectados cubriéndolos con un rectángulo opaco. Luego, codifica la imagen en base64 y devuelve la imagen ocultada en la respuesta de la solicitud.
Si Sensitive Data Protection no encuentra ningún dato en la imagen que corresponda a tus criterios de detección, devuelve la imagen codificada en Base64 sin cambios.
Funciones de detección de imágenes
En esta sección, se describen las funciones de detección de imágenes que puedes aplicar a tus operaciones de inspección y ocultamiento. Para todas estas funciones, debes realizar el análisis en una ubicación que admita el análisis de imágenes.
Reconoce texto en imágenes
Sensitive Data Protection usa el reconocimiento óptico de caracteres (OCR) para detectar texto en las imágenes. Sensitive Data Protection analiza el texto detectado de manera similar a como analiza un cuerpo de texto.
Para detectar texto en imágenes, especifica cualquier tipo de Infotipo basado en texto, como PERSON_NAME
y CREDIT_CARD_NUMBER en tu configuración de inspección o de ocultamiento.
Reconoce objetos y temas en imágenes
Sensitive Data Protection puede analizar los píxeles y las características de las imágenes que no se basan principalmente en texto. Sensitive Data Protection usa esta técnica para las siguientes funciones.
Detección de objetos
Sensitive Data Protection puede clasificar y ocultar objetos en imágenes. Por ejemplo, puedes configurar tus análisis para que detecten documentos de identidad con foto, personas y matrículas en las imágenes.
Para detectar objetos en imágenes, especifica los infoTypes de objetos en tu configuración de inspección o de ocultamiento.
Para obtener más información, consulta lo siguiente:
Clasificación de seguridad de imágenes
Sensitive Data Protection puede clasificar y ocultar imágenes según su contenido temático. Esta función te ayuda a identificar imágenes que contienen temas sensibles o dañinos según categorías de seguridad predefinidas.
Sensitive Data Protection analiza el contexto y el significado general de una imagen para determinar si pertenece a categorías como contenido sexualmente explícito o violento. Puedes usar esta función para admitir la moderación de contenido y aplicar políticas de uso aceptable.
Cuando se realiza la clasificación de seguridad de las imágenes, Sensitive Data Protection analiza la imagen completa. A diferencia de la detección de objetos, que identifica elementos específicos dentro de una imagen, esta función evalúa el tema de la imagen en su totalidad. Si configuras la ocultación en función de la seguridad de la imagen, esta función ocultará toda la imagen.
Para realizar la clasificación de seguridad de las imágenes, especifica los infoTypes de contexto de imagen en tu configuración de inspección o de ocultamiento.
Limitaciones de las imágenes creadas con tecnología generativa
Los modelos que usa Sensitive Data Protection para la clasificación de seguridad de imágenes se entrenan y evalúan principalmente con imágenes del mundo real. Si bien estos modelos pueden proporcionar cierto valor para analizar imágenes generadas por IA, su eficacia para detectar todos los tipos de contenido que incumple las políticas en las imágenes generadas por IA puede variar.
Si usas infoTypes de contexto de imagen en imágenes generadas por IA, es posible que no se detecte lo siguiente:
- Contenido sutil o con matices
- Situaciones que dependen del contexto, como parámetros de configuración privados
- Representaciones no gráficas de temas sensibles
Es posible que el rendimiento de estos clasificadores en imágenes generadas por IA no coincida con el rendimiento observado con imágenes naturales. Te recomendamos que realices pruebas exhaustivas para tus casos de uso específicos de IA generativa para asegurarte de que los resultados cumplan con tus requisitos de seguridad. No dependas solo de estos clasificadores para garantizar la seguridad en las aplicaciones de IA generativa de alto riesgo.