Neste documento, descrevemos os recursos de inspeção e edição de imagens da Proteção de Dados Sensíveis.
Usando detectores de infoType, a Proteção de Dados Sensíveis inspeciona uma imagem codificada em Base64 e detecta dados sensíveis nela. A Proteção de Dados Sensíveis pode retornar informações sobre o local dos dados sensíveis na imagem ou encobrir os dados sensíveis mascarando-os com um retângulo opaco.
A inspeção e o encobrimento são duas operações distintas:
- Inspeção: a Proteção de Dados Sensíveis inspeciona a imagem codificada em base64 enviada para os infoTypes especificados. Ela retorna os InfoTypes detectados e um ou mais conjuntos de dimensões e coordenadas de pixel. Cada conjunto de coordenadas de pixel e valores de dimensão indica o canto inferior esquerdo e as dimensões das caixas delimitadoras, respectivamente. Cada caixa delimitadora corresponde a toda ou parte de uma descoberta da Proteção de Dados Sensíveis.
- Encobrimento: a Proteção de Dados Sensíveis inspeciona a imagem enviada codificada em base64 para os infoTypes especificados. A Proteção de Dados Sensíveis encobre todas as descobertas de dados sensíveis mascarando-as com retângulos opacos. Ele retorna a imagem codificada em base64 editada no mesmo formato da imagem original. Também é possível configurar a cor das caixas de edição na solicitação.
Quando usar a inspeção e o encobrimento de imagens
Veja alguns casos de uso comuns:
- Ofuscar dados sensíveis em documentos digitalizados: oculte carteiras de habilitação, documentos de identidade nacionais e números de cartão de crédito de PDFs ou imagens enviados antes do processamento em fluxos de trabalho downstream.
- Sanitizar uploads de suporte ao cliente: oculte automaticamente números de conta e detalhes de contato pessoal em capturas de tela enviadas por usuários antes que os tíquetes sejam encaminhados aos agentes de suporte.
- Localizar elementos sensíveis em mídia digital: inspecione imagens para recuperar coordenadas de pixel de caixa delimitadora do texto detectado, permitindo que aplicativos personalizados revisem ou desfoquem seletivamente as regiões segmentadas.
- Preparar conjuntos de dados visuais para machine learning: mascare dados pessoais sensíveis de corpora de imagens de treinamento para obedecer às diretrizes de privacidade e preservar o contexto visual ao redor.
Tipos de imagens compatíveis
Para ver uma lista de tipos de imagens compatíveis, consulte Tipos de arquivos compatíveis em operações de inspeção e desidentificação.
Sobre a inspeção de imagens
O serviço de inspeção da Proteção de Dados Sensíveis aceita uma imagem codificada em base64 e pesquisa nela dados que correspondem aos critérios de inspeção. A Proteção de Dados Sensíveis retorna os locais de todos os dados sensíveis detectados.
Considere a imagem a seguir.
O processo de inspeção de imagens é o seguinte:
- Você envia uma solicitação
content.inspectpara a API DLP. A solicitação contém a imagem codificada em base64 e a configuração de inspeção, que contém seus critérios de detecção. - A Proteção de Dados Sensíveis verifica a imagem usando a configuração de inspeção e identifica as correspondências.
- A Proteção de Dados Sensíveis retorna as coordenadas e dimensões das regiões na imagem em que encontrou dados sensíveis de acordo com seus critérios de detecção.
As coordenadas retornadas indicam onde encontrar os dados confidenciais. A Proteção de Dados Sensíveis costuma usar várias caixas para indicar onde uma única instância de dados sensíveis está na imagem.
Se a Proteção de Dados Sensíveis não encontrar dados na imagem que correspondam aos critérios de detecção, ela vai retornar uma resposta HTTP 200 vazia e bem-sucedida.
Sobre a edição de imagens
A edição de imagens é semelhante à inspeção de imagens, com uma etapa adicional. Depois que a Proteção de Dados Sensíveis identifica os locais de dados sensíveis na imagem, em vez de retornar as coordenadas das áreas que contêm os dados, ela coloca retângulos opacos nessas áreas, retornando uma imagem editada codificada em base64.
O processo de edição de imagens é o seguinte:
- Você envia uma
solicitação
image.redactpara a API DLP. A solicitação contém a imagem codificada em base64 e a configuração de edição de imagem, que contém seus critérios de detecção. - A Proteção de Dados Sensíveis verifica a imagem usando a configuração de encobrimento de imagem e identifica as correspondências.
- A Proteção de Dados Sensíveis encobre todos os dados sensíveis detectados com um retângulo opaco. Em seguida, ela codifica a imagem em base64 e retorna a imagem editada na resposta da solicitação.
Se a Proteção de Dados Sensíveis não encontrar dados na imagem que correspondam aos critérios de detecção, ela vai retornar a imagem codificada em base64 sem alterações.
Recursos de detecção de imagens
Nesta seção, descrevemos os recursos de detecção de imagens que podem ser aplicados às operações de inspeção e edição. Para todos esses recursos, é necessário realizar a verificação em um local que ofereça suporte à verificação de imagens.
Reconhecer texto em imagens
A Proteção de Dados Sensíveis usa o reconhecimento óptico de caracteres (OCR, na sigla em inglês) para detectar texto em imagens. A Proteção de Dados Sensíveis analisa o texto detectado de maneira semelhante à análise de um corpo de texto.
Para detectar texto em imagens, especifique qualquer infoType baseado em texto, como PERSON_NAME
e CREDIT_CARD_NUMBER, na configuração de inspeção ou de edição.
Reconhecer objetos e temas em imagens
A Proteção de Dados Sensíveis pode analisar os pixels e os recursos de imagens que não são predominantemente baseadas em texto. A Proteção de Dados Sensíveis usa essa técnica para os recursos a seguir.
Detecção de objetos
A Proteção de Dados Sensíveis pode classificar e encobrir objetos em imagens. Por exemplo, é possível configurar as verificações para detectar documentos ID com foto, pessoas e placas de veículos em imagens.
Para detectar objetos em imagens, especifique infoTypes de objeto na configuração de inspeção ou de edição.
Para ver mais informações, consulte os seguintes tópicos:
Classificação de segurança de imagens
A Proteção de Dados Sensíveis pode classificar e encobrir imagens com base no conteúdo temático delas. Esse recurso ajuda a identificar imagens que contêm assuntos sensíveis ou nocivos de acordo com categorias de segurança predefinidas.
A Proteção de Dados Sensíveis analisa o contexto e o significado geral de uma imagem para determinar se ela pertence a categorias como conteúdo sexualmente explícito ou violento. Use esse recurso para apoiar a moderação de conteúdo e aplicar políticas de uso aceitável.
Ao realizar a classificação de segurança de imagens, a Proteção de Dados Sensíveis analisa a imagem inteira. Ao contrário da detecção de objetos, que identifica itens específicos em uma imagem, esse recurso avalia o assunto da imagem como um todo. Se você configurar o encobrimento com base na segurança da imagem, esse recurso vai encobrir a imagem inteira.
Para realizar a classificação de segurança de imagens, especifique os infoTypes de contexto de imagem na configuração de inspeção ou edição.
Limitações para imagens geradas
Os modelos que a Proteção de Dados Sensíveis usa para classificação de segurança de imagens são treinados e avaliados principalmente em imagens do mundo real. Embora esses modelos possam ser úteis para analisar imagens geradas com IA, a eficácia deles na detecção de todos os tipos de conteúdo que violam as políticas em imagens geradas com IA pode variar.
Se você usar infoTypes de contexto de imagem em imagens geradas com IA, talvez o seguinte não seja detectado:
- Conteúdo sutil ou com nuances
- Cenários que dependem do contexto, como configurações particulares
- Representações não explícitas de temas sensíveis
O desempenho desses classificadores em imagens geradas com IA pode não corresponder ao desempenho observado com imagens naturais. Recomendamos que você realize testes completos para seus casos de uso específicos de IA generativa para garantir que os resultados atendam aos seus requisitos de segurança. Não dependa apenas desses classificadores para garantir a segurança em aplicativos de IA generativa de alto risco.