Questo documento descrive le funzionalità di ispezione e oscuramento delle immagini di Sensitive Data Protection.
Utilizzando i rilevatori di infoType, Sensitive Data Protection ispeziona un'immagine con codifica base64 e rileva i dati sensibili al suo interno. Sensitive Data Protection può quindi restituire informazioni sulla posizione dei dati sensibili all'interno dell'immagine o oscurare i dati sensibili mascherandoli con un rettangolo opaco.
L'ispezione e l'oscuramento sono due operazioni distinte:
- Ispezione: Sensitive Data Protection ispeziona l'immagine inviata con codifica base64 per gli infoType specificati. Restituisce gli infoType rilevati, insieme a uno o più insiemi di coordinate e dimensioni dei pixel. Ogni insieme di coordinate pixel e valori di dimensione indica rispettivamente l'angolo in basso a sinistra e le dimensioni dei riquadri di delimitazione. Ogni riquadro di delimitazione corrisponde a tutto o parte di un risultato di Sensitive Data Protection.
- Oscuramento: Sensitive Data Protection ispeziona l'immagine codificata in base64 inviata per gli infoType specificati. Sensitive Data Protection oscura tutti i risultati relativi ai dati sensibili coprendoli con rettangoli opachi. Restituisce l'immagine oscurata con codifica base64 nello stesso formato dell'immagine originale. Puoi anche configurare il colore delle caselle di oscuramento nella richiesta.
Quando utilizzare l'ispezione e l'oscuramento delle immagini
Ecco alcuni casi d'uso comuni:
- Offusca i dati sensibili nei documenti scansionati: maschera patenti di guida, carte d'identità nazionali e numeri di carte di credito dagli allegati PDF o immagine caricati prima dell'elaborazione nei flussi di lavoro downstream.
- Sanitizza i caricamenti dell'assistenza clienti: oscura automaticamente i numeri di conto bancario e i dati di contatto personali negli screenshot inviati dagli utenti prima che i ticket vengano indirizzati agli addetti all'assistenza.
- Individua elementi sensibili nei contenuti multimediali digitali: esamina le immagini per recuperare le coordinate pixel del riquadro di delimitazione del testo rilevato, consentendo alle applicazioni personalizzate di esaminare o sfocare selettivamente le regioni target.
- Prepara set di dati visivi per il machine learning: maschera i dati personali sensibili dai corpora di immagini di addestramento per rispettare le indicazioni sulla privacy, preservando al contempo il contesto visivo circostante.
Tipi di immagini supportati
Per un elenco dei tipi di immagini supportati, consulta Tipi di file supportati nelle operazioni di ispezione e anonimizzazione.
Informazioni sull'ispezione delle immagini
Il servizio di ispezione di Sensitive Data Protection accetta un'immagine con codifica base64 e poi cerca nell'immagine eventuali dati che corrispondono ai criteri di ispezione. Sensitive Data Protection restituisce le posizioni di tutti i dati sensibili rilevati.
Considera l'immagine seguente.
La procedura di ispezione delle immagini è la seguente:
- Invia una richiesta
content.inspectall'API DLP. La richiesta contiene l'immagine con codifica base64 e la configurazione di ispezione, che contiene i criteri di rilevamento. - Sensitive Data Protection scansiona l'immagine utilizzando la configurazione di ispezione e identifica eventuali corrispondenze.
- Sensitive Data Protection restituisce le coordinate e le dimensioni delle regioni all'interno dell'immagine in cui ha trovato dati sensibili in base ai criteri di rilevamento.
Le coordinate restituite indicano dove trovare i dati sensibili. Tieni presente che Sensitive Data Protection utilizza spesso più riquadri per indicare la posizione di una singola istanza di dati sensibili nell'immagine.
Se Sensitive Data Protection non trova nell'immagine dati corrispondenti ai criteri di rilevamento, restituisce una risposta HTTP 200 vuota con esito positivo.
Informazioni sull'oscuramento delle immagini
La censura delle immagini è simile all'ispezione delle immagini, con un passaggio aggiuntivo. Dopo che Sensitive Data Protection ha identificato le posizioni dei dati sensibili all'interno dell'immagine, anziché restituire le coordinate delle aree che contengono i dati, posiziona rettangoli opachi su queste aree, restituendo un'immagine oscurata con codifica base64.
La procedura di oscuramento delle immagini è la seguente:
- Invia una richiesta
image.redactall'API DLP. La richiesta contiene l'immagine con codifica base64 e la configurazione di oscuramento dell'immagine, che contiene i criteri di rilevamento. - Sensitive Data Protection scansiona l'immagine utilizzando la configurazione di oscuramento delle immagini e identifica eventuali corrispondenze.
- Sensitive Data Protection oscura tutti i dati sensibili rilevati coprendoli con un rettangolo opaco. Quindi, codifica l'immagine in base64 e restituisce l'immagine oscurata nella risposta alla richiesta.
Se Sensitive Data Protection non trova nell'immagine dati corrispondenti ai criteri di rilevamento, restituisce l'immagine con codifica base64 invariata.
Funzionalità di rilevamento delle immagini
Questa sezione descrive le funzionalità di rilevamento delle immagini che puoi applicare alle operazioni di ispezione e oscuramento. Per tutte queste funzionalità, devi eseguire la scansione in una località che supporta la scansione delle immagini.
Riconosce il testo nelle immagini
Sensitive Data Protection utilizza il riconoscimento ottico dei caratteri (OCR) per rilevare il testo all'interno delle immagini. Sensitive Data Protection analizza il testo rilevato in modo simile a come analizza un corpo di testo.
Per rilevare il testo nelle immagini, specifica qualsiasi infoType basato su testo, ad esempio PERSON_NAME
e CREDIT_CARD_NUMBER nella configurazione di ispezione o oscuramento.
Riconosci oggetti e temi nelle immagini
Sensitive Data Protection può analizzare i pixel e le caratteristiche delle immagini che non sono principalmente basate su testo. Sensitive Data Protection utilizza questa tecnica per le seguenti funzionalità.
Rilevamento di oggetti
Sensitive Data Protection può classificare e oscurare gli oggetti nelle immagini. Ad esempio, puoi configurare le scansioni in modo che rilevino documenti di identità con foto, persone e targhe nelle immagini.
Per rilevare oggetti nelle immagini, specifica gli infoType degli oggetti nella configurazione di ispezione o oscuramento.
Per ulteriori informazioni, consulta le seguenti risorse:
Classificazione della sicurezza delle immagini
Sensitive Data Protection può classificare e oscurare le immagini in base ai loro contenuti tematici. Questa funzionalità ti aiuta a identificare le immagini che contengono argomenti sensibili o dannosi in base a categorie di sicurezza predefinite.
Sensitive Data Protection analizza il contesto e il significato generali di un'immagine per determinare se appartiene a categorie come contenuti sessualmente espliciti o contenuti violenti. Puoi utilizzare questa funzionalità per supportare la moderazione dei contenuti e applicare le norme di utilizzo accettabile.
Quando esegue la classificazione della sicurezza delle immagini, Sensitive Data Protection analizza l'intera immagine. A differenza del rilevamento di oggetti, che identifica elementi specifici all'interno di un'immagine, questa funzionalità valuta l'oggetto dell'immagine nel suo complesso. Se configuri l'oscuramento in base alla sicurezza delle immagini, questa funzionalità oscura l'intera immagine.
Per eseguire la classificazione della sicurezza delle immagini, specifica gli infoType del contesto dell'immagine nella configurazione di ispezione o oscuramento.
Limitazioni per le immagini create dall'AI
I modelli utilizzati da Sensitive Data Protection per la classificazione della sicurezza delle immagini vengono addestrati e valutati principalmente su immagini reali. Sebbene questi modelli possano fornire un certo valore per l'analisi delle immagini generate con l'AI, la loro efficacia nel rilevare tutti i tipi di contenuti che violano le norme nelle immagini generate con l'AI può variare.
Se utilizzi gli infoType di contesto delle immagini sulle immagini generate con l'AI, potrebbe non essere rilevato quanto segue:
- Contenuti con sfumature o sottili
- Scenari dipendenti dal contesto, come le impostazioni private
- Rappresentazioni non crude di temi sensibili
Le prestazioni di questi classificatori sulle immagini generate con l'AI potrebbero non corrispondere alle prestazioni osservate con le immagini naturali. Ti consigliamo di eseguire test approfonditi per i tuoi casi d'uso specifici di AI generativa per assicurarti che i risultati soddisfino i tuoi requisiti di sicurezza. Non fare affidamento esclusivamente su questi classificatori per garantire la sicurezza nelle applicazioni di AI generativa ad alto rischio.