In diesem Dokument werden die Funktionen zur Bildprüfung und -bearbeitung von Sensitive Data Protection beschrieben.
Mithilfe von infoType-Detektoren prüft Sensitive Data Protection ein base64-codiertes Bild und erkennt sensible Daten im Bild. Sensitive Data Protection kann dann Informationen zum Speicherort sensibler Daten im Bild zurückgeben oder die sensiblen Daten durch Maskieren mit einem undurchsichtigen Rechteck entfernen.
Prüfung und Entfernung sind zwei unterschiedliche Vorgänge:
- Prüfung: Sensitive Data Protection prüft das gesendete base64-codierte Bild auf die angegebenen infoTypes. Dann gibt es die erkannten infoTypes zurück, zusammen mit einem oder mehreren Sätzen von Pixelkoordinaten und Dimensionen. Jeder Satz von Pixelkoordinaten und Dimensionswerten gibt die linke untere Ecke bzw. die Dimensionen der Begrenzungsrahmen an. Jeder Begrenzungsrahmen entspricht einem gesamten oder einem Teil eines Ergebnisses von Sensitive Data Protection.
- Entfernen: Sensitive Data Protection prüft das gesendete base64-codierte Bild auf die angegebenen infoTypes. Sensitive Data Protection entfernt alle vertraulichen Daten, indem sie mit undurchsichtigen Rechtecken maskiert werden. Das Ausgabeformat des bearbeiteten base64-codierten Bilds entspricht dem des ursprünglichen Bildformats. Sie können in der Anfrage auch die Farbe der Maskierung festlegen.
Wann sollten Bildprüfung und -bearbeitung verwendet werden?
Im Folgenden sind einige gängige Anwendungsfälle aufgeführt:
- Sensible Daten in gescannten Dokumenten verschleiern: Maskieren Sie Führerscheine, Personalausweise und Kreditkartennummern aus hochgeladenen PDF- oder Bildanhängen, bevor Sie sie in nachgelagerten Workflows verarbeiten.
- Uploads für den Kundensupport bereinigen: Kontonummern und persönliche Kontaktdaten in von Nutzern eingereichten Screenshots werden automatisch unkenntlich gemacht, bevor Tickets an Kundenservicemitarbeiter weitergeleitet werden.
- Sensible Elemente in digitalen Medien finden: Sie können Bilder prüfen, um die Pixelkoordinaten des Begrenzungsrahmens von erkanntem Text abzurufen. So können benutzerdefinierte Anwendungen Zielregionen prüfen oder selektiv unkenntlich machen.
- Visuelle Datasets für maschinelles Lernen vorbereiten: Maskieren Sie sensible personenbezogene Daten aus Trainingsbildkorpora, um Datenschutzrichtlinien einzuhalten und gleichzeitig den umgebenden visuellen Kontext beizubehalten.
Unterstützte Bildformate
Eine Liste der unterstützten Bildtypen finden Sie unter Unterstützte Dateitypen bei Prüf- und De-Identifikationsvorgängen.
Informationen zur Bildprüfung
Der Sensitive Data Protection-Prüfdienst akzeptiert ein base64-codiertes Bild und sucht dann im Bild nach Daten, die den Prüfkriterien entsprechen. Sensitive Data Protection gibt die Speicherorte aller erkannten sensiblen Daten zurück.
Betrachten Sie das folgende Bild.
Die Bildprüfung läuft so ab:
- Sie senden eine
content.inspect-Anfrage an die DLP API. Die Anfrage enthält das base64-codierte Bild und die Inspektionskonfiguration, die Ihre Erkennungskriterien enthält. - Sensitive Data Protection scannt das Bild mithilfe der Inspektionskonfiguration und identifiziert alle Übereinstimmungen.
- Sensitive Data Protection gibt die Koordinaten und Dimensionen der Bereiche im Bild zurück, in denen gemäß Ihren Erkennungskriterien sensible Daten gefunden wurden.
Die zurückgegebenen Koordinaten geben an, wo die sensiblen Daten zu finden sind. Beachten Sie, dass Sensitive Data Protection häufig mehrere Felder verwendet, um anzugeben, wo sich eine einzelne Instanz sensibler Daten im Bild befindet.
Wenn Sensitive Data Protection im Bild keine Daten findet, die Ihren Erkennungskriterien entsprechen, wird eine leere, erfolgreiche HTTP-200-Antwort zurückgegeben.
Entfernen von Daten aus Bildern
Die Bildbearbeitung ähnelt der Bildprüfung, umfasst aber einen zusätzlichen Schritt. Nachdem Sensitive Data Protection die Speicherorte sensibler Daten im Bild identifiziert hat, werden nicht die Koordinaten der Bereiche zurückgegeben, die die Daten enthalten, sondern undurchsichtige Rechtecke über diesen Bereichen platziert. Es wird ein unkenntlich gemachtes, base64-codiertes Bild zurückgegeben.
Der Prozess zur Bildbearbeitung sieht so aus:
- Sie senden eine
image.redact-Anfrage an die DLP API. Die Anfrage enthält das base64-codierte Bild und die Konfiguration für die Bildbearbeitung, die Ihre Erkennungskriterien enthält. - Sensitive Data Protection scannt das Bild mithilfe der Konfiguration für die Bildentfernung und identifiziert alle Übereinstimmungen.
- Sensitive Data Protection entfernt alle erkannten sensiblen Daten, indem sie mit einem undurchsichtigen Rechteck abgedeckt werden. Anschließend wird das Bild in base64 codiert und das bearbeitete Bild in der Antwort auf die Anfrage zurückgegeben.
Wenn Sensitive Data Protection keine Daten im Bild findet, die Ihren Erkennungskriterien entsprechen, wird das base64-codierte Bild unverändert zurückgegeben.
Funktionen zur Bilderkennung
In diesem Abschnitt werden die Funktionen zur Bilderkennung beschrieben, die Sie auf Ihre Prüf- und Redaktionsvorgänge anwenden können. Für alle diese Funktionen müssen Sie den Scan an einem Standort durchführen, der das Scannen von Images unterstützt.
Erkennt Text in Bildern
Sensitive Data Protection verwendet die optische Zeichenerkennung (Optical Character Recognition, OCR), um Text in Bildern zu erkennen. Sensitive Data Protection analysiert den erkannten Text ähnlich wie einen Textkörper.
Wenn Sie Text in Bildern erkennen möchten, geben Sie in Ihrer Inspektions- oder Redaktionskonfiguration einen textbasierten InfoType an, z. B. PERSON_NAME und CREDIT_CARD_NUMBER.
Objekte und Themen in Bildern erkennen
Sensitive Data Protection kann die Pixel und Features von Bildern analysieren, die nicht hauptsächlich textbasiert sind. Sensitive Data Protection verwendet diese Technik für die folgenden Features.
Objekterkennung
Sensitive Data Protection kann Objekte in Bildern klassifizieren und entfernen. Sie können Ihre Scans beispielsweise so konfigurieren, dass Lichtbildausweise, Personen und Kfz-Kennzeichen in Bildern erkannt werden.
Wenn Sie Objekte in Bildern erkennen möchten, geben Sie in der Konfiguration für die Prüfung oder Entfernung Objekt-infoTypes an.
Hier finden Sie weitere Informationen:
Sicherheitsklassifizierung von Bildern
Sensitive Data Protection kann Bilder anhand ihres thematischen Inhalts klassifizieren und entfernen. Mit dieser Funktion können Sie Bilder identifizieren, die sensible oder schädliche Inhalte gemäß vordefinierten Sicherheitskategorien enthalten.
Sensitive Data Protection analysiert den Gesamtkontext und die Bedeutung eines Bildes, um festzustellen, ob es zu Kategorien wie sexuell expliziten oder gewaltverherrlichenden Inhalten gehört. Sie können diese Funktion verwenden, um die Inhaltsmoderation zu unterstützen und Richtlinien zur zulässigen Verwendung durchzusetzen.
Bei der Klassifizierung der Bildsicherheit analysiert Sensitive Data Protection das gesamte Bild. Im Gegensatz zur Objekterkennung, bei der bestimmte Elemente in einem Bild identifiziert werden, wird bei dieser Funktion das Thema des Bildes als Ganzes bewertet. Wenn Sie die Entfernung basierend auf der Bildsicherheit konfigurieren, wird das gesamte Bild entfernt.
Wenn Sie eine Klassifizierung der Bildsicherheit durchführen möchten, geben Sie in Ihrer Prüf- oder Redaktionskonfiguration infoTypes für den Bildkontext an.
Einschränkungen für generierte Bilder
Die Modelle, die Sensitive Data Protection für die Klassifizierung der Bildsicherheit verwendet, werden hauptsächlich mit realen Bildern trainiert und bewertet. Diese Modelle können zwar einen gewissen Wert für die Analyse von KI-generierten Bildern bieten, ihre Wirksamkeit bei der Erkennung aller Arten von nicht richtlinienkonformen Inhalten in KI-generierten Bildern kann jedoch variieren.
Wenn Sie infoTypes für Bildkontext für KI-generierte Bilder verwenden, wird Folgendes möglicherweise nicht erkannt:
- Nuancierte oder subtile Inhalte
- Kontextabhängige Szenarien, z. B. private Einstellungen
- Nicht explizite Darstellungen sensibler Themen
Die Leistung dieser Klassifikatoren bei KI-generierten Bildern entspricht möglicherweise nicht der Leistung bei natürlichen Bildern. Wir empfehlen Ihnen, Ihre spezifischen Anwendungsfälle für generative KI gründlich zu testen, um sicherzustellen, dass die Ergebnisse Ihren Sicherheitsanforderungen entsprechen. Verlassen Sie sich nicht ausschließlich auf diese Klassifikatoren, um die Sicherheit in generativen KI-Anwendungen mit hohem Risiko zu gewährleisten.