Bildprüfung und -entfernung

In diesem Dokument werden die Funktionen von Sensitive Data Protection zur Bildprüfung und zum Entfernen von Daten aus Bildern beschrieben.

Mithilfe von infoType-Detektoren prüft Sensitive Data Protection ein base64-codiertes Bild und erkennt sensible Daten im Bild. Sensitive Data Protection kann dann Informationen über den Speicherort sensibler Daten im Bild zurückgeben oder die sensiblen Daten durch Maskieren mit einem undurchsichtigen Rechteck unkenntlich machen.

Das Inspizieren und Entfernen sind zwei separate Vorgänge:

  • Prüfung: Sensitive Data Protection prüft das übertragene base64-codierte Bild auf die angegebenen infoTypes. Dann gibt es die erkannten infoTypes zurück, zusammen mit einem oder mehreren Sätzen von Pixelkoordinaten und Dimensionen. Jeder Satz von Pixelkoordinaten- und Dimensionswerten gibt jeweils die untere linke Ecke und die Maße der Begrenzungsrahmen an. Jeder Markierungsrahmen entspricht einem Sensitive Data Protection-Ergebnis vollständig oder teilweise.
  • Entfernen: Sensitive Data Protection prüft das übertragene base64-codierte Bild auf die angegebenen infoTypes. Sensitive Data Protection entfernt sensible Daten durch Maskierung mit undurchsichtigen Rechtecken. Das Ausgabeformat des bearbeiteten base64-codierten Bilds entspricht dem des ursprünglichen Bildformats. Sie können in der Anfrage auch die Farbe der Maskierung festlegen.

Wann sollten Bildprüfung und ‑entfernung verwendet werden?

Im Folgenden sind einige gängige Anwendungsfälle aufgeführt:

  • Vertrauliche Daten in gescannten Dokumenten verschleiern: Maskieren Sie Führerscheine, Personalausweise und Kreditkartennummern aus hochgeladenen PDF- oder Bildanhängen, bevor sie in nachgelagerten Workflows verarbeitet werden.
  • Uploads für den Kundensupport bereinigen: Kontonummern und persönliche Kontaktdaten in von Nutzern eingereichten Screenshots werden automatisch unkenntlich gemacht, bevor Tickets an Kundenservicemitarbeiter weitergeleitet werden.
  • Vertrauliche Elemente in digitalen Medien finden: Bilder prüfen, um die Pixelkoordinaten des Begrenzungsrahmens von erkanntem Text abzurufen. So können benutzerdefinierte Anwendungen bestimmte Bereiche überprüfen oder selektiv unkenntlich machen.
  • Visuelle Datasets für maschinelles Lernen vorbereiten: Maskieren Sie sensible personenbezogene Daten aus Trainingsbild-Korpora, um Datenschutzrichtlinien einzuhalten und gleichzeitig den umgebenden visuellen Kontext beizubehalten.

Bildprüfung

Der Sensitive Data Protection-Prüfdienst akzeptiert ein base64-codiertes Bild und sucht dann im Bild nach Daten, die den Prüfkriterien entsprechen. Sensitive Data Protection gibt die Positionen aller erkannten sensiblen Daten zurück.

Betrachten Sie das folgende Bild.

Originalbild mit sensiblen Objekten.
Originalbild (zum Vergrößern klicken)

So läuft die Bildprüfung ab:

  1. Sie senden eine content.inspect-Anfrage an die DLP API. Die Anfrage enthält das base64-codierte Bild und die Inspektionskonfiguration mit Ihren Erkennungskriterien.
  2. Sensitive Data Protection scannt das Bild mithilfe der Prüfkonfiguration und identifiziert Übereinstimmungen.
  3. Sensitive Data Protection gibt die Koordinaten und Dimensionen der Regionen im Bild zurück, in denen sensible Daten gemäß Ihren Erkennungskriterien gefunden wurden.

Die zurückgegebenen Koordinaten geben an, wo die sensiblen Daten zu finden sind. Beachten Sie, dass Sensitive Data Protection häufig mehrere Felder verwendet, um anzuzeigen, wo sich eine einzelne Instanz sensibler Daten im Bild befindet.

Wenn Sensitive Data Protection keine Daten im Bild findet, die den Erkennungskriterien entsprechen, wird eine die korrekte Verarbeitung bestätigende HTTP 200-Antwort ohne Inhalt zurückgegeben.

Entfernen von Daten aus Bildern

Das Entfernen der Daten entspricht der Bildinspektion, erweitert um einen zusätzlichen Schritt. Nachdem der Schutz sensibler Daten die Speicherorte sensibler Daten im Bild ermittelt hat, werden die Koordinaten der Bereiche, die die Daten enthalten, nicht zurückgegeben, sondern es werden undurchsichtige Rechtecke in diesen Bereichen platziert und ein base64-codiertes Bild zurückgegeben.

Entferntes Bild, bei dem sensible Daten unkenntlich gemacht wurden.
Geschwärztes Bild (zum Vergrößern klicken).

So läuft die Bearbeitung von Bildern ab:

  1. Sie senden eine image.redact-Anfrage an die DLP API. Die Anfrage enthält das base64-codierte Bild und die Konfiguration zum Entfernen von Bildern, die Ihre Erkennungskriterien enthält.
  2. Sensitive Data Protection scannt das Bild mithilfe der Konfiguration zum Entfernen von Bilddaten und identifiziert Übereinstimmungen.
  3. Sensitive Data Protection deckt erkannte sensible Daten mit einem undurchsichtigen Rechteck ab und macht sie so unkenntlich. Anschließend wird das Bild in base64 codiert und in der Anfrageantwort zurückgegeben.

Wenn Sensitive Data Protection keine Daten im Bild findet, die den Erkennungskriterien entsprechen, wird das base64-codierte Bild unverändert zurückgegeben.

Funktionen zur Bilderkennung

In diesem Abschnitt werden die Funktionen zur Bilderkennung beschrieben, die Sie auf Ihre Prüf- und Schwärzungsvorgänge anwenden können. Für alle diese Funktionen müssen Sie den Scan an einem Ort durchführen, an dem das Scannen von Bildern unterstützt wird.

Erkennt Text in Bildern

Sensitive Data Protection verwendet die optische Zeichenerkennung (Optical Character Recognition, OCR), um Text in Bildern zu erkennen. Der Schutz sensibler Daten analysiert den erkannten Text ähnlich wie einen Textkörper.

Wenn Sie Text in Bildern erkennen möchten, geben Sie in Ihrer Inspektions- oder Entfernungskonfiguration einen beliebigen textbasierten infoType an, z. B. PERSON_NAME und CREDIT_CARD_NUMBER.

Objekte und Themen in Bildern erkennen

Sensitive Data Protection kann die Pixel und Funktionen von Bildern analysieren, die nicht hauptsächlich auf Text basieren. Sensitive Data Protection verwendet diese Technik für die folgenden Funktionen.

Objekterkennung

Mit Sensitive Data Protection können Objekte in Bildern klassifiziert und unkenntlich gemacht werden. Sie können Ihre Scans beispielsweise so konfigurieren, dass sie auf Bildern nach Personalausweisen, Personen und Kfz-Kennzeichen suchen.

Wenn Sie Objekte in Bildern erkennen möchten, geben Sie objectInfoTypes in Ihrer Konfiguration für die Überprüfung oder das Entfernen von vertraulichen Daten an.

Hier finden Sie weitere Informationen:

Sicherheitsklassifizierung von Bildern

Mit Sensitive Data Protection können Bilder anhand ihres thematischen Inhalts klassifiziert und unkenntlich gemacht werden. Mit dieser Funktion können Sie Bilder identifizieren, die gemäß vordefinierten Sicherheitskategorien sensible oder schädliche Inhalte enthalten.

Bei Sensitive Data Protection wird der Gesamtkontext und die Bedeutung eines Bildes analysiert, um festzustellen, ob es zu Kategorien wie sexuell explizite oder gewalttätige Inhalte gehört. Mit dieser Funktion können Sie die Moderation von Inhalten unterstützen und Richtlinien zur zulässigen Verwendung durchsetzen.

Bei der Klassifizierung von Bildern nach Sicherheitsaspekten wird das gesamte Bild von Sensitive Data Protection analysiert. Im Gegensatz zur Objekterkennung, bei der bestimmte Elemente in einem Bild identifiziert werden, wird bei dieser Funktion das Thema des Bildes als Ganzes bewertet. Wenn Sie das Entfernen von Bilddaten basierend auf der Bildsicherheit konfigurieren, wird das gesamte Bild entfernt.

Wenn Sie eine Sicherheitsklassifizierung von Bildern durchführen möchten, geben Sie image context infoTypes in Ihrer Konfiguration für die Überprüfung oder das Entfernen von Daten an.

Einschränkungen für generierte Bilder

Die Modelle, die von Sensitive Data Protection für die Bildklassifizierung in Bezug auf Sicherheit verwendet werden, werden hauptsächlich mit realen Bildern trainiert und ausgewertet. Diese Modelle können zwar bei der Analyse von KI-generierten Bildern hilfreich sein, ihre Effektivität bei der Erkennung aller Arten von richtlinienwidrigen Inhalten in KI-generierten Bildern kann jedoch variieren.

Wenn Sie image context infoTypes für KI-generierte Bilder verwenden, werden die folgenden Elemente möglicherweise nicht erkannt:

  • Nuancierte oder subtile Inhalte
  • Kontextabhängige Szenarien wie private Einstellungen
  • Nicht explizite Darstellungen sensibler Themen

Die Leistung dieser Klassifizierer bei KI-generierten Bildern entspricht möglicherweise nicht der Leistung bei natürlichen Bildern. Wir empfehlen Ihnen, Ihre spezifischen Anwendungsfälle für generative KI gründlich zu testen, um sicherzustellen, dass die Ergebnisse Ihren Sicherheitsanforderungen entsprechen. Verlassen Sie sich bei Anwendungen auf Basis generativer KI mit hohem Risiko nicht ausschließlich auf diese Klassifizierungen, um die Sicherheit zu gewährleisten.

Nächste Schritte