במסמך הזה מתוארות היכולות של Sensitive Data Protection לבדיקה ולצנזור של תמונות.
באמצעות גלאי infoType, Sensitive Data Protection בודק תמונה בקידוד base64 ומזהה מידע רגיש בתמונה. לאחר מכן, Sensitive Data Protection יכול להחזיר מידע על המיקום של המידע הרגיש בתמונה, או לצנזר את המידע הרגיש על ידי הסתרתו באמצעות מלבן אטום.
בדיקה וצנזור הן שתי פעולות נפרדות:
- בדיקה: Sensitive Data Protection בודק את התמונה שנשלחה בקידוד base64 כדי לאתר את ה-infoTypes שצוינו. היא מחזירה את סוגי המידע שזוהו, יחד עם קבוצה אחת או יותר של קואורדינטות של פיקסלים ומאפיינים. כל קבוצה של ערכי קואורדינטה של פיקסל ומידות מציינת את הפינה השמאלית התחתונה ואת המידות של התיבות התוחמות, בהתאמה. כל תיבה תוחמת תואמת לממצא מלא או חלקי של Sensitive Data Protection.
- צנזור: Sensitive Data Protection בודק אם התמונה שנשלחה בקידוד base64 מכילה את סוגי המידע שצוינו. Sensitive Data Protection מצנזר את כל הממצאים של מידע אישי רגיש על ידי הסתרתם באמצעות מלבנים אטומים. היא מחזירה את התמונה המצונזרת בקידוד base64 באותו פורמט תמונה כמו התמונה המקורית. אפשר גם להגדיר בבקשה את הצבע של תיבות הצנזור.
מתי כדאי להשתמש בבדיקה וצנזור של תמונות
הנה כמה תרחישי שימוש נפוצים:
- הסתרת מידע רגיש במסמכים סרוקים: הסתרת רישיונות נהיגה, תעודות זהות ומספרי כרטיסי אשראי בקובצי PDF או בתמונות שהועלו, לפני העיבוד בתהליכי עבודה במורד הזרם.
- הסרת תוכן זדוני או רגיש מהעלאות של תמיכת לקוחות: צנזור אוטומטי של מספרי חשבונות ופרטים אישיים ליצירת קשר בצילומי מסך שהמשתמשים שולחים, לפני שכרטיסי התמיכה מנותבים לנציגי התמיכה.
- איתור רכיבים רגישים במדיה דיגיטלית: בדיקת תמונות כדי לאחזר קואורדינטות של פיקסלים בתיבה תוחמת של טקסט שזוהה, וכך לאפשר לאפליקציות בהתאמה אישית לבדוק או לטשטש באופן סלקטיבי אזורים מטורגטים.
- הכנת מערכי נתונים חזותיים ללמידת מכונה: הסתרת מידע אישי רגיש ממאגרי תמונות לאימון כדי לעמוד בהנחיות בנושא פרטיות, תוך שמירה על ההקשר החזותי שמסביב.
סוגי תמונות נתמכים
במאמר סוגי קבצים נתמכים בפעולות בדיקה והסרת פרטי זיהוי מפורטים סוגי התמונות הנתמכים.
מידע על בדיקת תמונות
שירות הבדיקה של Sensitive Data Protection מקבל תמונה בקידוד base64, ואז מחפש בתמונה נתונים שתואמים לקריטריונים של הבדיקה. Sensitive Data Protection מחזיר את המיקומים של כל המידע הרגיש שהוא מזהה.
התמונה הבאה ממחישה את זה.
תהליך בדיקת התמונות מתבצע באופן הבא:
- אתם שולחים בקשת
content.inspectל-DLP API. הבקשה מכילה את התמונה בקידוד base64 ואת הגדרות הבדיקה, שכוללות את הקריטריונים לזיהוי. - Sensitive Data Protection סורק את התמונה באמצעות הגדרות הבדיקה ומזהה התאמות.
- Sensitive Data Protection מחזיר את הקואורדינטות והמימדים של האזורים בתמונה שבהם נמצא מידע רגיש, בהתאם לקריטריונים של הזיהוי.
הקואורדינטות שמוחזרות מציינות איפה נמצא המידע הרגיש. חשוב לדעת שבמקרים רבים, Sensitive Data Protection משתמש בכמה תיבות כדי לציין איפה נמצא מופע יחיד של מידע רגיש בתמונה.
אם Sensitive Data Protection לא מוצא בתמונה נתונים שתואמים לקריטריונים של הזיהוי, הוא מחזיר תגובת HTTP 200 ריקה ומוצלחת.
מידע על צנזור תמונות
צנזור תמונות דומה לבדיקת תמונות, עם שלב אחד נוסף. אחרי ש-Sensitive Data Protection מזהה את המיקומים של המידע האישי הרגיש בתמונה, במקום להחזיר את הקואורדינטות של האזורים שמכילים את המידע, הוא מציב מלבנים אטומים על האזורים האלה ומחזיר תמונה מצונזרת בקידוד base64.
תהליך צנזור התמונות מתבצע באופן הבא:
- אתם שולחים בקשת
image.redactל-DLP API. הבקשה מכילה את התמונה בקידוד base64 ואת הגדרות צנזור התמונה, שכוללות את הקריטריונים לזיהוי. - Sensitive Data Protection סורק את התמונה באמצעות הגדרת צנזור התמונה ומזהה התאמות.
- Sensitive Data Protection מצנזר את כל המידע האישי הרגיש שהוא מזהה, על ידי כיסוי שלו במלבן אטום. לאחר מכן הוא מקודד את התמונה ב-base64 ומחזיר את התמונה המצונזרת בתגובה לבקשה.
אם Sensitive Data Protection לא מוצא בתמונה נתונים שתואמים לקריטריונים של הזיהוי, הוא מחזיר את התמונה בקידוד base64 ללא שינוי.
תכונות לזיהוי תמונות
בקטע הזה מתוארות תכונות זיהוי התמונות שאפשר להחיל על פעולות הבדיקה וההסרה. כדי להשתמש בכל התכונות האלה, צריך לבצע את הסריקה במיקום שתומך בסריקת תמונות.
זיהוי טקסט בתמונות
Sensitive Data Protection משתמש בזיהוי תווים אופטי (OCR) כדי לזהות טקסט בתמונות. Sensitive Data Protection מנתח את הטקסט שזוהה באופן דומה לניתוח של גוף טקסט.
כדי לזהות טקסט בתמונות, צריך לציין כל infoType מבוסס-טקסט, כמו PERSON_NAME ו-CREDIT_CARD_NUMBER, בהגדרות הבדיקה או הצינזור.
זיהוי אובייקטים ונושאים בתמונות
Sensitive Data Protection יכול לנתח את הפיקסלים והמאפיינים של תמונות שלא מבוססות בעיקר על טקסט. התכונות הבאות של Sensitive Data Protection משתמשות בשיטה הזו.
זיהוי אובייקטים
בעזרת Sensitive Data Protection אפשר לסווג ולצנזר אובייקטים בתמונות. לדוגמה, אתם יכולים להגדיר את הסריקות כך שיזהו תעודות מזהות עם תמונה, אנשים ולוחיות רישוי בתמונות.
כדי לזהות אובייקטים בתמונות, צריך לציין סוגי מידע של אובייקטים בהגדרות הבדיקה או הצינזור.
למידע נוסף, קראו את המאמרים הבאים:
סיווג בטיחות של תמונות
בעזרת Sensitive Data Protection אפשר לסווג ולצנזר תמונות על סמך התוכן הנושאי שלהן. התכונה הזו עוזרת לזהות תמונות שמכילות נושאים רגישים או מזיקים, בהתאם לקטגוריות בטיחות שהוגדרו מראש.
Sensitive Data Protection מנתח את ההקשר והמשמעות הכוללים של תמונה כדי לקבוע אם היא שייכת לקטגוריות כמו תוכן מיני בוטה או תוכן אלים. אתם יכולים להשתמש בתכונה הזו כדי לתמוך בניהול תוכן ולאכוף את מדיניות השימוש המקובל.
כשמבצעים סיווג בטיחות של תמונות, Sensitive Data Protection מנתח את התמונה כולה. בניגוד לזיהוי אובייקטים, שבו מזוהים פריטים ספציפיים בתמונה, התכונה הזו בודקת את נושא התמונה בכללותו. אם מגדירים צנזור על סמך בטיחות התמונה, התכונה הזו מצנזרת את כל התמונה.
כדי לסווג את בטיחות התמונה, צריך לציין את סוגי המידע הרגיש של הקשר התמונה בהגדרות הבדיקה או הצנזור.
מגבלות על תמונות שנוצרו על ידי AI
המודלים שמשמשים את Sensitive Data Protection לסיווג בטיחות של תמונות מאומנים ונבדקים בעיקר על תמונות מהעולם האמיתי. למרות שהמודלים האלה יכולים לעזור בניתוח תמונות שנוצרו על ידי AI, היעילות שלהם בזיהוי כל סוגי התוכן שמפר את המדיניות בתמונות שנוצרו על ידי AI יכולה להשתנות.
אם משתמשים בסוגי מידע (infoType) של הקשר תמונה בתמונות שנוצרו על ידי AI, יכול להיות שהמערכת לא תזהה את הדברים הבאים:
- תוכן מורכב או מעודן
- תרחישים תלויי הקשר, כמו הגדרות פרטיות
- תיאורים לא גרפיים של נושאים רגישים
יכול להיות שהביצועים של הסיווגים האלה בתמונות שנוצרו על ידי AI לא יהיו זהים לביצועים בתמונות טבעיות. מומלץ לבצע בדיקות יסודיות של תרחישי השימוש הספציפיים שלכם ב-AI גנרטיבי, כדי לוודא שהתוצאות עומדות בדרישות הבטיחות שלכם. אל תסתמכו רק על המסווגים האלה כדי להבטיח בטיחות באפליקציות AI גנרטיביות בסיכון גבוה.