סיווג והסתרה של טקסט

מתי כדאי להשתמש בסיווג טקסטים ובהסרת מידע אישי

הנה כמה תרחישי שימוש נפוצים:

  • ניקוי קלט של משתמשים לפני שמירת מסד הנתונים: צנזרו פרטים אישיים מזהים (PII) רגישים (כמו מספרי תעודות זהות, מספרי כרטיסי אשראי או רישיונות נהיגה) מטקסט חופשי לפני כתיבת רשומות למאגרי נתונים של אחסון או אפליקציות.
  • ניקוי תמלילים ויומנים של שירות לקוחות: הסרת מידע אישי מזהה מהיסטוריית צ'אטים, כרטיסי תמיכה ושרשורי אימייל לפני שהסוכן בודק אותם או לפני שהנתונים מוזנים לאימון.
  • זיהוי ישויות רגישות לתיוג בהמשך התהליך: סיווג טקסט כדי לחלץ סוגי מידע ודירוגי סבירות, ושימוש במידע הזה בתהליכי עבודה מותאמים אישית כדי להפנות או לסמן הודעות בסיכון גבוה.
  • הסתרת נתונים סודיים בהנחיות ל-AI גנרטיבי: צנזורה של מידע קנייני או מידע שחל עליו רגולציה בהנחיות למשתמשים לפני שליחת תוכן למודלים גדולים של שפה (LLM) ציבוריים או של צד שלישי.

סיווג הטקסט

נניח שהזנתם את הטקסט הבא:

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

הפלט הוא רשימה של ממצאים, שמסודרים לפי הקטגוריות הבאות:

  • InfoType
  • Likelihood
  • ‫Offset (המיקום במחרוזת שבו נמצאה המחרוזת הפוטנציאלית InfoType)

בטבלה הבאה מוצגת דוגמה לפלט.

InfoType Likelihood Offset
US_HEALTHCARE_NPI VERY_LIKELY 122
EMAIL_ADDRESS LIKELY 72
US_DRIVERS_LICENSE_NUMBER LIKELY 155
CANADA_BC_PHN VERY_UNLIKELY 122
UK_TAXPAYER_REFERENCE VERY_UNLIKELY 122
CANADA_PASSPORT VERY_UNLIKELY 155

הסתרת טקסט אוטומטית

הצנזורה האוטומטית יוצרת פלט שבו הוסרו התאמות למידע אישי רגיש, במקום לספק רשימה של ממצאים.

דוגמה לקלט של צנזורה אוטומטית:

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

הדוגמה הבאה היא של פלט שמתקבל כשמשתמשים במציין המיקום '***':

Please update my records with the following information:
Email address: ***

National Provider Identifier: ***

Driver's license: ***

משאבים

  • מידע נוסף על שימוש ב-Sensitive Data Protection כדי לצנזר טקסט זמין במאמר צנזור נתונים רגישים מתוכן טקסט.
  • מידע נוסף על שימוש ב-Sensitive Data Protection כדי להסיר פרטים מזהים ממידע אישי רגיש בתוכן טקסט – כולל 'הסתרת' מידע אישי רגיש, החלפת מידע אישי רגיש במחרוזת 'טוקן' והצפנה והחלפה של מידע אישי רגיש באמצעות מפתח שנוצר באופן אקראי או מוגדר מראש – זמין במאמר הסרת פרטים מזהים ממידע אישי רגיש בתוכן טקסט.