סיווג והסתרה של טקסט

מתי כדאי להשתמש בסיווג טקסטים ובצנזור מידע

הנה כמה תרחישי שימוש נפוצים:

  • הסרת תוכן זדוני או רגיש מהקלט של המשתמשים לפני שמירת הנתונים במסד הנתונים: צנזרו פרטים אישיים מזהים (PII) רגישים (כמו מספרי תעודות זהות, מספרי כרטיסי אשראי או רישיונות נהיגה) מטקסט חופשי לפני שאתם כותבים רשומות לאחסון או למסדי נתונים של אפליקציות.
  • הסרת תוכן זדוני או רגיש מתמלילים ויומנים של שירות לקוחות: הסרת פרטים אישיים מזהים מהיסטוריית הצ'אטים, מכרטיסי התמיכה ומשרשורי האימיילים לפני שהנציג בודק אותם או לפני שהם נקלטים כנתוני אימון.
  • זיהוי ישויות רגישות לתיוג בהמשך: סיווג טקסט כדי לחלץ סוגי מידע ודירוגי סבירות, ושימוש במידע הזה בתהליכי עבודה מותאמים אישית כדי לנתב או לסמן הודעות בסיכון גבוה.
  • הסתרת מידע סודי בהנחיות ל-AI גנרטיבי: צנזרו מידע קנייני או מידע על עמידה בתקנות בהנחיות של המשתמשים לפני שאתם שולחים תוכן למודלי LLM ציבוריים או של צד שלישי.

סיווג הטקסט

לדוגמה, נניח שאתם מזינים את הטקסט הבא:

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

הפלט הוא רשימה של ממצאים, שמחולקים לקטגוריות הבאות:

  • InfoType
  • Likelihood
  • Offset (איפה במחרוזת נמצאה InfoType פוטנציאלית)

בטבלה הבאה מוצג פלט לדוגמה.

InfoType Likelihood Offset
US_HEALTHCARE_NPI VERY_LIKELY 122
EMAIL_ADDRESS LIKELY 72
US_DRIVERS_LICENSE_NUMBER LIKELY 155
CANADA_BC_PHN VERY_UNLIKELY 122
UK_TAXPAYER_REFERENCE VERY_UNLIKELY 122
CANADA_PASSPORT VERY_UNLIKELY 155

צנזור טקסט אוטומטי

השמטה אוטומטית מסירה את ההתאמות של המידע הרגיש במקום להציג רשימה של ממצאים.

הנה דוגמה לקלט של צנזור אוטומטי:

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

הדוגמה הבאה היא של פלט שמשתמש בפלייסהולדר "***":

Please update my records with the following information:
Email address: ***

National Provider Identifier: ***

Driver's license: ***

משאבים