מתי כדאי להשתמש בסיווג טקסטים ובצנזור מידע
הנה כמה תרחישי שימוש נפוצים:
- הסרת תוכן זדוני או רגיש מהקלט של המשתמשים לפני שמירת הנתונים במסד הנתונים: צנזרו פרטים אישיים מזהים (PII) רגישים (כמו מספרי תעודות זהות, מספרי כרטיסי אשראי או רישיונות נהיגה) מטקסט חופשי לפני שאתם כותבים רשומות לאחסון או למסדי נתונים של אפליקציות.
- הסרת תוכן זדוני או רגיש מתמלילים ויומנים של שירות לקוחות: הסרת פרטים אישיים מזהים מהיסטוריית הצ'אטים, מכרטיסי התמיכה ומשרשורי האימיילים לפני שהנציג בודק אותם או לפני שהם נקלטים כנתוני אימון.
- זיהוי ישויות רגישות לתיוג בהמשך: סיווג טקסט כדי לחלץ סוגי מידע ודירוגי סבירות, ושימוש במידע הזה בתהליכי עבודה מותאמים אישית כדי לנתב או לסמן הודעות בסיכון גבוה.
- הסתרת מידע סודי בהנחיות ל-AI גנרטיבי: צנזרו מידע קנייני או מידע על עמידה בתקנות בהנחיות של המשתמשים לפני שאתם שולחים תוכן למודלי LLM ציבוריים או של צד שלישי.
סיווג הטקסט
לדוגמה, נניח שאתם מזינים את הטקסט הבא:
Please update my records with the following information: Email address: foo@example.com National Provider Identifier: 1245319599 Driver's license: AC333991
הפלט הוא רשימה של ממצאים, שמחולקים לקטגוריות הבאות:
InfoTypeLikelihoodOffset(איפה במחרוזת נמצאהInfoTypeפוטנציאלית)
בטבלה הבאה מוצג פלט לדוגמה.
InfoType |
Likelihood |
Offset |
|---|---|---|
US_HEALTHCARE_NPI |
VERY_LIKELY |
122 |
EMAIL_ADDRESS |
LIKELY |
72 |
US_DRIVERS_LICENSE_NUMBER |
LIKELY |
155 |
CANADA_BC_PHN |
VERY_UNLIKELY |
122 |
UK_TAXPAYER_REFERENCE |
VERY_UNLIKELY |
122 |
CANADA_PASSPORT |
VERY_UNLIKELY |
155 |
צנזור טקסט אוטומטי
השמטה אוטומטית מסירה את ההתאמות של המידע הרגיש במקום להציג רשימה של ממצאים.
הנה דוגמה לקלט של צנזור אוטומטי:
Please update my records with the following information: Email address: foo@example.com National Provider Identifier: 1245319599 Driver's license: AC333991
הדוגמה הבאה היא של פלט שמשתמש בפלייסהולדר "***":
Please update my records with the following information: Email address: *** National Provider Identifier: *** Driver's license: ***
משאבים
- מידע נוסף על השימוש ב-Sensitive Data Protection לצנזור טקסט מופיע במאמר צנזור מידע אישי רגיש מתוכן טקסט.
- למידע נוסף על השימוש ב-Sensitive Data Protection כדי להסיר פרטים אישיים מזהים ממידע רגיש בתוכן טקסט – כולל "הסתרת" מידע רגיש, החלפת מידע רגיש במחרוזת "אסימון" והצפנה והחלפה של מידע רגיש באמצעות מפתח שנוצר באופן אקראי או שנקבע מראש – קראו את המאמר הסרת פרטים אישיים מזהים ממידע רגיש בתוכן טקסט.