テキストの分類と秘匿化

テキストの分類と秘匿化を使用するタイミング

一般的なユースケースは次のとおりです。

  • データベースに永続化する前にユーザー入力をサニタイズする: レコードをストレージまたはアプリケーション データベースに書き込む前に、自由形式のテキストから機密性の高い PII（社会保障番号、クレジット カード番号、運転免許証など）を秘匿化します。
  • カスタマー サービスの音声文字変換とログをサニタイズする: エージェントのレビューやトレーニング データの取り込みの前に、チャット履歴、サポート チケット、メールスレッドから個人を特定できる情報を削除します。
  • ダウンストリーム タグ付けのために機密性の高いエンティティを特定する: テキストを分類して infoType と可能性評価を抽出し、この情報をカスタム ワークフローで使用して、リスクの高いメッセージをルーティングまたはフラグ付けします。
  • 生成 AI プロンプトで機密データをマスクする: コンテンツを公開 LLM またはサードパーティ LLM に送信する前に、ユーザー プロンプトから専有情報や規制情報を秘匿化します。

テキスト分類

次のテキスト入力を考えてみましょう。

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

出力は見つかったもののリストであり、次のカテゴリに分類されます。

  • InfoType
  • Likelihood
  • Offset（InfoType である可能性のあるものが見つかった文字列中の位置）

出力例を下の表に示します。

InfoType Likelihood Offset
US_HEALTHCARE_NPI VERY_LIKELY 122
EMAIL_ADDRESS LIKELY 72
US_DRIVERS_LICENSE_NUMBER LIKELY 155
CANADA_BC_PHN VERY_UNLIKELY 122
UK_TAXPAYER_REFERENCE VERY_UNLIKELY 122
CANADA_PASSPORT VERY_UNLIKELY 155

テキストの自動秘匿化

自動秘匿化の機能では、機密データと認識されたもののリストを提供するのではなく、機密データと認識されたものが除去された出力が生成されます。

自動秘匿化入力の例を次に示します。

Please update my records with the following information:
Email address: foo@example.com

National Provider Identifier: 1245319599

Driver's license: AC333991

プレースホルダ「***」を使用した出力の例を次に示します。

Please update my records with the following information:
Email address: ***

National Provider Identifier: ***

Driver's license: ***

リソース

  • Sensitive Data Protection を使用したテキストの秘匿化の詳細については、テキスト コンテンツからの機密データの秘匿化をご覧ください。
  • Sensitive Data Protection を使用してテキスト コンテンツ内のセンシティブ データを匿名化する方法（センシティブ データの「マスキング」、センシティブ データの「トークン」文字列への置換、ランダムに生成された鍵または事前定義の鍵を使用したセンシティブ データの暗号化と置換など）の詳細については、テキスト コンテンツ内のセンシティブ データの匿名化をご覧ください。