生成式回退

生成式后备 功能使用 Google 最新的生成式大语言模型 (LLM),在最终用户输入未匹配任何意图或表单填写参数时,生成虚拟客服回答。

您可以使用 文本提示 配置此功能,以指示 LLM 如何响应。您可以使用预定义的文本提示,也可以添加自己的提示。借助预定义的提示,虚拟客服能够处理基本的对话情境。例如:

  • 向用户问候和道别。
  • 重复客服人员所说的话,以防用户没听懂。
  • 在用户要求时保持通话。
  • 总结对话内容。

您可以在流、页面或参数填充期间使用的 无匹配事件处理程序 中启用生成式后备。为无匹配事件启用生成式后备后,每当该事件触发时,Dialogflow CX 都会尝试生成一个回答,并将其说回给用户。如果回答生成失败,系统会改为发出常规的预设客服人员回答。

限制

此功能适用于 Gemini API 支持的语言

启用生成式后备

您可以在代理的 无匹配事件处理程序 中启用生成式后备, 这些处理程序可在流、页面或参数 fulfillment 中使用。

为整个流的无匹配事件启用生成式后备

  1. 前往 Dialogflow CX 控制台
  2. 选择一个项目。
  3. 选择一个代理,然后选择一个流。
  4. 点击流的起始页 以展开它。
  5. 点击事件处理程序 下的 sys.no-match-default
  6. 客服人员回答 下,选择启用生成式后备
  7. 点击保存

针对特定无匹配事件启用生成式后备

  1. 前往目标 无匹配 事件处理脚本(以 无匹配开头的任何事件,例如 无匹配默认无匹配 1 等)。
  2. 客服人员回答 下,选择启用生成式后备
  3. 点击保存

配置生成式后备

如前所述,生成式后备 功能会将请求传递给大语言模型,以便生成回答。该请求采用 文本提示 的形式,其中包含自然语言以及有关代理和对话当前状态的信息。系统会根据 禁用短语 列表检查提示和生成的回答。如果它们包含任何禁用短语,或者被认为不安全,则生成将失败,系统会改为发出常规的预设回答(在同一 fulfillment 的 客服人员说 下)。

您可以通过多种方式配置此功能:

  1. 选择预定义的提示。
  2. 定义自定义提示。
  3. 在禁用短语列表中添加或移除短语。

创建提示时,除了对要生成的内容类型进行自然语言描述之外,还可以使用以下 占位符

X 推荐项
$conversation 代理与用户之间的对话,不包括用户的最后一句话。
${conversation USER:"" AI:"" TURNS:} $conversation 占位符的参数化版本。您可以自定义最终用户前缀 (USER)、代理前缀 (AI) 和要包含的先前轮次数量 (TURNS)。必须指定所有占位符参数值。例如,${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance 用户的最后一句话。
$flow-description 活跃流的流说明
$route-descriptions 活跃意图的意图说明

请确保提供良好的流和意图说明。

选择预定义的提示

  1. Agent Settings 中,前往 生成式 AI 标签页,然后前往 生成式后备 子标签页。
  2. Template 下拉菜单中选择一个选项。
  3. 点击保存

此功能提供两个模板提示:Default 模板(不可见)和 Example 模板,后者可作为编写您自己的提示的指南。

定义您自己的提示

  1. Agent Settings 中,前往 生成式 AI 标签页,然后前往 生成式后备 子标签页。
  2. Template 下拉菜单中选择 + new template
  3. 添加 Template name
  4. 添加 文本提示
  5. 点击保存

您还可以先修改 Example 模板,然后将其另存为新模板:

  1. Template 下拉菜单中选择 Example
  2. 点击修改
  3. 修改 Template name
  4. 修改 文本提示
  5. 点击保存

修改禁用短语列表

  1. Agent Settings 中,前往 生成式 AI 标签页,然后前往 General 子标签页。
  2. Banned phrases 部分中,检查列表中的短语、向列表中添加短语或从列表中移除短语。
  3. 点击保存

测试生成式后备

您可以在模拟器中测试 生成式后备 功能。每当用户说出的话导致流或页面上配置为生成回答的无匹配事件发生无匹配情况(并且生成成功)时,代理都会输出生成的回答。

Codelab

另请参阅 生成式后备 Codelab

问题排查

如果您想调试此功能,可以在 Dialogflow 控制台模拟器中检查已解析的大语言模型 (LLM) 输入提示:

  1. 点击原始回答 按钮:

    原始回答

  2. 找到 "Generative Fallback Prompt" 字段。将这些字段作为纯文本读取,并检查 LLM 输入是否合理。如果任何短语包含 $,请检查模拟器输入,并明确提示中的$是否是故意的(例如,$price is $10中可能是故意的,而visit $city可能不是故意的,可能意味着误用或 bug)。如果您不确定, 请与支持团队联系

  3. 如果您使用的是非默认提示模板,但看不到“Generative Fallback Prompt”字段, 请与支持团队联系