生成式模型与确定性模型

在对话期间,Dialogflow CX 代理始终使用语言模型来理解最终用户的意图,但您可以决定是否以及如何使用语言模型来生成代理回答。在设计智能体时,您可以选择完全生成式、部分生成式和确定性功能。

本指南简要介绍了这些功能,并可帮助您确定要使用哪些功能。

完全生成式

完全生成式功能基于 Vertex AI 大语言模型 (LLM) 构建,可用于理解最终用户意图和生成代理回答。这些功能可提供自然的对话体验。

以下是完全生成式功能的概览:

  • Playbook 提供了一种使用 LLM 创建虚拟代理的方法。提供自然语言指令和结构化数据。这可以缩短虚拟客服的创建和维护时间,并让您为自己的业务打造新型对话式体验。
  • 数据存储区可解析和理解您的公开或私密内容,例如网站或内部文档。对这些信息建立索引后,智能体就可以回答有关内容的问题并进行对话。

确定性对话流

如果您需要对对话和所有代理响应进行更具确定性的控制,可以设计具有流程的代理:

  • 流程使用语言模型来了解最终用户的意图,而最终用户的意图可能是不确定的。不过,一旦确定意图,您就可以完全控制对话流程和代理回答。设计具有确定性流程的智能体需要更多设计时间,但对于需要明确控制智能体回答的智能体来说,这是一个不错的选择。

部分生成式 flow

流包含可选的生成式功能,在某些情况下,如果您不需要对代理回答进行确定性控制,可以使用这些功能。

这些功能如下所示:

  • 生成器用于生成代理回答。您无需明确提供智能体回答,而是提供可处理多种场景的 LLM 提示,包括对话总结、问答、客户信息检索和升级到人工客服。
  • 生成式后备:当最终用户输入未匹配预期意图时,生成智能体回答。在某些情况下,您可以通过提供 LLM 提示来生成回答,从而启用生成式后备。