CN110765252A - 一种知识驱动的易配置任务导向型对话管理方法与系统 - Google Patents

Abstract

本发明是一种知识驱动的易配置任务导向型对话管理方法与系统，主要包含以下内容：1.可配置对话策略树模块，本发明设计了一种对话策略树结构，通过对系统节点和功能节点进行配置，在对话策略选择时根据当前的对话状态及对话策略树决定系统的输出动作。2.FAQ知识库及查询模块，对于不在系统定义的动作空间内的用户提问，系统的回复将包含两个部分，一部分是通过知识库查询得到的回复，另一部分是根据对话策略选择的下一步系统响应。知识库查询采用层次化查询方法，首先对用户提问和候选提问进行语义匹配，然后根据对话状态中的细粒度信息进行精准回复。通过两张外部知识的引入实现对话场景的快速迁移和配置以及面向任务的对话控制。

Description

一种知识驱动的易配置任务导向型对话管理方法与系统

技术领域

本发明涉及人机自然语言对话技术领域，用于构建机器自动客服应用系统，具体来说是一种知识驱动的易配置任务导向型对话管理方法与系统。

背景技术

随着人工智能技术和自然语言处理技术的发展，对话系统在智能客服等行业中的应用也越来越广泛。据《中国智能客服行业研究报告》数据显示，中国客服软件当前存量市场规模在100-150亿人民币之间，智能客服正以40％-50％的比例代替人工客服工作。目前对话系统主要分为两种：闲聊型对话系统和任务导向型对话系统。

任务导向型的多轮对话系统旨在通过与用户的多轮交互帮助用户完成实际具体的任务，例如帮助用户找寻商品，预订酒店餐厅等。现阶段构建一个任务导向型的对话系统主要有以下两种方式:流水线(Pipeline)结构和端到端(End-to-End)方法。其中流水线结构技术相对更成熟，实际应用也比较广泛。

任务导向型多轮对话系统的流水线结构主要由自然语言理解，对话管理和自然语言生成三个部分组成。其中对话管理模块是整个系统的核心，控制着对话的走向，决策系统的回复响应。它的主要功能是追踪和更新对话状态，并进行对话策略的选择。具体来说，对话管理器从自然语言理解模块接收输入，更新对话状态，与知识库进行交互，并将输出反馈给自然语言生成模块，生成用户能够理解的自然语言。

然而，目前的对话管理模块仍存在许多弊端：第一、难迁移，将对话系统切换到新的场景时，需要重新设计对话策略；第二、难维护，对于同一对话场景下，更改对话策略耗时耗力；第三、用户体验感差，由于系统定义的动作空间是有限的，当用户提出未识别的问题时，为了面向任务的对话控制，系统往往会忽略该问题或者给出模棱两可的回复。用户的参与感和体验感不够，满意度降低。

发明内容

本发明要解决的问题：第一、任务导向型对话系统难迁移、难维护问题。传统的对话管理模块中，对话策略与模型融合在一起，系统建模的过程也就是实现对话策略的过程。而这种方式对系统的迁移和场景转换带来了极大的不便。将对话系统切换到新的场景或者在同一对话场景下，对对话系统的策略进行更改时，需要对系统重新进行建模。

第二、在任务导向型对话系统的实际应用中，用户的提问是多种多样的，在形式上和语义上都存在多变性。传统的任务型对话系统的解决方法是将每一类问题都看作是一个语义槽，通过自然语言理解模块对其进行识别。这种方法需要对每一类问题进行数据标注，在问题类型数目较大时，标注过程所需要的人力和时间都较为繁琐，而模型的参数也会增加，训练难度增大，需要的标注量也更大。而且对于标注量较少的语义槽，识别的准确率也较低。但由于任务导向型系统的独特性质，这个问题到现在为止并没有得到很好地解决。

针对上述问题，本发明提出了一种知识驱动的易配置任务导向型对话管理方法与系统，通过外部知识的引入实现对话场景的快速迁移和配置以及面向任务的对话控制。本发明的出发点认为不同类型的知识对于计算机对人类语言的理解具有的重要意义，是纯数据驱动的方法无法胜任的。

具体来说，本发明引入了两种外部知识，均可由来自特定领域的专家进行快速配置。其一为可配置对话策略树，为了让领域专家更容易的配置对话流程，必须保证系统引入的知识结构与人类的知识结构保持一致，为此，本发明设计了一种对话策略树结构，结合对话状态追踪模块和对话策略选择模块实现了对话流程的快速迁移和配置。

另外本发明还通过引入外部FAQ知识库结合任务导向型对话系统和闲聊型对话系统的优势实现了对系统定义的动作空间之外的用户提问的准确回复，极大的提高了用户的真实感和满意度。同时，通过与对话策略选择模块的配合，实现了面向任务的对话控制。

为了实现上述目的，本发明的各模块如下：

S1.可配置对话策略树：我们设计了一种对话策略树结构，作为一种配置信息存在于系统中。在对话系统的迭代过程中，可以通过更改对话策略树来更改对话逻辑，而不需要重新实现一个新的对话管理器。这种结构使得对话系统更易维护，更新迭代成本更低。

S1.1.对话策略树的组成：对话策略树以树形结构为基础，由节点和边构成。每一个节点表示一个对话状态，每一条边表示连接条件。对话策略树的节点分为两种，一种是系统节点，表示此时对话系统应该返回的系统动作。该类型节点由对话系统面向任务定义的意图和对应的槽位及槽位值表示。另一种是功能节点，最基本的功能是判断。该节点由判断条件表示。

S1.2.对话策略树的配置：在对一个面向任务的对话系统配置相应的对话策略树时，需要先配置系统涉及到的意图和槽位槽值，再对对话策略中涉及到的策略切换、判断、转移等进行功能节点的配置。

系统根据已配置完成的对话策略树与用户进行交互，在进行到系统节点时，输出回复响应；在进行到功能节点时进行相应的节点判断，来决定对话策略走向的下一个系统节点，再输出系统回复。

S1.3.对话策略树的规范化检测：在对话策略树的解析过程中，需要对其进行规范化检测，确定策略树是否存在流程及逻辑上的配置错误。具体包括系统节点和功能节点的位置检测、完整性检测以及系统节点与功能节点的关系检测。

S1.4.对话状态追踪：根据用户和系统的动作维护和更新每一轮的对话状态，以供系统根据当前对话状态进行决策。对话状态表示当前对话所处的阶段，包括从用户处获得的已知信息，目前还未知的槽位，对话是否结束的标志等。

S1.5.对话策略选择：之前的对话策略选择是根据当前的对话状态决定当前系统的输出响应。策略选择模块仅针对具体场景，切换场景后，需要对对话策略选择模块进行重新设计。本发明结合当前对话状态与对话策略树进行策略的选择，将策略选择模型与实际对话流程分隔开。在进行场景迁移时，只需要重新配置对话策略树，而不需要对对话策略选择模型进行更新。

S2.FAQ知识库：FAQ即常见问题检索，知识库存储用户问答对。可以维护和添加问答对。本发明中可以向FAQ知识库中添加问答对，而不需要添加规则模板。这种方式使得知识库的管理更为简便，更加易于更新迭代。

在本发明中，为了解决实际应用中用户复杂多变的提问，在任务型对话系统的对话管理模块中引入了外部FAQ知识库。结合任务型对话系统和开放域检索式对话系统的优势，将不在动作空间内的用户提问加入FAQ知识库中，通过用户提问与FAQ知识库中问题的语义匹配实现对用户提问的准确回复，并通过知识库的主动学习，自动添加问题，显著减少了标注代价。

S2.2.知识库查询机制：对于系统无法识别的问题，并不会忽略或者直接给一个模棱两可的回复，而是将该问题以及对话状态中已知的信息作为匹配条件在问答库中进行查询，精准返回答案。控制对话自然、流畅的进行。本发明中的查询分为两个层次：

S2.2.1.语义匹配：将问题与知识库中存储的候选问题进行语义上的匹配，判断用户提问的目的。比如：当用户问到“我们家孩子应该上什么课程？”的时候，首先通过语义匹配得到该提问与知识库中“十岁的孩子应该上什么类型的课程？”语义上最为相似，也就是用户在询问孩子上课的类型。

本发明所用到的语义相似度匹配的方法是基于在自然语言推理中应用广泛的ESIM模型，将句子相似度匹配看作是分类问题，首先对用户提问及候选问题进行编码，并通过BiLSTM分别获取双方的隐层状态表示。采用交叉注意力机制对用户提问及候选问题的隐层状态表示进行对齐，对对齐后的表示进行多种语义的比较，将比较结果经过一个合成层输出最终的分类结果。

S2.2.2.细粒度精准回复：由于现有的语义匹配方法很难匹配到细粒度的信息，比如“五岁”的孩子和“十岁”的孩子所上的课程类型是不同的，但是在用户该轮次的提问中可能并未涉及孩子的年龄信息，这就需要通过对话状态中的已知信息进行判断。根据对话历史中提到的孩子“五岁”的信息，返回最准确的回复。

同时，通过与对话策略选择模块的配合，实现了面向任务的对话控制。具体而言，在本发明中，当用户输入一个问题时，首先我们的系统会识别该用户提问是否位于动作空间内：如果不在动作空间内，FAQ模块会以此输入问题做FAQ知识库查询，并将查询后得到的结果返回给对话管理模块。同时，策略选择器生成的下一步系统响应也会返回给对话管理模块。最终，对话管理模块会结合这两部分的返回结果，再返回到自然语言生成模块，最终生成系统回复。此处的系统回复包含两方面的内容，一是直接回答用户的提问，提升用户体验；另一方面是按照对话策略树进行任务引导，辅助完成任务。而当该用户提问在动作空间内，对话管理模块会直接返回策略选择器生成的下一步系统响应。

由于本发明设计了特定于任务的对话策略树，将基于知识和话术的特定任务对话流程存储在外部配置文件，并采用FAQ知识库与任务型对话的流水线结构相结合，从而可以得到以下有益效果：

1.对话系统更加通用，容易迁移，对于不同域的任务型对话系统，对话管理模块只需要配置对话流程树就能实现对话策略的配置。且由于设计的知识结构与人类的知识结构保持一致，用户进行配置时更加容易。

2.这能有效减少系统槽值的数量，有效减少NLU标注的工作量，从而减少系统搭建过程中的人力物力的消耗。

3.对不在设计范围内的用户话语可以进行有效的回复，而不是无意义的通用回复。有效提升用户的体验感和满意度。

4.基于句子对级数据驱动，主动添加问答对，显著减少标注代价，易迁移，易更新迭代。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍

图1为本发明的整体模块结构示意图

图2为针对教育领域下智能客服系统的可配置对话策略树示意图

图3为对话策略选择模块的流程示意图

图4为FAQ知识库的内容示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明提供的一种结合问答的可配置的任务导向型对话管理方法与系统，根据提出的对话管理方法，对话管理的流程的具体描述如下：

为了实现对话系统的可配置功能，根据该对话流程制定可配置设计了对话策略树结构，并将其储存在外部配置文件里，其中每一个节点表示一个对话状态，如图2所示。

S1.1.配置对话策略树：首先，根据该场景提供的对话流程构建对话策略树，其中节点分为两种，一种是系统节点，表示此时对话系统应该返回的系统动作。该类型节点只需根据系统面向任务定义的意图和对应的槽位及槽位值表示即可。另一种是功能节点，也对应着对话流程中的分叉节点，该节点表示当对话进行到该节点时需要根据已知的信息及当前用户的提问判断对话应该向哪个子树进行。

以教育领域内的智能客服为例，询问年龄、询问孩子的英语水平等应为系统节点，以意图、槽位及槽位值(非必需)表示。如询问年龄应该表示为{"intent":"request","slot":{"age":UNK}}。询问孩子的年龄之后，根据不同的年龄后续的对话流程也是不同的，所以在进行后续对话流程之前需要先判断孩子的年龄。判断孩子年龄则属于系统中的功能节点，以意图和对应的槽位表示。在本发明中，执行判断功能的节点的意图统一设置为"judge"。判断年龄则可表示为{"intent":"judge","slot":"age"}。

S1.2.解析对话策略树：以图2中对话策略树为例，对话从开始节点开始，系统进行到系统节点，对用户年龄进行提问，也就是此时系统输出动作：{"intent":"request","slot":{"age":UNK}}，得到用户回复后进入到功能节点{"intent":"judge","slot":"age"}，在对话进行到该功能节点时，会先查看节点中的限制条件是否满足，比如查询推荐课程时，会查看是否已知孩子的年龄、年级和英语水平。如果不满足，则根据功能节点的条件走向下一个系统节点{"intent":"request","slot":{"english_level":UNK}}，例如会提问缺失的项，再进行下一个功能节点的选择或推荐。

S1.3.对话策略树的规范化检测：在对话策略树的解析过程中，需要对其进行规范化检测，确定策略树是否存在流程及逻辑上的配置错误。具体包括系统节点和功能节点的位置检测、完整性检测以及系统节点与功能节点的关系检测。

因此在对一个面向任务的对话系统配置相应的对话策略树时，需要先配置系统涉及到的意图和槽位槽值，再对对话策略中涉及到的策略切换、判断、转移等进行功能节点的配置。客服根据已配置完成的对话策略树与用户进行交互，在进行到系统节点时，输出回复响应；在进行到功能节点时进行相应的节点判断，来决定对话策略走向的下一个系统节点，再输出系统回复。

本发明提出的可配置的对话流程树独立于对话管理中的策略架构，因此可在不同领域以及不同话术下配置不同的对话流程树，实现对话管理器的可配置。

S1.4.对话策略选择：如图3所示，之前的对话策略选择是根据当前的对话状态决定当前系统的输出。策略选择模块仅针对具体场景，切换场景后，需要对对话策略选择模块进行重新设计。本发明结合当前对话状态与对话策略树进行策略的选择，将策略选择模型与实际对话流程分隔开。在进行场景迁移时，只需要重新配置对话策略树，而不需要对对话策略选择模型进行更新。

具体来说，假设当前的对话状态是已知用户的年龄，传统的对话策略会根据学习到的转移概率选择合适的回复，比如询问孩子的英语水平，但该过程无法进行人为的控制。而在本发明中，由于对话策略树运行至功能节点{"intent":"judge","slot":"age"}，也就是说此时应该判断年龄，结合当前的对话状态，如果对话状态中已知年龄，则系统应当对年龄进行判断，然后根据对话策略树进入相应的子树。如果对话状态中年龄未知，则系统此时应当询问年龄，也就是系统输出动作为{"intent":"request","slot":{"age":UNK}}。

S2.引入FAQ知识库：FAQ知识库存储用户问答对。可以维护和添加问答对。本发明中可以向FAQ知识库中添加问答对，而不需要添加规则模板。这种方式使得知识库的管理更为简便，更加易于更新迭代。本发明中所用到的知识库不是简单的问答对形式，而是分层次的知识库。在问答对中添加相应的槽位值作为匹配条件。

如图4所示，FAQ知识库中不是传统的问题-答案对形式，而是在问题Q1“你们有什么课程”与答案之间加入了匹配条件Z1“用户年龄为3-5岁”。由于在特定领域中，同一问题针对不同的匹配条件，比如用户年龄，答案并不完全一致。所以加入匹配条件可以实现精准回复。

S2.2.知识库查询机制：对于系统无法识别的问题，并不会忽略或者直接给一个模棱两可的回复，而是将该问题以及对话状态中已知的信息作为匹配条件在问答库中进行查询，精准返回答案。控制对话自然、流畅的进行。本发明中的查询分为两个层次：

S2.2.1.语义匹配：将问题与知识库中存储的候选问题进行语义上的匹配，判断用户提问的目的。比如：当用户问到“我们家孩子应该上什么课程？”的时候，首先通过语义匹配得到该提问与知识库中“十岁的孩子应该上什么类型的课程？”语义上最为相似，也就是用户在询问孩子上课的类型。

本发明所用到的语义相似度匹配的方法是基于在自然语言推理中应用广泛的ESIM模型，将句子相似度匹配看作是分类问题。具体过程如下：

输入编码：主要功能是将用户提问以及候选问题编码成向量化表示，以输入到神经网络模型中。本发明中采用将多种词向量拼接的方式以获取句子的向量化表示。对于用户提问和候选问题中的每个词将多种词向量拼接，然后用一个前馈层压缩维度。本发明采用双向长短期记忆网络(BiLSTM)对用户提问及候选问题进行编码获取隐层状态表示。

局部语义关系建模：正确的建模用户提问及候选提问之间的语义关系是匹配的关键。对用户提问和候选提问之间的局部语义关系的建模是匹配正确的关键。因为正确的候选提问通常会包含用户提问中的一些关键词，而这可以通过局部语义关系建模来获得。本发明中采用交叉注意力机制将用户提问及候选问题的令牌进行对齐，对齐后的表示可以进行令牌级别的语义相似度的计算。双方对齐后可以计算局部的语义匹配关系。

整体语义关系合成：获得局部的语义匹配关系之后，需要一个合成层以获得整体的语义关系。本发明中采用BiLSTM读取局部的语义匹配信息，以获得整体的语义关系，然后通过一个全连接层进行该候选问题是否与用户提问匹配的分类。

S2.2.2.细粒度精准回复：由于现有的语义匹配方法很难匹配到细粒度的信息，比如“五岁”的孩子和“十岁”的孩子所上的课程类型是不同的，但是在用户该轮次的提问中可能并未涉及孩子的年龄信息，这就需要通过对话状态中的已知信息进行判断。根据对话历史中提到的孩子“五岁”的信息，返回最准确的回复。

同时，通过与对话策略选择模块的配合，实现了面向任务的对话控制。具体而言，在本发明中，当用户输入一个问题时，首先我们的系统会识别该用户提问是否位于动作空间内：如果不在动作空间内，FAQ模块会以此输入问题做FAQ知识库查询，并将查询后得到的结果返回给对话管理模块。同时，策略选择器生成的下一步系统响应也会返回给对话管理模块。最终，对话管理模块会结合这两部分的返回结果，再返回到自然语言生成模块，最终生成系统回复。此处的系统回复包含两方面的内容，一是直接回答用户的提问，提升用户体验；另一方面是按照对话策略树进行任务引导，辅助完成任务。而当该用户提问在动作空间内，对话管理模块会直接返回策略选择器生成的下一步系统响应。

以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (8)

1.一种知识驱动的易配置任务导向型对话管理方法与系统，包括可配置对话策略树结构、对话策略选择、FAQ知识库的引入、FAQ知识库的查询，其主要特征如下：

S1：可配置对话策略树结构，每一个节点表示一个对话状态，节点分为系统节点和功能节点，当系统运行到系统节点时，输出响应，当系统进行到功能节点时，执行相应的功能；

S2：对话策略选择，根据当前的对话状态和对话策略树进行策略选择，在进行场景迁移时，只需更改对话策略树，而不需要对模型重新建模；

S3：FAQ知识库的引入，即常见问题检索知识库的引入，存储问答对，辅助完成对话回复；

S4：知识库查询机制，以不在系统定义的动作空间内的用户提问和对话状态中的已知信息为匹配条件在问答库中进行查询，精准返回系统回复。

2.如权利要求1所述的一种知识驱动的易配置任务导向型对话管理方法与系统，其特征在于，系统节点和功能节点由系统面向任务定义的意图、槽位及对应的槽位值表示。执行判断功能的节点的对话意图统一设置为"judge"。

3.如权利要求1所述的一种知识驱动的易配置任务导向型对话管理方法与系统，其特征在于，对话从系统节点开始，进行到系统节点时输出系统动作，运行到功能节点时根据功能节点的功能执行判断或选择。

4.如权利要求1所述的一种知识驱动的易配置任务导向型对话管理方法与系统，其特征在于，针对权利要求1中的特征S2，对话策略的选择是根据当前对话策略树运行的节点以及当前的对话状态决定的。

5.如权利要求1所述的一种知识驱动的易迁移可配置的任务导向型对话管理方法与系统，其特征在于，针对权利要求1中的特征S3，在任务型多轮对话系统中引入FAQ知识库，通过检索匹配对不在系统定义的动作空间内的用户提问进行准确的回复。

6.如权利要求1所述的一种知识驱动的易迁移可配置的任务导向型对话管理方法与系统，其特征在于，对于不在系统定义的动作空间内的用户提问，系统的回复将包含两个部分，一部分是通过知识库查询得到的回复，另一部分是根据对话策略选择的下一步系统响应。

7.如权利要求1所述的一种知识驱动的易迁移可配置的任务导向型对话管理方法与系统，其特征在于，针对权利要求1中的特征S4，对于知识库的查询是分层次的查询，查询条件包括用户提问及对话状态中的已知信息。

8.如权利要求8所述的分层次的知识库的查询，第一层次是通过语义匹配将用户提问与知识库中的问题进行匹配，判断用户提问的目的，第二层次是根据对话状态中的已知信息选择精准的回复。

Images