CN115936011B - 智能对话中多意图语义识别方法 - Google Patents

Abstract

本发明公开了一种智能对话中多意图语义识别方法，包括：模型初始化、模型调用、模型更新；所述模型初始化对于每一类对话场景，训练一个独立的意图模型，模型分类分别为：情感分类模型、意图分类模型、意图模型；模型调用意图处理服务步骤如下：(1)文本清洗，(2)意图分类，(3)意图分拆，(4)意图筛选，(5)意图排序，(6)多意图合并。模型更新训练的输入为：对话质检、真实对话学习。本发明实现了一种针对复杂意图的智能识别算法，提高了智能对话的意图识别准确率，极大提升了对话效果。

Description

智能对话中多意图语义识别方法

技术领域

本发明涉及一种智能对话中多意图语义识别方法，属于语义识别技术领域。

背景技术

人工智能技术目前已普遍应用于各行各业。在企业通讯领域，智能对话相关应用已可以大规模的代替人工，大大节约了企业用人成本。而其中自然语义理解(NLP)技术成为最关键的因素，是否能准确识别用户意图，很大程度上决定了对话的质量。对于客户意图的识别，目前有许多算法在使用。但这些算法或模型都存在一个典型的问题，即对于越复杂的用户对话，越难以准确理解客户的意图。或者客户在对话中表达了多种意图，但是现有技术只能识别出其中某种意图。

发明内容

本发明的目的在于提供一种智能对话中多意图语义识别方法，更加有效和准确的应用于自然语义处理(NLP，Native Language Process)过程中的复杂意图识别，以解决目前在智能对话领域客户意图识别不准，导致对话效果不佳、影响对话质量的问题。通过对意图识别模型的学习与训练，以提升意图识别准确率，给客户带来更好的对话体验。

本发明的目的通过以下技术方案予以实现：

一种智能对话中多意图语义识别方法，包括：模型初始化、模型调用、模型更新；

1)模型初始化：对于每一类对话场景，训练一个独立的意图模型，所需语料为问题库或聚类，聚类即相似文本的集合；语料来源于历史语料整理、历史对话学习；

模型分类:模型分为三类，分别为：情感分类模型、意图分类模型、意图模型；

意图分类模型用以判断客户对话的意愿方向，分为：肯定、否定、中性，不同对话场景只需维护一个模型；

情感分类模型用以判断客户对话的情感极性，分为：消极、积极、中性，不同对话场景只需维护一个模型；

意图模型用以判断客户具体的细分意图，意图模型因对话场景不同而不同，需要针对不同的对话场景单独训练，每个问题或聚类都是一个意图，意图模型会输出其中一个或多个意图，意图附有分值，分值区间为0-100，与训练语料近似度越接近分值越高；

2)模型调用：

发起一个智能外呼任务时，调用意图处理服务，意图处理服务访问训练好的模型，意图处理服务步骤如下：

(1)文本清洗：

在处理文本之前，去除无用词汇；

(2)意图分类：

经过文本清洗后的完整客户对话，称为整句；

将整句送入意图分类模型，得到整句的意图分类为肯定、否定、中性中的某一种；

将整句送入情感分类模型，得到整句的情感极性为积极、消极、中性中的某一种；

(3)意图分拆：

对整句按照标点符号进行分拆，得到多个分句；将整句和每一个分句送入意图模型，根据与不同意图的模型近似度打分，即计算各句与模型文本的向量值，计算值越接近分值越高，从而得到多个意图，以及对应意图的分值，分值范围为0-100；

(4)意图筛选：

剔除分数较低者：剔除意图分值低于65分的意图；

剔除极性相反者：如果分拆后的分句意图与整句意图极性相反，将意图极性相反的分句删除；

(5)意图排序：

在意图分拆步骤中，每一个意图都有分值；

若筛选后的意图均为聚类，则取聚类最高分者作为最终意图；

若筛选后的意图均为问题，则取问题最高分者作为最终意图；

若筛选后的意图同时包含聚类和问题，则取决于对话流程中定义的优先级，即问题回答优先还是聚类回答优先，按照优先级设定取最高分者作为最终意图；

(6)多意图合并：

若对话中设定问题回答优先，则拼接所有问题的答案作为客户回复，但意图判定仍取最高分者。

3)模型更新：

模型更新训练的输入为：对话质检、真实对话学习。

本发明的目的还可以通过以下技术措施来进一步实现：

前述智能对话中多意图语义识别方法，步骤3)模型更新中，所述对话质检即通过人工质检机器人实际与客户的真实对话文本，发现其中意图识别不准确的对话片段，重新进行标注和修正，再把这部分文本重新放到模型训练集中进行训练，提高模型的精确性。

前述智能对话中多意图语义识别方法，步骤3)模型更新中，针对意图未识别者，对未识别者进行全量的自动化归类，即自动检索生成全量的未识别文本库，然后对这部分内容进行人工标注，重新投入模型训练。

与现有技术相比，本发明的有益效果是：

1.意图模型仅需少量语料即可实现冷启动，传统的做法需要大量的人工标注，需要耗费较多的人力。

2.意图模型的语料更新，可以通过系统的自动归类进行整理，结合人工审核后批量添加，可维护性高。

3.意图模型结合意图分类模型，对意图进行分拆，可以准确得到客户真实意图，在复杂对话的意图判定时具有更高的识别准确率。

本发明可用于智能语音外呼、智能在线客服、呼入式机器人等智能对话场景。本发明实现了一种针对复杂意图的智能识别算法，提高了智能对话的意图识别准确率，极大提升了对话效果，可以有效增加客户成单率、提升客户满意度，从而达成企业业务目标。

附图说明

图1是本发明的模型生成算法流程图；

图2是模型调用流程图；

图3是多意图模型生成流程示意图；

图4是模型优化更新流程图；

图5是模型应用的产品架构图；

图6是业务流程图；

图7是平台系统架构图；

图8是多意图模型产品软件架构图。

具体实施方式

下面结合附图和具体实施例对本发明作进一步说明。

本发明提供了如下技术方案：由业务人员或系统发起意图识别模型的训练，模型经验证发布后，在对话流程中调用，再结合多意图判定方法，最终得到用户真实意图。

该过程主要分为三个阶段：模型初始化、模型调用、模型更新。

1.模型初始化，如图1所示；

模型训练的基础数据来源于谷歌BERT(Bidrectional Encoder Representationsfrom Transformer)语言模型开源预训练数据库、行业知识库以及历史对话数据，具有通用性。

对于每一类对话场景，均需要训练一个独立的意图模型。为了获得一个可用的意图模型，首先必须准备充足的语料。语料的表现形式一般是问题库或聚类(相似文本的集合)。语料的来源主要有两种，一种是历史语料的整理，另外一种是历史对话的学习。

历史语料的整理。以智能语音机器人为例，在其他类似项目中运营人员已经积累了一部分语料信息。这些语料不能直接拿来使用，而是需要进行加工和整理。首先，需要对语料进行有效的分割，确保每一种意图独立分为一类。既不能有意思相近的意图，也需要确保常见的意图都包含在内。在意图和意图之间，不能有交叠的内容。意图分割的粒度应该尽可能的小。

历史对话的学习。通过对业务比较相似的历史对话的分析，可以对客户意图进行自动归类，这部分语料可以有效补充人工整理的历史语料，以解决历史语料不足的问题。

以上准备工作完成后，由系统生成一个训练任务。该训练任务会触发训练平台开始训练。在此过程中还需要人工进行参数的调优，以确保训练达到最佳效果，没有产生过拟合等其他负面效果。

训练完成后的模型可以先进行人工验证，确保其准确率。验证通过后即可发布，供对话中使用。

模型分类:

本发明中需要依靠多个模型的判断，才能给出最终的用户意图。这些模型主要分为三类：情感分类模型、意图分类模型、意图模型。

意图分类模型：用以判断客户对话的意愿方向。分为：肯定、否定、中性。不同的对话场景只需维护一个模型。

情感分类模型：用以判断客户对话的情感极性，分为：消极、积极、中性。不同的对话场景只需维护一个模型。

意图模型：用以判断客户具体的细分意图。这个意图因对话场景不同而不同，每一个问题或聚类都是一个意图，意图模型会输出其中一个或多个意图，意图带有分值(根据与训练语料近似度打分，计算值越接近分值越高，分值区间0-100)。如上文所述，意图模型需要针对不同的对话场景单独训练。

2.模型调用,如图2所示：

当业务人员发起一个智能外呼任务时，系统通过对话管理模块调用意图处理服务，意图处理服务访问事先训练好的模型，从而准确识别客户意图。当对话结束后，生成的通话文本将会作为后续训练的基础语料。

意图处理服务通过对客户语句的分拆，获得多个意图。再结合意图的分类、意图的分值、意图的优先级，最终得到真实意图。意图处理过程如图3所示：

1)文本清洗

在处理文本之前，需要去除“嗯”、“啊”这些无用词汇，统称为口水词。若不去除，将会干扰后续的意图判定。

2)意图分类

经过文本清洗后的完整客户对话，称为“整句”。

将整句送入意图分类模型，可以得到整句的意图分类：肯定、否定、中性中的某一种。此结果将在后续的意图识别步骤中用到，主要用于剔除极性相反的意图。

将整句送入情感分类模型，得到整句的情感极性：积极、消极、中性中的某一种。此结果在对话中不直接起作用，但可以统计在整个对话流程中，哪些节点客户表现比较积极，哪些节点客户表现比较消极，哪些节点客户的表现发生了转变(消极变积极，积极变消极)。通过分析特定节点的情感极性，可以了解该节点是否出现了问题：可能是意图识别不准确，或者话术不够吸引客户，进而可以做出对应的调整措施。

3)意图分拆

对整句按照标点符号进行分拆，得到多个“分句”。将整句和每一个分句送入意图模型，根据与不同意图的模型近似度打分，即计算各句与模型文本的向量值，计算值越接近分值越高，从而得到多个意图，以及对应意图的分值(0-100)。分拆的目的是为了精确的得到客户的多个意图，从而进一步分析出主要意图。

4)意图筛选

剔除分数较低者。对于意图分值过低的(低于65分)，首先进行排除。

剔除极性相反者。每一个意图在模型训练阶段即绑定了一个意图分类属性：肯定、否定、中性。当意图分拆后，将会得到多个意图，实际上也同时知道了有多少个肯定、否定或中性意图。在步骤2“意图分类”中我们已经得到了整句的意图分类，如果分拆后的意图出现了极性相反的情况(分拆后分句和整句意图极性相反)，说明分句极性判断错误，错误极性则会被从模型中剔除。这样我们就得到了多个极性相同或为中性的意图。

5)意图排序

在意图分拆步骤中，每一个意图都有分值。

若筛选后的意图均为聚类，则取聚类最高分者作为最终意图。

若筛选后的意图均为问题，则取问题最高分者作为最终意图。

若筛选后的意图同时包含聚类和问题，则取决于对话流程中定义的优先模式，即问题回答优先还是聚类回答优先，按照对应设定取最高分者。

6)多意图合并

若对话中设定问题回答优先，且有多个问题都高于阈值(阈值由训练师预先设定，缺省可定为60)，则需拼接所有问题的答案作为客户回复，但意图判定仍取最高分者。

3.模型更新，如图4所示：

当模型投入使用后，仍然需要不断的学习，以进一步提高识别的准确率。模型更新训练的输入来源主要有两类：对话质检、真实对话学习。所述对话质检即通过人工质检机器人实际与客户的真实对话文本，发现其中意图识别不准确的对话片段，重新进行标注和修正，再把这部分文本重新放到模型训练集中进行训练，从而提高模型的精确性。业务人员可通过人工质检的方式，筛选特定日期、节点下的对话数据。针对意图识别错误者，进行纠正。针对意图未识别者，新增语料。也可对未识别者进行全量的自动化归类，即自动检索生成全量的未识别文本库，然后对这部分内容进行人工标注，重新投入模型训练。

训练、验证、发布步骤均和第一阶段模型初始化类似。

本发明整体方案设计过程如下：

1.产品架构设计，如图5所示：

1)产品主要分为两块，语音机器人负责处理业务层逻辑；训练平台负责模型训练，以及提供服务调用。

2)前期搜集整理的语料(聚类、问题库)，需要通过话术管理模块绑定到特定话术，导入语料后进行任务的训练。

3)任务训练在训练平台完成，语音机器人通过API方式调用训练平台提供的接口，进行模型的创建、训练等相关工作。

4)训练过程中的状态可随时同步至语音机器人。训练完成后，业务人员可通过操作界面进行验证。验证也需要调用训练平台API，验证通过的模型可正式对外发布。

5)训练平台可提供意图分类模型、情感分类模型、意图模型等多类模型。

6)当语音机器人发起智能外呼任务后，ASR模块识别对话文本，对话管理模块调用意图处理服务，意图处理服务调用训练平台的模型服务，然后使用意图识别算法进行综合判断，完成多意图的识别，最终决定流程走向。

7)根据不同的流程走向，发送特定的语音给客户。

8)对话过程中产生的情感类别数据，可以用于情感分析。

9)对话过程中产生的通话文本，可以用于后续的系统自动归类和人工质检。产出的内容可以继续输入至训练任务进行再次训练，以便进一步完善模型。

2.业务流程，如图6所示：

1)为了使用多意图识别模型，首先应开启功能开关。

2)话术的运营人员整理语料并导入系统，发起训练。

3)训练平台开始训练模型，并由NLP工程师进行调优。

4)运营验证和发布模型。

3.多意图模型产品软件架构，如图7、8所示：

训练模型产品核心软件技术架构分为4层。随着公司业务的发展，数据也在不断增加，为基础模型提供了更充分的数据支撑。分布式训练平台，为训练提供了统一访问能力。预训练阶段加入了知识库等行业知识，保障了多行业的准确性。同时可以加快模型的训练。

4.核心技术说明

预训练语言模型的成功，证明了可以从海量的无标注文本中学到潜在的语义信息，而无需为每一项下游NLP任务单独标注大量训练数据。此外，预训练语言模型的成功也开创了NLP研究的新范式，即首先使用大量无监督语料进行语言模型预训练(Pre-training)，再使用少量标注语料进行微调(Fine-tuning)来完成具体NLP任务(分类、序列标注、句间关系判断和机器阅读理解等)。

5.技术优越性

1)本算法模型训练的基础数据基于业界知名的谷歌开源BERT模型预训练数据集、行业知识库以及历史对话数据，具有更好的泛化能力。

2)采用多GPU环境，训练和部署可以并行进行，加快了生产效率。

3)预训练阶段加入了知识库，提高了行业模型准确度。

4)在通用行业进行微调，即可快速满足各个行业应用。

除上述实施例外，本发明还可以有其他实施方式，凡采用等同替换或等效变换形成的技术方案，均落在本发明要求的保护范围内。

Claims (3)

1.一种智能对话中多意图语义识别方法，其特征在于，包括：模型初始化、模型调用、模型更新；

1)模型初始化：对于每一类对话场景，训练一个独立的意图模型，所需语料为问题库或聚类，聚类即相似文本的集合；语料来源于历史语料整理、历史对话学习；

模型分类:模型分为三类，分别为：情感分类模型、意图分类模型、意图模型；

意图分类模型用以判断客户对话的意愿方向，分为：肯定、否定、中性，不同对话场景只需维护一个模型；

情感分类模型用以判断客户对话的情感极性，分为：消极、积极、中性，不同对话场景只需维护一个模型；

意图模型用以判断客户具体的细分意图，意图模型因对话场景不同而不同，需要针对不同的对话场景单独训练，每个问题或聚类都是一个意图，意图模型会输出其中一个或多个意图，意图附有分值，分值区间为0-100，与训练语料近似度越接近分值越高；

2)模型调用：

发起一个智能外呼任务时，调用意图处理服务，意图处理服务访问训练好的模型，意图处理服务步骤如下：

(1)文本清洗：

在处理文本之前，去除无用词汇；

(2)意图分类：

经过文本清洗后的完整客户对话，称为整句；

将整句送入意图分类模型，得到整句的意图分类为肯定、否定、中性中的某一种；

将整句送入情感分类模型，得到整句的情感极性为积极、消极、中性中的某一种；

(3)意图分拆：

对整句按照标点符号进行分拆，得到多个分句；将整句和每一个分句送入意图模型，根据与不同意图的模型近似度打分，即计算各句与模型文本的向量值，计算值越接近分值越高，从而得到多个意图，以及对应意图的分值，分值范围为0-100；

(4)意图筛选：

剔除分数较低者：剔除意图分值低于65分的意图；

剔除极性相反者：如果分拆后的分句意图与整句意图极性相反，将意图极性相反的分句删除；

(5)意图排序：

在意图分拆步骤中，每一个意图都有分值；

若筛选后的意图均为聚类，则取聚类最高分者作为最终意图；

若筛选后的意图均为问题，则取问题最高分者作为最终意图；

若筛选后的意图同时包含聚类和问题，则取决于对话流程中定义的优先级，即问题回答优先还是聚类回答优先，按照优先级设定取最高分者作为最终意图；

(6)多意图合并：

若对话中设定问题回答优先，则拼接所有问题的答案作为客户回复，但意图判定仍取最高分者；

3)模型更新：

模型更新训练的输入为：对话质检、真实对话学习。

2.如权利要求1所述的智能对话中多意图语义识别方法，其特征在于，步骤3)模型更新中，所述对话质检即通过人工质检机器人实际与客户的真实对话文本，发现其中意图识别不准确的对话片段，重新进行标注和修正，再把这部分文本重新放到模型训练集中进行训练，提高模型的精确性。

3.如权利要求1所述的智能对话中多意图语义识别方法，其特征在于，步骤3)模型更新中，针对意图未识别者，对未识别者进行全量的自动化归类，即自动检索生成全量的未识别文本库，然后对这部分内容进行人工标注，重新投入模型训练。