CN112036550B - 基于人工智能的客户意图识别方法、装置、计算机设备 - Google Patents

Abstract

本发明公开了基于人工智能的客户意图识别方法、装置、计算机设备。方法包括：根据用户输入的训练数据集中每一场景包含的语料数据、转换词典及预训练规则对识别模板进行预训练得到与识别模型；根据训练数据集中每一场景包含的标注数据对识别模型进行配置得到与每一场景相匹配的意图识别模型；根据每一场景包含的标注数据及转换词典对意图识别模型进行训练得到意图识别模型；根据意图识别模型对待识别信息进行识别得到相应的一个意图类别。本发明基于智能决策技术，属于人工智能领域，通过预训练可提升识别模型对特定场景语言环境的适应性，通过与待识别信息的场景相匹配的意图识别模型对待识别信息进行意图识别，可大幅提升进行意图识别的精确性。

Description

基于人工智能的客户意图识别方法、装置、计算机设备

技术领域

本发明涉及人工智能技术领域，属于智慧城市中客户意图识别的应用场景，尤其涉及一种基于人工智能的客户意图识别方法、装置、计算机设备。

背景技术

随着人工智能的发展，企业可基于人工智能构建智能交互处理系统，例如，可通过使用所构建的智能交互系统作为一种客户意图识别系统为客户提供服务，通过全时段、智能化的客户意图识别系统接收客户所发送的待识别信息，进行意图识别以获取客户的具体意图，基于客户意图进行后续处理，例如反馈与客户意图对应的解答信息、执行与客户意图相应的业务操作等。大型企业由于业务系统十分复杂，业务系统所包含的业务场景数量较多，而每一个业务场景涉及多种备选意图，采用传统技术方法将所有交互场景均纳入客户意图识别系统中虽然扩展了可适用的交互场景的数量，但所得到的系统中涉及海量备选意图，过于庞大的系统无法对客户意图进行精确识别。因此，现有技术方法所构建的客户意图识别系统存在识别准确率较低的问题。

发明内容

本发明实施例提供了一种基于人工智能的客户意图识别方法、装置、计算机设备及存储介质，旨在解决现有技术方法所构建的客户意图识别系统所存在的识别准确率较低的问题。

第一方面，本发明实施例提供了一种基于人工智能的客户意图识别方法，其包括：

接收用户输入的训练数据集，根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型；

根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型；

根据所述训练数据集中每一场景包含的标注数据及所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型；

若接收到来自客户端的待识别信息，根据所述转换词典及与所述待识别信息相匹配的所述意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别。

第二方面，本发明实施例提供了一种基于人工智能的客户意图识别装置，其包括：

模型预训练单元，用于接收用户输入的训练数据集，根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型；

识别模型配置单元，用于根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型；

意图识别模型训练单元，用于根据所述训练数据集中每一场景包含的标注数据及所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型；

意图识别单元，用于若接收到来自客户端的待识别信息，根据所述转换词典及与所述待识别信息相匹配的所述意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别。

第三方面，本发明实施例又提供了一种计算机设备，其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的基于人工智能的客户意图识别方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其中所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的基于人工智能的客户意图识别方法。

本发明实施例提供了一种基于人工智能的客户意图识别方法、装置、计算机设备及存储介质。根据用户输入的训练数据集中每一场景包含的语料数据、转换词典及预训练规则对识别模板进行预训练得到与每一场景相匹配的识别模型；根据训练数据集中每一场景包含的标注数据对识别模型的意图类别信息进行配置得到与每一场景相匹配的意图识别模型；根据每一场景包含的标注数据及转换词典对与每一场景相匹配的意图识别模型进行训练得到训练后的意图识别模型；根据转换词典及与待识别信息相匹配的所述意图识别模型对待识别信息进行识别，以获取与待识别信息相匹配的一个意图类别。通过上述方法，通过训练数据集中每一场景包含的海量语料数据对识别模板进行预训练得到每一场景对应的识别模型，提升识别模型对特定场景语言环境的适应性，通过与待识别信息的场景相匹配的意图识别模型对待识别信息进行意图识别，可大幅提升对客户意图进行识别的精确性。

附图说明

为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的基于人工智能的客户意图识别方法的流程示意图；

图2为本发明实施例提供的基于人工智能的客户意图识别方法的应用场景示意图；

图3为本发明实施例提供的基于人工智能的客户意图识别方法的子流程示意图；

图4为本发明实施例提供的基于人工智能的客户意图识别方法的另一子流程示意图；

图5为本发明实施例提供的基于人工智能的客户意图识别方法的另一子流程示意图；

图6为本发明实施例提供的基于人工智能的客户意图识别方法的另一子流程示意图；

图7为本发明实施例提供的基于人工智能的客户意图识别方法的另一子流程示意图；

图8为本发明实施例提供的基于人工智能的客户意图识别方法的另一子流程示意图；

图9为本发明实施例提供的基于人工智能的客户意图识别装置的示意性框图；

图10为本发明实施例提供的计算机设备的示意性框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

请参阅图1及图2，图1是本发明实施例提供的基于人工智能的客户意图识别方法的流程示意图，图2为本发明实施例提供的基于人工智能的客户意图识别方法的应用场景示意图；该基于人工智能的客户意图识别方法应用于管理服务器10中，该方法通过安装于管理服务器10中的应用软件进行执行，客户端20通过与管理服务器10建立网络连接以实现数据信息的传输，管理服务器10即是用于对来自客户端的待识别信息进行意图识别的服务器端，客户端20即是供客户发送待识别信息至管理服务器的终端设备，例如台式电脑、笔记本电脑、平板电脑或手机等。如图1所示，该方法包括步骤S110～S140。

S110、接收用户输入的训练数据集，根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型。

接收用户输入的训练数据集，根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型。其中，用户可以是管理服务器的管理员，所述预训练规则包括比例值、损失函数计算公式及梯度计算公式，预训练规则即为对识别模板进行预训练的规则信息，识别模板即为预存的用于语言识别的通用模板，识别模板可应用于任意一个场景中；转换词典即为对字符进行转换的词典，每一字符均可在转换词典中匹配到对应的一个特征码。训练数据集即为用户所输入的用于构建及训练得到意图识别模型，训练数据集中包含多条数据，每一条数据均对应一个具体的场景，企业可根据自身业务范围划分多个场景，例如，贷款办理业务场景、车险办理业务场景等。每一场景均包含多条语料数据及多条标注数据，语料数据的数量可为标注数据的几倍至几百倍，语料数据中仅包含客户所发送的待识别文字信息，标注数据中包含客户所发送的待识别文字信息以及相应意图标注，意图标注可以是采用人工方式对待识别文字信息进行识别得到的标注信息。不同场景多涉及的语言环境不同，因此可采用一个场景所对应的海量语料数据对识别模板进行预训练，得到与该场景对应的一个识别模型。具体的，识别模板可基于BERT(Bidirectional EncoderRepresentations from Transformers)神经网络构建得到，采用一个场景的语料数据对识别模板进行预训练即为对该识别模板中的BERT网络进行训练，以得到一个适用于该场景的语言环境的识别模型。

在一实施例中，如图3所示，步骤S110包括子步骤S111、S112、S113、S114、S115及S116。

S111、从一个场景的语料数据中随机选择与所述比例值对应的部分语料数据作为目标语料数据。

从一个场景的语料数据中随机选择与所述比例值对应的部分语料数据作为目标语料数据。每一语料数据均是一个完整的句子，则每一语料数据均由多个字符组成，预训练规则中还设置有比例值，可根据比例值从一个场景所包含的语料数据中随机选择得到相应数量的语料数据作为目标语料数据，例如，比例值可设置为10-90％。

S112、对所述目标语料数据进行随机遮盖处理，得到语料处理数据。

对所述场景的语料数据进行随机遮盖处理，得到语料处理数据。每一语料均由多个字符组成，可对每一语料中的任意一个字符进行遮盖处理，得到包含遮盖字符的语料处理数据。

例如，某一目标语料数据为“我想申请贷款”，进行随机遮盖处理后得到的语料处理数据为“我想申X贷款”，其中“X”即表示被遮盖的字符。

在一实施例中，如图4所示，步骤S112之后还包括步骤S1121。

S1121、对所述语料处理数据中与所述比例值对应的部分语料处理数据中被遮盖的字符进行随机替换。

对所述语料处理数据中与所述比例值对应的部分语料处理数据中被遮盖的字符进行随机替换。为增强预训练效果，可根据比例值将部分语料处理数据中被遮盖的字符随机替换为其他字符。

例如，某一语料处理数据为“我想申X贷款”，进行随机替换后得到的语料处理数据为“我想申领贷款”。

S113、根据所述转换词典分别对所述目标语料数据及所述语料处理数据进行转换得到第一特征向量及第二特征向量。

根据所述转换词典分别对所述目标语料数据及所述语料处理数据进行转换得到第一特征向量及第二特征向量。每一字符均可在转换词典中匹配到对应的一个特征码，则可根据转换词典将目标语料数据中所包含的字符进行转换，将每一字符对应的特征码进行组合得到第一特征向量，所得到的第一特征向量将该目标语料数据的特征采用向量方式进行表示，第一特征向量的大小为(1，L)，其表示第一特征向量为1行L列，第一特征向量的长度L可由用户预先设定，如可设定第一特征向量及第二特征向量中数值的数量为40(L＝40)，目标语料数据的特征码作为数值填充第一特征向量，第一特征向量中未被填充的数值记为“0”。采用同样转换方式对与目标语料数据相对应的一条语料处理数据进行转换，得到第二特征向量。

例如，“我”在转换词典中对应的特征码为“2769”；“想”对应的特征码为“2682”，“申”对应的特征码为“4509”，“领”对应的特征码为“7566”，“贷”对应的特征码为“6587”，“款”对应的特征码为“3621”。“101”代表句子的开始特征码，“102”代表句子的结束特征码。则“我想申领贷款”的对应组合得到第一特征向量可表示为[101,2769,2682,4509,7566，6587，3621,102……，0]。

S114、将一个所述第一特征向量与对应的一个所述第二特征向量输入所述识别模板进行计算分别得到第一数组及第二数组。

将一个所述第一特征向量与对应的一个所述第二特征向量输入所述识别模板进行计算分别得到第一数组及第二数组。识别模板的BERT网络由一个输入层、多个中间层及一个输出层组成，输入层与中间层之间、中间层与其他中间层之间、中间层与输出层之间均通过关联公式进行关联，例如某一关联公式可表示为y＝r×x+t，r和t即为该关联公式中的参数值。输入层中包含的输入节点的数量与第一特征向量的长度相对应，则第一特征向量中每一向量值与一个输入节点相对应，将第一特征向量输入BERT网络进行计算，即可从其输出层获取输出结果，输出结果采用一个数组(L,H)进行表示，与第一特征向量对应的输出结果为第一数组，则第一数组的大小为L行H列。采用同样方式将第二特征向量输入识别模板进行计算，得到第二数组，第二数组的大小也为(L,H)，其中第一数组及第二数组中每一数值均属于[0，1]这一取值范围。

S115、根据所述损失函数计算公式计算所述第一数组与所述第二数组之间的损失值。

根据所述预训练规则中的损失函数计算公式计算所述第一数组与所述第二数组之间的损失值。损失值可用于对第一数组与第二数组时间的差别进行量化表示，具体的，计算第一数组S1与第二数组S2之间的损失值可通过损失函数计算公式计算得到

其中，Ls为计算得到的损失值，axy为第一数组S1中第x行第y列的数值，bxy为第二数组S2中第x行第y列的数值，L为第一数组S1的总行数，H为第一数组S1的总列数。

S116、根据所述梯度计算公式、所述损失值及所述识别模板的计算值计算得到所述识别模板中相应参数的更新值以更新所述参数的参数值。

根据所述预训练规则中的梯度计算公式、所述损失值及所述识别模板的计算值计算得到所述识别模板的BERT网络中每一参数的更新值以更新所述参数的参数值。具体的，将识别模板的BERT网络中一个参数对第一特征向量进行计算所得到的计算值输入梯度计算公式，并结合上述损失值，即可计算得到与该参数对应的更新值，这一计算过程也即为梯度下降计算。

具体的，梯度计算公式可表示为：

ω_r^+＝ω_r-γ×(δL_z)/(δw_r)；其中，ω_r^+为计算得到的参数r的更新值，ω_r为参数r的原始参数值，γ为梯度计算公式中预置的学习率，(δL_z)/(δw_r)为基于损失值及参数r对应的计算值对该参数r的偏导值(这一计算过程中需使用该参数对应的计算值)。

一条目标语料数据及与该条目标语料数据对应的一条语料处理数据可对识别模板中BERT网络的参数值进行一次更新，也即是完成一次预训练的过程，根据与一个场景对应的多条目标语料数据及多条语料处理数据对识别模板中的BERT网络进行迭代预训练，即可得到一个与该场景对应的识别模型。

S120、根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型。

根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型。训练数据集中还包含与每一场景对应的多条标注数据，标注数据中包括客户所发送的待识别文字信息以及相应意图标注，可对一个场景所包含的所有标注数据的意图标注进行统计，即可得到与该场景对应的意图统计信息，根据意图统计信息为与该场景对应的一个识别模型的意图类别信息进行配置，即可得到与该场景对应的意图识别模型。则每一个意图识别模型可单独针对一个场景中的客户意图进行识别。

在一实施例中，如图5所示，步骤S120包括子步骤S121和S122。

S121、对一个所述场景包含的标注数据的意图标注进行统计，得到所述场景的意图统计信息。

对一个所述场景包含的标注数据的意图标注进行统计，得到所述场景的意图统计信息。每一标注数据均包含意图标注，可对单一场景所包含的标注数据的意图标注进行统计，得到该场景的意图统计信息，意图统计信息包括意图类别以及与每一意图类别对应的统计数量。

例如，对某一场景所包含的标注数据的意图标注进行统计，得到的意图统计信息如表1所示。

意图类别	满意	不满意	清楚	不清楚	下一步怎么做	退出
							统计数量	12	5	17	13	6	22

表1

S122、根据所述意图统计信息对相关联的一个识别模型的意图类别信息进行配置，得到与所述场景对应的意图识别模型。

根据所述意图统计信息对相关联的一个识别模型的意图类别信息进行配置，得到与所述场景对应的意图识别模型。由于经过预训练得到的识别模型仅能够适用于单一场景，因此可根据意图统计信息对与该意图统计信息相关联的一个识别模型的意图类别信息进行配置，得到一个与该场景对应的意图识别模型。具体的，识别模型中对意图进行识别的过程基于卷积神经网络(Convolutional Neural Networks,CNN)实现，则BERT网络的输出结果可作为卷积神经网络的输入，根据卷积神经网络的输出结果即可获取客户对应的意图类别。根据意图统计信息中所包含的意图类别的数量，在识别模型中创建对应数量的意图节点并将意图节点配置为卷积神经网络的输出节点，即可完成该识别模型的意图类别信息的配置过程，得到意图识别模型；每一意图节点均与一个意图类别相关联，意图节点的节点值即为客户与该意图节点所对应的意图类别之间的匹配度。

例如，根据表1中的意图统计信息分别生成与“满意”、“不满意”、“清楚”、“不清楚”、“下一步怎么做”、“退出”六个意图类别对应的意图节点，并将六个意图节点配置为卷积神经网络的输出节点。

S130、根据所述训练数据集中每一场景包含的标注数据及所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型。

根据所述训练数据集中每一场景包含的标注数据集所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型。由于预训练过程仅仅是对意图识别模型的语言环境进行训练，也即是仅涉及BERT网络的训练过程，并不涉及卷积神经网络的训练过程，为增加意图识别模型的识别准确率，可采用每一场景对应的标注数据对与该场景相匹配的意图识别模型进行训练，得到训练后的意图识别模型，在此训练过程中依然需要使用梯度计算公式。

在一实施例中，如图6所示，步骤S130包括子步骤S131、S132、S133和S134。

S131、根据所述转换词典对一条所述标注数据进行转换得到标注数据特征向量。

根据所述转换词典对一条所述标注数据进行转换得到标注数据特征向量。每一字符均可在转换词典中匹配到对应的一个特征码，则可根据转换词典将标注数据中所包含的字符进行转换，将每一字符对应的特征码进行组合得到标注数据特征向量，具体转换过程已在前文中进行详细说明，在此不作赘述。

S132、将所述标注数据特征向量输入所述意图识别模型进行计算以得到与每一意图类别对应的匹配度。

将所述标注数据特征向量输入所述意图识别模型进行计算以得到与每一意图类别对应的匹配度。具体的，将标注数据特征向量输入意图识别模型，经BERT网络及卷积神经网络进行计算，即可得到每一意图节点的节点值，意图节点的节点值即为与该意图节点所对应的一个意图类别的匹配度。具体的，卷积神经网络可由多个中间层及一个输出层组成，输出层包含多个输出节点，中间层与其他中间层之间、中间层与输出层之间均通过关联公式进行关联，例如某一关联公式可表示为y＝r×x+t，r和t即为该关联公式中的参数值。将标注特征向量输入意图识别模型进行计算后得到每一意图类别对应的匹配度，匹配度均属于[0，1]这一取值范围。

S133、根据所述标注数据的意图标注及每一所述意图类别的匹配度计算得到标注数据损失值。

根据所述标注数据的意图标注及每一所述意图类别的匹配度计算得到标注数据损失值。具体的，可获取与意图标注相同的一个意图类别的匹配度，根据公式Ly＝1-Ps计算得到标注数据损失值，其中，Ly为计算得到的标注数据损失值，Ps为与意图标注相同的一个意图类别的匹配度。

S134、根据所述梯度计算公式、所述标注数据损失值及所述意图识别模型的计算值计算得到所述意图识别模型中相应参数的更新值以更新所述参数的参数值。

根据所述梯度计算公式、所述标注数据损失值及所述意图识别模型的计算值计算得到所述意图识别模型的卷积神经网络中每一参数的更新值以更新所述参数的参数值。具体的，将意图识别模型的卷积神经网络中一个参数对标注数据特征向量进行计算所得到的计算值输入梯度计算公式，并结合上述标注数据损失值，即可计算得到与该参数对应的更新值，这一计算过程已在前文中进行详细说明，在此不作赘述。

一条标注数据可对意图识别模型中卷积神经网络的参数值进行一次更新，也即是完成对意图识别模型进行一次训练，根据与一个场景对应的多条标注数据对相应的一个意图识别模型中卷积神经网络进行迭代预训练，即可得到一个与该场景对应的训练后的意图识别模型。

在一实施例中，如图7所示，步骤S134之后还包括步骤S135和S136。

S135、根据预存的检验数据对所述意图识别模型识别进行检验，以判断所述意图识别模型是否满足预置的准确率阈值；S136、若所述意图识别模型是否满足所述准确率预置，将所述意图识别模型确定为训练后的意图识别模型。

根据预存的检验数据对所述意图识别模型识别进行检验，以判断所述意图识别模型是否满足预置的准确率阈值。具体的，检验数据与意图识别模型的场景相同，则可根据场景相同的检验数据检验意图识别模型的准确率是否满足使用需求。具体的，可根据上述步骤，将多条检验数据进行转换得到多个检验数据特征向量，将一个检验数据特征向量输入意图识别模型进行计算，以获取该意图识别模型中每一意图节点对应的节点值，选择节点值最大的一个意图节点对应的意图类别作为对应的检验意图类别，判断检验意图类别是否与检验数据的目标意图类别相同，计算所有检验数据中检验意图类别与相应目标意图类别相同的概率，判断该概率是否不小于准确率预置，若不小于，则该意图识别模型满足准确率阈值，也即是满足实际使用需求，将该意图识别模型作为训练后的意图识别模型；若小于，则该意图识别模型不满足准确率阈值，也即是不满足实际使用需求，可对不满足准确率阈值的该意图识别模型进行重新训练。

S140、若接收到来自客户端的待识别信息，根据所述转换词典及与所述待识别信息相匹配的所述意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别。

若接收到来自客户端的待识别信息，根据所述转换词典及与所述待识别信息相匹配的所述训练后的意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别。其中，来自客户端的待识别信息中包含待识别文字信息及场景类型信息，通过多个训练后的意图识别模型即可对多个场景对应的待识别信息进行识别，得到与待识别信息相匹配的一个意图类别，采用上述方法，可提高对多场景中客户的意图进行识别的精确性。

在一实施例中，如图8所示，步骤S140包括子步骤S141、S142、S143和S144。

S141、根据所述转换词典对所述待识别文字信息进行转换得到待识别特征向量。

根据所述转换词典对所述待识别文字信息进行转换得到待识别特征向量。每一字符均可在转换词典中匹配到对应的一个特征码，则可根据转换词典将待识别文字信息中所包含的字符进行转换，将每一字符对应的特征码进行组合得到待识别特征向量，具体转换过程已在前文中进行详细说明，在此不作赘述。

S142、获取与所述待识别信息的场景类型信息相匹配的一个所述意图识别模型作为目标意图识别模型。

获取与所述待识别信息的场景类型信息相匹配的一个所述意图识别模型作为目标意图识别模型。由于针对每一场景均训练得到一个相应的意图识别模型，进行需获取与待识别信息相匹配的一个意图识别模型作为目标意图识别模型进行使用，具体的，可根据待识别信息的场景类型信息获取与待识别信息的场景相同的一个意图识别模型。

S143、将所述待识别特征向量输入所述目标意图识别模型进行计算以得到与每一意图类别对应的匹配度。

将所述待识别特征向量输入所述目标意图识别模型进行计算以得到与每一意图类别对应的匹配度。具体的，将标注数据特征向量输入意图识别模型，经BERT网络及卷积神经网络进行计算，即可得到每一意图节点的节点值，意图节点的节点值即为与该意图节点所对应的一个意图类别的匹配度。

S144、选择匹配度最高的一个意图类别作为与所述待识别信息相匹配的一个意图类别。

选择匹配度最高的一个意图类别作为与所述待识别信息相匹配的一个意图类别。得到与待识别信息相匹配的一个意图类别后，即可清楚了解客户当前的具体意图，并基于客户意图进行后续处理，例如反馈与客户意图对应的解答信息、执行与客户意图相应的业务操作等。

本申请中的技术方法可应用于智慧政务/智慧城管/智慧社区/智慧安防/智慧物流/智慧医疗/智慧教育/智慧环保/智慧交通等包含对客户意图进行识别的应用场景中，从而推动智慧城市的建设。

在本发明实施例所提供的客户意图识别方法中，根据用户输入的训练数据集中每一场景包含的语料数据、转换词典及预训练规则对识别模板进行预训练得到与每一场景相匹配的识别模型；根据训练数据集中每一场景包含的标注数据对识别模型的意图类别信息进行配置得到与每一场景相匹配的意图识别模型；根据每一场景包含的标注数据及转换词典对与每一场景相匹配的意图识别模型进行训练得到训练后的意图识别模型；根据转换词典及与待识别信息相匹配的意图识别模型对待识别信息进行识别，以获取与待识别信息相匹配的一个意图类别。通过上述方法，通过训练数据集中每一场景包含的海量语料数据对识别模板进行预训练得到每一场景对应的识别模型，提升识别模型对特定场景语言环境的适应性，通过与待识别信息的场景相匹配的意图识别模型对待识别信息进行意图识别，可大幅提升对客户意图进行识别的精确性。

本发明实施例还提供一种基于人工智能的客户意图识别装置，该基于人工智能的客户意图识别装置用于执行前述基于人工智能的客户意图识别方法的任一实施例。具体地，请参阅图9，图9是本发明实施例提供的客户意图识别装置的示意性框图。该基于人工智能的客户意图识别装置可以配置于管理服务器10中。

如图9所示，基于人工智能的客户意图识别装置100包括模型预训练单元110、识别模型配置单元120、意图识别模型训练单元130和意图识别单元140。

模型预训练单元110，用于接收用户输入的训练数据集，根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型。

在一实施例中，所述模型预训练单元110包括子单元：目标语料数据获取单元、语料数据处理单元、转换单元、向量计算单元、损失值获取单元和第一参数值更新单元。

目标语料数据获取单元，用于从一个场景的语料数据中随机选择与所述比例值对应的部分语料数据作为目标语料数据；语料数据处理单元，用于对所述目标语料数据进行随机遮盖处理，得到语料处理数据；转换单元，用于根据所述转换词典分别对所述目标语料数据及所述语料处理数据进行转换得到第一特征向量及第二特征向量；向量计算单元，用于将一个所述第一特征向量与对应的一个所述第二特征向量输入所述识别模板进行计算分别得到第一数组及第二数组；损失值获取单元，用于根据所述损失函数计算公式计算所述第一数组与所述第二数组之间的损失值；第一参数值更新单元，用于根据所述梯度计算公式、所述损失值及所述识别模板的计算值计算得到所述识别模板中相应参数的更新值以更新所述参数的参数值。

在一实施例中，所述模型预训练单元110还包括子单元：字符替换单元。

字符替换单元，用于对所述语料处理数据中与所述比例值对应的部分语料处理数据中被遮盖的字符进行随机替换。

识别模型配置单元120，用于根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型。

在一实施例中，所述识别模型配置单元120包括子单元：意图统计信息获取单元和意图类别配置单元。

意图统计信息获取单元，用于对一个所述场景包含的标注数据的意图标注进行统计，得到所述场景的意图统计信息；意图类别配置单元，用于根据所述意图统计信息对相关联的一个识别模型的意图类别信息进行配置，得到与所述场景对应的意图识别模型。

意图识别模型训练单元130，用于根据所述训练数据集中每一场景包含的标注数据及所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型。

在一实施例中，所述意图识别模型训练单元130包括子单元：特征向量获取单元、匹配度获取单元、标注数据损失值获取单元和第二参数值更新单元。

特征向量获取单元，用于根据所述转换词典对一条所述标注数据进行转换得到标注数据特征向量；匹配度获取单元，用于将所述标注数据特征向量输入所述意图识别模型进行计算以得到与每一意图类别对应的匹配度；标注数据损失值获取单元，用于根据所述标注数据的意图标注及每一所述意图类别的匹配度计算得到标注数据损失值；第二参数值更新单元，用于根据所述梯度计算公式、所述标注数据损失值及所述意图识别模型的计算值计算得到所述意图识别模型中相应参数的更新值以更新所述参数的参数值。

在一实施例中，所述意图识别模型训练单元130还包括子单元：意图识别模型检验单元和确定单元。

意图识别模型检验单元，用于根据预存的检验数据对所述意图识别模型识别进行检验，以判断所述意图识别模型是否满足预置的准确率阈值；确定单元，用于若所述意图识别模型是否满足所述准确率预置，将所述意图识别模型确定为训练后的意图识别模型。

意图识别单元140，用于若接收到来自客户端的待识别信息，根据所述转换词典及与所述待识别信息相匹配的所述意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别。

在一实施例中，所述意图识别单元140包括子单元：文字信息转换单元、目标意图识别模型获取单元、意图类别匹配度获取单元和确定单元。

文字信息转换单元，用于根据所述转换词典对所述待识别文字信息进行转换得到待识别特征向量；目标意图识别模型获取单元，用于获取与所述待识别信息的场景类型信息相匹配的一个所述意图识别模型作为目标意图识别模型；意图类别匹配度获取单元，用于将所述待识别特征向量输入所述目标意图识别模型进行计算以得到与每一意图类别对应的匹配度；意图类别获取单元，用于选择匹配度最高的一个意图类别作为与所述待识别信息相匹配的一个意图类别。

在本发明实施例所提供的基于人工智能的客户意图识别装置应用上述基于人工智能的客户意图识别方法，根据用户输入的训练数据集中每一场景包含的语料数据、转换词典及预训练规则对识别模板进行预训练得到与每一场景相匹配的识别模型；根据训练数据集中每一场景包含的标注数据对识别模型的意图类别信息进行配置得到与每一场景相匹配的意图识别模型；根据每一场景包含的标注数据及转换词典对与每一场景相匹配的意图识别模型进行训练得到训练后的意图识别模型；根据转换词典及与待识别信息相匹配的意图识别模型对待识别信息进行识别，以获取与待识别信息相匹配的一个意图类别。通过上述方法，通过训练数据集中每一场景包含的海量语料数据对识别模板进行预训练得到每一场景对应的识别模型，提升识别模型对特定场景语言环境的适应性，通过与待识别信息的场景相匹配的意图识别模型对待识别信息进行意图识别，可大幅提升对客户意图进行识别的精确性。

上述客户意图识别装置可以实现为计算机程序的形式，该计算机程序可以在如图10所示的计算机设备上运行。

请参阅图10，图10是本发明实施例提供的计算机设备的示意性框图。该计算机设备可以是用于执行基于人工智能的客户意图识别方法以对来自客户端的待识别信息进行意图识别的管理服务器。

参阅图10，该计算机设备500包括通过系统总线501连接的处理器502、存储器和网络接口505，其中，存储器可以包括非易失性存储介质503和内存储器504。

该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032被执行时，可使得处理器502执行基于人工智能的客户意图识别方法。

该处理器502用于提供计算和控制能力，支撑整个计算机设备500的运行。

该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序5032被处理器502执行时，可使得处理器502执行基于人工智能的客户意图识别方法。

该网络接口505用于进行网络通信，如提供数据信息的传输等。本领域技术人员可以理解，图10中示出的结构，仅仅是与本发明方案相关的部分结构的框图，并不构成对本发明方案所应用于其上的计算机设备500的限定，具体的计算机设备500可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

其中，所述处理器502用于运行存储在存储器中的计算机程序5032，以实现上述的基于人工智能的客户意图识别方法中对应的功能。

本领域技术人员可以理解，图10中示出的计算机设备的实施例并不构成对计算机设备具体构成的限定，在其他实施例中，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。例如，在一些实施例中，计算机设备可以仅包括存储器及处理器，在这样的实施例中，存储器及处理器的结构及功能与图10所示实施例一致，在此不再赘述。

应当理解，在本发明实施例中，处理器502可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器502还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

在本发明的另一实施例中提供计算机可读存储介质。该计算机可读存储介质可以为非易失性的计算机可读存储介质。该计算机可读存储介质存储有计算机程序，其中计算机程序被处理器执行时实现上述的基于人工智能的客户意图识别方法中所包含的步骤。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的设备、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本发明所提供的几个实施例中，应该理解到，所揭露的设备、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为逻辑功能划分，实际实现时可以有另外的划分方式，也可以将具有相同功能的单元集合成一个单元，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个计算机可读存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的计算机可读存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (9)

1.一种基于人工智能的客户意图识别方法，应用于管理服务器中，所述管理服务器与至少一台客户端进行通信，其特征在于，所述方法包括：

接收用户输入的训练数据集，根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型；

根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型；

根据所述训练数据集中每一场景包含的标注数据及所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型；

若接收到来自客户端的待识别信息，根据所述转换词典及与所述待识别信息相匹配的所述意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别；

所述预训练规则包括比例值、损失函数计算公式及梯度计算公式，所述根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型，包括：

从一个场景的语料数据中随机选择与所述比例值对应的部分语料数据作为目标语料数据；

对所述目标语料数据进行随机遮盖处理，得到语料处理数据；

根据所述转换词典分别对所述目标语料数据及所述语料处理数据进行转换得到第一特征向量及第二特征向量；

将一个所述第一特征向量与对应的一个所述第二特征向量输入所述识别模板进行计算分别得到第一数组及第二数组；

根据所述损失函数计算公式计算所述第一数组与所述第二数组之间的损失值；

根据所述梯度计算公式、所述损失值及所述识别模板的计算值计算得到所述识别模板中相应参数的更新值以更新所述参数的参数值。

2.根据权利要求1所述的基于人工智能的客户意图识别方法，其特征在于，所述对所述目标语料数据进行随机遮盖处理，得到语料处理数据之后，还包括：

对所述语料处理数据中与所述比例值对应的部分语料处理数据中被遮盖的字符进行随机替换。

3.根据权利要求1所述的基于人工智能的客户意图识别方法，其特征在于，所述根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型，包括：

对一个所述场景包含的标注数据的意图标注进行统计，得到所述场景的意图统计信息；

根据所述意图统计信息对相关联的一个识别模型的意图类别信息进行配置，得到与所述场景对应的意图识别模型。

4.根据权利要求1所述的基于人工智能的客户意图识别方法，其特征在于，所述根据所述训练数据集中每一场景包含的标注数据及所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型，包括：

根据所述转换词典对一条所述标注数据进行转换得到标注数据特征向量；

将所述标注数据特征向量输入所述意图识别模型进行计算以得到与每一意图类别对应的匹配度；

根据所述标注数据的意图标注及每一所述意图类别的匹配度计算得到标注数据损失值；

根据所述梯度计算公式、所述标注数据损失值及所述意图识别模型的计算值计算得到所述意图识别模型中相应参数的更新值以更新所述参数的参数值。

5.根据权利要求4所述的基于人工智能的客户意图识别方法，其特征在于，所述根据所述梯度计算公式、所述标注数据损失值及所述意图识别模型的计算值计算得到所述意图识别模型中相应参数的更新值以更新所述参数的参数值之后，还包括：

根据预存的检验数据对所述意图识别模型进行检验，以判断所述意图识别模型是否满足预置的准确率阈值；

若所述意图识别模型满足所述准确率阈值，将所述意图识别模型确定为训练后的意图识别模型。

6.根据权利要求1所述的基于人工智能的客户意图识别方法，其特征在于，所述待识别信息包含待识别文字信息及场景类型信息，所述根据所述转换词典及与所述待识别信息相匹配的所述意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别，包括：

根据所述转换词典对所述待识别文字信息进行转换得到待识别特征向量；

获取与所述待识别信息的场景类型信息相匹配的一个所述意图识别模型作为目标意图识别模型；

将所述待识别特征向量输入所述目标意图识别模型进行计算以得到与每一意图类别对应的匹配度；

选择匹配度最高的一个意图类别作为与所述待识别信息相匹配的一个意图类别。

7.一种基于人工智能的客户意图识别装置，其特征在于，包括：

模型预训练单元，用于接收用户输入的训练数据集，根据所述训练数据集中每一场景包含的语料数据、预置的转换词典及预置的预训练规则对预存的识别模板进行预训练，得到与每一场景相匹配的识别模型；

识别模型配置单元，用于根据所述训练数据集中每一场景包含的标注数据对所述识别模型的意图类别信息进行配置，得到与每一场景相匹配的意图识别模型；

意图识别模型训练单元，用于根据所述训练数据集中每一场景包含的标注数据及所述转换词典对与每一场景相匹配的意图识别模型进行训练，得到与每一场景相匹配的训练后的意图识别模型；

意图识别单元，用于若接收到来自客户端的待识别信息，根据所述转换词典及与所述待识别信息相匹配的所述意图识别模型对所述待识别信息进行识别，以获取与所述待识别信息相匹配的一个意图类别；

所述预训练规则包括比例值、损失函数计算公式及梯度计算公式，所述模型预训练单元包括子单元：目标语料数据获取单元，用于从一个场景的语料数据中随机选择与所述比例值对应的部分语料数据作为目标语料数据；语料数据处理单元，用于对所述目标语料数据进行随机遮盖处理，得到语料处理数据；转换单元，用于根据所述转换词典分别对所述目标语料数据及所述语料处理数据进行转换得到第一特征向量及第二特征向量；向量计算单元，用于将一个所述第一特征向量与对应的一个所述第二特征向量输入所述识别模板进行计算分别得到第一数组及第二数组；损失值获取单元，用于根据所述损失函数计算公式计算所述第一数组与所述第二数组之间的损失值；第一参数值更新单元，用于根据所述梯度计算公式、所述损失值及所述识别模板的计算值计算得到所述识别模板中相应参数的更新值以更新所述参数的参数值。

8.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至6中任一项所述的基于人工智能的客户意图识别方法。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行如权利要求1至6任一项所述的基于人工智能的客户意图识别方法。

Images