CN111460107A - 一种应答方法和应答系统 - Google Patents

一种应答方法和应答系统 Download PDF

Info

Publication number
CN111460107A
CN111460107A CN201910054289.8A CN201910054289A CN111460107A CN 111460107 A CN111460107 A CN 111460107A CN 201910054289 A CN201910054289 A CN 201910054289A CN 111460107 A CN111460107 A CN 111460107A
Authority
CN
China
Prior art keywords
emotion
concentration
text information
vector
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910054289.8A
Other languages
English (en)
Inventor
高维国
刘航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Jingdong Shangke Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN201910054289.8A priority Critical patent/CN111460107A/zh
Publication of CN111460107A publication Critical patent/CN111460107A/zh
Pending legal-status Critical Current

Links

Images

Abstract

本发明实施例提供一种应答方法和应答系统,该应答方法包括:获取用户输入的文本信息;根据情感分类模型识别所述文本信息对应的用户情感类型;如果所述文本信息对应的用户情感类型为负面情感类型,则根据情感浓度模型识别所述用户在所述负面情感类型下的情感浓度;以及分别对表征不同的所述情感浓度的所述文本信息进行不同形式的回复。通过采用两种模型可以准确的判断文本信息所反映的用户的情感类型和情感浓度,当用户出现负面情感类型时,实施最能满足用户需求的安抚策略,提升用户满意度和用户体验。

Description

一种应答方法和应答系统
技术领域
本发明涉及计算机技术领域,具体涉及一种应答方法和应答系统。
背景技术
在电子商务领域,随着网购人群的快速增长和深度学习技术的广泛应用,智能客服渐渐地作为直接面向用户的窗口与用户进行交流。用户对商品的评价以及与客服之间的交流内容中所传达出的情感信息是表现用户体验的一个重要依据。
在服务中,智能客服需要对用户的留言进行回复,智能客服若能高效地对用户的留言进行细致合理的回复,可以提升用户的体验和满意度。但是智能客服的处理能力有限,只能分析简单的句子,对稍复杂的句子不能做出准确的情感判断,从而给出不相应的答复,给用户造成困扰,不能很好地解决用户的实际需求,甚至使用户的不满情绪更深。
因此,发明人认为,上述的智能回复方法有很大的局限性,无法快速获得用户的情感程度,存在难以快速对客户的留言作出合理答复的弊端。
发明内容
有鉴于此,本发明实施例提供一种应答方法和应答系统,根据情感分类模型和情感浓度模型对用户输入的文本信息依次进行情感类型和情感浓度的识别准确分析用户的情感浓度并根据用户的情感浓度进行相应的回复。
根据本发明第一方面,提供一种应答方法,包括:获取用户输入的文本信息;根据情感分类模型识别所述文本信息对应的用户情感类型;如果所述文本信息对应的用户情感类型为负面情感类型,则根据情感浓度模型识别所述用户在所述负面情感类型下的情感浓度;以及分别对表征不同的所述情感浓度的所述文本信息进行不同形式的回复。
优选地,所述应答方法还包括:收集历史输入文本信息;提取历史输入文本信息中的关键字,建立情感分类模型;将每个历史输入文本信息转换为融合位置信息的文本向量;采用所述文本向量作为训练集训练得到所述情感浓度模型。
优选地,所述将每个历史输入文本信息转换为融合位置信息的文本向量包括:将所述历史输入文本信息用字向量矩阵表示;采用函数计算所述历史输入文本信息中每个字对应的位置属性向量矩阵;将所述初始字向量矩阵和所述位置属性向量矩阵进行向量运算,获得能表征每个字的位置的位置向量;根据所述位置向量获得具有上下文位置信息的对应于每个字的位置权重向量,建立所述历史输入文本的文本向量;
优选地,所述采用所述文本向量作为训练集训练得到所述情感浓度模型包括:对所述文本向量进行卷积操作,得到卷积矩阵;以及根据所述卷积矩阵计算所述历史输入文本信息所表达的负面情感类型的情感浓度的分数,划分到相应的情感浓度类型中。
优选地,所述应答方法还包括:根据所述情感浓度的分数计算所述情感浓度模型的损失,调整模型参数。
优选地,所述情感类型包括正面情感类型和负面情感类型,所述情感浓度包括高浓度、中浓度和低浓度。
优选地,所述情感浓度还包括零浓度,将经过所述情感浓度的判断之后,显示没有负面情感类型的所述文本信息归类为零浓度的背景情感类型。
优选地,所述应答方法还包括:设定不同情感类型和不同情感浓度下的回复语句。
优选地,所述分别对表征不同的所述情感浓度的所述文本信息进行不同形式的回复包括:对表征低浓度和中浓度的所述负面情感类型的所述文本信息,根据预先设定的所述回复语句进行回复;对表征高浓度的所述负面情感类型的所述文本信息,接入人工客服进行人工回复。
根据本发明第二方面,提供一种应答系统,包括:文本信息获取单元,用于获取用户输入的文本信息;情感分类单元,用于根据情感分类模型识别所述文本信息对应的用户情感类型;浓度分类单元,用于当所述文本信息对应的用户情感类型为负面情感类型时,则根据情感浓度模型识别所述用户在所述负面情感类型下的情感浓度;以及回复单元,用于分别对表征不同的所述情感浓度的所述文本信息进行不同形式的回复。
优选地,所述应答系统还包括:历史信息获取单元,用于收集历史输入文本信息;情感分类模型建立单元,用于提取历史输入文本信息中的关键字,建立情感分类模型;文本向量建立单元,用于将每个历史输入文本信息转换为融合位置信息的文本向量;情感浓度模型建立单元,用于采用所述文本向量作为训练集训练得到所述情感浓度模型。
优选地,所述文本向量建立单元包括:字向量单元,用于将所述历史输入文本信息用字向量矩阵表示;位置属性向量单元,用于采用函数计算所述历史输入文本信息中每个字对应的位置属性向量矩阵;位置向量单元,用于将所述初始字向量矩阵和所述位置属性向量矩阵进行向量运算,获得能表征每个字的位置的位置向量;权重向量单元,用于根据所述位置向量获得具有上下文位置信息的对应于每个字的位置权重向量,建立所述历史输入文本的文本向量。
优选地,所述情感浓度模型建立单元包括:卷积单元,用于对所述文本向量进行卷积操作,得到卷积矩阵;以及分数计算单元,用于根据所述卷积矩阵计算所述历史输入文本信息所表达的负面情感类型的情感浓度的分数,划分到相应的情感浓度类型中。
优选地,所述应答系统还包括:调整单元,用于根据所述情感浓度的分数计算所述情感浓度模型的损失,调整模型参数。
优选地,所述情感类型包括正面情感类型和负面情感类型,所述情感浓度包括高浓度、中浓度和低浓度。
优选地,所述回复单元包括:文本回复单元,用于对表征低浓度和中浓度的所述负面情感类型的所述文本信息,根据预先设定的回复语句进行回复;人工回复单元,用于对表征高浓度的所述负面情感类型的所述文本信息,接入人工客服进行人工回复。
根据本发明第三方面,提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令被执行时实现如上述所述的应答方法。
根据本发明第四方面,提供一种应答装置,包括:存储器,用于存储计算机指令;处理器,耦合到所述存储器,所述处理器被配置为基于所述存储器存储的计算机指令执行实现如上述所述的应答方法。
本发明的实施例具有以下优点或有益效果:通过情感分类模型识别出用户的情感类型后,再通过情感浓度模型判断用户在某一情感类型下的情感浓度,根据用户当时的情感浓度作出相应形式的回复,通过此方法,能及时准确地识别用户在服务过程中的情感变化和情感浓度,据此对用户进行不同的回复,满足用户在不同情绪下的需求,提升用户体验。
本发明的另一优选实施例具有以下优点或有益效果:在通过情感分类模型识别用户出现负面情感类型后,情感浓度模型能够识别用户的负面情感浓度,将负面情感类型进行浓度划分,通过划分结果执行相应的措施。当用户出现轻微的负面情感类型时,使用预先定义好的安抚语句对用户进行安抚,当用户出现高浓度的负面情感类型时,我们将其转到人工服务,由人工客服进行服务和解答。只对负面情感类型进行浓度划分,可以节省时间,节约资源,提高回复效率,而且对负面情感类型进行浓度划分,也可以更准确,更细致地了解用户的想法,及时进行合理的回复,提升用户的满意度。
本发明的另一优选实施例具有以下优点或有益效果:在进行情感浓度的划分时,引入位置分析机制,分析每个字在文本信息中的位置,并采用向量运算学习文本的上下文信息,更全面的考虑文本中词的权重分布,确定每个字或词在文本中代表的含义和情感浓度,进行准确的回复,还可以区分相同的句子成分出现在不同位置所传达的不同信息,提升平台对用户的服务质量。
附图说明
通过参照以下附图对本发明实施例的描述,本发明的上述以及其它目的、特征和优点将更为清楚,在附图中:
图1示出了本发明实施例中的应答方法的流程图;
图2示出了本发明实施例中汇总的应答方法的流程图;
图3示出了图2所示的步骤S203的具体流程图;
图4示出了图2所示的步骤S204的具体流程图;
图5示出了本发明实施例中的应答系统的结构图;
图6示出了本发明实施例中汇总的应答系统的结构图;
图7示出了本发明实施例的应答系统中的文本向量建立单元603的具体结构图;
图8示出了根据本发明实施例的应答装置的结构图。
具体实施方式
以下基于实施例对本发明进行描述,但是本发明并不仅仅限于这些实施例。在下文对本发明的细节描述中,详尽描述了一些特定的细节部分。对本领域技术人员来说没有这些细节部分的描述也可以完全理解本发明。为了避免混淆本发明的实质,公知的方法、过程、流程没有详细叙述。另外附图不一定是按比例绘制的。
图1示出了本发明实施例中的应答方法的流程图,具体步骤包括S101-S104。
在步骤S101中,获取用户输入的文本信息。
在步骤S102中,根据情感分类模型识别文本信息对应的用户情感类型。
在步骤S103中,如果文本信息对应的用户情感类型为负面情感类型,则根据情感浓度模型识别用户在负面情感类型下的情感浓度。
在步骤S104中,分别对表征不同的情感浓度的文本信息进行不同形式的回复。
在本实施例中,通过采用两种模型分析用户输入的文本信息,从而预测用户输入的文本信息所表达的情感类型和情感浓度,并根据情感浓度给用户提供不同的回复方式和回复语句,提升用户体验。当文本中包含多个不同情感程度的成分时,能判断每种情感程度的比重,从而给出合理的答复。
用户在终端设备上通过软件或网页等电商平台,例如购物类应用软件,将输入信息发送给对应的接收平台,对某商品进行询问,购买,评价或投诉等文本信息的输入。接收平台例如服务器获取用户输入的文本信息,文本信息例如以语音或文字形式展现。
通常,我们利用情感分类技术检测用户在被服务过程中的情绪,情感分类是指根据文本所表达的含义和情感信息将文本划分到相应的情感类型中,是对用户倾向性和观点、态度的划分。采用情感分析技术,根据情感分类模型识别接收到的文本信息对应的用户情感类型。情感分析技术通常是对用户情感进行划分,情感类型包括正面情感类型和负面情感类型,例如,情感分析公开数据集yelp full、sogou new等,对用户的评论打标成1至5分,其中,1表示最不满意,5表示最满意。情感分类模型例如是根据历史数据建立的,可以根据用户输入的文本信息中的关键字,词等进行情感类型划分的模型。在接收到文本信息后,与情感分类模型中的内容进行匹配,将文本信息按照负面情感类型,正面情感类型,背景情感类型等划分类别,从对应分类的候选回复语句中选择最合适的一项答复用户。
只得到用户的情感类型或情感分数,不便于合理准确地回复用户,所以还需要知道用户在某一情感类型下的情感浓度,例如用户出现负面情感类型时所表现出的程度,以便于在不影响用户服务质量和满意度的情况下,根据用户情感浓度进行业务上的修改。所以建立情感浓度模型,如果文本信息对应的用户情感类型为负面情感类型,则根据情感浓度模型识别用户在负面情感类型下的情感浓度,情感浓度包括高浓度、中浓度和低浓度。
输入的文本信息经过情感类型和情感浓度的识别之后,会被划分到相应浓度的类别中,然后分别对表征不同情感浓度的文本信息进行不同形式的回复。例如,当识别到用户输入的某条文本信息所代表的情感是生气的负面情感类型,通过情感浓度模型可以判断用户生气的程度,是属于高浓度负面情感类型还是低浓度负面情感类型,然后对表达不同情感浓度文本信息进行不同的回复,例如向用户道歉,提出赔偿,接入人工服务等。
本实施例通过情感分类模型识别出用户的情感类型后,再通过情感浓度模型判断用户在某一情感类型下的情感浓度,根据用户当时的情感浓度作出相应形式的回复,通过此方法,能及时准确地识别用户在服务过程中的情感变化和情感浓度,据此对用户进行不同的回复,满足用户在不同情绪下的需求,提升用户体验。
在一个实施例中,当识别出用户输入的文本信息代表的情感类型是正面情感类型时,选择合适的回复语句进行回复,而仅当识别到文本信息代表的是负面情感类型时才进行情感浓度的分析,并根据负面情感类型的情感浓度高低进行相应的回复。
例如,当确定用户处于正面情感类型(例如高兴)时,认为是用户的认可度和满意度较高,此时根据情感分类模型中预设的回复语句进行回复,表达对用户的支持的感谢和期待再次购买的愿望以及提供更好服务的承诺等。当确定用户处于负面情感类型(例如焦虑、生气等)时,进一步进行情感浓度的分析,当用户负面情感表现较轻时,需要进行安抚和沟通,此时从候选的安抚语句中选择最合适的一项答复用户;当用户负面情感表现非常严重时,需要及时地进行人工回复,以提供更好的服务承诺。
通过这种方法,可以提高智能客服的回复效率,将主要精力投入到处理用户的负面情感类型上,提高资源利用率,保证能及时解决用户的问题,提升用户体验。
图2示出了本发明实施例中汇总的应答方法的流程图,具体包括以下步骤。
在步骤S201中,收集历史输入文本信息。
在步骤S202中,提取历史输入文本信息中的关键字,建立情感分类模型。
在步骤S203中,将每个历史输入文本信息转换为融合位置信息的文本向量。
在步骤S204中,采用文本向量作为训练集训练得到情感浓度模型。
在步骤S205中,获取用户输入的文本信息。
在步骤S206中,根据情感分类模型识别文本信息对应的用户情感类型。
在步骤S207中,如果文本信息对应的用户情感类型为负面情感类型,则根据情感浓度模型识别用户在所述负面情感类型下的情感浓度。
在步骤S208中,分别对表征不同的情感浓度的文本信息进行不同形式的回复。
本实施例是比前述实施例更加完善的应答方法。其中,步骤S205-S208和图1的步骤S101-S104相同,这里仅简单描述。步骤S201-S204是进行情感浓度识别前的准备过程,包括情感分类模型和情感浓度模型的建立过程。
在步骤S201中,收集历史输入文本信息。收集用户在过去一段时间内在电商平台或其他平台上输入的历史输入文本信息。
在步骤S202中,提取历史输入文本信息中的关键字,建立情感分类模型。分析这些历史输入文本信息,提取关键字、词等,分析对应的用户的情感类型,并据此建立新的情感分类模型,定义多个类别的情感分类,以确定用户的情绪。例如,情感分类模型定义的7个不同的情感类别如下:焦虑anxiety,生气anger,害怕fear,悲伤sad,失落lost,中立neutral,高兴happy。将焦虑anxiety,生气anger,害怕fear,悲伤sad,失落lost划分为负面情感类型,将高兴happy划分为正面情感类型,将中立neutral划分为背景情感类型。
在步骤S203中,将每个历史输入文本信息转换为融合位置信息的文本向量。
当一条文本信息中含有多个表达不同情感浓度的词语时,为了识别该文本信息最终的情感浓度,在步骤S203中借助位置分析,将每个历史输入文本信息转换为融合位置信息的文本向量。对文本信息进行位置分析例如是分析文本信息中每个字所在的位置,出现在某个位置所代表的含义等。根据文本信息中反映负面情感类型的关键字在文本信息中的位置,以及文本信息中的其他字对关键字的影响,来判断接收的文本信息所表达的负面情感类型的情感浓度。
在步骤S204中,采用文本向量作为训练集训练得到情感浓度模型。
当用户在出现负面情感类型时,可能带有不同程度的不满,若均按照同一类安抚语句进行回复,会导致安抚效果不理想,造成用户体验的下降,为此建立情感浓度模型,对用户的负面情感类型的不同浓度制定不同的处理方式。本步骤中,根据步骤S203转换的文本向量建立训练集,进行多次训练,得到情感浓度模型,将每个负面情感细分为不同浓度的几个类别,例如划分为四个类别(高浓度、中浓度、低浓度、零浓度),并对情感的不同浓度做出不同的安抚策略。
例如,对收集到的带有生气anger和焦虑anxiety等情感的句子进行浓度划分之后部分示例及相应的标签含义如表1所示。
表1.数据示例及标签含义
Figure BDA0001951892310000091
在情感浓度模型的建立过程中,将用户输入的脏字信息作为一种情感浓度因素进行分析,将用户的负面情感类型的表现程度进行了几个等级的划分,使得模型的分析更加贴近实际,模型效果较好。实现过程中将情感分类后的负面情感进行浓度划分,通过划分结果执行相应的措施。当用户出现轻微的负面情感类型时,使用预先定义好的安抚语句对用户进行安抚,当用户出现严重的负面情感类型时,将其转到人工服务,由人工客服进行服务和解答。
利用位置信息进行判断,可以增加识别的准确性,例如当检测到某一文本信息中带有脏字,检测该脏字出现的位置,是在句子的开头或者末尾还是句中,根据情感浓度模型判断在这一位置出现脏字的情感浓度;再结合该脏字所在的位置的上下文信息,判断该脏字表达的含义是否是初始判定的含义,并再次进行情感浓度的评价,最后结合几种判断方式,分析出该文本信息代表的含义以及表达的情感浓度。具体的实现步骤如图3和图4描述的实施例所示。
本实施例是在情感浓度模型中加入了位置识别(位置处理)机制,首先对待处理的文本信息中的每个字进行位置信息的分析,然后在文本信息内部进行每个字的自身影响度的计算。在获得句子的上下文信息的同时,又能得到句子中不同成分对句子浓度类别影响的权重。可以更加准确的判断文本的浓度类别,实施最适合用户的安抚策略。
在一个实施例中,情感类型包括正面情感类型和负面情感类型,情感浓度包括高浓度、中浓度和低浓度。步骤S207选择情感类型为负面情感类型的文本信息,进行情感浓度的识别。对带有正面情感类型的文本信息进行预设的回复,对带有负面情感类型的文本信息进行进一步的分析。这里仅对带有负面情感类型的文本信息进行情感浓度分析,只是一种举例,也可以根据实际需求对带有正面情感类型的文本信息进行情感浓度的判断并进行分类回复。
在一个实施例中,该应答方法还包括:设定不同情感类型和不同情感浓度下的回复语句。建立好情感分类模型和情感浓度模型之后,还要对对应的情感类别和浓度类别分别设置不同的回复语句。
在步骤S208中,分别对表征不同的情感浓度的文本信息进行不同形式的回复。对表征低浓度和中浓度的负面情感类型的文本信息,根据预先设定好的安抚语句进行回复,对表征高浓度的负面情感类型的文本信息,接入人工客服进行人工回复。
例如,当检测到用户处于某一浓度的负面情感类型时,给出这一浓度类别下的回复,对用户表示歉意;在用户出现中浓度的负面情感类型时,询问用户的情况,向用户表示歉意和提供解决方法;在用户出现高浓度的负面情感类型时,积极与用户沟通,向用户表示歉意,提供解决办法和赔偿服务等,并接入人工客服。
在一个实施例中,基于售后客服数据,对情感分类后的生气anger和焦虑anxiety两类负面情感的浓度划分结果进行验证。表2和表3分别为两类负面情感通过情感浓度模型分析得到的评测结果。
表2.在生气anger的负面情感类型上的情感浓度测试结果
类别 准确率 召回率 F1-score
92.66% 95.64% 94.13%
76.35% 80.48% 78.36%
53.33% 28.74% 37.35%
背景类 54.64% 49.30% 51.83%
总计 84.05 85.14 84.35
表3.在焦虑anxiety的负面情感类型上的情感浓度测试结果
类别 准确率 召回率 F1-score
79.17% 73.08% 76.00%
91.99% 97.03% 94.44%
85.22% 74.91% 79.73%
背景类 50.00% 35.90% 41.79%
总计 88.14% 88.95% 88.37%
通过与未使用位置分析机制的情感浓度分析结果进行对比分析,发现加入位置分析机制可以更好的利用句子的全局信息来做浓度划分。
在一个实施例中,情感浓度还包括零浓度,将经过情感浓度的判断之后,显示没有负面情感类型的文本信息归类为零浓度的背景情感类型。
例如“我好像操作失误了”,“操作不了”,“我已经收到货了啊,又操作失误了”,“买你们的商品靠谱不”,“电脑的话包装靠谱吗”等这些句子,由于含有“操”、“靠”等敏感字词,容易把它们识别为骂人的脏话,并据此划分到生气浓度较高的类别进行回复和处理。但引入位置分析后,将句子中的“操”,“靠”这些字结合其相邻的字分析,并进行语义的分析,发现实际上这些字与相邻的上下文的字组成了一个没有生气成分的词,仅仅是在描述一个词语,此时的情感浓度为零浓度,应该属于背景情感类型,由此可以将其进行正确的划分,避免回复错误造成尴尬。
本实施例在加入位置分析机制之后可以更好地利用句子的全局特征,将文本信息所表达的情绪正确的将其划分到相应的情感及浓度类别中,实现更加准确的回复和处理,提升服务质量,提升用户体验。
图3示出了图2所示的步骤S203的具体流程图。具体包括以下步骤。图3是将每个历史输入文本信息转换为融合位置信息的文本向量的步骤,也是建立模型的一部分。收集到历史数据之后,将每一类负面情感数据均划分为训练集、验证集和测试集,训练集的数据用于初步建立模型,验证集和测试集的数据用修正模型和检验模型。
在步骤S2031中,将历史输入文本信息用字向量矩阵表示。收集历史输入文本,抽取文本的字典,得到初始的字向量矩阵,利用向量矩阵对文本信息中的每个字进行向量表示。例如,对于一个长度为n的文本X=(x1,x2,x3,…,xn),首先获得文本的向量E=(e1,e2,e3,…,en),每个ei是一个d维的向量。
在步骤S2032中,采用函数计算历史输入文本信息中每个字对应的位置属性向量矩阵。采用某种数学函数例如三角函数和特定的公式对文本信息中的每个字进行位置向量的计算和表示,得到能表征该字的位置的唯一向量表示。然后利用正弦sin函数、余弦cos函数和位置下标i共同计算第i个字xi的位置属性(pei),计算公式如下:
Figure BDA0001951892310000121
Figure BDA0001951892310000122
由此得到每个字对应的位置属性向量矩阵。
在步骤S2033中,将初始字向量矩阵和位置属性向量矩阵进行向量运算,获得能表征每个字的位置的位置向量。
将上述步骤得到的位置属性向量与字向量按照位置对应相加,获得融合位置信息的向量表示P=(p1,p2,p3,…,pn)。
(p1,p2,p3,...,pn)=(e1+pe1,e2+pe2,e3+pe3,...,en+pen)
在步骤S2034中,根据位置向量获得具有上下文位置信息的对应于每个字的位置权重向量,建立历史输入文本的文本向量。进行位置分析,获得某一个字对应的具有上下文信息的位置权重向量,并使用字在文本中的相对位置信息,对多次出现的字加以区分,使得信息表示的更加准确。
每个pi与句子中所有字的向量pj进行相关度的计算,计算其余字对当前字的影响度,得到具有上下文信息的向量表示。计算公式例如为:
Figure BDA0001951892310000131
MultiHead(Q,K,V)=Concat(head1,...,headh)WO
Figure BDA0001951892310000132
本实施例中采用多头(MultiHead)的自注意力(Self Attention)机制,根据函数计算两个输入Q(Query)与K(Key)之间的权重,捕捉全局的联系,然后与V(Value)计算头部向量表示,计算相邻字对当前字的影响。多个头部向量headi进行拼接和线性变换得到一个包含上下文信息与位置信息的最终向量表示。在本实施例中Q=K=V=P,在文本信息内部进行权重计算。由此完成对文本信息中的每个字的位置的位置向量的表示。
图4示出了图2所示的步骤S204的一个实施例的具体流程图。
在步骤S2041中,对文本向量进行卷积操作,得到卷积矩阵。
利用CNN(Convolution Neural Network)卷积神经网络对加入位置分析机制之后的文本信息的位置权重向量进行卷积操作,然后对卷积矩阵的每一列进行最大化采样,进行max-pooling(马克斯池)操作。由此可以得到一个与此文本信息相对应的特定的情感浓度分数。
在步骤S2042中,根据卷积矩阵计算历史输入文本信息所表达的负面情感类型的情感浓度的分数,划分到相应的情感浓度类型中。构建全连接层,根据卷积操作之后得到的特定的情感浓度分数,将不同的文本信息划分到相应的情感浓度类别中。
当对用户输入的文本信息进行情感浓度的分析时,上述步骤已经将文本信息进行合理的浓度归类,之后根据提前设定的各种操作对用户进行回复和处理。
在一个实施例中,应答方法还包括:根据情感浓度的分数计算情感浓度模型的损失,调整模型参数。在收集到历史输入文本信息并转换为文本向量之后,选择一部分建立训练集,一部分建立验证集和测试集。
当进行情感浓度模型的建立时,在训练集中进行的初始情感浓度模型的建立过程,之后还需根据验证集和测试集对模型的准确性进行检测。根据训练集的数据得到的打分值计算模型损失,更新情感浓度模型中的字向量矩阵、位置分析机制中的权重参数、CNN卷积层等的权重参数。然后利用验证集和测试集,对得到的情感浓度模型的优劣进行评价,将评价合理的模型用于实际应用中。
应该指出的是,本发明不仅限于上述实施例提供的模型或规则,其他模型或规则,也可以实践本发明实施例提供的应答方法。
图5示出了本发明实施例中的应答系统的结构图。
该应答系统500包括文本信息获取单元501、情绪分类单元502、浓度分类单元503和回复单元504。
文本信息获取单元501用于获取用户输入的文本信息;情感分类单元502用于根据情感分类模型识别文本信息对应的用户情感类型;浓度分类单元503用于当文本信息对应的用户情感类型为负面情感类型时,则根据情感浓度模型识别用户在负面情感类型下的情感浓度;回复单元504用于分别对表征不同的情感浓度的文本信息进行不同形式的回复。
其中,情感类型包括正面情感类型和负面情感类型,情感浓度包括高浓度、中浓度和低浓度。
在一个实施例中,该应答系统500的回复单元504包括文本回复单元(图中未示出)和人工回复单元(图中未示出)。文本回复单元用于对表征低浓度和中浓度的负面情感类型的文本信息,根据预先设定的回复语句进行回复;人工回复单元用于对表征高浓度的负面情感类型的文本信息,接入人工客服进行人工回复。
在本实施例中,通过情感分类模型识别出用户的情感类型后,再通过情感浓度模型判断用户在某一情感类型下的情感浓度,根据用户当时的情感浓度作出相应形式的回复,通过此应答系统,能及时准确地识别用户在服务过程中的情感变化和情感浓度,据此对用户进行不同的回复,满足用户在不同情绪下的需求,提升用户体验。
图6示出了本发明实施例中汇总的应答系统的结构图,图6所示的实施例在图5的实施例的基础上增加了历史信息获取单元601、情感分类模型建立单元602、文本向量建立单元603和情感浓度模型建立单元604。
历史信息获取单元601用于收集历史输入文本信息;情感分类模型建立单元602用于提取历史输入文本信息中的关键字,建立情感分类模型;文本向量建立单元603用于将每个历史输入文本信息转换为融合位置信息的文本向量;情感浓度模型建立单元604用于采用文本向量作为训练集训练得到所述情感浓度模型。
在一个实施例中,应答系统600还包括调整单元(图中未示出),调整单元用于根据所述情感浓度的分数计算所述情感浓度模型的损失,调整模型参数。
图7示出了本发明实施例的应答系统中的文本向量建立单元603的具体结构图。该应答系统的文本向量建立单元603包括字向量单元6031、位置属性向量单元6032、位置向量单元6033和权重向量单元6034。
字向量单元6031用于将历史输入文本信息用字向量矩阵表示;位置属性向量单元6032用于采用函数计算历史输入文本信息中每个字对应的位置属性向量矩阵;位置向量单元6033用于将初始字向量矩阵和位置属性向量矩阵进行向量运算,获得能表征每个字的位置的位置向量;权重向量单元6034用于根据位置向量获得具有上下文位置信息的对应于每个字的位置权重向量,建立历史输入文本的文本向量。
在一个实施例中,应答系统600的情感浓度模型建立单元604包括卷积单元(图中未示出)和分数计算单元(图中未示出)。卷积单元用于对文本向量进行卷积操作,得到卷积矩阵;分数计算单元用于根据卷积矩阵计算历史输入文本信息所表达的负面情感类型的情感浓度的分数,划分到相应的情感浓度类型中。
应该理解,本发明实施例的系统和方法是对应的,因此,在系统的描述中以相对简略的方式进行。
图8示出了本发明实施例的应答装置的结构图。图8示出的设备仅仅是一个示例,不应对本发明实施例的功能和使用范围构成任何限制。
参考图8,该应答装置800包括通过总线连接的处理器801、存储器802和输入输出设备803。存储器802包括只读存储器(ROM)和随机访问存储器(RAM),存储器802内存储有执行系统功能所需的各种计算机指令和数据,处理器801从存储器802中读取各种计算机指令以执行各种适当的动作和处理。输入输出设备包括键盘、鼠标等的输入部分;包括诸如阴极射线管(CRT)、液晶识别器(LCD)等以及扬声器等的输出部分;包括硬盘等的存储部分;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分。存储器802还存储有以下的计算机指令以完成本发明实施例的应答方法规定的操作:获取用户输入的文本信息;根据情感分类模型识别文本信息对应的用户情感类型;如果文本信息对应的用户情感类型为负面情感类型,则根据情感浓度模型识别用户在负面情感类型下的情感浓度;以及分别对表征不同的情感浓度的文本信息进行不同形式的回复。
相应地,本发明实施例提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机指令,所述计算机指令被执行时实现上述应答方法所规定的操作。
附图中的流程图、框图图示了本发明实施例的系统、方法、装置的可能的体系框架、功能和操作,流程图和框图上的方框可以代表一个模块、程序段或仅仅是一段代码,所述模块、程序段和代码都是用来实现规定逻辑功能的可执行指令。也应当注意,所述实现规定逻辑功能的可执行指令可以重新组合,从而生成新的模块和程序段。因此附图的方框以及方框顺序只是用来更好的图示实施例的过程和步骤,而不应以此作为对发明本身的限制。
系统的各个模块或单元可以通过硬件、固件或软件实现。软件例如包括采用JAVA、C/C++/C#、SQL等各种编程语言形成的编码程序。虽然在方法以及方法图例中给出本发明实施例的步骤以及步骤的顺序,但是所述步骤实现规定的逻辑功能的可执行指令可以重新组合,从而生成新的步骤。所述步骤的顺序也不应该仅仅局限于所述方法以及方法图例中的步骤顺序,可以根据功能的需要随时进行调整。例如将其中的某些步骤并行或按照相反顺序执行。
根据本发明的系统和方法可以部署在单个或多个服务器上。例如,可以将不同的模块分别部署在不同的服务器上,形成专用服务器。或者,可以在多个服务器上分布式部署相同的功能单元、模块或系统,以减轻负载压力。所述服务器包括但不限于在同一个局域网以及通过Internet连接的多个PC机、PC服务器、刀片机、超级计算机等。
以上所述仅为本发明的优选实施例,并不用于限制本发明,对于本领域技术人员而言,本发明可以有各种改动和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (18)

1.一种应答方法,其特征在于,包括:
获取用户输入的文本信息;
根据情感分类模型识别所述文本信息对应的用户情感类型;
如果所述文本信息对应的用户情感类型为负面情感类型,则根据情感浓度模型识别所述用户在所述负面情感类型下的情感浓度;以及
分别对表征不同的所述情感浓度的所述文本信息进行不同形式的回复。
2.根据权利要求1所述的应答方法,其特征在于,还包括:
收集历史输入文本信息;
提取历史输入文本信息中的关键字,建立情感分类模型;
将每个历史输入文本信息转换为融合位置信息的文本向量;
采用所述文本向量作为训练集训练得到所述情感浓度模型。
3.根据权利要求2所述的应答方法,其特征在于,所述将每个历史输入文本信息转换为融合位置信息的文本向量包括:
将所述历史输入文本信息用字向量矩阵表示;
采用函数计算所述历史输入文本信息中每个字对应的位置属性向量矩阵;
将所述初始字向量矩阵和所述位置属性向量矩阵进行向量运算,获得能表征每个字的位置的位置向量;
根据所述位置向量获得具有上下文位置信息的对应于每个字的位置权重向量,建立所述历史输入文本的文本向量。
4.根据权利要求2所述的应答方法,其特征在于,所述采用所述文本向量作为训练集训练得到所述情感浓度模型包括:
对所述文本向量进行卷积操作,得到卷积矩阵;以及
根据所述卷积矩阵计算所述历史输入文本信息所表达的负面情感类型的情感浓度的分数,划分到相应的情感浓度类型中。
5.根据权利要求2所述的应答方法,其特征在于,还包括:根据所述情感浓度的分数计算所述情感浓度模型的损失,调整模型参数。
6.根据权利要求1所述的应答方法,其特征在于,所述情感类型包括正面情感类型和负面情感类型,所述情感浓度包括高浓度、中浓度和低浓度。
7.根据权利要求6所述的应答方法,其特征在于,所述情感浓度还包括零浓度,将经过所述情感浓度的判断之后,显示没有负面情感类型的所述文本信息归类为零浓度的背景情感类型。
8.根据权利要求6所述的应答方法,其特征在于,还包括:
设定不同情感类型和不同情感浓度下的回复语句。
9.根据权利要求8所述的应答方法,其特征在于,所述分别对表征不同的所述情感浓度的所述文本信息进行不同形式的回复包括:
对表征低浓度和中浓度的所述负面情感类型的所述文本信息,根据预先设定的所述回复语句进行回复;
对表征高浓度的所述负面情感类型的所述文本信息,接入人工客服进行人工回复。
10.一种应答系统,其特征在于,包括:
文本信息获取单元,用于获取用户输入的文本信息;
情感分类单元,用于根据情感分类模型识别所述文本信息对应的用户情感类型;
浓度分类单元,用于当所述文本信息对应的用户情感类型为负面情感类型时,则根据情感浓度模型识别所述用户在所述负面情感类型下的情感浓度;以及
回复单元,用于分别对表征不同的所述情感浓度的所述文本信息进行不同形式的回复。
11.根据权利要求10所述的应答系统,其特征在于,还包括:
历史信息获取单元,用于收集历史输入文本信息;
情感分类模型建立单元,用于提取历史输入文本信息中的关键字,建立情感分类模型;
文本向量建立单元,用于将每个历史输入文本信息转换为融合位置信息的文本向量;
情感浓度模型建立单元,用于采用所述文本向量作为训练集训练得到所述情感浓度模型。
12.根据权利要求11所述的应答系统,其特征在于,所述文本向量建立单元包括:
字向量单元,用于将所述历史输入文本信息用字向量矩阵表示;
位置属性向量单元,用于采用函数计算所述历史输入文本信息中每个字对应的位置属性向量矩阵;
位置向量单元,用于将所述初始字向量矩阵和所述位置属性向量矩阵进行向量运算,获得能表征每个字的位置的位置向量;
权重向量单元,用于根据所述位置向量获得具有上下文位置信息的对应于每个字的位置权重向量,建立所述历史输入文本的文本向量。
13.根据权利要求11所述的应答系统,其特征在于,所述情感浓度模型建立单元包括:
卷积单元,用于对所述文本向量进行卷积操作,得到卷积矩阵;以及
分数计算单元,用于根据所述卷积矩阵计算所述历史输入文本信息所表达的负面情感类型的情感浓度的分数,划分到相应的情感浓度类型中。
14.根据权利要求11所述的应答系统,其特征在于,还包括:调整单元,用于根据所述情感浓度的分数计算所述情感浓度模型的损失,调整模型参数。
15.根据权利要求10所述的应答系统,其特征在于,所述情感类型包括正面情感类型和负面情感类型,所述情感浓度包括高浓度、中浓度和低浓度。
16.根据权利要求15所述的应答系统,其特征在于,所述回复单元包括:
文本回复单元,用于对表征低浓度和中浓度的所述负面情感类型的所述文本信息,根据预先设定的回复语句进行回复;
人工回复单元,用于对表征高浓度的所述负面情感类型的所述文本信息,接入人工客服进行人工回复。
17.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令被执行时实现如权利要求1至9中任一项所述的应答方法。
18.一种应答装置,其特征在于,包括:
存储器,用于存储计算机指令;
处理器,耦合到所述存储器,所述处理器被配置为基于所述存储器存储的计算机指令执行实现如权利要求1至9中任一项所述的应答方法。
CN201910054289.8A 2019-01-21 2019-01-21 一种应答方法和应答系统 Pending CN111460107A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910054289.8A CN111460107A (zh) 2019-01-21 2019-01-21 一种应答方法和应答系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910054289.8A CN111460107A (zh) 2019-01-21 2019-01-21 一种应答方法和应答系统

Publications (1)

Publication Number Publication Date
CN111460107A true CN111460107A (zh) 2020-07-28

Family

ID=71682162

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910054289.8A Pending CN111460107A (zh) 2019-01-21 2019-01-21 一种应答方法和应答系统

Country Status (1)

Country Link
CN (1) CN111460107A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112632277A (zh) * 2020-12-15 2021-04-09 五八同城信息技术有限公司 一种目标内容对象的资源处理方法和装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080002187A (ko) * 2006-06-30 2008-01-04 주식회사 케이티 개인 감성 및 상황 변화에 따른 맞춤형 감성 서비스 시스템및 그 방법
CN105893344A (zh) * 2016-03-28 2016-08-24 北京京东尚科信息技术有限公司 基于用户语义情感分析的应答方法和装置
CN106844750A (zh) * 2017-02-16 2017-06-13 深圳追科技有限公司 一种基于客服机器人中情感安抚的人机交互方法及系统
CN106844330A (zh) * 2016-11-15 2017-06-13 平安科技(深圳)有限公司 文章情感的分析方法和装置
CN107679234A (zh) * 2017-10-24 2018-02-09 上海携程国际旅行社有限公司 客服信息提供方法、装置、电子设备、存储介质
CN108536681A (zh) * 2018-04-16 2018-09-14 腾讯科技(深圳)有限公司 基于情感分析的智能问答方法、装置、设备及存储介质
CN109086423A (zh) * 2018-08-08 2018-12-25 北京神州泰岳软件股份有限公司 一种文本匹配方法及装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080002187A (ko) * 2006-06-30 2008-01-04 주식회사 케이티 개인 감성 및 상황 변화에 따른 맞춤형 감성 서비스 시스템및 그 방법
CN105893344A (zh) * 2016-03-28 2016-08-24 北京京东尚科信息技术有限公司 基于用户语义情感分析的应答方法和装置
CN106844330A (zh) * 2016-11-15 2017-06-13 平安科技(深圳)有限公司 文章情感的分析方法和装置
CN106844750A (zh) * 2017-02-16 2017-06-13 深圳追科技有限公司 一种基于客服机器人中情感安抚的人机交互方法及系统
CN107679234A (zh) * 2017-10-24 2018-02-09 上海携程国际旅行社有限公司 客服信息提供方法、装置、电子设备、存储介质
CN108536681A (zh) * 2018-04-16 2018-09-14 腾讯科技(深圳)有限公司 基于情感分析的智能问答方法、装置、设备及存储介质
CN109086423A (zh) * 2018-08-08 2018-12-25 北京神州泰岳软件股份有限公司 一种文本匹配方法及装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112632277A (zh) * 2020-12-15 2021-04-09 五八同城信息技术有限公司 一种目标内容对象的资源处理方法和装置

Similar Documents

Publication Publication Date Title
CN109522556B (zh) 一种意图识别方法及装置
CN111783394B (zh) 事件抽取模型的训练方法、事件抽取方法和系统及设备
CN109978020B (zh) 一种基于多维特征的社交网络账号马甲身份辨识方法
CN111259153B (zh) 一种完全注意力机制的属性级情感分析方法
CN110287314B (zh) 基于无监督聚类的长文本可信度评估方法及系统
CN111339284A (zh) 产品智能匹配方法、装置、设备及可读存储介质
CN111090735B (zh) 一种基于知识图谱的智能问答方法的性能评价方法
CN115098650B (zh) 基于历史数据模型的评论信息分析方法及相关装置
CN111753082A (zh) 基于评论数据的文本分类方法及装置、设备和介质
CN112836509A (zh) 一种专家系统知识库构建方法及系统
CN112860896A (zh) 语料泛化方法及用于工业领域的人机对话情感分析方法
CN113609892A (zh) 深度学习与景区知识图谱融合的手写诗词识别方法
CN113051380A (zh) 信息生成方法、装置、电子设备和存储介质
CN111782793A (zh) 智能客服处理方法和系统及设备
CN111368066B (zh) 获取对话摘要的方法、装置和计算机可读存储介质
CN113360582B (zh) 基于bert模型融合多元实体信息的关系分类方法及系统
CN113486174B (zh) 模型训练、阅读理解方法、装置、电子设备及存储介质
JP6802332B1 (ja) 情報処理方法および情報処理装置
CN116910294A (zh) 一种基于情感分析的图像滤镜生成方法
CN111882224A (zh) 对消费场景进行分类的方法和装置
CN111460107A (zh) 一种应答方法和应答系统
CN115357711A (zh) 一种方面级情感分析方法、装置、电子设备及存储介质
CN114911940A (zh) 文本情感识别方法及装置、电子设备、存储介质
CN114065749A (zh) 一种面向文本的粤语识别模型及系统的训练、识别方法
CN115080732A (zh) 投诉工单处理方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination