CN118035431A - 一种文字客服过程用户情绪预测方法、介质及系统 - Google Patents
一种文字客服过程用户情绪预测方法、介质及系统 Download PDFInfo
- Publication number
- CN118035431A CN118035431A CN202410436787.XA CN202410436787A CN118035431A CN 118035431 A CN118035431 A CN 118035431A CN 202410436787 A CN202410436787 A CN 202410436787A CN 118035431 A CN118035431 A CN 118035431A
- Authority
- CN
- China
- Prior art keywords
- text
- user
- emotion
- model
- customer service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000008451 emotion Effects 0.000 title claims abstract description 151
- 238000000034 method Methods 0.000 title claims abstract description 77
- 230000008569 process Effects 0.000 title claims abstract description 43
- 230000008859 change Effects 0.000 claims abstract description 43
- 230000036651 mood Effects 0.000 claims abstract description 38
- 239000013598 vector Substances 0.000 claims abstract description 37
- 238000012549 training Methods 0.000 claims description 23
- 238000004458 analytical method Methods 0.000 claims description 17
- 230000000694 effects Effects 0.000 claims description 17
- 230000006870 function Effects 0.000 claims description 14
- 238000003860 storage Methods 0.000 claims description 12
- 238000002372 labelling Methods 0.000 claims description 9
- 238000005516 engineering process Methods 0.000 claims description 8
- 206010063659 Aversion Diseases 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 4
- 238000012216 screening Methods 0.000 claims description 3
- 230000000737 periodic effect Effects 0.000 claims description 2
- 230000002996 emotional effect Effects 0.000 description 14
- 206010027940 Mood altered Diseases 0.000 description 5
- 238000000605 extraction Methods 0.000 description 5
- 238000013507 mapping Methods 0.000 description 5
- 230000007510 mood change Effects 0.000 description 5
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000011084 recovery Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 239000008186 active pharmaceutical agent Substances 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000019771 cognition Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000004806 packaging method and process Methods 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 206010027951 Mood swings Diseases 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010924 continuous production Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000008909 emotion recognition Effects 0.000 description 1
- 230000001965 increasing effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000006386 memory function Effects 0.000 description 1
- 239000003607 modifier Substances 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Landscapes
- Machine Translation (AREA)
Abstract
本发明提供了一种文字客服过程用户情绪预测方法、介质及系统，属于客户服务技术领域，该文字客服过程用户情绪预测方法、介质及系统，获取文字客服过程中用户输入的文本，记为用户文本；对用户文本进行特征提取，得到语义特征以及语气特征；根据语义特征，得到多个可选的参考回答文本；根据语义特征和语气特征，得到用户文本对应的情绪，记为用户情绪；根据多个可选的参考回答文本，得到每个参考回答文本对应的用户情绪变化向量；根据用户情绪以及每个参考回答文本对应的用户情绪变化向量，计算每个参考回答文本对应的用户情绪预测，并将预测结果输出给客服人员；本发明能够解决文本客户回复用户时恢复生硬，无法对用户情绪进行引导的问题。
Description
技术领域
本发明属于客户服务技术领域，具体而言，涉及一种文字客服过程用户情绪预测方法、介质及系统。
背景技术
随着互联网的快速发展，各类客服平台正在逐渐取代传统的人工客服，成为用户获取服务支持的主要途径。目前，包括网页在线客服、APP客服等在内的文本式客服已成为用户与企业沟通交流的重要形式。然而，现有的文本客服系统主要依靠预设的脚本或模板来进行回复，对用户情绪难以准确捕捉。这就导致了一些问题的出现：
(1)回复生硬，无视用户情绪。现有文本客服是根据用户问题进行匹配，返回预设回答，忽略了用户的情绪因素；
(2)回复导致负面情绪反弹。与客服对话本身就可能包含负面情绪，如果回复不当，会进一步激化用户的负面情绪，产生反效果；
(3)回复后续对话难以引导。对话是一个连续的过程，当前回复会影响后续对话走向，但现有技术无法对这种效应进行建模；
(4)缺乏客观回复质量评估。现有技术无法判断一个回复文本是否会对用户情绪产生积极影响。
因此，业界亟需一种可以对回复文本进行情绪效果建模，并以此指导文本选择的客服技术。这需要具备回复文本对用户当前情绪影响的预测能力。
发明内容
有鉴于此，本发明提供一种文字客服过程用户情绪预测方法、介质及系统，能够解决文本客户回复用户时恢复生硬，无法对用户情绪进行引导的问题，提高用户满意度。
本发明是这样实现的：
本发明的第一方面提供一种文字客服过程用户情绪预测方法，其中，包括以下步骤：
S10、获取文字客服过程中用户输入的文本，记为用户文本；
S20、对所述用户文本进行特征提取，得到语义特征以及语气特征；
S30、根据所述语义特征，利用大语言模型和知识库，得到多个可选的参考回答文本；
S40、利用预先训练好的语义语气-情绪分析模型，输入所述语义特征和所述语气特征，得到用户文本对应的情绪，记为用户情绪；
S50、利用预先训练好的回答引发情绪变化模型，输入所述多个可选的参考回答文本，得到每个参考回答文本对应的用户情绪变化向量；
S60、根据用户情绪以及每个参考回答文本对应的用户情绪变化向量，计算每个参考回答文本对应的用户情绪预测，并将多个可选的参考回答文本及其对应的用户情绪预测输出给客服人员。
在上述技术方案的基础上，本发明的一种文字客服过程用户情绪预测方法还可以做如下改进：
其中，所述用户情绪为一个向量，用于表示三种情绪，分别是愤怒、厌恶和快乐，每一种情绪按照情绪度划分6个等级，采用0~6来表示，其中，三种情绪全部为0的状态作为平静状态。
进一步的，所述步骤S10的具体实施方式为：
设置文字客服过程的输入渠道以获取用户文本；
对输入渠道进行文本采集并存储；
对采集文本进行预处理识别用户文本；
对预处理文本进行存储编号；
设置定期文本采集以获取新增文本。
进一步的，所述步骤S20的具体实施方式为：
对用户文本进行词性标注；
利用依存句法分析文本语义结构；
使用词向量技术表示文本语义信息；
应用命名实体识别技术识别专有名词；
使用情感分析技术判断情感倾向；
统计文本中的语气特征，组合形成语义语气描述。
进一步的，所述步骤S30的具体实施方式为：
构建知识库，预训练语言模型；
输入用户文本语义表示生成回复文本；
将生成文本与知识库匹配选择相关文本，进行筛选排序修正，输出多个参考回答文本。
进一步的，所述语义语气-情绪分析模型的具体训练方式为：
构建标注语料，使用数字特征表示文本；
构建基于深度网络的模型；
使用语料训练模型最小化损失函数，评估模型效果进行调整优化；
部署模型提供预测服务。
采用上述改进方案的有益效果为：通过上述流程，可取得性能良好的语义语气-情绪模型，为后续情绪预测提供支持。
进一步的，所述回答引发情绪变化模型的具体训练方式为：
构建标注语料，提取回复文本语义特征；
构建基于条件Seq2Seq的回归模型；
使用语料训练模型最小化损失，评估效果调整模型；
部署提供预测服务。
采用上述改进方案的有益效果为：通过上述步骤，得到可预测回复引发情绪变化的模型，为后续选择回复提供支持。
进一步的，所述步骤S60的具体实现方式为：
获取用户当前情绪向量；
输入回复文本得到情绪变化向量；
向量相加得到文本引发情绪预测；
比较预测选择变化最小文本，输出给客服人员。
采用上述改进方案的有益效果为：通过情绪预测，可协助客服人员挑选合适的回复，维护用户情绪，提升用户满意度。
本发明的第二方面提供一种计算机可读存储介质，其中，所述计算机可读存储介质中存储有程序指令，所述程序指令运行时，用于执行上述的一种文字客服过程用户情绪预测方法。
本发明的第三方面提供一种文字客服过程用户情绪预测系统，其中，包含上述的计算机可读存储介质。
相比现有技术，本发明提出了一种文字客服过程用户情绪预测方法，其中的回复引发情绪变化模型实现以下技术效果：
(1)可以对不同回复文本进行情绪变化效果的量化预测。该模型可以明确给出某一回复对用户各种情绪的增减效应；
(2)可以基于用户当前情绪，预测回复后的情绪走向。结合初始情绪，可以判断回复是否会进一步激化负面情绪；
(3)引导后续对话朝积极方向发展。通过编排回复顺序控制情绪变化，可以引导对话氛围；
(4)实现客观的回复质量评判。对比不同回复的预计情绪效果，可以选择对用户情绪影响较好的回复；
(5)降低回复引发负面后果的风险。预测结果可以避免选择可能引发反弹的回复，减少负面影响；
(6)将未来情绪变化纳入回复决策中。该模型增加了针对回复效果的前瞻性思考，而不仅是基于当前状态决策；
(7)模拟人类对话中对情绪变化的感知。模拟真实对话需要对每个回合情绪变化的预判；
(8)为后续回复策略优化提供支撑。通过对回复效果的建模，为选择最佳回复提供。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例的描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为一种文字客服过程用户情绪预测方法的流程图。
具体实施方式
为使本发明实施方式的目的、技术方案和优点更加清楚，下面将结合本发明实施方式中的附图，对本发明实施方式中的技术方案进行清楚、完整地描述。
如图1所示，是本发明第一方面提供一种文字客服过程用户情绪预测方法的第一实施例的流程图，在本实施例中，包括以下步骤：
S10、获取文字客服过程中用户输入的文本，记为用户文本；
S20、对用户文本进行特征提取，得到语义特征以及语气特征；
S30、根据语义特征，利用大语言模型和知识库，得到多个可选的参考回答文本；
S40、利用预先训练好的语义语气-情绪分析模型，输入语义特征和语气特征，得到用户文本对应的情绪，记为用户情绪；
S50、利用预先训练好的回答引发情绪变化模型，输入多个可选的参考回答文本，得到每个参考回答文本对应的用户情绪变化向量；
S60、根据用户情绪以及每个参考回答文本对应的用户情绪变化向量，计算每个参考回答文本对应的用户情绪预测，并将多个可选的参考回答文本及其对应的用户情绪预测输出给客服人员。
对于步骤S10，其目的在于获取文字客服过程中用户输入的文本，以作为后续分析的基础材料。具体的实施方式可采用以下子步骤：
(1)设置文字客服过程的输入渠道，如APP、网站等，以获取用户在过程中输入的所有文本；
(2)对输入渠道进行文本采集，将用户在客服过程中输入的所有文本存储到服务器数据库中。采集过程需要设置采集时间段，确保获取完整的客服对话文本；
(3)对采集到的文本进行预处理，包括清洗无关文本，识别用户文本和客服文本，仅保留用户输入的文本。此步骤的目的是过滤掉非用户输入的文本，获得纯粹的用户文本；
(4)对预处理后的文本进行存储和编号，以便后续分析提取特征。存储数据库可采用关系型数据库或非关系型数据库。编号是为了标识每段用户文本的顺序与对应关系；
(5)设置定期文本采集，持续获取用户在客服过程中产生的新增文本，以保证文本集全面、完整。
通过上述子步骤的实现，可有效获取文字客服过程中用户输入的所有文本，作为语义和语气特征提取的文本源，奠定后续分析的基础。
对于步骤S20，其目的在于对获取的用户文本进行特征提取，获得文本的语义特征和语气特征。具体的实施方式可采用以下子步骤：
(1)对用户文本进行词性标注，使用自然语言处理技术标注出文本中的名词、动词、形容词等词性。这可方便后续提取词义信息；
(2)应用依存句法分析技术，识别出文本中的主干结构、核心词与修饰词之间的依存关系。这可用于分析语句的语义结构；
(3)利用词向量技术，将文本转换为词向量表示，表示每个词的分布式语义信息。常用的词向量技术有word2vec、GloVe等；
(4)应用命名实体识别技术，识别出文本中涉及的专有名词，如人名、地名、机构名等。这可提供文本的背景信息；
(5)使用情感分析技术，判断文本所表达的情感倾向，如正面、负面、中性等。这可反映出语气特征；
(6)通过统计文本中的情感词、修辞手法、语气词等，分析文本的语气特征。如讽刺、质疑等语气；
(7)将上述技术的结果组合，形成对文本的整体语义和语气描述，作为该步骤的输出结果。
通过上述子步骤的汇总，可有效提取出用户文本的语义内容和语气特征，为后续的分析奠定基础。
对于步骤S30，其目的在于利用提取的语义特征，生成多个回复文本选项。具体实施方式可采用以下子步骤：
(1)构建一个覆盖面广泛的知识库，涵盖各种客服领域的知识，如产品知识、政策知识、流程知识等。知识可来源于客服日志、用户手册等；
(2)预训练一个大规模的语言模型，如BERT、GPT等，使其学习语言的语义规律。预训练数据可来源于各类文本语料；
(3)输入用户文本的语义表示到语言模型中，生成多个可能的回复文本。可生成5-10个备选文本；
(4)将生成的备选文本与知识库进行匹配，选择与用户文本语义相关的文本作为候选；
(5)根据不同情境需求，可进行候选文本的筛选、排序和修正，生成最终的参考回答文本；
(6)输出多个可选的参考回答文本，以及对应用户文本的语义特征，供后续模型使用。
通过调用语言模型与知识库，可以自动从语义上生成多个可选的回复文本，为后续的情感预测提供基础材料。
步骤S40中语义语气-情绪分析模型的建立和训练的具体实施方式如下：
(1)构建语料库：本模型需要大规模的标注语料进行监督训练，语料内容包括用户发言文本、语义特征、语气特征和对应情绪标签。可从客服日志中提取样本并进行人工标注。标注情绪可细分为6个级别的愤怒、厌恶、快乐；
(2)特征工程：使用词向量、依存句法等技术对文本进行数字化表示，形成语义和语气特征。特征经选择、转换、规范化等流程后，构成模型输入；
(3)模型构建：构建基于深度神经网络的语义语气-情绪模型，可采用LSTM、CNN等网络结构，Embedding层表示文本特征，全连接层进行非线性映射，Softmax输出情绪概率；
(4)模型训练：使用标注语料训练模型参数，目标是最小化通过Softmax计算的交叉熵损失函数。采用SGD等优化算法更新参数。将语料分为训练集、验证集、测试集以防过拟合；
(5)模型评估：在测试集上评估模型效果，包括精确率、召回率、F1值等。调整模型结构和参数以提高效果。语料规模够大时，可达到70%以上的F1值；
(6)模型部署：得到稳定有效的模型后，使用Python等语言进行封装，提供预测接口服务。采用Flask、TensorFlow Serving等构建REST API。
通过上述流程，可取得性能良好的语义语气-情绪模型，为后续情绪预测提供支持。
步骤S50中，回答引发情绪变化模型的建立和训练的具体实施方式如下：
(1)构建语料库：本模型训练同样需要大规模标注语料，内容包括回复文本及其引发的用户情绪变化向量。情绪变化向量是六种情绪级别变化的表示；
(2)特征提取：使用词向量等技术表示回复文本的语义特征。同时表示用户当前情绪作为条件信息；
(3)模型构建：构建基于条件Seq2Seq结构的回归模型。编码器表示文本，解码器在条件下输出情绪变化。使用LSTM等networks；
(4)模型训练：训练目标是最小化情绪变化预测的均方误差。使用标注数据训练模型参数。采用Adam等优化算法；
(5)模型评估：评估测试集上的效果，包括MSE、R-squared等。调整模型结构提高预测效果；
(6)模型部署：使用Python等语言封装模型，部署为预测接口服务。
通过上述步骤，得到可预测回复引发情绪变化的模型，为后续选择回复提供支持。
步骤S60的具体实现：
(1)获取用户当前情绪，即步骤S40输出的用户情绪向量；
(2)输入备选回复文本到步骤S50中的模型，获得文本对应的情绪变化向量；
(3)将当前情绪向量与情绪变化向量相加，得到各个备选文本引发的用户情绪预测；
(4)比较各备选文本的用户情绪预测，选择情绪变化最小或朝正面变化的回复文本；
(5)将选出的最佳回复文本及所有回复文本的情绪预测，输出给客服人员；
(6)客服人员结合预测结果，选择适当的回复文本，完成回复操作。
通过情绪预测，可协助客服人员挑选合适的回复，维护用户情绪，提升用户满意度。
如图1所示，是本发明第一方面提供一种文字客服过程用户情绪预测方法的第二实施例的流程图，在本实施例中，包括以下步骤：
S10、获取文字客服过程中用户输入的文本，记为用户文本；
S20、对用户文本进行特征提取，得到语义特征以及语气特征；
S30、根据语义特征，利用大语言模型和知识库，得到多个可选的参考回答文本；
S40、利用预先训练好的语义语气-情绪分析模型，输入语义特征和语气特征，得到用户文本对应的情绪，记为用户情绪；
S50、利用预先训练好的回答引发情绪变化模型，输入多个可选的参考回答文本，得到每个参考回答文本对应的用户情绪变化向量；
S60、根据用户情绪以及每个参考回答文本对应的用户情绪变化向量，计算每个参考回答文本对应的用户情绪预测，并将多个可选的参考回答文本及其对应的用户情绪预测输出给客服人员。
在步骤S10中，需要获取文字客服过程中用户输入的文本，其中/>表示第/>条用户输入文本，共包含/>条文本。
首先，定义输入渠道集合，表示可能的输入渠道，如APP、网站等。
然后，在时间段内对输入渠道进行文本采集，获取用户输入文本集合/>。
接着，使用过滤函数对文本进行预处理，移除非用户文本，只保留用户文本。
之后，构建存储函数对文本进行存储。其中，/>表示文本的唯一编号。存储形式可以是关系数据库或非关系数据库。
最后，设定定期文本采集时间，以获取新增用户文本/>，更新总文本集合。
在步骤S20中，需要对文本进行特征提取，得到语义特征集合/>和语气特征集合。
首先，定义词性标注函数，可标注出文本/>中的名词、动词等词性。
然后，使用依存句法分析函数，获得文本/>中的依存关系图/>。
接着，采用词向量映射函数将文本/>映射为词向量矩阵/>。
之后，应用命名实体识别函数，获取文本/>中的专有名词集合/>。
此外，还使用情感分析函数，判断文本/>的情感倾向，如正面、负面等。
最后，构建语义特征提取函数，并语气特征提取函数/>，最终获得语义特征集合/>和语气特征集合/>。
在步骤S30中，利用语义特征集合，生成多个回复文本选项集合，集合中包含/>条文本。
首先，构建知识库，涵盖各类客服领域知识。
然后，预训练语言模型，使其学习语言语义特征。
接着，使用基于/>生成多个回复文本/>。
之后，定义匹配函数，计算回复文本/>与知识库/>的匹配度，选出匹配度较高的回复文本/>。
最后，可进行额外的筛选、排序、修正等处理，得到最终的回复文本集合。
在步骤S40中，利用训练好的语义语气-情绪模型进行预测。
模型的输入包括语义特征集合/>和语气特征集合/>。
输出为用户文本对应的情绪分类。其中，六维向量表示六种基本情绪的级别。
预测过程表示为：。
在步骤S50中，利用训练好的回复引发情绪变化模型进行预测。
模型的输入为回复文本/>，以及用户当前情绪/>。
输出为文本引发的情绪变化向量。
预测过程表示为：。
在步骤S60中，集成两个模型，进行情绪预测。
首先，获得用户当前情绪，即步骤S40的输出。
然后，对每个回复文本，计算其引发的情绪变化向量/>：
；
最后，通过即可获得/>对应的预测情绪/>。
比较不同回复文本的预测情绪，选择变化最小或朝正面变化的回复文本。
具体应用场景举例：
一、构建客服知识库：
该公司的客服知识库包含以下三个子库：
(1)产品知识库：收集了2万条运动商品的描述、规格、使用方法等知识；
(2)政策知识库：收集了3万条关于订单、售后、退换货等方面的政策内容；
(3)流程知识库：收集了5万条包括注册、登录、购买、发货等各种流程步骤的知识。
三个子库合计包含10万条结构化知识点，覆盖了客服对话中的主要知识需求。
二、构建客服对话数据集：
从公司客服聊天记录中采集了包含100万轮对话的训练集，并针对1000万轮进行人工标注，标注了每个用户话语的语义分类、语气特征和对应情感标签，构建了客服对话数据集。
三、训练语义语气-情绪模型：
该模型使用Bert针对语义表示进行预训练，Lstm+Attention机制学习语义结构，CNN+Pooling学习关键语气词特征，输出层分类成6种情感，准确率达80%。
四、训练回复引发情绪变化模型：
该模型使用bert编码回复文本，在用户当前情绪条件下，以Lstm+Attention解码器预测情绪变化向量，最终MSEReach到0.12。
五、部署客服系统：
使用常见的云服务器部署两个模型，并构建REST API服务，实现对话情绪管理功能。
六、具体情绪识别与引导：
针对用户问题“你们网站上的折扣活动都是骗人的”，系统判断情绪为[愤怒4，厌恶2]，生成两条回复：
回复1：“非常抱歉带来不好的购物感受，请说说遇到了什么问题，我们会尽快改进。”
该回复预测产生[愤怒-2，厌恶-1]的情绪变化；
回复2：“感谢您的反馈，我们的团队会认真调查，请您耐心等待。”
该回复预测产生[愤怒-1，厌恶-1，平静1]的情绪变化；
则选择回复2以缓解当前的负面情绪。
本发明第二方面提供一种计算机可读存储介质，计算机可读存储介质中存储有程序指令，程序指令运行时，用于执行上述的一种文字客服过程用户情绪预测方法。
本发明第三方面提供一种文字客服过程用户情绪预测系统，包含上述的计算机可读存储介质。
具体的，本发明的原理是：本发明实现用户情绪预测及情绪驱动回复的核心在于构建两个关键模块：语义语气-情绪模型与回复引发情绪变化模型。下面分别阐述两个模型的工作原理：
(一)语义语气-情绪模型：
该模型的设计原理基于以下认知：
(1)语义内容反映了用户述说的对象及见解；语气反映了用户的情感态度。两者都与最终情绪相关；
(2)深度神经网络可以学习语言中的隐含特征，建模复杂的语义语气与情绪之间的非线性关系。
因此，使用LSTM、CNN等网络提取文本语义和语气特征，然后通过全连接层将特征映射到文本情绪类别上。网络通过损失函数反向传播更新权重参数，逐步拟合语义语气与情绪之间的映射关系。
相比于仅利用语义进行类推或匹配模板的方法，这种方式可以学习更抽象语义表示，以及更隐晦语气的情感表达，从而实现更准确的情绪理解。
(二)回复引发情绪变化模型：
该模型的设计原理基于以下认知：
(1)不同回复文本会引起用户情绪的不同变化；
(2)给定当前情绪，可以预测回复带来的情绪影响；
(3)Seq2Seq结构适合学习文本序列到序列的映射。
因此，构建了一个基于Seq2Seq、条件化的回归模型。其中，编码器学习回复文本的语义特征，解码器在当前情绪条件下，预测该回复可能引发的情绪变化。模型通过损失函数反向传播训练，学习回复文本与用户情绪变化之间的关联模式。
这种模型可以对可能回复进行情绪变化的预判。而不仅是根据语义进行客观匹配，从而实现基于未来情绪影响的回复选择。
通过联合运用上述两个模型的预测，本发明实现了以用户主观情绪为导向进行对话的文本客服系统，相比现有技术有了很大进步。
Claims (10)
1.一种文字客服过程用户情绪预测方法，其特征在于，包括以下步骤：
S10、获取文字客服过程中用户输入的文本，记为用户文本；
S20、对所述用户文本进行特征提取，得到语义特征以及语气特征；
S30、根据所述语义特征，利用大语言模型和知识库，得到多个可选的参考回答文本；
S40、利用预先训练好的语义语气-情绪分析模型，输入所述语义特征和所述语气特征，得到用户文本对应的情绪，记为用户情绪；
S50、利用预先训练好的回答引发情绪变化模型，输入所述多个可选的参考回答文本，得到每个参考回答文本对应的用户情绪变化向量；
S60、根据用户情绪以及每个参考回答文本对应的用户情绪变化向量，计算每个参考回答文本对应的用户情绪预测，并将多个可选的参考回答文本及其对应的用户情绪预测输出给客服人员。
2.根据权利要求1所述的一种文字客服过程用户情绪预测方法，其特征在于，所述用户情绪为一个向量，用于表示三种情绪，分别是愤怒、厌恶和快乐，每一种情绪按照情绪度划分6个等级，采用0~6来表示，其中，三种情绪全部为0的状态作为平静状态。
3.根据权利要求2所述的一种文字客服过程用户情绪预测方法，其特征在于，所述步骤S10的具体实施方式为：
设置文字客服过程的输入渠道以获取用户文本；
对输入渠道进行文本采集并存储；
对采集文本进行预处理识别用户文本；
对预处理文本进行存储编号；
设置定期文本采集以获取新增文本。
4.根据权利要求3所述的一种文字客服过程用户情绪预测方法，其特征在于，所述步骤S20的具体实施方式为：
对用户文本进行词性标注；
利用依存句法分析文本语义结构；
使用词向量技术表示文本语义信息；
应用命名实体识别技术识别专有名词；
使用情感分析技术判断情感倾向；
统计文本中的语气特征，组合形成语义语气描述。
5.根据权利要求4所述的一种文字客服过程用户情绪预测方法，其特征在于，所述步骤S30的具体实施方式为：
构建知识库，预训练语言模型；
输入用户文本语义表示生成回复文本；
将生成文本与知识库匹配选择相关文本，进行筛选排序修正，输出多个参考回答文本。
6.根据权利要求5所述的一种文字客服过程用户情绪预测方法，其特征在于，所述语义语气-情绪分析模型的具体训练方式为：
构建标注语料，使用数字特征表示文本；
构建基于深度网络的模型；
使用语料训练模型最小化损失函数，评估模型效果进行调整优化；
部署模型提供预测服务。
7.根据权利要求6所述的一种文字客服过程用户情绪预测方法，其特征在于，所述回答引发情绪变化模型的具体训练方式为：
构建标注语料，提取回复文本语义特征；
构建基于条件Seq2Seq的回归模型；
使用语料训练模型最小化损失，评估效果调整模型；
部署提供预测服务。
8.根据权利要求7所述的一种文字客服过程用户情绪预测方法，其特征在于，所述步骤S60的具体实现方式为：
获取用户当前情绪向量；
输入回复文本得到情绪变化向量；
向量相加得到文本引发情绪预测；
比较预测选择变化最小文本，输出给客服人员。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有程序指令，所述程序指令运行时，用于执行权利要求1-8任一项所述的一种文字客服过程用户情绪预测方法。
10.一种文字客服过程用户情绪预测系统，其特征在于，包含权利要求9所述的计算机可读存储介质。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410436787.XA CN118035431B (zh) | 2024-04-12 | 一种文字客服过程用户情绪预测方法、介质及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410436787.XA CN118035431B (zh) | 2024-04-12 | 一种文字客服过程用户情绪预测方法、介质及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN118035431A true CN118035431A (zh) | 2024-05-14 |
| CN118035431B CN118035431B (zh) | 2024-06-28 |
Family
ID=
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113450793A (zh) * | 2021-06-25 | 2021-09-28 | 平安科技（深圳）有限公司 | 用户情绪分析方法、装置、计算机可读存储介质及服务器 |
| CN114203177A (zh) * | 2021-12-06 | 2022-03-18 | 深圳市证通电子股份有限公司 | 一种基于深度学习与情绪识别的智能语音问答方法和系统 |
| CN114220461A (zh) * | 2021-12-15 | 2022-03-22 | 中国平安人寿保险股份有限公司 | 客服话术的引导方法、装置、设备及存储介质 |
| CN115221306A (zh) * | 2022-09-21 | 2022-10-21 | 北京云迹科技股份有限公司 | 自动应答评价方法及装置 |
| US11521639B1 (en) * | 2021-04-02 | 2022-12-06 | Asapp, Inc. | Speech sentiment analysis using a speech sentiment classifier pretrained with pseudo sentiment labels |
| WO2023108994A1 (zh) * | 2021-12-15 | 2023-06-22 | 平安科技（深圳）有限公司 | 一种语句生成方法及电子设备、存储介质 |
| CN117725163A (zh) * | 2023-06-25 | 2024-03-19 | 小红书科技有限公司 | 智能问答方法、装置、设备及存储介质 |
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11521639B1 (en) * | 2021-04-02 | 2022-12-06 | Asapp, Inc. | Speech sentiment analysis using a speech sentiment classifier pretrained with pseudo sentiment labels |
| CN113450793A (zh) * | 2021-06-25 | 2021-09-28 | 平安科技（深圳）有限公司 | 用户情绪分析方法、装置、计算机可读存储介质及服务器 |
| CN114203177A (zh) * | 2021-12-06 | 2022-03-18 | 深圳市证通电子股份有限公司 | 一种基于深度学习与情绪识别的智能语音问答方法和系统 |
| CN114220461A (zh) * | 2021-12-15 | 2022-03-22 | 中国平安人寿保险股份有限公司 | 客服话术的引导方法、装置、设备及存储介质 |
| WO2023108994A1 (zh) * | 2021-12-15 | 2023-06-22 | 平安科技（深圳）有限公司 | 一种语句生成方法及电子设备、存储介质 |
| CN115221306A (zh) * | 2022-09-21 | 2022-10-21 | 北京云迹科技股份有限公司 | 自动应答评价方法及装置 |
| CN117725163A (zh) * | 2023-06-25 | 2024-03-19 | 小红书科技有限公司 | 智能问答方法、装置、设备及存储介质 |
Non-Patent Citations (3)
| Title |
|---|
| FATEMEH NOROOZI .ET AL: "Speech-based emotion recognition and next reaction prediction", IEEE, 29 June 2017 (2017-06-29) * |
| 宋双永;王超;陈成龙;周伟;陈海青;: "面向智能客服系统的情感分析技术", 中文信息学报, no. 02, 15 February 2020 (2020-02-15) * |
| 黄敏;: "热点发现及文本倾向性分析技术研究", 安徽工业大学学报(自然科学版), no. 04, 15 October 2011 (2011-10-15) * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110427490A (zh) | 一种基于自注意力机制的情感对话生成方法与装置 | |
| CN108363690A (zh) | 基于神经网络的对话语义意图预测方法及学习训练方法 | |
| CN111506732B (zh) | 一种文本多层次标签分类方法 | |
| CN112069295B (zh) | 相似题推荐方法、装置、电子设备和存储介质 | |
| CN114722839B (zh) | 人机协同对话交互系统及方法 | |
| CN112508334A (zh) | 融合认知特性及试题文本信息的个性化组卷方法及系统 | |
| CN112416956B (zh) | 一种基于bert和独立循环神经网络的问句分类方法 | |
| CN114429122B (zh) | 一种基于循环注意力的方面级情感分析系统和方法 | |
| Lee et al. | Use of training, validation, and test sets for developing automated classifiers in quantitative ethnography | |
| CN110852181A (zh) | 基于注意力机制卷积神经网络钢琴乐谱难度识别方法 | |
| Cabada et al. | Mining of educational opinions with deep learning | |
| CN113032570A (zh) | 一种基于ATAE-BiGRU的文本方面情感分类方法及系统 | |
| CN115204143B (zh) | 一种基于prompt的文本相似度计算方法及系统 | |
| CN110427454A (zh) | 文本情绪分析方法及装置、电子设备和非暂态存储介质 | |
| CN115455189A (zh) | 基于提示学习的政策文本分类方法 | |
| CN116245110A (zh) | 基于图注意力网络的多维度信息融合用户立场检测方法 | |
| CN117390141B (zh) | 一种农业社会化服务质量用户评价数据分析方法 | |
| CN113486174A (zh) | 模型训练、阅读理解方法、装置、电子设备及存储介质 | |
| CN117235264A (zh) | 文本处理方法、装置、设备和计算机可读存储介质 | |
| CN118035431B (zh) | 一种文字客服过程用户情绪预测方法、介质及系统 | |
| CN117094835A (zh) | 面向社交媒体内容的多目标群体分类方法 | |
| CN116842263A (zh) | 一种智能问答式理财顾问模型的训练处理方法及装置 | |
| CN116450783A (zh) | 面向篇章级的事件抽取方法、系统、存储介质和电子设备 | |
| CN116257630A (zh) | 一种基于对比学习的方面级情感分析方法及装置 | |
| CN114298011B (zh) | 神经网络、训练方法、方面级情感分析方法、装置及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |