CN112329928A - 基于异构模型的用户满意度分析方法 - Google Patents

基于异构模型的用户满意度分析方法 Download PDF

Info

Publication number
CN112329928A
CN112329928A CN202011595352.8A CN202011595352A CN112329928A CN 112329928 A CN112329928 A CN 112329928A CN 202011595352 A CN202011595352 A CN 202011595352A CN 112329928 A CN112329928 A CN 112329928A
Authority
CN
China
Prior art keywords
model
neural network
user
gradient
network model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011595352.8A
Other languages
English (en)
Other versions
CN112329928B (zh
Inventor
江海
杨晓东
卫浩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan XW Bank Co Ltd
Original Assignee
Sichuan XW Bank Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan XW Bank Co Ltd filed Critical Sichuan XW Bank Co Ltd
Priority to CN202011595352.8A priority Critical patent/CN112329928B/zh
Publication of CN112329928A publication Critical patent/CN112329928A/zh
Application granted granted Critical
Publication of CN112329928B publication Critical patent/CN112329928B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0282—Rating or review of business operators or products
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/02—Banking, e.g. interest calculation or account maintenance

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Strategic Management (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Development Economics (AREA)
  • Mathematical Physics (AREA)
  • Economics (AREA)
  • Computational Linguistics (AREA)
  • General Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Marketing (AREA)
  • Medical Informatics (AREA)
  • Technology Law (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Game Theory and Decision Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明涉及基于异构模型的用户满意度分析方法，包括：步骤A．对用户在客服工单中的咨询信息或在系统页面的操作序列数据中的至少其中一项进行采集；步骤B．记录用户当前的产品数据；步骤C．建立第一神经网络模型，包括第一输入层、第一特征嵌入层和第一输出层；步骤D．建立第二神经网络模型，包括第二输入层、第二特征嵌入层和第二输出层；步骤E．根据步骤C和D的输出，以及对应的产品数据，建立梯度提升树模型；步骤F．对一个用户一段时间内的咨询数据和操作序列通过该梯度提升树模型输出对应的满意度。本发明能够更准确的分析和预测用户当前对产品的满意度，对可能出现的不满意方面及时优化，有效提高用户的满意程度和降低投诉率。

Description

基于异构模型的用户满意度分析方法
技术领域
本发明涉及以动态、真实的样本来训练机器学习模型，并进行用户满意度分析方法，具体讲是基于异构模型的用户满意度分析方法。
背景技术
随着人们的日常生活越来越多的涉及到银行、金融等领域，对这些领域的运营主体的投诉也逐渐增多。对于人们经常接触的银行来说，银行的各项服务、网银和APP的功能、页面操作的便利性，都会影响用户对银行的满意度。因此，银行都尽力以用户为中心，关注用户的需求和用户体验，降低用户投诉率，提升用户满意度作为日常经营的重点工作内容。
目前银行大多是通过调查、回访得到用户反馈的满意度，不能预测样本外单个用户的满意度。只有在收到用户不满意的反馈或投诉后，再进行补救处理，无法做到防患于未然。因此，需要一种方法来准确、主动的预测和分析用户对银行各层面的服务质量，在用户进行投诉之前及时解决用户的问题，化被动为主动，能够有效的提高用户体验，提高银行的服务质量和整体形象。
发明内容
本发明提供了一种基于异构模型的用户满意度分析方法，以更准确的分析和预测用户当前对产品的满意度，使银行能够对可能出现的不满意方面及时优化，提高用户的满意程度，降低投诉率。
本发明基于异构模型的用户满意度分析方法，包括：
步骤A．对用户在客服工单中的咨询信息（包括输入的文本、电话咨询的语音等）或用户在产品的系统页面中的操作序列数据中的至少其中一项进行采集，其中咨询信息通过录音设备和/或电子信息采集设备进行保存，操作序列数据通过系统处理器先保存在系统的缓存中，待用户操作结束后将缓存中的信息保存到磁盘存储器的第一存储区域中；
步骤B．通过系统处理器记录用户当前所咨询的产品的产品数据，并将所述的产品数据保存在磁盘存储器的第二存储区域中；
步骤C．在磁盘存储器的第三存储区域中建立第一神经网络模型，所述第一神经网络模型包括第一输入层、第一特征嵌入层和第一输出层；
其中第一输入层由至少两个全连接网络层构成，用于将所述第一存储区域中用户的咨询信息数据映射为对应的特征维度，并输出到特征嵌入层；
第一特征嵌入层由GRU网络层（Gated Recurrent Unit Network）构成，用于特征嵌入，将第一输入层输出的各特征维度降维成固定大小的特征向量，便于处理和计算；
第一输出层由至少两个全连接层构成，用于将第一特征嵌入层的输出映射为最终的特征进行输出；
步骤D．在磁盘存储器的第四存储区域中建立第二神经网络模型，所述第二神经网络模型包括第二输入层、第二特征嵌入层和第二输出层；
其中第二输入层由至少两个全连接网络层构成，用于将所述第一存储区域中用户在产品的系统页面中的操作序列数据映射为对应的特征维度，并输出到特征嵌入层；
第二特征嵌入层由至少两个TCN（时间卷积）网络层构成，用于特征嵌入，从第二输入层输出的特征维度中提取出用户操作行为中的有效特征；
第二输出层由至少两个全连接层构成，用于将第二特征嵌入层的输出映射为最终的特征进行输出；
步骤E．根据第一神经网络模型和第二神经网络模型的输出，以及所述第二存储区域中保存的对应的产品数据，建立梯度提升树（GBDT，Gradient Boosting Decision Tree）模型，并将梯度提升树模型保存在磁盘存储器的第五存储区域中；
步骤F．收集一个用户一段时间内在客服工单中的咨询信息、在产品的系统页面中的操作序列数据，对收集的所有数据进行编码、标准化和归一化的处理，将处理后的咨询信息输入到第一神经网络模型，输出咨询特征，将处理后的操作序列数据输入到第二神经网络模型，输出操作序列特征，再将所述的咨询特征、操作序列特征和产品数据一并输入到所述第五存储区域的梯度提升树模型中，通过该梯度提升树模型分析并输出该用户这段时间内对所述对应产品的满意度。
本发明的分析方法采用了用户的工单数据、产品页面操作行为序列和产品数据这些结构化与非结构数据相结合，在磁盘存储器的存储结构中建立异构模型的存储结构来分析客户对产品的满意度，通过端到端的对各模型进行有监督训练，采用深度学习的方法能够有效提取和捕捉用户近期对某个产品满意度相关特征，进而从动态的角度和数据维度来构造用户满意度的分析模型，由此提升了分析的准确性，并且通过的到的满意度结果，还能够更准确的预测该用户对该产品是否可能会有不满意/投诉的方面和可能性。
优选的，步骤E还包括对梯度提升树（GBDT）模型进行优化，包括：
步骤E1．通过步骤E得到用户满意度初始标签；
步骤E2．随机初始化第一神经网络模型的参数，使其满足[-1,1]之间的均匀分布；因为一个神经网络模型有许多待优化的参数，在优化之前是不知道各参数的最优值是多少的，因此先对所有参数随机初始化，再使用后续步骤将参数迭代至最优取值；
步骤E3．通过步骤E2的输出和用户满意度初始标签计算交叉熵的第一损失函数；
步骤E4．通过梯度下降方法，以最小化第一损失函数来优化第一神经网络模型的参数；
步骤E5．重复步骤E4，直至第一损失函数的值不再变小，即得到了最优的第一神经网络模型。
进一步的，步骤E还包括对第二神经网络进行优化，包括：
步骤E6．随机初始化第二神经网络模型的参数，使其满足标准正态分布；
步骤E7．通过步骤E6的输出和所述的用户满意度初始标签计算交叉熵的第二损失函数；
步骤E8．通过梯度下降方法，以最小化第二损失函数来优化第二神经网络模型的参数；
步骤E9．重复步骤E8，直至第二损失函数的值不再变小，即得到了最优的第二神经网络模型。
进一步的，在优化完第一神经网络和第二神经网络后，步骤E还包括对梯度提升树模型进行优化，包括：
步骤E10．最优的第一神经网络模型根据步骤C输出第一模型特征，最优的第二神经网络模型根据步骤D输出第二模型特征，通过第一模型特征、第二模型特征和第二存储区域中所述的产品数据，生成一棵CART决策树（Classification And Regression Trees）D 1 (x,θ 1 )，其中x表示第一模型特征、第二模型特征和产品数据的总集合，
Figure 244088DEST_PATH_IMAGE001
表示CART决策树D 1 中待优化的参数总集合，例如特征分裂的节点、决策树的深度、特征分裂的次数、顺序等参数；
步骤E11．使用CART决策树的输出值与所述的用户满意度初始标签计算交叉熵的第三损失函数，然后计算第三损失函数的梯度；
步骤E12．根据所述的第一模型特征、第二模型特征和产品数据，生成第i棵CART决策树
Figure 300906DEST_PATH_IMAGE002
，其中x为产品数据，1≤i≤M，i的初始值为1，M为预设的生成CART决策树的总数量，通过CART决策树
Figure 848562DEST_PATH_IMAGE002
来预测当前的第三损失函数的梯度；
步骤E13．将所述的第i棵CART决策树
Figure 441479DEST_PATH_IMAGE002
乘以学习率
Figure 416388DEST_PATH_IMAGE004
，将结果累加到当前的梯度提升树模型中，构成新的梯度提升树模型，并计算新的梯度提升树模型的损失函数梯度，将该损失函数梯度作为当前的第三损失函数的梯度；
步骤E14．循环执行步骤E12至步骤E13，每次循环生成的CART决策树
Figure 960502DEST_PATH_IMAGE002
随着当前的第三损失函数的梯度的不同而不同，并且每次循环后i=i+1，直到i=M，完成梯度提升树模型的优化。
其中梯度下降算法为本领域的现有常规算法，其原理可以参考互联网上已公开的资料。
在此基础上，具体的，所述的客服工单中的咨询信息至少包括用户咨询的时间、内容和频次。
具体的，所述用户在产品的系统页面中的操作序列数据至少包括用户操作事件的类型、操作事件发生的时间、浏览路径和设备类型。
具体的，所述的产品数据包括产品的类型、使用时长和其他客户对该产品的评价。
本发明基于异构模型的用户满意度分析方法，通过在磁盘存储器的存储结构中建立相应的异构模型的存储结构，能够更准确的分析和预测用户当前对产品的满意度，使银行能够对可能出现的不满意方面及时优化，能够有效提高用户的满意程度和降低投诉率。
以下结合实施例的具体实施方式，对本发明的上述内容再作进一步的详细说明。但不应将此理解为本发明上述主题的范围仅限于以下的实例。在不脱离本发明上述技术思想情况下，根据本领域普通技术知识和惯用手段做出的各种替换或变更，均应包括在本发明的范围内。
附图说明
图1为本发明基于异构模型的用户满意度分析方法的流程图。
图2为通过图1的分析方法来分析和预测用户满意度的基本原理框图。
具体实施方式
如图1所示本发明基于异构模型的用户满意度分析方法，包括：
步骤A．对用户在客服工单中的咨询信息（包括输入的文本、电话咨询的语音等）和用户在产品的系统页面中的操作序列数据进行采集，其中咨询信息至少包括用户咨询的时间、内容和频次等数据，并通过录音设备和/或电子信息采集设备进行保存。用户的操作序列数据至少包括用户操作事件的类型、操作事件发生的时间、浏览路径和设备类型等，操作序列数据通过系统处理器先保存在系统的缓存中，待用户操作结束后将缓存中的信息保存到磁盘存储器的第一存储区域中。
步骤B．通过系统处理器记录用户当前所咨询的产品的产品数据，包括产品的类型、使用时长和其他客户对该产品的评价等，并将所述的产品数据保存在磁盘存储器的第二存储区域中。
步骤C．在磁盘存储器的第三存储区域中建立第一神经网络模型，所述第一神经网络模型包括第一输入层、第一特征嵌入层和第一输出层。
其中第一输入层由至少两个全连接网络层构成，用于将所述第一存储区域中用户的咨询信息数据映射为对应的特征维度，并输出到特征嵌入层。
第一特征嵌入层由GRU网络层（Gated Recurrent Unit Network）构成，用于特征嵌入，将第一输入层输出的各特征维度降维成固定大小的特征向量，便于处理和计算（如求距离等）。特征嵌入的方式可以类比为一个全连接层，通过embedding层的权重矩阵计算，将数据转化为固定大小的特征来表示。
第一输出层由至少两个全连接层构成，用于将第一特征嵌入层的输出映射为最终的特征进行输出。第一输出层和第一输入层的结构类似，只在神经元个数和层数上不同。
步骤D．在磁盘存储器的第四存储区域中建立第二神经网络模型，所述第二神经网络模型包括第二输入层、第二特征嵌入层和第二输出层。
其中第二输入层由至少两个全连接网络层构成，用于将所述第一存储区域中用户在产品的系统页面中的操作序列数据映射为对应的特征维度，并输出到特征嵌入层。
第二特征嵌入层由至少两个TCN（时间卷积）网络层（Temporal ConvolutionNeural Network）构成，用于特征嵌入，从第二输入层输出的特征维度中提取出用户操作行为中的有效特征。
第二输出层由至少两个全连接层构成，用于将第二特征嵌入层的输出映射为最终的特征进行输出。第二输出层和第二输入层的结构类似，只在神经元个数和层数上不同。
步骤E．根据第一神经网络模型和第二神经网络模型的输出，以及所述第二存储区域中保存的对应的产品数据，建立梯度提升树（GBDT）模型，并将梯度提升树模型保存在磁盘存储器的第五存储区域中。
然后对各模型进行优化，具体为：
步骤E1．通过步骤E得到用户满意度初始标签y。
步骤E2．随机初始化第一神经网络模型的参数，使其满足[-1,1]之间的均匀分布。因为一个神经网络模型有许多待优化的参数，在优化之前是不知道各参数的最优值是多少的，因此先对所有参数随机初始化，再使用后续步骤将参数迭代至最优取值。
步骤E3．通过步骤E2的输出和用户满意度初始标签y计算交叉熵的第一损失函数。其中计算交叉熵的损失函数的方法和公式为本领域的现有常规方法，本领域技术人员能够知晓，也能够在已公开的文献和资料中查询获知，在此不做详述。
步骤E4．通过梯度下降方法（现有常规方法），以最小化第一损失函数（Min Loss1）来优化第一神经网络模型的参数。
步骤E5．重复步骤E4，直至第一损失函数的值Loss1不再变小，即得到了最优的第一神经网络模型。
进一步的，步骤E还包括对第二神经网络进行优化，包括：
步骤E6．随机初始化第二神经网络模型的参数，使其满足标准正态分布。
步骤E7．通过步骤E6的输出和所述的用户满意度初始标签y计算交叉熵的第二损失函数。
步骤E8．通过梯度下降方法，以最小化第二损失函数（Min Loss2）来优化第二神经网络模型的参数。
步骤E9．重复步骤E8，直至第二损失函数的值Loss2不再变小，即得到了最优的第二神经网络模型。
进一步的，在优化完第一神经网络和第二神经网络后，再对梯度提升树（GBDT）模型进行优化，包括：
步骤E10．最优的第一神经网络模型根据步骤C输出第一模型特征，最优的第二神经网络模型根据步骤D输出第二模型特征，通过第一模型特征、第二模型特征和第二存储区域中所述的产品数据，生成一棵CART决策树（Classification And Regression Trees）D 1 (x,θ 1 )，其中x表示第一模型特征、第二模型特征和产品数据的总集合，
Figure 311849DEST_PATH_IMAGE005
表示CART决策树D 1 中待优化的参数总集合，例如特征分裂的节点、决策树的深度、特征分裂的次数、顺序等参数。
步骤E11．使用CART决策树的输出值与所述的用户满意度初始标签y计算交叉熵的第三损失函数。
步骤E12．根据所述的第一模型特征、第二模型特征和产品数据，生成第i棵CART决策树
Figure 992229DEST_PATH_IMAGE006
，其中x为产品数据，1≤i≤M，i的初始值为1，M为预设的生成CART决策树的总数量，通过CART决策树
Figure 528253DEST_PATH_IMAGE006
来预测当前的第三损失函数的梯度。
步骤E13．将所述的第i棵CART决策树
Figure 435029DEST_PATH_IMAGE006
乘以学习率
Figure 950586DEST_PATH_IMAGE008
，将结果累加到当前的梯度提升树模型中，构成新的梯度提升树模型，并计算新的梯度提升树模型的损失函数梯度：
Figure 626418DEST_PATH_IMAGE009
，其中
Figure 333343DEST_PATH_IMAGE010
表示求偏导数的数学符号。将该损失函数梯度作为当前的第三损失函数的梯度。
步骤E14．循环执行步骤E12至步骤E13，每循环一次i=i+1，因为每次循环后当前的第三损失函数的梯度都不同，因此每次循环生成的CART决策树
Figure 727415DEST_PATH_IMAGE006
也不同，直到i=M，完成梯度提升树模型的优化。
可以采用现有的损失函数梯度下降的优化方式，该优化方式的总体思路为：
假定模型要分析/预测的样本数量为N，在二分的情况下，模型最后需要预测的结果只有两种情况，对于每个类别的预测得到的概率为p和1－p，因此优化的目标函数为：
Figure 545198DEST_PATH_IMAGE011
，
其中L为损失函数（即目标函数），N为要分析/预测的样本数量，i=(1,2,3…N)，
Figure 75537DEST_PATH_IMAGE012
为模型对第i样本的真实标签（在本发明中指的是用户对服务是否满意，满意取0，不满意取1），p i为模型对第i样本预测后得到的值。
计算目标函数对偏置项参数的偏导数：
Figure 953363DEST_PATH_IMAGE013
，
Figure 834731DEST_PATH_IMAGE014
其中W和b均为机器学习模型中的偏置项参数，
Figure 692091DEST_PATH_IMAGE015
和
Figure 467149DEST_PATH_IMAGE016
分别表示对损失函数求W和b的偏导数。一个机器学习模型通常要包含三个必要的部分，第一部分是用以预测的变量X，第二部分即模型本身的算法，第三部分即需要预测的目标Z，对于偏置项参数而言，例如可以是
Figure 860084DEST_PATH_IMAGE018
。
然后更新参数W（更新后为W 1 ）和b（更新后为b 1 ）：
Figure 353383DEST_PATH_IMAGE019
，
Figure 388335DEST_PATH_IMAGE020
，W 0和b 0都是随机初始化模型参数后得到的偏置项参数的初始值。
其中
Figure 283478DEST_PATH_IMAGE021
为学习率，多次重复这个过程，直至Loss不再变小（收敛），即完成优化过程。上述梯度下降算法为本领域的现有常规算法，其原理和更具体的实现方式可以参考互联网上已公开的资料。
步骤F．收集一个用户一段时间内在客服工单中的咨询信息、在产品的系统页面中的操作序列数据，对收集的所有数据进行编码、标准化和归一化的处理，将处理后的咨询信息输入到第一神经网络模型，输出咨询特征，将处理后的操作序列数据输入到第二神经网络模型，输出操作序列特征，再将所述的咨询特征、操作序列特征和产品数据一并输入到所述第五存储区域的梯度提升树模型中，通过该梯度提升树模型分析并输出该用户这段时间内对所述对应产品的满意度。
通过本发明的分析方法来分析和预测用户满意度的基本原理如图2所示：例如有一个用户，他在近期对于使用的金融产品有一些疑问或者不满，通常他会打开APP查看所用产品的相关页面，并进行一些操作，同时也可能通过APP在线客服或拨打热线咨询反馈问题。这些操作所产生的数据均可用来分析和预测该用户对于所用产品的满意度。将在线客服工单收集到的APP在线咨询的文本类、电话咨询的语音类数据编码后输入第一神经网络，通过APP收集到的用户在APP页面操作的操作行为序列数据输入第二神经网络，再将两个神经网络最后的输出特征结合用户使用的产品的产品信息输入训练好的梯度提升树（GBDT）模型，通过GBDT模型分析后以文本形式输出该用户对于该产品的满意程度。

Claims (7)

1.基于异构模型的用户满意度分析方法，其特征包括：
步骤A．对用户在客服工单中的咨询信息或用户在产品的系统页面中的操作序列数据中的至少其中一项进行采集，其中咨询信息通过录音设备和/或电子信息采集设备进行保存，操作序列数据通过系统处理器先保存在系统的缓存中，待用户操作结束后将缓存中的信息保存到磁盘存储器的第一存储区域中；
步骤B．通过系统处理器记录用户当前所咨询的产品的产品数据，并将所述的产品数据保存在磁盘存储器的第二存储区域中；
步骤C．在磁盘存储器的第三存储区域中建立第一神经网络模型，所述第一神经网络模型包括第一输入层、第一特征嵌入层和第一输出层；
其中第一输入层由至少两个全连接网络层构成，用于将所述第一存储区域中用户的咨询信息数据映射为对应的特征维度，并输出到特征嵌入层；
第一特征嵌入层由GRU网络层构成，用于特征嵌入，将第一输入层输出的各特征维度降维成固定大小的特征向量，便于处理和计算；
第一输出层由至少两个全连接层构成，用于将第一特征嵌入层的输出映射为最终的特征进行输出；
步骤D．在磁盘存储器的第四存储区域中建立第二神经网络模型，所述第二神经网络模型包括第二输入层、第二特征嵌入层和第二输出层；
其中第二输入层由至少两个全连接网络层构成，用于将所述第一存储区域中用户在产品的系统页面中的操作序列数据映射为对应的特征维度，并输出到特征嵌入层；
第二特征嵌入层由至少两个TCN网络层构成，用于特征嵌入，从第二输入层输出的特征维度中提取出用户操作行为中的有效特征；
第二输出层由至少两个全连接层构成，用于将第二特征嵌入层的输出映射为最终的特征进行输出；
步骤E．根据第一神经网络模型和第二神经网络模型的输出，以及所述第二存储区域中保存的对应的产品数据，建立梯度提升树模型，并将梯度提升树模型保存在磁盘存储器的第五存储区域中；
步骤F．收集一个用户一段时间内在客服工单中的咨询信息、在产品的系统页面中的操作序列数据，对收集的所有数据进行编码、标准化和归一化的处理，将处理后的咨询信息输入到第一神经网络模型，输出咨询特征，将处理后的操作序列数据输入到第二神经网络模型，输出操作序列特征，再将所述的咨询特征、操作序列特征和产品数据一并输入到所述第五存储区域的梯度提升树模型中，通过该梯度提升树模型分析并输出该用户这段时间内对所述对应产品的满意度。
2.如权利要求1所述的基于异构模型的用户满意度分析方法，其特征为：步骤E还包括对梯度提升树模型进行优化，包括：
步骤E1．通过步骤E得到用户满意度初始标签；
步骤E2．随机初始化第一神经网络模型的参数，使其满足[-1,1]之间的均匀分布；
步骤E3．通过步骤E2的输出和用户满意度初始标签计算交叉熵的第一损失函数；
步骤E4．通过梯度下降方法，以最小化第一损失函数来优化第一神经网络模型的参数；
步骤E5．重复步骤E4，直至第一损失函数的值不再变小，即得到了最优的第一神经网络模型。
3.如权利要求2所述的基于异构模型的用户满意度分析方法，其特征为：步骤E还包括对第二神经网络进行优化，包括：
步骤E6．随机初始化第二神经网络模型的参数，使其满足标准正态分布；
步骤E7．通过步骤E6的输出和所述的用户满意度初始标签计算交叉熵的第二损失函数；
步骤E8．通过梯度下降方法，以最小化第二损失函数来优化第二神经网络模型的参数；
步骤E9．重复步骤E8，直至第二损失函数的值不再变小，即得到了最优的第二神经网络模型。
4.如权利要求3所述的基于异构模型的用户满意度分析方法，其特征为：在优化完第一神经网络和第二神经网络后，步骤E还包括对梯度提升树模型进行优化，包括：
步骤E10．最优的第一神经网络模型根据步骤C输出第一模型特征，最优的第二神经网络模型根据步骤D输出第二模型特征，通过第一模型特征、第二模型特征和第二存储区域中所述的产品数据，生成一棵CART决策树
Figure DEST_PATH_IMAGE002
，其中x表示第一模型特征、第二模型特征和产品数据的总集合，
Figure DEST_PATH_IMAGE004
表示CART决策树D 1 中待优化的参数总集合；
步骤E11．使用CART决策树的输出值与所述的用户满意度初始标签计算交叉熵的第三损失函数，然后计算第三损失函数的梯度；
步骤E12．根据所述的第一模型特征、第二模型特征和产品数据，生成第i棵CART决策树
Figure DEST_PATH_IMAGE006
，其中x为产品数据，1≤i≤M，i的初始值为1，M为预设的生成CART决策树的总数量，通过CART决策树
Figure DEST_PATH_IMAGE008
来预测当前的第三损失函数的梯度；
步骤E13．将所述的第i棵CART决策树
Figure DEST_PATH_IMAGE010
乘以学习率ε，将结果累加到当前的梯度提升树模型中，构成新的梯度提升树模型，并计算新的梯度提升树模型的损失函数梯度，将该损失函数梯度作为当前的第三损失函数的梯度；
步骤E14．循环执行步骤E12至步骤E13，每次循环生成的CART决策树
Figure DEST_PATH_IMAGE012
随着当前的第三损失函数的梯度的不同而不同，并且每次循环后i=i+1，直到i=M，完成梯度提升树模型的优化。
5.如权利要求1至4之一所述的基于异构模型的用户满意度分析方法，其特征为：所述的客服工单中的咨询信息包括用户咨询的时间、内容和频次。
6.如权利要求1至4之一所述的基于异构模型的用户满意度分析方法，其特征为：所述用户在产品的系统页面中的操作序列数据包括用户操作事件的类型、操作事件发生的时间、浏览路径和设备类型。
7.如权利要求1至4之一所述的基于异构模型的用户满意度分析方法，其特征为：所述的产品数据包括产品的类型、使用时长和其他客户对该产品的评价。
CN202011595352.8A 2020-12-30 2020-12-30 基于异构模型的用户满意度分析方法 Active CN112329928B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011595352.8A CN112329928B (zh) 2020-12-30 2020-12-30 基于异构模型的用户满意度分析方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011595352.8A CN112329928B (zh) 2020-12-30 2020-12-30 基于异构模型的用户满意度分析方法

Publications (2)

Publication Number Publication Date
CN112329928A true CN112329928A (zh) 2021-02-05
CN112329928B CN112329928B (zh) 2021-04-30

Family

ID=74301985

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011595352.8A Active CN112329928B (zh) 2020-12-30 2020-12-30 基于异构模型的用户满意度分析方法

Country Status (1)

Country Link
CN (1) CN112329928B (zh)

Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104809197A (zh) * 2015-04-24 2015-07-29 同程网络科技股份有限公司 基于智能机器人的在线问答方法
CN105868847A (zh) * 2016-03-24 2016-08-17 车智互联（北京）科技有限公司 一种购物行为的预测方法及装置
CN106528653A (zh) * 2016-10-17 2017-03-22 浙江大学 一种基于图嵌入模型的上下文感知音乐推荐方法
CN108363745A (zh) * 2018-01-26 2018-08-03 阿里巴巴集团控股有限公司 机器人客服转人工客服的方法和装置
CN108540320A (zh) * 2018-04-03 2018-09-14 南京华苏科技有限公司 基于信令挖掘用户满意度的评估方法
CN108629632A (zh) * 2018-05-09 2018-10-09 北京京东金融科技控股有限公司 预测用户收入的方法、装置及计算机可读存储介质
CN109087130A (zh) * 2018-07-17 2018-12-25 深圳先进技术研究院 一种基于注意力机制的推荐系统及推荐方法
CN109343995A (zh) * 2018-10-25 2019-02-15 金税信息技术服务股份有限公司 基于多源异构数据融合、机器学习及客服机器人的智能运维分析系统
CN109447258A (zh) * 2018-09-19 2019-03-08 北京市商汤科技开发有限公司 神经网络模型的优化方法及装置、电子设备和存储介质
CN109509040A (zh) * 2019-01-03 2019-03-22 广发证券股份有限公司 预测基金潜在客户的建模方法、营销方法及装置
CN109670277A (zh) * 2019-02-19 2019-04-23 南京邮电大学 一种基于多模态数据融合与多模型集成的旅行时间预测方法
CN110335058A (zh) * 2019-04-30 2019-10-15 中国联合网络通信集团有限公司 一种用户满意度预测模型的样本生成方法及装置
CN110363551A (zh) * 2018-04-02 2019-10-22 北京嘀嘀无限科技发展有限公司 一种预测用户满意度的方法、系统及计算机设备
CN110674407A (zh) * 2019-09-30 2020-01-10 杭州电子科技大学 基于图卷积神经网络的混合推荐方法
CN110729052A (zh) * 2019-09-10 2020-01-24 合肥工业大学 老年健康数据知识分析方法和系统
US10592555B1 (en) * 2018-10-24 2020-03-17 Alibaba Group Holding Limited Intelligent customer services based on a vector propagation on a click graph model
US20200110783A1 (en) * 2018-10-08 2020-04-09 Yandex Europe Ag Method and system for estimating user-item interaction data
CN111639549A (zh) * 2020-05-12 2020-09-08 中信银行股份有限公司 业务满意度确定方法、装置及电子设备
CN111861514A (zh) * 2020-07-30 2020-10-30 北京车薄荷科技有限公司 一种人员推荐方法及人员推荐系统

Patent Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104809197A (zh) * 2015-04-24 2015-07-29 同程网络科技股份有限公司 基于智能机器人的在线问答方法
CN105868847A (zh) * 2016-03-24 2016-08-17 车智互联（北京）科技有限公司 一种购物行为的预测方法及装置
CN106528653A (zh) * 2016-10-17 2017-03-22 浙江大学 一种基于图嵌入模型的上下文感知音乐推荐方法
CN108363745A (zh) * 2018-01-26 2018-08-03 阿里巴巴集团控股有限公司 机器人客服转人工客服的方法和装置
CN110363551A (zh) * 2018-04-02 2019-10-22 北京嘀嘀无限科技发展有限公司 一种预测用户满意度的方法、系统及计算机设备
CN108540320A (zh) * 2018-04-03 2018-09-14 南京华苏科技有限公司 基于信令挖掘用户满意度的评估方法
CN108629632A (zh) * 2018-05-09 2018-10-09 北京京东金融科技控股有限公司 预测用户收入的方法、装置及计算机可读存储介质
CN109087130A (zh) * 2018-07-17 2018-12-25 深圳先进技术研究院 一种基于注意力机制的推荐系统及推荐方法
CN109447258A (zh) * 2018-09-19 2019-03-08 北京市商汤科技开发有限公司 神经网络模型的优化方法及装置、电子设备和存储介质
US20200110783A1 (en) * 2018-10-08 2020-04-09 Yandex Europe Ag Method and system for estimating user-item interaction data
US10592555B1 (en) * 2018-10-24 2020-03-17 Alibaba Group Holding Limited Intelligent customer services based on a vector propagation on a click graph model
CN109343995A (zh) * 2018-10-25 2019-02-15 金税信息技术服务股份有限公司 基于多源异构数据融合、机器学习及客服机器人的智能运维分析系统
CN109509040A (zh) * 2019-01-03 2019-03-22 广发证券股份有限公司 预测基金潜在客户的建模方法、营销方法及装置
CN109670277A (zh) * 2019-02-19 2019-04-23 南京邮电大学 一种基于多模态数据融合与多模型集成的旅行时间预测方法
CN110335058A (zh) * 2019-04-30 2019-10-15 中国联合网络通信集团有限公司 一种用户满意度预测模型的样本生成方法及装置
CN110729052A (zh) * 2019-09-10 2020-01-24 合肥工业大学 老年健康数据知识分析方法和系统
CN110674407A (zh) * 2019-09-30 2020-01-10 杭州电子科技大学 基于图卷积神经网络的混合推荐方法
CN111639549A (zh) * 2020-05-12 2020-09-08 中信银行股份有限公司 业务满意度确定方法、装置及电子设备
CN111861514A (zh) * 2020-07-30 2020-10-30 北京车薄荷科技有限公司 一种人员推荐方法及人员推荐系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
M. SONG等: ""Towards Pervasive and User Satisfactory CNN across GPU Microarchitectures"", 《 2017 IEEE INTERNATIONAL SYMPOSIUM ON HIGH PERFORMANCE COMPUTER ARCHITECTURE (HPCA)》 *
姜姣娇: ""基于客户价值与满意度的电信运营商集团客户市场营销策略研究"", 《中国博士学位论文全文数据库经济与管理科学辑》 *
赵洪雅: ""古籍数字资源用户使用成本与用户满意度关系研究——以服务效能为中介"", 《图书馆学研究》 *

Also Published As

Publication number Publication date
CN112329928B (zh) 2021-04-30

Similar Documents

Publication Publication Date Title
US10984423B2 (en) Method of operating artificial intelligence machines to improve predictive model training and performance
Fujo et al. Customer churn prediction in telecommunication industry using deep learning
CN110781409B (zh) 一种基于协同过滤的物品推荐方法
CN112528163B (zh) 一种基于图卷积网络的社交平台用户职业预测方法
CN117151870B (zh) 一种基于客群画像行为分析方法及系统
CN114022202B (zh) 基于深度学习的用户流失预测方法及系统
Hu et al. An efficient Long Short-Term Memory model based on Laplacian Eigenmap in artificial neural networks
CN113962160A (zh) 基于用户画像的互联网卡用户流失预测方法及系统
CN112329928B (zh) 基于异构模型的用户满意度分析方法
CN116245645A (zh) 一种基于图神经网络的金融类罪团伙检测方法
CN112966732B (zh) 具有周期属性的多因素交互行为异常检测方法
Erkayman et al. New Artificial intelligence approaches for brand switching decisions
CN110852854B (zh) 一种量化收益模型的生成方法和风险控制策略的评价方法
Bidyuk et al. The algorithm for predicting the cryptocurrency rate taking into account the influence of posts of a group of famous people in social networks
Lin Improvement on behavior scores by dual-model scoring system
CN117668205B (zh) 智慧物流客服处理方法、系统、设备及存储介质
CN116484293B (zh) 一种基于svm算法的平台用户付费行为预测方法
Apostu Using machine learning algorithms to detect frauds in telephone networks
Zhang et al. Prediction of stock based on convolution neural network
Thillainayagam Data Mining techniques and applications-A review
Du et al. Credit Risk Prediction of Telecom Users based on Model Fusion
Rudd et al. Churn Prediction via Multimodal Fusion Learning: Integrating Customer Financial Literacy, Voice, and Behavioral Data
CN116542706A (zh) 一种营销活动结果预测方法及装置
WO2020135642A1 (zh) 一种基于生成对抗网络的模型训练方法及设备
Jiang Predicting Loan Default: A Comparative Analysis of Multiple Machine Learning Models

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant