CN108628882A - 用于预判问题的方法和系统 - Google Patents

Abstract

本发明提供一种用于预判问题的方法和系统。其中用于预判问题的方法包括：步骤一，将用户特征转换为数值形式的特征向量；步骤二，采用训练模型，对所述特征向量进行训练，以获得词典向量；以及步骤三，向用户推送与所述词典向量相对应的一个或多个问题。

Description

用于预判问题的方法和系统

技术领域

本发明涉及一种用于预判问题的方法和系统。

背景技术

随着电商行业的快速发展，对客服人员的需求也越来越大。目前客服人员都是被动的等待用户提问，然后对用户的问题进行解答。很少有客服系统能预先判断用户将要咨询的问题，不能提高用户体验。

预判问题就是在这种场景下应运而生的。通过预判用户想问的问题，然后将问题直接展示给用户，避免了用户的手工输入，提高了用户操作体验。

现有技术基本都是基于客服人员通过工作经验总结的各种规则，如规则:下单时间超过3天，但订单状态为未完成，规则对应问题：为什么我买的商品还没送到？

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：规则都是客服通过主观思维总结出来的，难免有认识不足造成的偏差。同时规则没有考虑到用户个体的差异，导致预判问题的效果不好。

发明内容

有鉴于此，本发明实施例提供一种用于预判问题的方法和系统，能够在不需要人工干预的情况下，完全基于机器学习，预判用户想问的问题，减少了人力成本。

为实现上述目的，根据本发明的一个方面，提供了一种用于预判问题的方法。

本发明的一种用于预判问题的方法包括：步骤一，将用户特征转换为数值形式的特征向量；步骤二，采用训练模型，对所述特征向量进行训练，以获得词典向量；以及步骤三，向用户推送与所述词典向量相对应的一个或多个问题。

可选地，将用户特征转换为数值形式的特征向量还包括：通过特征分类、特征清洗、特征组合以及特征选择，将用户特征转换为数值形式的特征向量；其中所述特征分类包括根据属性对用户特征进行分类，所述特征清洗包括对用户特征的各个维度进行归一化处理，所述特征组合包括通过决策树对用户特征加以组合，所述特征选择包括通过计算用户特征的信息增益，选择排名靠前的用户特征。

可选地，根据属性将所述用户特征分类为：离线特征和实时特征，其中离线特征包括统计特征和建模特征；以及连续型特征和枚举型特征。

可选地，所述训练模型包括编码模型、解码模型以及注意力模型。

可选地，所述方法还包括：如果用户没有点击向其推送的所述一个或多个问题，则收集用户的进一步的特征，并且通过所述步骤一、所述步骤二和所述步骤三继续进行问题的预判和推送。

为实现上述目的，根据本发明的另一个方面，提供了一种用于预判问题的系统。

本发明的一种用于预判问题的系统，包括：特征工程模块，用于将用户特征转换为数值形式的特征向量；模型训练模块，用于采用训练模型，对所述特征向量进行训练，以获得词典向量；以及线上预测模块，用于向用户推送与所述词典向量相对应的一个或多个问题。

可选地，所述特征工程模块还用于：通过特征分类、特征清洗、特征组合以及特征选择，将用户特征转换为数值形式的特征向量；其中所述特征分类包括根据属性对用户特征进行分类，所述特征清洗包括对用户特征的各个维度进行归一化处理，所述特征组合包括通过决策树对用户特征加以组合，所述特征选择包括通过计算用户特征的信息增益，选择排名靠前的用户特征。

可选地，根据属性将所述用户特征分类为：离线特征和实时特征，其中离线特征包括统计特征和建模特征；以及连续型特征和枚举型特征。

可选地，所述训练模型包括编码模型、解码模型以及注意力模型。

可选地，所述系统还包括：增强学习模块，用于如果用户没有点击向其推送的所述一个或多个问题，则收集用户的进一步的特征，并且通过所述特征工程模块、所述模型训练模块和所述线上预测模块继续进行问题的预判和推送。

为实现上述目的，根据本发明的再一方面，提供了一种电子设备。

本发明实施例的一种电子设备，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明实施例的一种用于预判问题的方法。

为实现上述目的，根据本发明的再一方面，提供了一种非暂态计算机可读存储介质。

本发明实施例的一种非暂态计算机可读存储介质存储计算机指令，所述计算机指令用于使所述计算机执行本发明实施例的一种用于预判问题的方法。

上述发明中的一个实施例具有如下优点或有益效果：充分利用已有的问题语料库，采用无监督的方法，在保证召回和准确率的同时，尽量减少人工参与程度，节约人力成本。有效的融合了用户多方面的特征，如购物特征，行为特征，社会属性特征等。很好的灵活性和扩展性。对该装置不用做任何的架构调整就可以增加新特征，只需要用同样的方法重新训练模型即可，无需人工参与进行系统调优。增加的新特征可以不断的强化系统的效果。

上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。

附图说明

附图用于更好地理解本发明，不构成对本发明的不当限定。其中：

图1是根据本发明实施例的用于预判问题的方法的示意图；

图2是根据本发明实施例的seq2seq模型的结构示意图；

图3是根据本发明实施例的训练模型的结构示意图；

图4是根据本发明实施例的用于预判问题的系统的示意图；

图5是实现根据本发明实施例的用于预判问题的方法的电子设备的硬件结构示意图。

具体实施方式

以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图1是根据本发明实施例的用于预判问题的方法的示意图。如图2所示，本发明实施例的一种用于预判问题的方法主要包括如下步骤：

步骤一，将用户特征转换为数值形式的特征向量；

步骤二，采用训练模型，对所述特征向量进行训练，以获得词典向量；以及

步骤三，向用户推送与所述词典向量相对应的一个或多个问题。

根据本发明的用于预判问题的系统可以分为四个模块，即特征工程模块，模型训练模块，线上预测模块增强学习模块。以下对各个模块进行具体的描述。

特征工程模块主要是获取用户的各种信息，然后将信息转换为数值形式，作为模型的输入。模型都是进行数学运算，需要数值型的输入。用户之所以要咨询某个问题，是因为用户自身的某个特征导致的。比如用户提问“我买的商品怎么还没有送到？”，为什么用户会问这个问题呢？可能就是因为用户的订单状态为未完成，并且已经下单一两天了。订单状态，下单就是用户隐含的特征。

在特征工程模块中，首先对特征进行分类。特征可以分为离线特征和实时特征。其中离线特征为不需要实时处理的特征，而实时特征则主要针对用户在网站的浏览点击行为，每时每刻都有很多用户在网站进行各种浏览点击，需要收集这些数据。

离线特征分为两类，即统计特征和建模特征。其中：统计特征如用户会员级别，常见支付方式，终端类型，常用购物时间段，喜欢的品类等等，通过大数据平台编写hive语句进行统计得到。其中hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行。建模特征为需要通过建模算法得到的特征。如用户的性别，年龄，消费习惯，收入水平，职业等等，建模特征主要通过选择正负样本然后通过分类算法来实现。由于用户已经上亿，数据规模较大，每天新增数据以T增加，采用HDFS技术进行存储。采用mapreduce+hive进行采集。数据按照用户维度进行处理。其中HDFS为Hadoop分布式文件系统，其被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。其中mapreduce是一种编程模型，用于大规模数据的并行运算。它极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统上。针对离线特征可以设置定时器。离线特征不是一层不变的，需要定时地进行更新。定时器一般设置为凌晨运行。从用户表，订单表等提取数据进行处理，以从用户表，流量表，点击表，订单表，预定表等采集用户的基础数据。

实时特征主要针对用户在网站的浏览点击行为。针对用户在网站上的浏览点击行为都有埋点数据，接入kafka就可以实时的获取用户的行为。将用户浏览点击的url地址作为特征，得到实时特征。其中kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模的网站中的所有动作流数据。通过接入消息中间件MQ，得到用户订单，售后服务单，售后仲裁单等特征。实时特征包括用户的行为，用户订单，售后服务单，售后仲裁单等。

特征还可以分为枚举型特征和连续型特征。枚举型特征例如为订单状态有等待付款，等待出库，暂停等十多种状态，采用one-hot处理。比如用户的订单状态取值为：等待出库，等待打印，未完成，等待收货，共4种状态。其中等待出库表示为OrderStatus_等待出库；等待打印表示为OrderStatus_等待打印；未完成表示为OrderStatus_未完成；等待收货表示为OrderStatus_等待收货。另外连续型特征例如为年龄，其可以采用分段特征one-hot处理。对年龄age进行分段，比如分为5段,共5个特征，即age<20，对应特征age_20；20<age<30，对应特征age_20_30；30<age<40，对应特征age_30_40；40<age<50，对应特征age_40_50；age>50对应特征age_50。如果用户年龄为35，则对应特征age_30_40。

在特征工程模块中，还需要对特征进行清洗。特征清洗主要是将用户特征转换为特征编号，作为模型的输入。模型都是进行数学运算，需要数值型的输入。主要将特征进行one-hot编号。

在特征工程模块中，还需要对特征进行组合。主要通过决策树加以组合，构建决策树之后，将根节点到所有叶子节点之间经过的特征节点构成一个特征组合，作为一个新的特征加入到特征集中。将多个特征合并为一个特征。比如用户提问“怎么还没有上门安装？”，这个问题隐含用户购买了大家电的商品，并且当前订单状态为等待安装，那么购买大家电和订单状态为等待安装这两个特征可以作为特征组合。

在特征工程模块中，还需要对特征进行选择。特征选择包括：计算所有特征的信息增益，取排名靠前的特征。利用L1，L2正则化选择重要特征，其中L1正则化为权重稀疏，使得权重为0；L2正则化为权值衰减。在特征很多的情况下(上万个特征)，需要减少特征的数量，这样可以减少模型运算的时间，减少模型对内存的需要。特征选择仅仅是删除不重要的特征。

通过对特征的分类、清洗、组合、选择，特征工程模块将生产的所有特征进行编号，然后将用户特征转化为特征向量。比如总共有1000维特征，特征编号为1,2,3,4…1000；一个用户的特征可能就为3,5,34,67,100。

模型训练模块用于从历史日志中收集用户第一个有效问题，作为问题语料。将语料进行分词，去掉重复的词语，构成一个词典。模型训练模块的输入为特征编号的特征向量，模型训练模块的输出是词典向量。其中训练就是根据输入的特征向量对输出的词典向量进行数学含义上的函数拟合。训练会产出模型文件，模型文件包含了函数的参数。

图2是根据本发明实施例的seq2seq模型的结构示意图。图3是根据本发明实施例的训练模型的结构示意图。输入A,B,C对应上面提到的各种离线特征及实时特征，输出X，Y对应用户提出的问题。可以采用seq2seq模型进行训练。其中seq2seq模型利用了RNN对时序序列天然的处理能力，试图建立一个能直接处理变长输入与变长输出的模型。典型的seq2seq的模型如下：如图2所示,模型分为两部分，分别为编码模型及解码模型。首先编码部分的输入为A,B,C,分别与参数矩阵进行矩阵运算，通过Embed层转换为一个向量。然后向量经过encoder层进行编码(采用LSTM单元)。继而形成一个中间向量S。然后将中间向量S作为decoder解码层的输入，进行解码。最后通过softmax函数得到一个概率最大的输出。最后得到解码后的结果X,Y。

在如图2和图3所示的模型中：

A,B,C是模型的输入，对应上文的特征向量；

param为参数矩阵；

Embed层表示将将特征向量的列与param进行矩阵运算；

encoder层进行编码(采用LSTM单元)；

S为特征向量输出的中间向量；

start为特征标识，对应输出的开始(不对应词典中的一个词，仅仅是一个占位符)；

end为特征标识，对应输出的结束(不对应词典中的一个词，仅仅是一个占位符)；

output为输出的向量，通过softmax函数，转换为一个最终输出向量；

X,Y为softmax输出向量中值最大的索引，对应于输出词典的索引；

LSTM:长短期记忆人工神经网络(Long-Short Term Memory)是一种时间递归神经网络(RNN)。因为它可以记忆不定时间长度的数值，区块中有一个gate能够决定input是否重要到能被记住及能不能被输出output。

比如输入为特征向量[3 10 35 34 454 567]，对应图2和图3中的A,B,C。输出为词典向量[34 56 36 22](商品包邮吗？)对应于图2和图3中的X,Y，其中34对应“商品”；56对应“包邮”；36对应“吗”；22对应“？”。

为了克服seq2seq模型的缺点，在图2所示的seq2seq模型基础上加入了注意力(attention)模型，获得如图3所示的训练模型，所述训练模型为seq2seq+attention模型，其包括编码模型、解码模型以及注意力模型。当在解码层计算输出的时候，用当前时刻隐层节点状态去一一和输入特征中每个特征对应的隐层节点状态进行函数运算。这使得解码的时候可以参考输入特征的因素，提高了准确率。

线上预测模块用于向用户推送与词典向量相对应的一个或多个问题。当用户进入web咨询界面时，后台系统马上获取该用户下的所有特征，将其作为训练模型的输入，通过解码得到词典的索引，最后根据索引找到对应的词，将词进行连接得到具体的问题并且将问题推送给用户，以便用户进行点击。如果要向用户推送多个问题，比如要推送3个问题，则在解码第一个词典索引时，可以针对前三个概率最大的输出分别进行三次解码，得到3个问题。

在增强学习模型中，线上系统对用户的点击行为进行埋点，检测用户是否点击了问题，如果没有点击问题，收集用户的特征然后训练模型，及时进行模型的更新。分析埋点数据可以得到用户是否点击。如果没有点击，就收集该用户的信息，进行特征工程模块处理，作为一个badcase样本加入样本集合，重新训练模型。

图4是根据本发明实施例的用于预判问题的系统的示意图。如图4所示,根据本发明实施例的用于预判问题的系统40，包括：特征工程模块41，用于将用户特征转换为数值形式的特征向量；模型训练模块42，用于采用训练模型，对所述特征向量进行训练，以获得词典向量；以及线上预测模块43，用于向用户推送与所述词典向量相对应的一个或多个问题。

根据本发明的实施例，本发明还提供了一种电子设备和一种可读存储介质。

本发明的电子设备包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器执行本发明所提供的用于预判问题的方法。

本发明的非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令用于使所述计算机执行本发明所提供的用于预判问题的方法。

如图5所示，是实现根据本发明实施例的用于预判问题的方法的电子设备的硬件结构示意图。如图5，该电子设备5包括：一个或多个处理器51以及存储器52，图5中以一个处理器51为例。其中，存储器52即为本发明所提供的非暂态计算机可读存储介质。

实现用于预判问题的方法的电子设备还可以包括：输入装置53和输出装置54。

处理器51、存储器52、输入装置53和输出装置54可以通过总线或者其他方式连接，图5中以通过总线连接为例。

存储器52作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序、非暂态计算机可执行程序以及模块，如本发明实施例中的用于预判问题的方法对应的程序指令/模块。处理器51通过运行存储在存储器52中的非暂态软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的用于预判问题的方法。

存储器52可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据用于预判问题的方法的使用所创建的数据等。此外，存储器52可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施例中，存储器52可选包括相对于处理器51远程设置的存储器，这些远程存储器可以通过网络连接至用于预判问题的方法。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

输入装置53可接收输入的数字或字符信息，以及产生与用于预判问题的方法的用户设置以及功能控制有关的键信号输入。输出装置54可包括显示屏等显示设备。

所述一个或者多个模块存储在所述存储器52中，当被所述一个或者多个处理器51执行时，执行上述任意方法实施例中的用于预判问题的方法。

上述产品可执行本发明实施例所提供的方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明实施例所提供的方法。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (12)

1.一种用于预判问题的方法，其特征在于，包括：

步骤一，将用户特征转换为数值形式的特征向量；

步骤二，采用训练模型，对所述特征向量进行训练，以获得词典向量；以及

步骤三，向用户推送与所述词典向量相对应的一个或多个问题。

2.根据权利要求1所述的方法，其特征在于，将用户特征转换为数值形式的特征向量还包括：通过特征分类、特征清洗、特征组合以及特征选择，将用户特征转换为数值形式的特征向量；其中所述特征分类包括根据属性对用户特征进行分类，所述特征清洗包括对用户特征的各个维度进行归一化处理，所述特征组合包括通过决策树对用户特征加以组合，所述特征选择包括通过计算用户特征的信息增益，选择排名靠前的用户特征。

3.根据权利要求1所述的方法，其特征在于，根据属性将所述用户特征分类为：

离线特征和实时特征，其中离线特征包括统计特征和建模特征；以及

连续型特征和枚举型特征。

4.根据权利要求1所述的方法，其特征在于，所述训练模型包括编码模型、解码模型以及注意力模型。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

如果用户没有点击向其推送的所述一个或多个问题，则收集用户的进一步的特征，并且通过所述步骤一、所述步骤二和所述步骤三继续进行问题的预判和推送。

6.一种用于预判问题的系统，其特征在于，包括：

特征工程模块，用于将用户特征转换为数值形式的特征向量；

模型训练模块，用于采用训练模型，对所述特征向量进行训练，以获得词典向量；以及

线上预测模块，用于向用户推送与所述词典向量相对应的一个或多个问题。

7.根据权利要求6所述的系统，其特征在于，所述特征工程模块还用于：

通过特征分类、特征清洗、特征组合以及特征选择，将用户特征转换为数值形式的特征向量；其中所述特征分类包括根据属性对用户特征进行分类，所述特征清洗包括对用户特征的各个维度进行归一化处理，所述特征组合包括通过决策树对用户特征加以组合，所述特征选择包括通过计算用户特征的信息增益，选择排名靠前的用户特征。

8.根据权利要求6所述的系统，其特征在于，根据属性将所述用户特征分类为：

离线特征和实时特征，其中离线特征包括统计特征和建模特征；以及

连续型特征和枚举型特征。

9.根据权利要求6所述的系统，其特征在于，所述训练模型包括编码模型、解码模型以及注意力模型。

10.根据权利要求6所述的系统，其特征在于，所述系统还包括：

增强学习模块，用于如果用户没有点击向其推送的所述一个或多个问题，则收集用户的进一步的特征，并且通过所述特征工程模块、所述模型训练模块和所述线上预测模块继续进行问题的预判和推送。

11.一种电子设备，其特征在于，包括：

至少一个处理器；以及，

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。

12.一种非暂态计算机可读存储介质，其特征在于，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。