CN110555749B - 基于神经网络的信用行为预测方法以及装置 - Google Patents

Abstract

本申请提供基于神经网络的信用行为预测方法以及装置，其中，所述基于神经网络的信用行为预测方法包括：获取用户的历史交易订单；对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率。所述基于神经网络的信用行为预测方法，实现了更加充分的数据挖掘，提升了数据利用率，同时在充分挖掘用户交易数据的基础上，对用户信用行为的预测的准确性和有效性也更高。

Description

基于神经网络的信用行为预测方法以及装置

技术领域

本申请涉及数据处理技术领域，特别涉及一种基于神经网络的信用行为预测方法。本申请同时涉及一种基于神经网络的信用行为预测装置，一种计算设备，以及一种计算机可读存储介质。

背景技术

随着信用体系的建立和完善，通过云计算、机器学习等技术客观呈现用户个人信用状况的第三方征信机构也越来越多，用户在第三方征信机构的信用分数反应了用户在未来一段时间内发生信用逾期的风险，具体在评估用户的信用分数时，会利用用户的授权来采集用户的行为数据，包括用户在线上购物数据、线下商家的消费行为数据等。

目前，在基于用户信用来预测用户的行为时，基于用户历史消费数据的一些统计特征，比如是否购买网游类目，购买过的类目数量等，通过特征加工衍生出统计变量，最后利用统计模型对用户行为进行预测，但由于数据维度多、规模大，而统计模型处理特征个数有限，很难充分挖掘出数据价值，存在一定的缺陷。

发明内容

有鉴于此，本申请实施例提供了一种基于神经网络的信用行为预测方法，以解决现有技术中存在的技术缺陷。本申请实施例同时提供了一种基于神经网络的信用行为预测装置，一种计算设备，以及一种计算机可读存储介质。

本申请提供一种基于神经网络的信用行为预测方法，包括：

获取用户的历史交易订单；

对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

可选的，所述对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据步骤执行之后，且所述将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率步骤执行之前，包括：

针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储。

可选的，所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

可选的，所述注意力权重，采用如下公式计算：

α_c＝β·min(log₂(1+n_c)，4)

其中，c为交易数据对应的类目，α_c为类目c下交易数据的注意力权重，n_c根据类目c下的交易数据中包含的商品数目确定，β根据类目c下的交易数据中包含的时间数据和商品类目确定。

可选的，所述针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵，包括：

判断所述交易数据的数目是否等于预设数目阈值；

若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

可选的，所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

可选的，所述基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率，包括：

对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

可选的，所述数据维度，包括下述至少一项：卖家维度、商品类目维度、线下交易维度。

本申请提供一种基于神经网络的信用行为预测装置，包括：

历史交易订单获取模块，被配置为获取用户的历史交易订单；

历史交易订单解析模块，被配置为对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

信用行为预测模块，被配置为将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层包括向量转换子模块、向量聚合子模块和预测子模块；

所述向量转换子模块，被配置为将所述交易数据转换成对应的稀疏向量；

所述向量聚合子模块，被配置为将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量；

所述预测子模块，被配置为基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

可选的，所述基于神经网络的信用行为预测装置，还包括：

交易数据存储模块，被配置为针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储。

可选的，所述向量聚合子模块，包括：

向量合并单元，被配置为针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

向量聚合单元，被配置为通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

可选的，所述向量合并单元，具体被配置为判断所述交易数据的数目是否等于预设数目阈值；若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

可选的，所述向量聚合子模块，具体被配置为通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

可选的，所述预测子模块，包括：

计算单元，被配置为对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

预测单元，被配置为对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

本申请提供一种计算设备，包括：存储器和处理器；

所述存储器用于存储计算机可执行指令，所述处理器用于执行所述计算机可执行指令：

获取用户的历史交易订单；

对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

本申请提供一种计算机可读存储介质，其存储有计算机指令，该指令被处理器执行时实现所述基于神经网络的信用行为预测方法的步骤。

与现有技术相比，本申请具有如下优点：

本申请提供一种基于神经网络的信用行为预测方法，包括：获取用户的历史交易订单；对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；其中，所述神经网络包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

本申请提供的基于神经网络的信用行为预测方法，从所述用户的历史交易订单出发，在神经网络中通过向量表示方法对所述历史交易订单中记录的交易数据进行深度挖掘，实现了更加充分的数据挖掘，提升了数据利用率，同时在充分挖掘用户交易数据的基础上，对所述用户信用行为预测的准确性和有效性也更高。

附图说明

图1是本申请实施例提供的一种基于神经网络的信用行为预测方法处理流程图；

图2是本申请实施例提供的一种深度神经网络的示意图；

图3是本申请实施例提供的一种基于神经网络的信用行为预测装置的示意图；

图4是本申请实施例提供的一种计算设备的结构框图。

具体实施方式

在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是本申请能够以很多不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本申请内涵的情况下做类似推广，因此本申请不受下面公开的具体实施的限制。

在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本说明书一个或多个实施例范围的情况下，第一也可以被称为第二，类似地，第二也可以被称为第一。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

本申请提供一种基于神经网络的信用行为预测方法，本申请还提供一种基于神经网络的信用行为预测装置，一种计算设备，以及一种计算机可读存储介质。以下分别结合本申请提供的实施例的附图逐一进行详细说明，并且对方法的各个步骤进行说明。

本申请提供的一种基于神经网络的信用行为预测方法实施例如下：

参照附图1，其示出了本实施例提供的一种基于神经网络的信用行为预测方法处理流程图，参照附图2，其示出了本实施例提供的一种深度神经网络的示意图。

步骤S102，获取用户的历史交易订单。

实际应用中，用户消费过的卖家数目、商品类目数目等都比较低频，数据的丰富度差异很大，另外线上线下的卖家数据多达百万甚至千万级别，同时，线上的商品类目也多达几千甚至上万，这都给数据挖掘带来很大难度。

本申请实施例提供的基于神经网络的信用行为预测方法，在考虑到数据是多视角、特征稀疏且大规模的情况下，从用户的历史交易订单出发，基于深度学习中的嵌入向量表示方法处理历史交易订单中记录的离散化交易数据，从而对用户的历史交易数据中各个数据维度的偏好进行挖掘，比如采用深度学习技术对卖家维度、商品类目维度、线下交易维度等多个维度的数据进行挖掘，在充分挖掘用户的交易偏好的基础上，能够更加准确的对所述用户的信用行为(比如用户的信用风险)进行预测。

具体实施时，在获取所述用户的历史交易订单的过程中，是指获取所述用户过去一段时间周期内的历史交易订单，比如获取用户u在过去一年内的交易订单数据。

步骤S104，对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据。

在获取到所述用户的历史交易订单之后，按照数据维度对所述历史交易订单中记录的交易数据进行解析，从而获得所述用户在各个数据维度的交易数据。

本申请实施例所述数据维度，包括卖家维度、商品类目维度、线下交易维度这3个数据维度，除此之外，所述数据维度还可以是业务类型、商家类型、卖家偏好等数据维度，对此不做限定。

在通过解析获得所述用户在各个数据维度的交易数据之后，为方便后续将所述交易数据转化为稀疏格式的矩阵形式(稀疏矩阵)，本申请实施例提供的一种可选实施方式中，针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储。

例如，对用户u在过去一年的商品交易订单进行汇总整理，并对商品交易订单中记录的商品交易数据按照卖家维度、商品类目维度、线下交易维度这3个数据维度进行解析，获得用户u在这3个数据维度下的商品交易数据；

以商品类目维度为例，统计用户u每个叶子类目(最小类别)进行商品购买的购买天数，在每个叶子类目最近一次进行商品购买的日期距离当前的天数，以及每个叶子类目所属的一级类目(最大类别)，并且以key-value的稀疏格式保存，方便后续转化为稀疏的矩阵形式，如下表：

步骤S106，将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率。

本申请实施例所述神经网络，包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

具体的，上述在将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得所述聚合向量的过程中，为了提升所述稀疏向量的聚合效率，同时也为了提升聚合后获得的所述聚合向量的准确性，本申请提供的一种可选实施方式中采用如下方式将所述稀疏向量合并为所述聚合向量：

1)针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

实际应用中，不同用户参与购买的卖家数目可能会存在差异，所购买商品的商品类目可能也有不同，在线下消费的商家类别可能也有所不同，这种情况下会导致稀疏向量的数目不同，从而导致合并后的稀疏矩阵的行列数不同，为了对稀疏矩阵进行标准化处理，可选的，采用如下方式将所述稀疏向量合并为稀疏矩阵：

判断所述交易数据的数目是否等于预设数目阈值；

若是，在表明所述用户的交易数据的数目正好满足标准化处理的要求，将所述稀疏向量合并为所述稀疏矩阵即可；

若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

以卖家维度为例，用户u过去1年内有过购买行为的卖家用i表示，卖家i的商品交易数据对应的稀疏向量表示为v_i∈R^d，稀疏向量合并后的稀疏矩阵表示为V∈R^d×n；

若用户u在过去1年内有过购买行为的卖家集合为I_u，则用户u在过去1年内有过购买行为的卖家对应的稀疏向量v_i合并后的稀疏矩阵为：V_u＝{...，v_i，...}，i∈I_u；

预先设置的数目阈值为200，即|I_u|＝200，如果用户u过去1年内有过购买行为的卖家数目小于200，则将不足部分用0补齐；

若用户u过去1年内有过购买行为的卖家数目大于200，则按照时间顺序，将距当前时间点时间较远的数据剔除，从而通过对用户的交易数据对应的稀疏向量进行规范化，实现对根据稀疏向量合并后获得的稀疏矩阵的标准化，提升处理效率。

2)通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

可选的，所述注意力权重，采用如下公式计算：

α_c＝β·min(log₂(1+n_c)，4)

其中，c为交易数据对应的类目，α_c为类目c下交易数据的注意力权重，n_c根据类目c下的交易数据中包含的商品数目确定，β根据类目c下的交易数据中包含的时间数据和商品类目确定。

通过引入所述注意力权重来考虑用户在不同卖家进行消费的影响，以及用户消费的不同类目商品的影响，对所述用户的历史交易订单数据的挖掘更加精确。

上述在结合所述注意力权重对所述稀疏向量进行聚合获得所述聚合向量之后，进一步，为了提升所述预测效率和准确率，本申请实施例提供的一种可选实施方式中，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率，具体采用如下方式实现：

对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

下述结合附图2提供的深度神经网络，对用户u的商品交易数据输入深度神经网络进行信用风险评估，输出用户u的信用风险评估的预测概率这一过程进行详细说明；

附图2所示的深度神经网络，包括输入层、输出层和隐藏层，隐藏层具体包括与输入层连接的第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层以及与输出层连接的第五隐藏层；

其中，输入层的输入为用户u在卖家维度、商品类目维度、线下交易维度这3个数据维度下的商品交易数据，并且交易数据按照稀疏格式进行输入；

输入层输入用户u在卖家维度、商品类目维度、线下交易维度这3个数据维度下的商品交易数据之后，由第一隐藏层对输入层输入的商品交易数据进行处理，具体的，分别将这3个数据维度下稀疏格式的商品交易数据转换为对应的稀疏向量，并且分别将这3个数据维度下的稀疏向量合并为稀疏矩阵；

以卖家维度为例，用户u过去1年内有过购买行为的卖家用i表示，卖家i的商品交易数据转换为对应的稀疏向量表示为v_i∈R^d，稀疏向量合并后的稀疏矩阵表示为V∈R^d×n；

若用户u在过去1年内有过购买行为的卖家集合为I_u，则用户u在过去1年内有过购买行为的卖家对应的稀疏向量v_i合并后的稀疏矩阵为：V_u＝{...，v_i，...}，i∈I_u；

以及，分别计算这3个数据维度下的稀疏向量的注意力权重，以商品类目维度为例，商品类目维度下注意力权重采用如下公式计算：

α_c＝β·min(log₂(1+n_c)，4)

其中，c为用户u所购买商品的商品类目，α_c为该商品类目c下的注意力权重，n_c为用户u在该商品类目c下购买商品的数目，β根据该商品类目c下商品购买距当前的天数t_c和商品类目c所属的一级类目y_c确定，具体的，将t_c分段离散化之后，与一级类目y_c进行组合后建立与β的对应关系；

第一隐藏层将这3个数据维度下的稀疏向量合并为稀疏矩阵并且计算获得这3个数据维度下的注意力权重之后，然后将合并后获得的这3个数据维度下的稀疏矩阵和这3个数据维度下的注意力权重输入至第二隐藏层；

第二隐藏层根据第一隐藏层输入的这3个数据维度下的稀疏矩阵和这3个数据维度下的注意力权重，通过将这3个数据维度下注意力权重与各自数据维度下稀疏矩阵相乘的方式进行聚合，分别获得这3个数据维度下的聚合向量；

聚合向量

此外，可以通过引入归一化函数f(n)来进行向量聚合，其中，以2^k(k∈N)为划分点进行划分，并将划分后的每个区间对应一个函数值作为参数；

第二隐藏层获得这3个数据维度下的聚合向量之后，将这3个数据维度下的聚合向量输入至第三隐藏层；

第三隐藏层根据第二隐藏层输入的这3个数据维度下的聚合向量，分别对这3个数据维度下的聚合向量进行两两交叉点乘，获得3个点乘向量，并将计算获得的3个点乘向量输入至第四隐藏层；

第四隐藏层根据第三隐藏层输入的3个点乘向量，对这3个点乘向量进行合并，并将合并结果输入至第五隐藏层，第五隐藏层通过调用预先配置好的用于预测用户信用风险的概率函数，将这3个点乘向量的合并结果作为概率函数的输入，经概率函数计算后输出用户u信用风险的预测概率，并将该用户u信用风险的预测概率通过输出层输出。

需要说明的是，为了提升对所述用户的信用行为进行预测的效率和准确率，实际应用中，还可以构建深度神经网络模型，将上述提供的深度神经网络整合到深度神经网络模型中，并且利用训练样本对构建的深度神经网络模型进行训练，基于训练后获得的深度神经网络模型对所述用户的信用行为进行预测。

上述提供的可选实施方式中，实现了带有注意力权重的向量聚合方式，对稀疏向量的处理效率更高，除此之外，还可以采用其他方式进行向量聚合，比如通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

本申请提供的基于神经网络的信用行为预测方法，从所述用户的历史交易订单出发，在神经网络中通过向量表示方法对所述历史交易订单中记录的交易数据进行深度挖掘，实现了更加充分的数据挖掘，提升了数据利用率，同时在充分挖掘用户交易数据的基础上，对所述用户信用行为预测的准确性和有效性也更高。

本申请提供的一种基于神经网络的信用行为预测装置实施例如下：

在上述的实施例中，提供了一种基于神经网络的信用行为预测方法，与之相对应的，本申请还提供了一种基于神经网络的信用行为预测装置，下面结合附图进行说明。

参照附图3，其示出了本申请提供的一种基于神经网络的信用行为预测装置实施例的示意图。

由于装置实施例基本相似于方法实施例，所以描述得比较简单，相关的部分请参见上述提供的方法实施例的对应说明即可。下述描述的装置实施例仅仅是示意性的。

本申请提供一种基于神经网络的信用行为预测装置，包括：

历史交易订单获取模块302，被配置为获取用户的历史交易订单；

历史交易订单解析模块304，被配置为对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

信用行为预测模块306，被配置为将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层包括向量转换子模块、向量聚合子模块和预测子模块；

所述向量转换子模块，被配置为将所述交易数据转换成对应的稀疏向量；

所述向量聚合子模块，被配置为将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量；

所述预测子模块，被配置为基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

可选的，所述基于神经网络的信用行为预测装置，还包括：

交易数据存储模块，被配置为针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储。

可选的，所述向量聚合子模块，包括：

向量合并单元，被配置为针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

向量聚合单元，被配置为通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

可选的，所述注意力权重，采用如下公式计算：

α_c＝β·min(log₂(1+n_c)，4)

其中，c为交易数据对应的类目，α_c为类目c下交易数据的注意力权重，n_c根据类目c下的交易数据中包含的商品数目确定，β根据类目c下的交易数据中包含的时间数据和商品类目确定。

可选的，所述向量合并单元，具体被配置为判断所述交易数据的数目是否等于预设数目阈值；若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

可选的，所述向量聚合子模块，具体被配置为通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

可选的，所述预测子模块，包括：

计算单元，被配置为对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

预测单元，被配置为对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

可选的，所述数据维度，包括下述至少一项：

卖家维度、商品类目维度、线下交易维度。

本申请提供的一种计算设备实施例如下：

图4是示出了根据本说明书一实施例的计算设备400的结构框图。该计算设备400的部件包括但不限于存储器410和处理器420。处理器420与存储器410通过总线430相连接，数据库450用于保存数据。

计算设备400还包括接入设备440，接入设备440使得计算设备400能够经由一个或多个网络460通信。这些网络的示例包括公用交换电话网(PSTN)、局域网(LAN)、广域网(WAN)、个域网(PAN)或诸如因特网的通信网络的组合。接入设备440可以包括有线或无线的任何类型的网络接口(例如，网络接口卡(NIC))中的一个或多个，诸如IEEE802.11无线局域网(WLAN)无线接口、全球微波互联接入(Wi-MAX)接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、蓝牙接口、近场通信(NFC)接口，等等。

在本说明书的一个实施例中，计算设备400的上述部件以及图4中未示出的其他部件也可以彼此相连接，例如通过总线。应当理解，图4所示的计算设备结构框图仅仅是出于示例的目的，而不是对本说明书范围的限制。本领域技术人员可以根据需要，增添或替换其他部件。

计算设备400可以是任何类型的静止或移动计算设备，包括移动计算机或移动计算设备(例如，平板计算机、个人数字助理、膝上型计算机、笔记本计算机、上网本等)、移动电话(例如，智能手机)、可佩戴的计算设备(例如，智能手表、智能眼镜等)或其他类型的移动设备，或者诸如台式计算机或PC的静止计算设备。计算设备400还可以是移动式或静止式的服务器。

本申请提供一种计算设备，包括存储器410、处理器420及存储在存储器上并可在处理器上运行的计算机指令，所述处理器420用于执行如下计算机可执行指令：

获取用户的历史交易订单；

对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

可选的，所述对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据指令执行之后，且所述将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率指令执行之前，所述处理器420还用于执行如下计算机可执行指令：

针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储。

可选的，所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

可选的，所述注意力权重，采用如下公式计算：

α_c＝β·min(log₂(1+n_c)，4)

其中，c为交易数据对应的类目，α_c为类目c下交易数据的注意力权重，n_c根据类目c下的交易数据中包含的商品数目确定，β根据类目c下的交易数据中包含的时间数据和商品类目确定。

可选的，所述针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵，包括：

判断所述交易数据的数目是否等于预设数目阈值；

若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

可选的，所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

可选的，所述基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率，包括：

对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

可选的，所述数据维度，包括下述至少一项：

卖家维度、商品类目维度、线下交易维度。

本申请提供的一种计算机可读存储介质实施例如下：

本申请提供一种计算机可读存储介质，其存储有计算机指令，该指令被处理器执行时以用于：

获取用户的历史交易订单；

对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率。

可选的，所述对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据步骤执行之后，且所述将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率步骤执行之前，包括：

针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储。

可选的，所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

可选的，所述注意力权重，采用如下公式计算：

α_c＝β·min(log₂(1+n_c)，4)

其中，c为交易数据对应的类目，α_c为类目c下交易数据的注意力权重，n_c根据类目c下的交易数据中包含的商品数目确定，β根据类目c下的交易数据中包含的时间数据和商品类目确定。

可选的，所述针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵，包括：

判断所述交易数据的数目是否等于预设数目阈值；

若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

可选的，所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

可选的，所述基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率，包括：

对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

可选的，所述数据维度，包括下述至少一项：

卖家维度、商品类目维度、线下交易维度。

上述为本实施例的一种计算机可读存储介质的示意性方案。需要说明的是，该存储介质的技术方案与上述的基于神经网络的信用行为预测方法的技术方案属于同一构思，存储介质的技术方案未详细描述的细节内容，均可以参见上述基于神经网络的信用行为预测方法的技术方案的描述。

所述计算机指令包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。

需要说明的是，对于前述的各方法实施例，为了简便描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定都是本申请所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其它实施例的相关描述。

以上公开的本申请优选实施例只是用于帮助阐述本申请。可选实施例并没有详尽叙述所有的细节，也不限制该发明仅为所述的具体实施方式。显然，根据本说明书的内容，可作很多的修改和变化。本说明书选取并具体描述这些实施例，是为了更好地解释本申请的原理和实际应用，从而使所属技术领域技术人员能很好地理解和利用本申请。本申请仅受权利要求书及其全部范围和等效物的限制。

Claims (12)

1.一种基于神经网络的信用行为预测方法，其特征在于，包括：

获取用户的历史交易订单；

对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储；

将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率；

所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

2.根据权利要求1所述的基于神经网络的信用行为预测方法，其特征在于，所述注意力权重，采用如下公式计算：

其中，c为交易数据对应的类目，

为类目c下交易数据的注意力权重，n_c根据类目c下的交易数据中包含的商品数目确定，

根据类目c下的交易数据中包含的时间数据和商品类目确定。

3.根据权利要求1所述的基于神经网络的信用行为预测方法，其特征在于，所述针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵，包括：

判断所述交易数据的数目是否等于预设数目阈值；

若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

4.根据权利要求1所述的基于神经网络的信用行为预测方法，其特征在于，所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

5.根据权利要求1所述的基于神经网络的信用行为预测方法，其特征在于，所述基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率，包括：

对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

6.根据权利要求1所述的基于神经网络的信用行为预测方法，其特征在于，所述数据维度，包括下述至少一项：

卖家维度、商品类目维度、线下交易维度。

7.一种基于神经网络的信用行为预测装置，其特征在于，包括：

历史交易订单获取模块，被配置为获取用户的历史交易订单；

历史交易订单解析模块，被配置为对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

信用行为预测模块，被配置为将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，所述隐藏层包括向量转换子模块、向量聚合子模块和预测子模块；

所述向量转换子模块，被配置为将所述交易数据转换成对应的稀疏向量；

所述向量聚合子模块，被配置为将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量；

所述预测子模块，被配置为基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率；

交易数据存储模块，被配置为针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储；

向量合并单元，被配置为针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

向量聚合单元，被配置为通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

8.根据权利要求7所述的基于神经网络的信用行为预测装置，其特征在于，所述向量合并单元，具体被配置为判断所述交易数据的数目是否等于预设数目阈值；若否，按照所述数目阈值对所述交易数据进行补充或者剔除，并将补充或者剔除后与所述数目阈值相等的交易数据对应的向量合并为所述稀疏矩阵。

9.根据权利要求7所述的基于神经网络的信用行为预测装置，其特征在于，所述向量聚合子模块，具体被配置为通对所述稀疏向量进行加权平均计算或者平均计算的方式进行聚合，获得所述聚合向量。

10.根据权利要求7所述的基于神经网络的信用行为预测装置，其特征在于，所述预测子模块，包括：

计算单元，被配置为对所述数据维度的聚合向量进行两两交叉点乘，获得各数据维度的点乘向量；

预测单元，被配置为对各数据维度的点乘向量进行合并，通过调用所述概率函数，并将点乘向量合并结果作为所述概率函数的输入，经所述概率函数计算后输出所述预测概率。

11.一种计算设备，其特征在于，包括：

存储器和处理器；

所述存储器用于存储计算机可执行指令，所述处理器用于执行所述计算机可执行指令：

获取用户的历史交易订单；

对所述历史交易订单进行解析，获得所述用户在多个数据维度的交易数据；

针对每个数据维度的交易数据，根据所述交易数据的参数类型对交易数据按照稀疏格式进行存储；

将所述交易数据输入神经网络进行信用行为预测，输出所述用户的信用行为的预测概率；

其中，所述神经网络包括多个隐藏层，通过所述隐藏层将所述交易数据转换成对应的稀疏向量，并将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，以及，基于所述聚合向量和预先构建所述神经网络过程中确定的进行信用行为预测的概率函数计算所述预测概率；

所述将所述稀疏向量对应的注意力权重作为聚合权重对所述稀疏向量进行聚合，获得聚合向量，包括：

针对每个数据维度的交易数据对应的稀疏向量，将所述稀疏向量合并为稀疏矩阵；

通过将各数据维度下注意力权重与该数据维度下稀疏矩阵相乘的方式进行聚合，获得所述聚合向量。

12.一种计算机可读存储介质，其存储有计算机指令，其特征在于，该指令被处理器执行时实现权利要求1至6任意一项所述基于神经网络的信用行为预测方法的步骤。

Images