CN108959603A - 基于深度神经网络的个性化推荐系统及方法 - Google Patents

Abstract

本发明提供一种基于深度神经网络的个性化推荐系统及方法，通过融合深度神经网络的候选集生成模块，结合多用户和多项目特征进行深度神经网络学习生成候选集，以及基于融合深度神经网络的排序集生成模块，结合多用户和多项目特征对候选集进行深度神经网络学习和评分，生成包含个性化推荐内容更优的排序集，最后基于协同过滤算法和排序集进行进一步的个性化推荐，得到最终的推荐列表。通过上述方式结合多用户和多项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

Description

基于深度神经网络的个性化推荐系统及方法

技术领域

本发明涉及数据挖掘及深度学习技术领域，更具体的是，涉及一种基于深度神经网络的个性化推荐系统及方法。

背景技术

随着现代互联网产业的飞速发展，互联网数据呈现几何级数的增长，用户对推荐数据的个性化、精准度、需求预判性的要求也越来越高。现有技术中常用的推荐算法包括协同过滤推荐、组合推荐、基于内容的推荐等。

基于目前互联网数据的感知变化，越来越多的用户和项目数据由视频、图像、标签、文本等多源异构数据构成，由此，在进行数据推荐的过程中所面对的数据内容复杂度也提高了。上述现有技术中常用的推荐算法主要适用于数据内容复杂度低的情况，在面对需要推荐多源异构数据等复杂度高的数据内容的情况下，仍然采用现有技术中常用的推荐算法，会导致推荐效率降低，影响用户感受的问题出现。

发明内容

有鉴于此，本发明实施例提供了一种基于深度神经网络的个性化推荐系统及方法，以解决现有的推荐方式推荐效率低，影响用户感受的问题。

为实现上述目的，现提出的方案如下：

本发明第一方面公开了一种基于深度神经网络的个性化推荐系统，所述系统包括：

与深度神经网络融合的候选集生成模块，用于对第一多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第一用户特征向量和对应项目的第一项目特征向量，以及基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量，进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集；

与深度神经网络融合的排序集生成模块，用于对第二多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第二用户特征向量和对应项目的第二项目特征向量，以及基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习和评分，生成包含评分由高至低排列的k个项目的排序集；

个性化推荐模块，用于基于协同过滤算法，计算所述排序集中k个项目的多用户-项目相关度，生成包含相关度由高至低排列的M个项目的推荐列表，其中，k的取值小于N，M的取值小于k，k、N和M为实数。

优选的，所述候选集生成模块，包括：

第一数据单元，用于获取所述第一多源异构数据源中的多源异构数据，基于用户特征和项目特征对所述多源异构数据进行处理，确定分别对应用户的第一用户特征值和对应项目的第一项目特征值，对所述第一用户特征值和第一项目特征值进行特征向量化，得到对应的第一用户特征向量和第一项目特征向量；

第一深度神经网络学习单元，用于基于所述深度神经网络的隐含层ReLU激活函数对所述第一用户特征向量进行处理，得到对应的第一用户隐特征向量，以及基于隐含层ReLU激活函数对所述第一项目特征向量进行处理，得到对应的第一项目隐特征向量，以及基于所述第一用户隐特征向量确定第一用户隐表示，基于所述第一项目隐特征向量确定第一项目隐表示，拟合所述第一用户隐表示和所述第一项目隐表示，得到第一用户项目交互矩阵；

候选集生成单元，用于基于所述深度神经网络对所述第一用户项目交互矩阵进行分类训练学习以及相似度计算，确定包含相似度由高至低的N个项目的候选集。

优选的，所述候选集生成模块，还包括：

第一协同过滤单元，用于基于协同过滤算法和预设概率确定所述候选集的N个项目中作为第一级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。

优选的，所述排序集生成模块，包括：

第二数据单元，用于获取第二多源异构数据源中的多源异构数据，基于用户特征和项目特征对所述多源异构数据进行处理，确定分别对应用户的第二用户特征值和对应项目的第二项目特征值，对所述第二用户特征值和第二项目特征值进行特征向量化，得到对应的第二用户特征向量和第二项目特征向量；

第二深度神经网络学习单元，用于基于所述深度神经网络的隐含层ReLU激活函数对所述第二用户特征向量进行处理，得到对应的第二用户隐特征向量，以及基于隐含层ReLU激活函数对所述第二项目特征向量进行处理，得到对应的第二项目隐特征向量，以及基于所述第二用户隐特征向量确定第二用户隐表示，基于所述第二项目隐特征向量确定第二项目隐表示，拟合所述第二用户隐表示和所述第二项目隐表示，得到第二用户项目交互矩阵作为预测评分特征矩阵；

排序集生成单元，用于基于深度神经网络和所述预测评分特征矩阵进行分类和加权逻辑回归训练学习，并基于学习结果对所述候选集中的N个项目进行评分，生成包含评分由高至低排列的k个项目的排序集。

优选的，所述个性化推荐模块，还包括：

第二协同过滤单元，用于基于协同过滤算法和预设概率确定所述排序集的k个项目中作为第二级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。

本发明第二方面公开了一种基于深度神经网络的个性化推荐方法，适用于本发明第一方面公开的所述基于深度神经网络的个性化推荐系统，所述方法包括：

候选集生成模块对第一多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第一用户特征向量和对应项目的第一项目特征向量；

候选集生成模块基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量、进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集；

排序集生成模块对第二多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第二用户特征向量和对应项目的第二项目特征向量；

排序集生成模块基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习，生成包含评分由高至低排列的k个项目的排序集；

个性化推荐模块基于协同过滤算法，计算所述排序集中k个项目的多用户-项目相关度，生成包含相关度由高至低排列的M个项目的推荐列表，其中，k的取值小于N，M的取值小于k，k、N和M为实数。

优选的，所述候选集生成模块基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量、进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集，包括：

基于所述深度神经网络的隐含层ReLU激活函数对所述第一用户特征向量进行处理，得到对应的第一用户隐特征向量；

基于隐含层ReLU激活函数对所述第一项目特征向量进行处理，得到对应的第一项目隐特征向量；

根据所述第一用户隐特征向量确定第一用户隐表示；

根据所述第一项目隐特征向量确定第一项目隐表示；

拟合所述第一用户隐表示和所述第一项目隐表示，得到第一用户项目交互矩阵；

基于深度神经网络对所述第一用户项目交互矩阵进行分类训练学习以及相似度计算，确定包含相似度由高至低的N个项目的候选集。

优选的，所述基于深度神经网络的个性化推荐方法，还包括：

基于协同过滤算法和预设概率确定所述候选集的N个项目中作为第一级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。

优选的，所述排序集生成模块基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习，生成包含评分由高至低排列的k个项目的排序集，包括：

基于所述深度神经网络的隐含层ReLU激活函数对所述第二用户特征向量进行处理，得到对应的第二用户隐特征向量；

基于隐含层ReLU激活函数对所述第二项目特征向量进行处理，得到对应的第二项目隐特征向量；

根据所述第二用户隐特征向量确定第二用户隐表示；

根据所述第二项目隐特征向量确定第二项目隐表示；

拟合所述第二用户隐表示和所述第二项目隐表示，得到第二用户项目交互矩阵作为预测评分特征矩阵；

基于深度神经网络和所述预测评分特征矩阵进行分类和加权逻辑回归训练学习，并基于学习结果对所述候选集中的N个项目进行评分，生成包含评分由高至低排列的k个项目的排序集。

优选的，所述基于深度神经网络的个性化推荐方法，还包括：

基于协同过滤算法和预设概率确定所述排序集的k个项目中作为第二级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。

经由上述技术方案可知，本发明实施例提供了一种基于深度神经网络的个性化推荐系统及方法，基于深度神经网络理论，通过自学习能提取用户信息和项目信息的深层隐特征，结合多用户和多项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图；

图2为本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图；

图3为本发明实施例提供的深度神经网络的模型示意图；

图4为本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图；

图5为本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图；

图6为本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图；

图7为本发明实施例提供的一种基于深度神经网络的个性化推荐方法的流程图；

图8为本发明实施例提供的一种基于深度神经网络的个性化推荐方法的具体示例图；

图9为本发明实施例提供的一种基于深度神经网络的个性化推荐方法的具体示例图；

图10为本发明实施例提供的基于深度神经网络的个性化推荐示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本申请中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

参考图1，示出了本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图。该个性化推荐系统包括：候选集生成模块101、排序集生成模块102和个性化推荐模块103。

候选集生成模块101，用于根据用户特征和项目特征对第一多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第一用户特征向量和对应项目的第一项目特征向量，以及基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量、进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集。

需要说明的是，N为大于0的正整数，N的取值按照实际需求或技术人员的具体需求设定。

排序集生成模块102，用于根据所述用户特征和所述项目特征对第二多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第二用户特征向量和对应项目的第二项目特征向量，以及基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习，生成包含评分由高至低排列的k个项目的排序集。

需要说明的是，针对所述用户特征，所述第二多源异构数据源的数据内容较所述第一多源异构数据源的数据内容更为精确。

个性化推荐模块103，用于基于协同过滤算法、所述用户特征和所述项目特征，计算所述排序集中k个项目的多用户-项目相关度，生成包含相关度由高至低排列的M个项目的推荐列表，其中，k的取值小于N，M的取值小于k，k、N和M为实数，k、N和M的取值根据实际情况或技术人员的具体需求进行设置。

需要说明的是，所述协同过滤算法是通过对用户历史行为数据的挖掘发现所述用户的偏好，并基于不同的偏好对用户进行群组划分并推荐品味相似的商品。其中，所述协同过滤算法有两类，分别为：

基于用户的协同过滤算法，是通过用户的历史行为发现用户对商品或内容的喜好，比如商品购买、收藏、内容评论或分享。并对这些喜好进行度量和打分，根据不同用户对相同商品或内容的态度和偏好程度计算不同用户之间的关系，并在有相同喜好的用户之间进行商品推荐。

为更好解释说明所述基于用户的协同过滤算法，下面举例进行说明：假设用户A和用户B都购买了相同的三本图书，并且对这三本书都给了五星好评，那么可以判定所述用户A和所述用户B是同一类用户，那么可以将所述用户A看过的图书也推荐给所述用户B。

基于物品的协同过滤算法，通过计算不同用户对不同物品的评分获得物品之间的关系。基于所述物品之间的关系对用户进行相似物品的推荐，所述评分代表用户对商品的态度和偏好。

为更好解释说明所述基于物品的协同过滤算法，下面举例说明：假设用户A同时购买了商品B和商品C，那么说明所述商品B和所述商品C的相关度很高，当用户D也购买了所述商品B的时候，可以向所述用户D推荐所述商品C。

上述本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图，基于深度神经网络理论，通过自学习能提取用户信息和项目信息的深层隐特征，结合多用户和多项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

优选的，结合图1，参考图2，示出了本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图，所述候选集生成模块101，包括：第一数据单元1011，第一深度神经网络学习单元1012和候选集生成单元1013。

第一数据单元1011，用于获取所述第一多源异构数据源中的多源异构数据，基于用户特征和项目特征对所述多源异构数据进行处理，确定分别对应用户的第一用户特征值和对应项目的第一项目特征值，对所述第一用户特征值和第一项目特征值进行特征向量化，得到对应的第一用户特征向量和第一项目特征向量。

需要说明的是，所述第一数据单元1011是通过数据挖掘合法爬取相应网站的多源异构数据。

比如在电商企业、视频和信息等领域时，所述第一数据单元1011需要获取的是用户数据信息，所述多源异构数据就是所述用户自身拥有的数据信息，包括产品、视频和新闻等。

用户特征包含用户浏览记录、词组搜索、用户地理信息、二值性和连续性等。其中，二值性为登录与否、性别，连续性为用户年龄。

可选的，需要说明的是，所述第一数据单元1011是通过合并所述用户特征值生成对应的用户特制文本，以及合并所述项目特征值生成对应的项目特制文本，将所述用户特制文本和所述项目特制文本分别映射为w维空间向量，得到对应的用户特征向量和项目特征向量。为更好的说明生成所述用户特征向量和所述项目特征向量的过程，下面通过过程A1-A3进行举例说明：

A1、假设用户特制数据为：项目特制数据为：

其中，代表特制值空格连接符。

对上述用户特制数据和项目特制数据进行整理得到：

和

其中，是用户user_i对项目item₁～item_n的评论，是用户user_i对项目item₁～item_n的最后通过特征文本向量化技术。

A2、将所有的用户和项目的评分均值、评论数据进行向量化表示可以得到公式(1)和公式(2)：

其中，Doc2VecC函数最后返回w维向量，所述Doc2VecC函数是通过数据文档把词组嵌入获取平均值。

A3、通过特征值向量化后可以得到所述用户i特征值向量：和所述项目j特征值向量：

第一深度神经网络学习单元1012，用于基于所述深度神经网络的隐含层激活函数(Rectified Linear Units，ReLU)对所述第一用户特征向量进行处理，得到对应的第一用户隐特征向量，以及基于隐含层ReLU激活函数对所述第一项目特征向量进行处理，得到对应的第一项目隐特征向量，以及基于所述第一用户隐特征向量确定第一用户隐表示，基于所述第一项目隐特征向量确定第一项目隐表示，拟合所述第一用户隐表示和所述第一项目隐表示，得到第一用户项目交互矩阵。

需要说明的是，所述第一深度神经网络学习单元1012将所述第一用户特征值和所述第一项目特征值向量化后映射为用户和项目两个通道，利用所述深度神经网络把所述用户特征值向量和所述项目特征值向量映射到一个隐空间，通过拟合用户隐特征向量和项目隐特征向量可以得到用户-项目交互矩阵。

具体基于隐含层ReLU激活函数对所述用户特征向量和所述项目特征向量进行处理的过程如公式(3)和公式(4)所示。

其中，u_i,v_j∈R^m，为用户全连接层权值，为项目全连接层权值，为对应的偏置项，为对应的偏置项，和为实数，为所有所述第一用户特征向量降维后确定的最大向量，为所有所述第一项目特征向量降维后确定的最大向量，激活函数ReLU(x)＝max(0,x)，x为输入所述ReLU激活函数的值，对应所述公式(3)中的和所述公式(4)中的

基于上述所述公式(3)和所述公式(4)，基于得到的所述第一用户隐特征值u_i和所述第一项目隐特征值v_j，利用所述深度神经网络的自学习功能获得所述第一用户隐表示和所述第一项目隐表示。将所述第一用户隐表示和所述第一项目隐表示融入到隐因子模型中拟合得到所述第一用户项目交互矩阵。

候选集生成单元1013，用于基于所述深度神经网络对所述第一用户项目交互矩阵进行分类训练学习以及相似度计算，确定包含相似度由高至低的N个项目的候选集。

为了更好的说明所述候选集生成单元1013如何基于所述深度神经网络生成所述候选集，结合上述的第一数据单元1011和第一深度神经网络学习单元1012的具体内容，通过下述过程B1-B3进行举例说明：

B1、利用所述用户的浏览历史、搜索、位置信息、二值性和连续性、观看时长等作为所述深度神经网络的输入值x_u，通过所述第一深度神经网络学习单元1012并输出用户隐表示y_u，其中，拥有m个用户，所述用户采用的所述深度神经网络的模型为f_u(x_u,w_u)。

B2、利用所述项目的描述，标签，类型等作为所述深度神经网络的输入值x_i，通过所述第一深度神经网络学习单元1012并输出项目隐表示y_i，其中，拥有N个项目，所述项目采用的所述深度神经网络的模型为f_i(x_i,w_i)。

B3、假设拥有M个用户和项目样本{(x_u,j,x_a,j)}_0≤j≤M、(x_u,j,x_a,j)，将所述用户u和所述项目a通过公式(5)拟合交互进行调参学习，将获得的所述用户隐表示y_u和所述项目隐表示y_i在所述隐空间中计算所述用户和所述项目的相关度和排名，选择相关度排列较高的k项目作为所述候选集，其中k的值为大于0的正整数，根据实际情况或技术人员需求设定。所述公式(5)具体内容如下：

上述本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图，基于深度神经网络理论，通过自学习能提取用户信息和项目信息的深层隐特征，结合多用户和多项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

参考图3，示出了本发明实施例提供的深度神经网络的模型示意图。所述深度神经网络模型包括输入层301、模型层302和输出层303。

结合图2，候选集生成模块101中的第一数据单元1011可以等同于所述深度神经网络模型的输入层301，第一深度神经网络学习单元1012可以等同为所述深度神经网络模型的模型层302，候选集生成单元1013可以等同为所述深度神经网络模型的输出层303。

优选的，结合图2，参考图4，示出了本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图，所述候选集生成模块101，还包括：

第一协同过滤单元1014，用于基于协同过滤算法和预设概率确定所述候选集的N个项目中作为第一级推荐的内容，其中，所述预设概率为用户浏览任一信息的概率。

可选的，所述第一协同过滤单元1014计算出所述用户浏览任一信息的概率的的过程如公式(6)所示。

其中，U是用户特征值，V表示多源异构数据库，v_i表示所述多源异构数据库中第i个项目的特征值，U与v_i向量拥有相等长度，通过点积在隐层全连接实现。

优选的，结合图4，参考图5，示出了本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图。其中，所述排序集生成模块102包括：第二数据单元1021、第二深度神经网络学习单元1022和排序集生成单元1023。

第二数据单元1021，用于获取第二多源异构数据源中的多源异构数据，基于用户特征和项目特征对所述多源异构数据进行处理，确定分别对应用户的第二用户特征值和对应项目的第二项目特征值，对所述第二用户特征值和第二项目特征值进行特征向量化，得到对应的第二用户特征向量和第二项目特征向量。

其中，所述第二数据单元1021获取所述第二多源异构数据中的多源异构数据，和处理所述第二用户特征值和所述第二项目特征值的具体过程参见上述本发明实施例图2公开的第一数据单元1011相对应的具体内容。

第二深度神经网络学习单元1022，用于基于所述深度神经网络的隐含层ReLU激活函数对所述第二用户特征向量进行处理，得到对应的第二用户隐特征向量，以及基于隐含层ReLU激活函数对所述第二项目特征向量进行处理，得到对应的第二项目隐特征向量，以及基于所述第二用户隐特征向量确定第二用户隐表示，基于所述第二项目隐特征向量确定第二项目隐表示，拟合所述第二用户隐表示和所述第二项目隐表示，得到第二用户项目交互矩阵作为预测评分特征矩阵。

其中，所述第二深度神经网络学习单元1022得到所述第二用户隐特征向量、所述第二项目隐特征向量、所述第二用户隐表示、所述第二项目隐表示和所述第二用户项目交互矩阵的具体过程参考上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的内容。

排序集生成单元1023，用于基于深度神经网络和所述预测评分特征矩阵进行分类和加权逻辑回归训练学习，并基于学习结果对所述候选集中的N个项目进行评分，生成包含评分由高至低排列的k个项目的排序集，k是大于0的正整数，具体数值根据实际情况或技术人员的具体需求设定。

结合图3，所述排序集生成模块102中的第二数据单元1021可以等同于所述深度神经网络模型的输入层301，所述第二深度神经网络学习单元1022等同于所述深度神经网络模型的模型层302，所述排序集生成单元1023等同于所述深度神经网络模型的输出层303。

为了更好的说明所述排序集生成单元1023如何基于所述第二神经网络学习单元1022获得的所述预测评分特征矩阵，并对所述候选集的N个项目进行评分并生成所述排序集，下面通过过程C1-C3举例说明：

C1、利用所述用户特征的用户浏览ID、搜索、用户地理信息、二值性等特征值，学习、抽取所述用户和所述项目的隐含特征值，分别为u_i、v_j。然后通过内积公式(7)将所述用户和所述项目的隐含特征值进行内积，获得预测评分矩阵r'_ij∈R，所述内积公式(7)具体如下：

C2、利用Adam深度学习优化方式，对所述过程C1获得的预测评分矩阵r'_ij与真实的评分矩阵进行拟合。对于一些拥有评分的项目，使所述预测评分矩阵最大程度接近所述真实的评分矩阵，具体内容由公式(8)所示：

C3、应用均方根误差(Root Mean Square Error，RMSE)表达式，完成对所述候选集中的N个项目的评分，生成所述排序集。具体所述RMSE表达式的应用如公式(9)所示：

其中，r_ij为真实的评分矩阵，r'_ij为经过学习、训练后得到的预测评分矩阵，m为用户数量，n为项目数量，N为数据量。

优选的，结合图5，参考图6，示出了本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图。其中，所述个性化推荐模块103，还包括：

第二协同过滤单元1031，用于基于协同过滤算法和预设概率确定所述排序集的k个项目中作为第二级推荐的内容。其中，所述预设概率为用户浏览任一信息的概率，k为大于0的正整数，具体取值根据实际情况和技术人员的具体需求设置。获得所述预设概率的具体过程参见上述本发明实施例图4公开的第一协同过滤单元1014对应的具体内容。

上述本发明实施例提供的一种基于深度神经网络的个性化推荐系统的结构框图，基于深度神经网络理论，通过自学习能提取用户信息和项目信息的深层隐特征，结合多用户和多项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

与上述本发明实施例提供的一种基于深度神经网络的个性化推荐系统相对应，参考图7，本发明实施例还提供了一种基于深度神经网络的个性化推荐方法的流程图。所述方法可以包括以下步骤：

步骤S701：候选集生成模块对第一多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第一用户特征向量和对应项目的第一项目特征向量。

需要说明的是，在具体实现步骤S701的过程中，所述第一多源异构数据源的获取过程参见上述本发明实施例图2公开的第一数据单元1011相对应的具体内容。获得所述第一用户特征向量和所述第一项目特征向量的具体过程参见上述本发明实施例图2公开的第一数据单元1011相对应的具体内容。

步骤S702：候选集生成模块基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量，进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集。

需要说明的是，在具体实现步骤S702的过程中，N是大于0的正整数，具体取值根据实际情况或者技术人员的需求进行设置。

步骤S703：排序集生成模块对第二多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第二用户特征向量和对应项目的第二项目特征向量。

需要说明的是，针对所述用户特征，所述第二多源异构数据源的数据内容较所述第一多源异构数据源的数据内容更为精确。在具体实现步骤S703的过程中，获得所述第二用户特征向量和所述第二项目特征向量的具体过程参见上述本发明实施例图2公开的第一数据单元1011相对应的具体内容。

步骤S704：排序集生成模块基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习，生成包含评分由高至低排列的k个项目的排序集。

需要说明的是，在具体实现步骤S704的过程中，k是大于0的正整数，具体取值根据实际情况或者技术人员的需求进行设置。

步骤S705：个性化推荐模块基于协同过滤算法，计算所述排序集中k个项目的多用户-项目相关度，生成包含相关度由高至低排列的M个项目的推荐列表，其中，k的取值小于N，M的取值小于k，k、N和M为实数，具体取值根据实际情况或技术人员的需求进行设置。

需要说明的是，在具体实现步骤S705的过程中，所述协同过滤算法的具体内容参见上述本发明实施例图1公开的个性化推荐模块103相对应的具体内容。

上述本发明实施例提供的一种基于深度神经网络的个性化推荐方法的流程图，基于深度神经网络理论，通过自学习能提取用户信息和项目信息的深层隐特征，结合多用户和多项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

参考图8，示出了本发明实施例提供的一种获得候选集的流程图，可以包括以下步骤：

步骤S801：基于所述深度神经网络的隐含层ReLU激活函数对所述第一用户特征向量进行处理，得到对应的第一用户隐特征向量。

需要说明的是，在具体实现步骤S801的过程中，获得所述第一用户隐特征向量的具体过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S802：基于隐含层ReLU激活函数对所述第一项目特征向量进行处理，得到对应的第一项目隐特征向量。

需要说明的是，在具体实现步骤S802的过程中，获得所述第一项目隐特征向量的具体过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S803：根据所述第一用户隐特征向量确定第一用户隐表示。

需要说明的是，在具体实现步骤S803的过程中，获得所述第一用户隐表示的过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S804：根据所述第一项目隐特征向量确定第一项目隐表示。

需要说明的是，在具体实现步骤S804的过程中，获得所述第一项目隐表示的过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S805：拟合所述第一用户隐表示和所述第一项目隐表示，得到第一用户项目交互矩阵。

需要说明的是，在具体实现步骤S805的过程中，获得所述第一用户项目交互矩阵的过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S806：基于深度神经网络对所述第一用户项目交互矩阵进行分类训练学习以及相似度计算，确定包含相似度由高至低的N个项目的候选集。

需要说明的是，在具体实现步骤S806的过程中，生成所述候选集的具体过程参见上述本发明实施例图2公开的候选集生成单元1013相对应的具体内容，

优选的，基于协同过滤算法和预设概率确定所述候选集的N个项目中作为第一级推荐的内容。其中，所述预设概率为用户浏览任一信息的概率。获得所述预设概率的具体过程参见上述本发明实施例图4公开的第一协同过滤单元1014相对应的具体内容。

参考图9，示出了本发明实施例提供的一种生成排序集的流程图，可以包括以下步骤：

步骤S901：基于所述深度神经网络的隐含层ReLU激活函数对所述第二用户特征向量进行处理，得到对应的第二用户隐特征向量。

需要说明的是，在具体实现步骤S901的过程中，得到所述第二用户隐特征向量的具体内容参见上述本发明实施例图2公开的第一数据单元1011相对应的具体内容。

步骤S902：基于隐含层ReLU激活函数对所述第二项目特征向量进行处理，得到对应的第二项目隐特征向量。

需要说明的是，在具体实现步骤S902的过程中，得到所述第二项目隐特征向量的具体过程参见上述本发明实施例图2公开的第一数据单元1011相对应的具体内容。

步骤S903：根据所述第二用户隐特征向量确定第二用户隐表示。

需要说明的是，在具体实现步骤S903的过程中，得到所述第二用户隐表示的具体过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S904：根据所述第二项目隐特征向量确定第二项目隐表示。

需要说明的是，在具体实现步骤S904的过程中，得到所述第二项目隐表示的具体过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S905：拟合所述第二用户隐表示和所述第二项目隐表示，得到第二用户项目交互矩阵作为预测评分特征矩阵。

需要说明的是，在具体实现步骤S905的过程中，得到所述第二用户项目交互矩阵的具体过程参见上述本发明实施例图2公开的第一深度神经网络学习单元1012相对应的具体内容。

步骤S906：基于深度神经网络和所述预测评分特征矩阵进行分类和加权逻辑回归训练学习，并基于学习结果对所述候选集中的N个项目进行评分，生成包含评分由高至低排列的k个项目的排序集。

需要说明的是，在具体实现步骤S906的过程中，k是大于0的正整数，具体取值由实际情况或技术人员的需求进行设置。获得所述排序集的具体过程参见上述本发明实施例图5公开的排序集生成单元1023相对应的具体内容。

优选的，基于协同过滤算法和预设概率确定所述排序集的k个项目中作为第二级推荐的内容。其中，所述预设概率为用户浏览任一信息的概率。获得所述预设概率的具体过程参见上述本发明实施例图4公开的第一协同过滤单元1014相对应的具体内容。

综上所述，本发明实施例提供了一种基于深度神经网络的个性化推荐方法，基于深度神经网络理论，通过自学习能提取用户信息和项目信息的深层隐特征，结合多用户-项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

基于上述本发明实施例提供的一种基于深度神经网络的个性化推荐系统及方法，参考图10，示出了本发明实施例提供的基于深度神经网络的个性化推荐系统具体执行对应推荐方法的个性化推荐示意图。

候选集生成模块1001基于第一多源异构数据源执行上述本发明实施例公开的相应方法，结合深度神经网络学习和多用户、项目的特征生成候选集。经由候选集生成模块1001对第一多源异构数据源的处理，可以将百万级的数据量缩小为数百个，并进一步的基于协同过滤提供的个性化推荐，实现第一次个性化推荐。

排序集生成模块1002基于所述候选集生成模块1001生成的所述第一次个性化推荐的数百个数据量，加入比所述第一多源异构数据源内容更为精确的第二多源异构数据源，结合深度神经网络学习和多用户、项目的特征生成排序集。经由排序集生成模块1002对所述第二多源异构数据和所述候选集的处理，可以得到数十个数据，再经由协同过滤算法，实现第二次个性化推荐。

个性化推荐模块1003基于所述排序集，加入多用户特征和多项目特征，经由协同过滤算法，实现最终的个性化推荐。

综上所述，本发明实施例提供了一种基于深度神经网络的个性化推荐系统及方法，基于深度神经网络理论，通过自学习能提取用户信息和项目信息的深层隐特征，结合多用户-项目提升推荐过程的精准度，并结合协同过滤算法实现精准个性化推荐。从而提高了个性化推荐效率和用户使用感受。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统或系统实施例而言，由于其基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。以上所描述的系统及系统实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种基于深度神经网络的个性化推荐系统，其特征在于，所述系统包括：

与深度神经网络融合的候选集生成模块，用于对第一多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第一用户特征向量和对应项目的第一项目特征向量，以及基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量，进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集；

与深度神经网络融合的排序集生成模块，用于对第二多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第二用户特征向量和对应项目的第二项目特征向量，以及基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习和评分，生成包含评分由高至低排列的k个项目的排序集；

个性化推荐模块，用于基于协同过滤算法，计算所述排序集中k个项目的多用户-项目相关度，生成包含相关度由高至低排列的M个项目的推荐列表，其中，k的取值小于N，M的取值小于k，k、N和M为实数。

2.根据权利要求1所述的系统，其特征在于，所述候选集生成模块，包括：

第一数据单元，用于获取所述第一多源异构数据源中的多源异构数据，基于用户特征和项目特征对所述多源异构数据进行处理，确定分别对应用户的第一用户特征值和对应项目的第一项目特征值，对所述第一用户特征值和第一项目特征值进行特征向量化，得到对应的第一用户特征向量和第一项目特征向量；

第一深度神经网络学习单元，用于基于所述深度神经网络的隐含层ReLU激活函数对所述第一用户特征向量进行处理，得到对应的第一用户隐特征向量，以及基于隐含层ReLU激活函数对所述第一项目特征向量进行处理，得到对应的第一项目隐特征向量，以及基于所述第一用户隐特征向量确定第一用户隐表示，基于所述第一项目隐特征向量确定第一项目隐表示，拟合所述第一用户隐表示和所述第一项目隐表示，得到第一用户项目交互矩阵；

候选集生成单元，用于基于所述深度神经网络对所述第一用户项目交互矩阵进行分类训练学习以及相似度计算，确定包含相似度由高至低的N个项目的候选集。

3.根据权要求2所述的系统，其特征在于，所述候选集生成模块，还包括：

第一协同过滤单元，用于基于协同过滤算法和预设概率确定所述候选集的N个项目中作为第一级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。

4.根据权利要求1所述的系统，其特征在于，所述排序集生成模块，包括：

第二数据单元，用于获取第二多源异构数据源中的多源异构数据，基于用户特征和项目特征对所述多源异构数据进行处理，确定分别对应用户的第二用户特征值和对应项目的第二项目特征值，对所述第二用户特征值和第二项目特征值进行特征向量化，得到对应的第二用户特征向量和第二项目特征向量；

第二深度神经网络学习单元，用于基于所述深度神经网络的隐含层ReLU激活函数对所述第二用户特征向量进行处理，得到对应的第二用户隐特征向量，以及基于隐含层ReLU激活函数对所述第二项目特征向量进行处理，得到对应的第二项目隐特征向量，以及基于所述第二用户隐特征向量确定第二用户隐表示，基于所述第二项目隐特征向量确定第二项目隐表示，拟合所述第二用户隐表示和所述第二项目隐表示，得到第二用户项目交互矩阵作为预测评分特征矩阵；

排序集生成单元，用于基于深度神经网络和所述预测评分特征矩阵进行分类和加权逻辑回归训练学习，并基于学习结果对所述候选集中的N个项目进行评分，生成包含评分由高至低排列的k个项目的排序集。

5.根据权利要求4所述的系统，其特征在于，所述个性化推荐模块，还包括：

第二协同过滤单元，用于基于协同过滤算法和预设概率确定所述排序集的k个项目中作为第二级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。

6.一种基于深度神经网络的个性化推荐方法，其特征在于，适用于权利要求1-5中任一项所述的基于深度神经网络的个性化推荐系统，所述方法包括：

候选集生成模块对第一多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第一用户特征向量和对应项目的第一项目特征向量；

候选集生成模块基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量、进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集；

排序集生成模块对第二多源异构数据源中的多源异构数据进行特征向量化，得到对应用户的第二用户特征向量和对应项目的第二项目特征向量；

排序集生成模块基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习，生成包含评分由高至低排列的k个项目的排序集；

个性化推荐模块基于协同过滤算法，计算所述排序集中k个项目的多用户-项目相关度，生成包含相关度由高至低排列的M个项目的推荐列表，其中，k的取值小于N，M的取值小于k，k、N和M为实数。

7.根据权利要求6所述的方法，其特征在于，所述候选集生成模块基于所述深度神经网络、所述第一用户特征向量和所述第一项目特征向量、进行深度神经网络学习及相似度计算，生成包含相似度由高至低排列的N个项目的候选集，包括：

基于所述深度神经网络的隐含层ReLU激活函数对所述第一用户特征向量进行处理，得到对应的第一用户隐特征向量；

基于隐含层ReLU激活函数对所述第一项目特征向量进行处理，得到对应的第一项目隐特征向量；

根据所述第一用户隐特征向量确定第一用户隐表示；

根据所述第一项目隐特征向量确定第一项目隐表示；

拟合所述第一用户隐表示和所述第一项目隐表示，得到第一用户项目交互矩阵；

基于深度神经网络对所述第一用户项目交互矩阵进行分类训练学习以及相似度计算，确定包含相似度由高至低的N个项目的候选集。

8.根据权利要求7所述的方法，其特征在于，还包括：

基于协同过滤算法和预设概率确定所述候选集的N个项目中作为第一级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。

9.根据权利要求6所述的方法，其特征在于，所述排序集生成模块基于所述深度神经网络、所述第二用户特征向量、所述第二项目特征向量和所述候选集进行深度神经网络学习，生成包含评分由高至低排列的k个项目的排序集，包括：

基于所述深度神经网络的隐含层ReLU激活函数对所述第二用户特征向量进行处理，得到对应的第二用户隐特征向量；

基于隐含层ReLU激活函数对所述第二项目特征向量进行处理，得到对应的第二项目隐特征向量；

根据所述第二用户隐特征向量确定第二用户隐表示；

根据所述第二项目隐特征向量确定第二项目隐表示；

拟合所述第二用户隐表示和所述第二项目隐表示，得到第二用户项目交互矩阵作为预测评分特征矩阵；

基于深度神经网络和所述预测评分特征矩阵进行分类和加权逻辑回归训练学习，并基于学习结果对所述候选集中的N个项目进行评分，生成包含评分由高至低排列的k个项目的排序集。

10.根据权利要求9所述的方法，其特征在于，还包括：

基于协同过滤算法和预设概率确定所述排序集的k个项目中作为第二级推荐的内容；

其中，所述预设概率为用户浏览任一信息的概率。