CN110851694A - 基于用户记忆网络和树形结构的深度模型的个性化推荐系统 - Google Patents

基于用户记忆网络和树形结构的深度模型的个性化推荐系统 Download PDF

Info

Publication number
CN110851694A
CN110851694A CN201810855251.6A CN201810855251A CN110851694A CN 110851694 A CN110851694 A CN 110851694A CN 201810855251 A CN201810855251 A CN 201810855251A CN 110851694 A CN110851694 A CN 110851694A
Authority
CN
China
Prior art keywords
user
node
layer
term memory
nodes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810855251.6A
Other languages
English (en)
Inventor
王飞
陈文�
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN201810855251.6A priority Critical patent/CN110851694A/zh
Publication of CN110851694A publication Critical patent/CN110851694A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations

Landscapes

  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于：用户记忆模块、商品本体模块以及预测模块。其中，用户记忆模块用来捕获用户的历史数据；所述的用户记忆模块是由基于语境化的长短记忆网络框架所构成的，该模块通过短期记忆和长期记忆两个部分来捕捉用户的兴趣动态。短期记忆用来捕捉用户近期购买商品的记录，并通过这些记录，得到一个用户的短期记忆映射；长期记忆会根据用户的长期购买习惯，依据该用户的大量购买记录总结出用户感兴趣的商品的特征，并记录下来，并通过这些记录得到一个用户的长期记忆映射。商品本体模块通过每个商品之间的关联信息以及用户的历史购买记录，得到商品的映射信息；预测模块将会结合用户记忆模块和商品本体模块的输出的短期记忆映射、长期记忆映射以及商品映射进行最终的推荐预测。

Description

基于用户记忆网络和树形结构的深度模型的个性化推荐系统
技术领域
本发明涉及电子商务领域，尤其涉及的是一种通过对用户历史购买记录进行挖掘并预测客户购物意图的个性化推荐系统。
背景技术
我们今天所面对的数据有90％是在过去的两年当中所产生的，面对着海量的数据增长，对于互联网用户来说，无疑意味着可以获得更多的信息，人们逐渐的从信息匮乏时代步入了信息过载时代。在这个时代当中，无论作为信息的生产者还是作为信息的消费者，都会面临海量数据所带来的巨大的挑战。首先，就信息的消费者而言，也就是互联网的用户们，他们会发现，在大量的信息当中去寻找到自己感兴趣的信息将会变成一件越来越难的事情。而对于信息的生产者来说，如何让自己受到广大用户的关注，使自己所生产出来的信息在众多的信息当中可以脱颖而出，也同样是一件巨大的挑战。
推荐系统就是解决这类问题的关键工具，其主要任务就是连接用户和信息，一方面帮助用户寻找到自己感兴趣的并且有价值的信息；另一方面，也帮助信息生产者可以顺利的将他们产生出来的信息展现在对它感兴趣的用户面前，从而达到用户同信息生产者在海量数据面前的双赢。作为一项关键技术，推荐系统已经被各类内容供应商所广泛采用。其中，个性化推荐可以根据每个用户自身不同的兴趣为其量身定制相关的推荐，在实际的应用当中，个性化推荐已经被证实在淘宝、YouTube、Netflix、亚马逊等许多行业都行之有效。与此同时，对于各大信息生产者而言，推荐系统也成为他们的重要战略规划以及发展方向，例如阿里巴巴就将商品推荐以及定向广告列为淘宝的核心业务之一。
通过调查发现，我们现在用的大多数应用当中，用户的当前所感兴趣的信息基本都和他们的历史行为或者历史记录息息相关。例如，当某个用户在购买一台智能手机之后，如果他还想去购买一些智能手机的相关配件或者耳机的时候，该用户有很大的可能性会继续选择购买同样品牌的产品。同样，当某个用户在购买了某个品牌的服装后，如果他对该品牌有着非常好的体验的话，在后续的消费过程中，他继续选择该品牌的概率就会大大提高。
为了对这种现象进行建模，目前已经提出的方法主要有：1.利用用户的历史记录对其进行顺序推荐。例如，采用马尔科夫链来模拟用户的行为序列，并使用递归神经网络(RNN)嵌入该用户之前的购买产品以用于当前的兴趣预测。2.在工业界，为了减少计算量从而可以从容地处理庞大的数据量，通常会使用协同过滤方法，该方法旨在通过考虑相似用户的偏好或着相似项目的内容来进行个性化推荐的。3.近几年，一些基于模型的方法在许多的推荐系统当中被广泛的使用，这些方法以每个用户和商品之间的交互分数为学习模型进行预测推荐，具有代表性的算法包括基于矩阵分解的方法和深度学习模型。虽然现有的解决方案取得了一定的成效，但是依然存在着急需改进的地方。具体包括以下几个方面的问题：1.现有的一些方法大都倾向于在顺序推荐的过程中，将用户的历史记录都压缩至一个固定的隐藏表达当中，这样做的缺陷是在顺序推荐的过程当中，会削弱那些具有高度相关的商品之间的关联性，或者忽视掉一些信号，使得我们很难去理解或者解释顺序推荐过程。2.由于协同过滤方法仅仅考虑相似的用户或者商品，因此，会导致推荐结果缺乏可了解性以及多样性。3.尽管基于模型的方法被认为能够提供更见精准的推荐结果，但是，当用户和商品的数量大到一定程度的时候，想要很好并且很稳定的训练这些数据就成了重要的挑战。
发明内容
发明目的：为了解决现有技术的不足，本发明将在商品本体以及用户兴趣动态的基础上，提供一套精准高效的，基于用户记忆网络和树形结构的深度模型的个性化推荐系统。
一种基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于：用户记忆模块、商品本体模块以及预测模块。其中，用户记忆模块用来捕获用户的历史数据；所述的用户记忆模块是由基于语境化的长短记忆网络框架所构成的，该模块通过短期记忆和长期记忆两个部分来捕捉用户的兴趣动态。短期记忆用来捕捉用户近期购买商品的记录，并通过这些记录，得到一个用户的短期记忆映射；长期记忆会根据用户的长期购买习惯，依据该用户的大量购买记录总结出用户感兴趣的商品的特征，并记录下来，并通过这些记录得到一个用户的长期记忆映射。商品本体通过每个商品之间的关联信息以及用户的历史购买记录，得到商品的映射信息；预测模块将会结合用户记忆模块和商品本体模块的输出的短期记忆映射、长期记忆映射以及商品映射进行最终的推荐预测。
进一步，所述的短期记忆会将用户u近期商品的购买记录的映射至一个矩阵Mu当中并保存起来；对于每一个用户u而言，定义
Figure BSA0000168033980000041
(以购买的顺序排列)为用户u所购买的商品的集合，其中表示用户u购买的第i件商品，这时，我们令pu∈RD以及
Figure BSA0000168033980000042
分别为用户u的映射以及商品
Figure BSA0000168033980000043
的映射，那么用户的短期记忆的映射
Figure BSA0000168033980000044
其中，
Figure BSA0000168033980000045
是矩阵Mu的第k列向量，矩阵Mu一共有K列，Mu∈RD×K；zik是一个权重，用来推到出短期记忆映射
Figure BSA0000168033980000046
的，zik的计算公式为：
Figure SA00001680339867569
其中β是限制参数，wik是用户的商品购买记录矩阵Mu和当前商品的影响因子，具体计算公式为：
Figure BSA0000168033980000048
最后得到了短期记忆映射。
进一步，所述的长期记忆会将用户的兴趣特征映射至一个矩阵Mu当中，与此同时，构建一个全局潜在特征表来储存特征映射。这时，我们令pu∈RD以及分别为用户u的映射以及商品
Figure BSA00001680339800000410
的映射。设一共有K个潜在的特征，这是全局潜在特征表就可以被表示为：F＝{f1，f2，...，fK}，fK∈RD。那么用户的长期记忆的映射就可以被表示为：其中，是用户u对于特征k的偏好映射；zik是一个权重，用来推到出短期记忆映射
Figure BSA0000168033980000053
的，zik的计算公式为：
Figure BSA0000168033980000054
其中β是限制参数，wik是用户购买的商品和全局潜在特征表中每个特征的关联程度，具体计算公式为：最后得到了长期记忆映射。
进一步，所述的商品本体模块是由提供的商品本体信息以及用户的历史购买记录，将大规模的推荐问题转变成了一系列的小的分类问题，具体来说是通过树状结构的构建，基于树的训练、采样、TopK检索以及节点兴趣度的计算，直观意义上的对用户的兴趣的层次结构进行分析，自顶向下构造，由粗到细的构造兴趣层次树，并在此基础上应用深度学习网络进行用户兴趣的推荐建模，运用层次检索方法实现全量候选上的用户TopK的商品映射。
进一步，所述的树状结构中的节点上兴趣度概率的计算公式是：nc∈{n在j+1层的子节点}，即用户对第j层父亲节点兴趣的偏好概率正比于用户对第j+1层孩子节点兴趣的偏好概率最大值，其中a(j)是第j层节点兴趣概率的归一化因子。根据最大堆树的定义，如果已知这棵树上的每层节点概率之间的序(同层内)，我们可以快速找到全局TopK，即从根节点出发找当前层的TopK，然后在上层TopK节点对应的下层孩子节点集合中继续找TopK，递归向下直至叶子。
进一步，所述的大规模的推荐问题转变成了一系列的小的分类问题，即可以将每层节点的兴趣判别单独建模，构建针对单层节点的全局分类器来保证在单层上的精确分类能力。从叶子节点层建模出发确定采样方式，同时结合最大堆的概率定义，确定每一层的采样方式和建模方式。如果用户对叶子节点ni感兴趣，那么对于其他不感兴趣叶子节点nj，有P(ni|u)＞P(nj|u)，根据树状结构中的节点上兴趣度概率的计算公式，对于叶子节点ni的父节点和nj的父节点
Figure BSA0000168033980000062
有
Figure BSA0000168033980000063
进一步，所述的模型训练就是选择负样本采样的方式进行样本生成，以最大似然估计的方式对每一层建立一个全局分类器进行训练。具体来说，设n为树中的某个节点，我们有用户u对节点n的偏好预测概率为：
Figure BSA0000168033980000064
根据树状结构中的节点上兴趣度概率的计算公式，用户u对节点ni感兴趣，就隐含了u对其父亲节点也感兴趣，所以用户的兴趣就会形成一条从叶子节点至根节点的唯一路径，即由用户对感兴趣的叶子节点与其各个祖先节点构成的路径，于是我们选择这些节点作为训练的正样本，而根据全局分类器的设计要求，我们对这些正样本节点所在层进行随机采样构成负样本。具体地，对于用户u，
Figure BSA0000168033980000066
为正样本集合，
Figure BSA0000168033980000067
为负样本集合，所述的似然公式为：
Figure BSA0000168033980000071
损失函数为：，
其中yu(n)代表用户u对节点n偏好的真实标签(0或1)。
进一步，所述的树状深度模型，即从根节点出发，自顶向下依次逐层选取该层候选孩子中最优的K个节点。具体来说，对于最终要求K个叶子目标推荐的情况下，选择当前层概率最高的K个节点，然后往下层扩展他们的孩子节点，对下层孩子节点进行概率估计，选取概率最高的K个，递归计算和选取直至所有路径都到达叶子层，最后从候选叶子集合(可能大于2K个)中取概率最高的K个返回即可。
进一步，所述的预测模块，是一个由神经网络构成的预测模型，具体来说，当用户记忆模块完成了长记忆映射和短记忆映射的生成，商品本体模块也生成了商品映射之后，预测模块首先将这三部分映射进行结合，并作为预测模块的输入；然后，把该输入放入一个神经网络进行训练，之后得到一个预测模型，从而完成最终的推荐预测。
本发明的有益效果是：首先，本发明使用了短期记忆和长期记忆网络，该方法增强了推荐结果的可了解性以及多样性，消除了使高度相关的商品之间关联性被削弱的隐患。其次，本发明运用了基于树状结构的深度模型，具有良好的时间复杂性，极大赋能了单点的复杂计算。并且该发明允许容纳任意先进模型而非限定内积形式，并且能够对全量候选集进行更好的匹配。
附图说明
图1为本发明的结构示意图；
图2为树状结构中训练正样本的选择示意图；
图3为推荐预测过程示意图。
具体实施方式
下面结合实施例对本发明作更进一步的说明。
一种基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于：用户记忆模块、商品本体模块以及预测模块。其中，用户记忆模块用来捕获用户的历史数据；所述的用户记忆模块是由基于语境化的长短记忆网络框架所构成的，该模块通过短期记忆和长期记忆两个部分来捕捉用户的兴趣动态。短期记忆用来捕捉用户近期购买商品的记录，并通过这些记录，得到一个用户的短期记忆映射；长期记忆会根据用户的长期购买习惯，依据该用户的大量购买记录总结出用户感兴趣的商品的特征，并记录下来，并通过这些记录得到一个用户的长期记忆映射。商品本体通过每个商品之间的关联信息以及用户的历史购买记录，得到商品的映射信息；预测模块将会结合用户记忆模块和商品本体模块的输出的短期记忆映射、长期记忆映射以及商品映射进行最终的推荐预测。
进一步，所述的短期记忆会将用户u近期商品的购买记录的映射至一个矩阵Mu当中并保存起来；对于每一个用户u而言，定义
Figure BSA0000168033980000081
(以购买的顺序排列)为用户u所购买的商品的集合，其中
Figure BSA0000168033980000091
表示用户u购买的第i件商品，这时，我们令pu∈RD以及
Figure BSA0000168033980000092
分别为用户u的映射以及商品
Figure BSA0000168033980000093
的映射，那么用户的短期记忆的映射
Figure BSA0000168033980000094
其中，
Figure BSA0000168033980000095
是矩阵Mu的第k列向量，矩阵Mu一共有K列，Mu∈RD ×K；zik是一个权重，用来推到出短期记忆映射
Figure BSA0000168033980000096
的，zik的计算公式为：
Figure BSA0000168033980000097
其中β是限制参数，wik是用户的商品购买记录矩阵Mu和当前商品的影响因子，具体计算公式为：
Figure BSA0000168033980000098
最后得到了短期记忆映射。
进一步，所述的长期记忆会将用户的兴趣特征映射至一个矩阵Mu当中，与此同时，构建一个全局潜在特征表来储存特征映射。这时，我们令pu∈RD以及
Figure BSA0000168033980000099
分别为用户u的映射以及商品
Figure BSA00001680339800000910
的映射。设一共有K个潜在的特征，这是全局潜在特征表就可以被表示为：F＝{f1，f2，...，fK}，fK∈RD。那么用户的长期记忆的映射就可以被表示为：
Figure BSA00001680339800000911
其中，
Figure BSA00001680339800000912
是用户u对于特征k的偏好映射；zik是一个权重，用来推到出短期记忆映射
Figure BSA0000168033980000101
的，zik的计算公式为：
Figure BSA0000168033980000102
其中β是限制参数，wik是用户购买的商品和全局潜在特征表中每个特征的关联程度，具体计算公式为：
Figure BSA0000168033980000103
最后得到了长期记忆映射。
进一步，所述的商品本体模块是由提供的商品本体信息以及用户的历史购买记录，将大规模的推荐问题转变成了一系列的小的分类问题，具体来说是通过树状结构的构建，基于树的训练、采样、TopK检索以及节点兴趣度的计算，直观意义上的对用户的兴趣的层次结构进行分析，自顶向下构造，由粗到细的构造兴趣层次树，并在此基础上应用深度学习网络进行用户兴趣的推荐建模，运用层次检索方法实现全量候选上的用户TopK的商品映射。
进一步，所述的树状结构中的节点上兴趣度概率的计算公式是：
Figure BSA0000168033980000104
nc∈{n在j+1层的子节点}，即用户对第j层父亲节点兴趣的偏好概率正比于用户对第j+1层孩子节点兴趣的偏好概率最大值，其中a(j)是第j层节点兴趣概率的归一化因子。根据最大堆树的定义，如果已知这棵树上的每层节点概率之间的序(同层内)，我们可以快速找到全局TopK，即从根节点出发找当前层的TopK，然后在上层TopK节点对应的下层孩子节点集合中继续找TopK，递归向下直至叶子。
进一步，所述的大规模的推荐问题转变成了一系列的小的分类问题，即可以将每层节点的兴趣判别单独建模，构建针对单层节点的全局分类器来保证在单层上的精确分类能力。从叶子节点层建模出发确定采样方式，同时结合最大堆的概率定义，确定每一层的采样方式和建模方式。如果用户对叶子节点ni感兴趣，那么对于其他不感兴趣叶子节点nj，有P(ni|u)＞P(nj|u)，根据树状结构中的节点上兴趣度概率的计算公式，对于叶子节点ni的父节点
Figure BSA0000168033980000111
和nj的父节点
Figure BSA0000168033980000112
有
Figure BSA0000168033980000113
进一步，所述的模型训练就是选择负样本采样的方式进行样本生成，以最大似然估计的方式对每一层建立一个全局分类器进行训练。具体来说，设n为树中的某个节点，我们有用户u对节点n的偏好预测概率为：根据树状结构中的节点上兴趣度概率的计算公式，用户u对节点ni感兴趣，就隐含了u对其父亲节点
Figure BSA0000168033980000115
也感兴趣，所以用户的兴趣就会形成一条从叶子节点至根节点的唯一路径，即由用户对感兴趣的叶子节点与其各个祖先节点构成的路径，如图2所示。于是我们选择这些节点作为训练的正样本，而根据全局分类器的设计要求，我们对这些正样本节点所在层进行随机采样构成负样本。具体地，对于用户u，
Figure BSA0000168033980000116
为正样本集合，为负样本集合，所述的似然公式为：
Figure BSA0000168033980000118
损失函数为：
Figure BSA0000168033980000121
，
其中yu(n)代表用户u对节点n偏好的真实标签(0或1)。
进一步，所述的树状深度模型，即从根节点出发，自顶向下依次逐层选取该层候选孩子中最优的K个节点。具体来说，对于最终要求K个叶子目标推荐的情况下，选择当前层概率最高的K个节点，然后往下层扩展他们的孩子节点，对下层孩子节点进行概率估计，选取概率最高的K个，递归计算和选取直至所有路径都到达叶子层，最后从候选叶子集合(可能大于2K个)中取概率最高的K个返回即可。
进一步，所述的预测模块，是一个由神经网络构成的预测模型，具体来说，当用户记忆模块完成了长记忆映射和短记忆映射的生成，商品本体模块也生成了商品映射之后，预测模块首先将这三部分映射进行结合，并作为预测模块的输入；然后，把该输入放入一个神经网络进行训练，如图3所示。之后得到一个预测模型，从而完成最终的推荐预测。

Claims (9)

1.一种基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于：用户记忆模块、商品本体模块以及预测模块。
其中，所述的用户记忆模块是由基于语境化的长短记忆网络框架所构成的。
所述的短期记忆用来捕捉用户近期购买商品的记录，并通过这些记录，得到一个用户的短期记忆映射；
所述的长期记忆会根据用户的长期购买习惯，依据该用户的大量购买记录总结出用户感兴趣的商品的特征，并记录下来，并通过这些记录得到一个用户的长期记忆映射。
所述的商品本体模块通过每个商品之间的关联信息以及用户的历史购买记录，得到商品的映射信息；
所述的预测模块将会结合用户记忆模块和商品本体模块的输出的短期记忆映射、长期记忆映射以及商品映射进行最终的推荐预测。
2.根据权利要求1所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的短期记忆会将用户u近期商品的购买记录的映射至一个矩阵Mu当中并保存起来；对于每一个用户u而言，定义
Figure FSA0000168033970000011
(以购买的顺序排列)为用户u所购买的商品的集合，其中
Figure FSA0000168033970000012
表示用户u购买的第i件商品，这时，我们令pu∈RD以及
Figure FSA0000168033970000013
分别为用户u的映射以及商品
Figure FSA0000168033970000014
的映射，那么用户的短期记忆的映射
Figure FSA0000168033970000021
其中，
Figure FSA0000168033970000022
是矩阵Mu的第k列向量，矩阵Mu一共有K列，Mu∈RD×K；zik是一个权重，用来推到出短期记忆映射
Figure FSA0000168033970000023
的，zik的计算公式为：
Figure FSA0000168033970000024
其中β是限制参数，wik是用户的商品购买记录矩阵Mu和当前商品的影响因子，具体计算公式为：
Figure FSA0000168033970000025
最后得到了短期记忆映射。
3.根据权利要求1所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的长期记忆会将用户的兴趣特征映射至一个矩阵Mu当中，与此同时，构建一个全局潜在特征表来储存特征映射。这时，我们令pu∈RD以及
Figure FSA0000168033970000026
分别为用户u的映射以及商品
Figure FSA0000168033970000027
的映射。设一共有K个潜在的特征，这是全局潜在特征表就可以被表示为：F＝{f1，f2，...，fK}，fK∈RD。那么用户的长期记忆的映射就可以被表示为：
Figure FSA0000168033970000028
其中，是用户u对于特征k的偏好映射；zik是一个权重，用来推到出短期记忆映射
Figure FSA00001680339700000210
的，zik的计算公式为：
Figure FSA00001680339700000211
其中β是限制参数，wik是用户购买的商品和全局潜在特征表中每个特征的关联程度，具体计算公式为：wik＝qi T·fK，
Figure FSA0000168033970000031
最后得到了长期记忆映射。
4.根据权利要求1所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的商品本体模块是由提供的商品本体信息以及用户的历史购买记录，将大规模的推荐问题转变成了一系列的小的分类问题，具体来说是通过树状结构的构建，基于树的训练、采样、TopK检索以及节点兴趣度的计算，直观意义上的对用户的兴趣的层次结构进行分析，自顶向下构造，由粗到细的构造兴趣层次树，并在此基础上应用深度学习网络进行用户兴趣的推荐建模，运用层次检索方法实现全量候选上的用户TopK的商品映射。
5.根据权利要求4所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的树状结构中的节点上兴趣度概率的计算公式是：
Figure FSA0000168033970000032
nc∈{n在j+1层的子节点}，即用户对第j层父亲节点兴趣的偏好概率正比于用户对第j+1层孩子节点兴趣的偏好概率最大值，其中a(j)是第j层节点兴趣概率的归一化因子。根据最大堆树的定义，如果已知这棵树上的每层节点概率之间的序(同层内)，我们可以快速找到全局TopK，即从根节点出发找当前层的TopK，然后在上层TopK节点对应的下层孩子节点集合中继续找TopK，递归向下直至叶子。
6.根据权利要求4所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的大规模的推荐问题转变成了一系列的小的分类问题，即可以将每层节点的兴趣判别单独建模，构建针对单层节点的全局分类器来保证在单层上的精确分类能力。从叶子节点层建模出发确定采样方式，同时结合最大堆的概率定义，确定每一层的采样方式和建模方式。如果用户对叶子节点ni感兴趣，那么对于其他不感兴趣叶子节点nj，有P(ni|u)＞P(nj|u)，根据树状结构中的节点上兴趣度概率的计算公式，对于叶子节点ni的父节点
Figure FSA0000168033970000041
和nj的父节点
Figure FSA0000168033970000042
有
7.根据权利要求4所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的模型训练就是选择负样本采样的方式进行样本生成，以最大似然估计的方式对每一层建立一个全局分类器进行训练。具体来说，设n为树中的某个节点，我们有用户u对节点n的偏好预测概率为：
Figure FSA0000168033970000044
根据树状结构中的节点上兴趣度概率的计算公式，用户u对节点ni感兴趣，就隐含了u对其父亲节点
Figure FSA0000168033970000048
也感兴趣，所以用户的兴趣就会形成一条从叶子节点至根节点的唯一路径，即由用户对感兴趣的叶子节点与其各个祖先节点构成的路径，于是我们选择这些节点作为训练的正样本，而根据全局分类器的设计要求，我们对这些正样本节点所在层进行随机采样构成负样本。具体地，对于用户u，
Figure FSA0000168033970000045
为正样本集合，为负样本集合，所述的似然公式为：
Figure FSA0000168033970000047
损失函数为：
Figure FSA0000168033970000051
，
其中yu(n)代表用户u对节点n偏好的真实标签(0或1)。
8.根据权利要求4所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的树状深度模型，即从根节点出发，自顶向下依次逐层选取该层候选孩子中最优的K个节点。具体来说，对于最终要求K个叶子目标推荐的情况下，选择当前层概率最高的K个节点，然后往下层扩展他们的孩子节点，对下层孩子节点进行概率估计，选取概率最高的K个，递归计算和选取直至所有路径都到达叶子层，最后从候选叶子集合(可能大于2K个)中取概率最高的K个返回即可。
9.根据权利要求1所述的基于用户记忆网络和树形结构的深度模型的个性化推荐系统，其特征在于所述的预测模块，是一个由神经网络构成的预测模型，具体来说，当用户记忆模块完成了长记忆映射和短记忆映射的生成，商品本体模块也生成了商品映射之后，预测模块首先将这三部分映射进行结合，并作为预测模块的输入；然后，把该输入放入一个神经网络进行训练，之后得到一个预测模型，从而完成最终的推荐预测。
CN201810855251.6A 2018-07-26 2018-07-26 基于用户记忆网络和树形结构的深度模型的个性化推荐系统 Pending CN110851694A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810855251.6A CN110851694A (zh) 2018-07-26 2018-07-26 基于用户记忆网络和树形结构的深度模型的个性化推荐系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810855251.6A CN110851694A (zh) 2018-07-26 2018-07-26 基于用户记忆网络和树形结构的深度模型的个性化推荐系统

Publications (1)

Publication Number Publication Date
CN110851694A true CN110851694A (zh) 2020-02-28

Family

ID=69594958

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810855251.6A Pending CN110851694A (zh) 2018-07-26 2018-07-26 基于用户记忆网络和树形结构的深度模型的个性化推荐系统

Country Status (1)

Country Link
CN (1) CN110851694A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113610582A (zh) * 2021-08-16 2021-11-05 脸萌有限公司 广告推荐方法、装置、存储介质及电子设备
WO2022021420A1 (zh) * 2020-07-31 2022-02-03 华为技术有限公司 一种根因定位方法及装置、电子设备
CN117592950A (zh) * 2024-01-19 2024-02-23 湖南长劲鹿网络科技有限公司 检验检测管理平台及其数据处理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105095471A (zh) * 2015-08-07 2015-11-25 合肥工业大学 一种基于短记忆的上下文感知推荐方法
CN106022865A (zh) * 2016-05-10 2016-10-12 江苏大学 一种基于评分和用户行为的商品推荐方法
CN107909427A (zh) * 2017-10-25 2018-04-13 浙江大学 一种提升推荐模型时序数据挖掘能力的循环神经网络方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105095471A (zh) * 2015-08-07 2015-11-25 合肥工业大学 一种基于短记忆的上下文感知推荐方法
CN106022865A (zh) * 2016-05-10 2016-10-12 江苏大学 一种基于评分和用户行为的商品推荐方法
CN107909427A (zh) * 2017-10-25 2018-04-13 浙江大学 一种提升推荐模型时序数据挖掘能力的循环神经网络方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022021420A1 (zh) * 2020-07-31 2022-02-03 华为技术有限公司 一种根因定位方法及装置、电子设备
CN113610582A (zh) * 2021-08-16 2021-11-05 脸萌有限公司 广告推荐方法、装置、存储介质及电子设备
CN117592950A (zh) * 2024-01-19 2024-02-23 湖南长劲鹿网络科技有限公司 检验检测管理平台及其数据处理方法
CN117592950B (zh) * 2024-01-19 2024-03-26 湖南长劲鹿网络科技有限公司 检验检测管理平台及其数据处理方法

Similar Documents

Publication Publication Date Title
CN108648049B (zh) 一种基于用户行为区别建模的序列推荐方法
CN111339415B (zh) 一种基于多交互式注意力网络的点击率预测方法与装置
CN111222332B (zh) 一种结合注意力网络和用户情感的商品推荐方法
CN108959603B (zh) 基于深度神经网络的个性化推荐系统及方法
CN110717098B (zh) 基于元路径的上下文感知用户建模方法、序列推荐方法
CN109492229B (zh) 一种跨领域情感分类方法和相关装置
Mitra et al. Helpfulness of online consumer reviews: A multi-perspective approach
CN109584006B (zh) 一种基于深度匹配模型的跨平台商品匹配方法
CN112991017A (zh) 基于用户评论解析的标签体系精准推荐方法
CN111651678B (zh) 一种基于知识图谱的个性化推荐方法
CN111046170A (zh) 用于输出信息的方法和装置
CN111966888A (zh) 融合外部数据的基于方面类别的可解释性推荐方法及系统
CN110851694A (zh) 基于用户记忆网络和树形结构的深度模型的个性化推荐系统
CN110598084A (zh) 对象排序方法、商品排序方法、装置及电子设备
CN111967924A (zh) 商品推荐方法、商品推荐装置、计算机设备和介质
Elahi et al. Recommender systems: Challenges and opportunities in the age of big data and artificial intelligence
Wadikar et al. Book recommendation platform using deep learning
CN109684548B (zh) 一种基于用户图谱的数据推荐方法
Hashemzadeh et al. Using a data mining tool and fp-growth algorithm application for extraction of the rules in two different dataset
CN115641179A (zh) 信息推送方法、装置及电子设备
Nazari et al. Scalable and data-independent multi-agent recommender system using social networks analysis
Sardar et al. Recommender system for journal articles using opinion mining and semantics
Patel et al. CNNRec: Convolutional Neural Network based recommender systems-A survey
Agarwal et al. Binarized spiking neural networks optimized with Nomadic People Optimization-based sentiment analysis for social product recommendation
Koneru Deep learning-based automated recommendation systems: a systematic review and trends

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination