CN105844508B - 一种基于动态周期神经网络的商品推荐方法 - Google Patents
一种基于动态周期神经网络的商品推荐方法 Download PDFInfo
- Publication number
- CN105844508B CN105844508B CN201610166084.5A CN201610166084A CN105844508B CN 105844508 B CN105844508 B CN 105844508B CN 201610166084 A CN201610166084 A CN 201610166084A CN 105844508 B CN105844508 B CN 105844508B
- Authority
- CN
- China
- Prior art keywords
- user
- basket
- commodities
- commodity
- expression
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000000737 periodic effect Effects 0.000 title claims abstract description 30
- 238000000034 method Methods 0.000 title claims abstract description 28
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 23
- 239000013604 expression vector Substances 0.000 claims abstract description 44
- 239000013598 vector Substances 0.000 claims abstract description 29
- 230000014509 gene expression Effects 0.000 claims abstract description 21
- 238000005457 optimization Methods 0.000 claims abstract description 17
- 239000011159 matrix material Substances 0.000 claims description 23
- 238000011176 pooling Methods 0.000 claims description 17
- 239000000047 product Substances 0.000 claims description 15
- 230000004913 activation Effects 0.000 claims description 4
- 239000013065 commercial product Substances 0.000 claims description 2
- 230000000306 recurrent effect Effects 0.000 claims 1
- 230000006399 behavior Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 238000005507 spraying Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开一种基于动态周期神经网络的商品推荐方法,该方法将用户历史购买的商品切分到不同篮子;用篮子中每个商品潜在语义向量的表达得到每个篮子的特征表达向量,并得到篮子兴趣表达向量;根据篮子兴趣表达向量得到用户不同时间动态表达向量,并由动态表达向量得到用户不同时间内对商品的初始评分;抽取篮子外商品作为负样本建立优化目标函数;通过求解优化目标函数更新参数得到商品和用户的潜在语义向量表达,并得到用户对商品最终评分并推荐。本发明解决了当前流行的模型只能提取局部特征的问题,运用迭代方法学习用户动态表达,能适用于新数据即时输入及复杂商业场景,能很好地应用于互联网商品推送及各类推荐系统场景。
Description
技术领域
本发明涉及线上线下用户物品交互技术领域,尤其涉及一种基于动态周期神经网络的商品推荐方法。
背景技术
随着电子商业井喷式增长,电商平台每天都记录下海量的用户购物数据。用户购物历史往往是按照时间顺序记录下来,因此可以挖掘这些历史数据中的时序特征。然而在实际的购物场景中,用户有时会在某一时间点或者较短的时间段内产生较多的购物行为,由于时间间隔较短,这些购物行为中往往没有明显的时序特征。另一方面,对于用户的拼单行为,很多购物行为同时发生,这些购物行为就不能按照时间时序进行分析。因此,需要将用户购物历史数据按照时间顺序切分到不同的篮子,把篮子内的商品当成一个整体,忽略内部的时间顺序,只研究篮子之间的时间顺序。
当前一些较流行的下一个篮子推荐系统模型都是基于马尔科夫链假设,即只研究相邻的两个篮子之间的联系,忽略其他的联系。然而,在实际的复杂购物场景中,某两个相邻的篮子之间并没有任何联系,也就是说,某个篮子产生的影响并不是直接作用于紧接着的下一个篮子,可能是作用于再往后的某些篮子。因此,需要挖掘出这些篮子中所有可能的联系,包括篮子间的局部联系和全局联系。在上述场景中,现有的基于马尔科夫链假设的下一个篮子推荐系统模型不能提取篮子间的全局联系。因此,现有的基于马尔科夫链假设的推荐系统模型不能有效地解决篮子模型中的推荐问题。
发明内容
本发明目的在于解决上述的技术问题而提出一种基于动态周期神经网络的商品推荐方法,以解决现有方法不能有效的满足下一个篮子推荐任务的需求的问题。
本发明是这样实现的,一种基于动态周期神经网络的商品推荐方法,包括步骤:
步骤S1,将用户历史购买的商品按预设时间间隔切分到不同的篮子;
步骤S2,给每一个篮子中的每一个商品初始化一个潜在语义向量表达,应用池化操作得到每一个篮子的特征表达向量;
步骤S3,利用所述篮子的特征表达向量,运用周期神经网络的转移矩阵运算得到篮子兴趣表达向量;
步骤S4,根据不同时间的所述篮子兴趣表达向量,运用周期神经网络中的周期信号传递矩阵运算得到该用户在不同时间的动态表达向量;
步骤S5,对用户在不同时间的动态表达向量通过与商品矩阵的运算,得到用户在不同时间内对所有商品的初始化评分;
步骤S6,随机抽取不在篮子中的商品作为负样本,通过贝叶斯个性化排序算法建立优化目标函数模型;
步骤S7,通过求解该优化目标函数模型并更新模型参数直到模型收敛,得到商品和用户的潜在语义向量表达以及模型的所有参数;
步骤S8,根据所述商品和用户的潜在语义表达向量的点积运算得到用户对所有商品的最终评分,然后根据最终评分高低进行商品推荐。
本发明方法可为每一个用户学习一组随时间变化的动态表达,从而充分地反映不同时刻用户兴趣及其变化,利用周期神经网络中的周期信号矩阵挖掘商品序列的全局特征,能够有效提取篮子之间的时间序列特征,即局部和全局的联系,从而学习篮子间全局的联系;使用户动态兴趣及篮子间的时间序列特征被有效考虑,从而提升了篮子推荐的性能;采用迭代方法学习用户动态表达,采用周期神经网络提取的时间序列特征赋予用户在不同时间段的动态表达,并且用户在某一时刻的表达向量可以根据之前时刻的表达向量迭代计算得到,更加适合于快速更新变化的场景及新数据的加入。
附图说明
图1是本发明方法的流程示意图;
图2是分别采用平均池化和最大池化操作的模型的性能比较结果图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明进一步详细说明。
参见图1所示,一种基于动态周期神经网络的商品推荐方法,包括以下步骤:
步骤S1,收集商业平台上用户购买的商品的历史数据,并按照事先预定好的时间间隔将物品切分到不同的篮子,每个篮子包括对应时间段内用户所购买的商品。
需要说明的是,本发明中,所述篮子内所包含的商品之间是没有时间顺序的,而篮子之间是有时间顺序的。这种篮子内部无序而篮子之间有序的划分方法更符合实际的电商购物情景或者其他类似情景。
步骤S2,给篮子中的每一个商品初始化一个潜在语义向量的表达,将池化操作应用到篮子内的所有商品的潜在语义向量,并得到每一个篮子的向量表达;
本发明中,由于篮子里面包含很多商品的数据,因而就可以实现将这些商品的潜在语义向量通过相应的池化操作运算得到一个潜在语义向量作为篮子的向量表达;
这种池化运算可以是线性运算或非线性运算。所述的池化操作可以是最大池化操作或者平均池化操作。
本发明中,步骤S3具体可以是通过周期神经网络中的转移矩阵X运算,可以将篮子特征向量空间投影到用户兴趣向量空间,从而得到对应的篮子兴趣表达向量,因此得到用户购买这些商品时所表现出的兴趣。
需要说明的是,本发明,在步骤S4中,主要是通过周期神经网络中的周期信号传递矩阵运算,用之前各个时间段内用户的购物兴趣的向量表达,来充分刻画出每一个时间段内用户的动态表达向量的。
步骤S5,对于用户在不同时间内的动态表达向量通过与商品矩阵N的乘积运算,得到用户在不同时间内对所有商品的初始评分;也就是,通过用户的不同时间内的动态表达向量与商品向量的点积运算得到不同用户对每一个商品初始化的打分;商品的初始化评分随着训练的过程不断地优化,得分越高表示用户越有可能购买该商品。评分定义如下:
步骤S6,随机抽取不在篮子中的商品作为负样本,通过贝叶斯个性化排序算法建立优化目标函数模型,定义如下:
其中nv表示第v个商品,nv′表示负样本中对应nv的一个商品,为商品向量nv的转置,是用户u在时间t的动态表达向量,激活函数为sigmoid函数,即f(x)=1/1+e-x。为用户u在时间t所购买的商品的篮子的向量表达。Ω为正则项的参数,即模型的参数,包括周期神经网络中的转移矩阵和周期信号传递矩阵分别为X,R,以及所有商品向量nv组成的矩阵N,系数α用于控制优化目标函数中正则项所占的权重比例。
具体的,可以是采用时序反向传播的方法求解上述优化目标函数,并且采用随机态度下降法来更新模型参数直至收敛,得到商品和用户的潜在语义表达向量以及模型的所有参数。
步骤S8:根据商品和用户的潜在语义表达向量的点积运算得到每一个用户在不同时间内对所有商品的最终评分,然后根据最终评分的高低顺序进行商品的推荐。
其中,评分越高表示用户购买该商品的可能性越大,并按此将评分高的商品排列在前面进行商品的推荐。
为了验证本发明的效果,下面以Ta-Feng数据集为例进行说明。该数据集包含了32,266个用户和23,812个物品,总计有817,741次交易记录。这些交易数据按照时间顺序进行记录。同时对原数据集进行了适当的筛选的到十核子数据集,即将购买商品数超过10的用户和被购买次数超过10的商品保留下来,剔除其他小众用户及商品。在该数据集上可以进行篮子推荐任务。具体步骤如下:
步骤S1,提取Ta-Feng数据集的十核子数据集,并按照事先预定好的时间间隔将子数据集中的物品切分到不同的篮子,每个篮子包括对应时间段内用户所购买的商品。
步骤S2,给每一商品初始化一个潜在语义向量的表达,将池化操作应用到篮子内的所有商品的潜在语义向量,得到每一个篮子的向量表达。
步骤S6,随机抽取不在篮子中的商品作为负样本,通过贝叶斯个性化排序算法建立优化目标函数模型,如下:
步骤S7,令α取值为0.01,采用时序反向传播的方法求解上述优化目标函数模型,并采用随机态度下降法来更新模型参数,直至收敛,最终得到商品和用户的潜在语义表达向量以及模型的所有参数。
步骤S7,根据商品和用户的潜在语义表达向量的点积运算得到每一个用户对所有商品的最终评分,根据最终评分的高低顺序进行商品推荐。
图1是分别采用平均池化和最大池化操作的DREAM模型的性能比较结果图,F1分数(F1-score)和归一化折扣增益值(NDCG)越大,模型的推荐效果越好,从图中可以看了同,采用最大池化操作的DREAM模型(本发明方法的篮子推荐模型)能够得到更高的推荐准确率。
表1是本发明分别以F1分数(F1-score)和归一化折扣增益值(NDCG)为观测指标的不同模型的性能对比结果。其中TOP为推荐流行物品模型,NMF为非负矩阵分解模型,MC为马尔科夫链模型,FPMC为分解个性化马尔科夫链模型,HRM为分层表示模型,DREAM为本发明篮子推荐模型。
表1
以上所述的具体实施例,对本发明的目的、技术方案和效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (5)
1.一种基于动态周期神经网络的商品推荐方法,其特征在于,包括步骤:
步骤S1,将用户历史购买的商品按预设时间间隔切分到不同的篮子;
步骤S2,给每一个篮子中的每一个商品初始化一个潜在语义向量表达,应用池化操作得到每一个篮子的特征表达向量;
步骤S3,利用所述篮子的特征表达向量,运用周期神经网络的转移矩阵运算得到篮子兴趣表达向量;
步骤S4,根据不同时间的所述篮子兴趣表达向量,运用周期神经网络中的周期信号传递矩阵运算得到该用户在不同时间的动态表达向量;
步骤S5,对用户在不同时间的动态表达向量通过与商品矩阵的运算,得到用户在不同时间内对所有商品的初始化评分;
步骤S6,随机抽取不在篮子中的商品作为负样本,通过贝叶斯个性化排序算法建立优化目标函数模型;
步骤S7,通过求解该优化目标函数模型并更新模型参数直到模型收敛,得到商品和用户的潜在语义向量表达以及模型的所有参数;
步骤S8,根据所述商品和用户的潜在语义表达向量的点积运算得到用户对所有商品的最终评分,然后根据最终评分高低进行商品推荐。
2.根据权利要求1所述的方法,其特征在于,步骤S2中,所述池化操作采用线性运算或非线性运算,可是最大池化操作或者平均池化操作。
3.根据权利要求1所述的方法,其特征在于,步骤S3中,是通过周期神经网络中的转移矩阵运算,将篮子特征向量表达空间投影到用户兴趣向量表达空间,从而得到篮子兴趣表达向量的。
5.根据权利要求1-4任一项所述的方法,其特征在于,步骤S7中,采用时序反向传播的方法求解所述优化目标函数模型,并采用随机态度下降法来更新模型参数直至收敛,最终得到商品和用户的潜在语义表达向量以及模型的所有参数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610166084.5A CN105844508B (zh) | 2016-03-22 | 2016-03-22 | 一种基于动态周期神经网络的商品推荐方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610166084.5A CN105844508B (zh) | 2016-03-22 | 2016-03-22 | 一种基于动态周期神经网络的商品推荐方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105844508A CN105844508A (zh) | 2016-08-10 |
CN105844508B true CN105844508B (zh) | 2020-04-17 |
Family
ID=56587996
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610166084.5A Active CN105844508B (zh) | 2016-03-22 | 2016-03-22 | 一种基于动态周期神经网络的商品推荐方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105844508B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108090794B (zh) * | 2016-11-22 | 2021-08-27 | 阿里巴巴集团控股有限公司 | 一种基于动态滑动时间窗口的商品对象排序方法及装置 |
CN108874813B (zh) * | 2017-05-10 | 2022-07-29 | 腾讯科技(北京)有限公司 | 一种信息处理方法、装置及存储介质 |
CN107203644A (zh) * | 2017-06-23 | 2017-09-26 | 北京好豆网络科技有限公司 | 美食数据的推荐方法和装置 |
CN107360222A (zh) * | 2017-06-30 | 2017-11-17 | 广东欧珀移动通信有限公司 | 商品信息推送方法、装置、存储介质以及服务器 |
CN107832365B (zh) * | 2017-10-25 | 2020-06-30 | 携程旅游信息技术(上海)有限公司 | 多类旅行产品推送方法、装置、电子设备、存储介质 |
CN110443664B (zh) * | 2018-05-04 | 2022-07-05 | 阿里巴巴集团控股有限公司 | 信息推送系统、投影系统、方法、装置及电子设备 |
CN109087178B (zh) * | 2018-08-28 | 2021-05-18 | 清华大学 | 商品推荐方法和装置 |
CN114169418B (zh) * | 2021-11-30 | 2023-12-01 | 北京百度网讯科技有限公司 | 标签推荐模型训练方法及装置、标签获取方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101082972A (zh) * | 2007-05-30 | 2007-12-05 | 华为技术有限公司 | 预测用户对商品的兴趣的方法、装置和广告发布方法 |
CN104504055A (zh) * | 2014-12-19 | 2015-04-08 | 常州飞寻视讯信息科技有限公司 | 基于图像相似度的商品相似计算方法及商品推荐系统 |
CN104599261A (zh) * | 2014-11-19 | 2015-05-06 | 北京泰和云信科技有限公司 | 短波红外焦平面的均值直方图神经网络非均匀性校正算法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6384065B2 (ja) * | 2014-03-04 | 2018-09-05 | 日本電気株式会社 | 情報処理装置、学習方法、及び、プログラム |
-
2016
- 2016-03-22 CN CN201610166084.5A patent/CN105844508B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101082972A (zh) * | 2007-05-30 | 2007-12-05 | 华为技术有限公司 | 预测用户对商品的兴趣的方法、装置和广告发布方法 |
CN104599261A (zh) * | 2014-11-19 | 2015-05-06 | 北京泰和云信科技有限公司 | 短波红外焦平面的均值直方图神经网络非均匀性校正算法 |
CN104504055A (zh) * | 2014-12-19 | 2015-04-08 | 常州飞寻视讯信息科技有限公司 | 基于图像相似度的商品相似计算方法及商品推荐系统 |
Non-Patent Citations (2)
Title |
---|
A Dynamic Recurrent Model for Next Basket Recommendation;Feng Yu等;《ACM》;20160721;全文 * |
情境大数据建模及其在用户行为预测中的应用;吴书等;《大数据》;20161120;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN105844508A (zh) | 2016-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105844508B (zh) | 一种基于动态周期神经网络的商品推荐方法 | |
CN110969516B (zh) | 一种商品推荐方法及装置 | |
CN110503531B (zh) | 时序感知的动态社交场景推荐方法 | |
CN111784455B (zh) | 一种物品推荐方法及推荐设备 | |
CN107563841B (zh) | 一种基于用户评分分解的推荐系统 | |
CN108960719B (zh) | 选品方法和装置以及计算机可读存储介质 | |
Chen et al. | Using fruit fly optimization algorithm optimized grey model neural network to perform satisfaction analysis for e-business service | |
CN111429234A (zh) | 一种基于深度学习的商品序列推荐方法 | |
CN106202519A (zh) | 一种结合用户评论内容和评分的项目推荐方法 | |
CN113256367B (zh) | 用户行为历史数据的商品推荐方法、系统、设备及介质 | |
Salehinejad et al. | Customer shopping pattern prediction: A recurrent neural network approach | |
CN110955826B (zh) | 基于改进型循环神经网络单元的推荐系统 | |
CN109410001B (zh) | 一种商品推荐方法、系统、电子设备和存储介质 | |
CN108874529B (zh) | 分布式计算系统、方法及存储介质 | |
CN111046170A (zh) | 用于输出信息的方法和装置 | |
Johnston et al. | Applied Unsupervised Learning with Python: Discover hidden patterns and relationships in unstructured data with Python | |
CN106600347B (zh) | 一种基于多视角数据和循环网络构建序列预测模型的方法 | |
Rezaei et al. | A clustering-based feature selection method for automatically generated relational attributes | |
CN110019563B (zh) | 一种基于多维数据的肖像建模方法和装置 | |
CN112231548A (zh) | 用户登录行为的分析方法、装置、系统及存储介质 | |
CN110851694A (zh) | 基于用户记忆网络和树形结构的深度模型的个性化推荐系统 | |
CN115641179A (zh) | 信息推送方法、装置及电子设备 | |
CN110020918B (zh) | 一种推荐信息生成方法和系统 | |
Necula | Deep learning for distribution channels’ management | |
CN116071119B (zh) | 一种基于多行为推荐模型的模型不可知反事实解释方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: 300457 unit 1001, block 1, msd-g1, TEDA, No.57, 2nd Street, Binhai New Area Economic and Technological Development Zone, Tianjin Patentee after: Tianjin Zhongke intelligent identification Co.,Ltd. Address before: Unit 300465 TEDA MSD-G1-1001, 57 Second Avenue, Tianjin Economic and Technological Development Zone, Binhai New Area, Tianjin Patentee before: TIANJIN ZHONGKE INTELLIGENT IDENTIFICATION INDUSTRY TECHNOLOGY RESEARCH INSTITUTE Co.,Ltd. |
|
CP03 | Change of name, title or address |