CN111652695A - 一种基于并行自编码机的协同过滤推荐方法 - Google Patents

一种基于并行自编码机的协同过滤推荐方法 Download PDF

Info

Publication number
CN111652695A
CN111652695A CN202010529350.2A CN202010529350A CN111652695A CN 111652695 A CN111652695 A CN 111652695A CN 202010529350 A CN202010529350 A CN 202010529350A CN 111652695 A CN111652695 A CN 111652695A
Authority
CN
China
Prior art keywords
matrix
user
commodity
scoring
reconstruction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010529350.2A
Other languages
English (en)
Other versions
CN111652695B (zh
Inventor
朱毅
李云
强继朋
袁运浩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yangzhou University
Original Assignee
Yangzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yangzhou University filed Critical Yangzhou University
Priority to CN202010529350.2A priority Critical patent/CN111652695B/zh
Publication of CN111652695A publication Critical patent/CN111652695A/zh
Application granted granted Critical
Publication of CN111652695B publication Critical patent/CN111652695B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0201—Market modelling; Market analysis; Collecting market data
    • G06Q30/0202—Market predictions or forecasting for commercial activities
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • General Physics & Mathematics (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Game Theory and Decision Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于并行自编码机的协同过滤推荐方法，包括以下步骤：1构建稀疏自编码机模型完成用户潜在特征表示的目标函数，学习基于用户的高层次抽象特征，得到用户评分矩阵的重构矩阵；2构建图正则化自动编码机模型完成商品潜在特征表示的目标函数，学习基于商品的高层次抽象特征，得到商品评分矩阵的重构矩阵；3将基于用户评分矩阵的重构矩阵和基于商品评分矩阵的重构矩阵进行矩阵相乘，得到用户对商品感兴趣的预测矩阵，并根据结果对用户进行推荐。本发明能够并行利用不同结构的自编码机且同时学习用户和商品的不同特征信息，提取用户和商品更准确的高层次抽象特征，利用提取的抽象特征进行预测，达到为用户进行更准确推荐的目的。

Description

一种基于并行自编码机的协同过滤推荐方法
技术领域
本发明涉及个性化数据推荐研究领域，特别涉及一种基于并行自编码机的协同过滤推荐方法。
背景技术
在信息爆炸的时代，推荐系统在解决信息过载问题上发挥着越来越重要的作用，并已在电子商务、社交网络等众多在线服务中得到了广泛的应用。个性化推荐的基本思想是利用用户-商品交互信息来描述用户对商品的偏好，我们称之为协作过滤。近年来，协同过滤已经成为推荐系统中最广泛使用的工具之一，并吸引了广泛的关注和多学科角度的研究。传统的协同过滤大多使用矩阵分解的方法，它将用户对商品的评价矩阵分解为基于用户的矩阵和基于项目的矩阵，分解后的矩阵可以利用推荐系统中的信息进行进一步的推荐预测。然而，传统的矩阵分解方法在用户特征和商品特征的学习中存在固有的局限性，导致其在推荐系统中的表现不尽如人意。近年来，深度学习方法能够将数据投影到高层次低维度的向量子空间内，以学习得到更好的特征表示，国内外已经有一些工作尝试将深度学习方法应用到推荐系统中。而在所有的基于深度学习的推荐方法中，基于自动编码机的方法具有无需标签、收敛速度快和有效性好等优势，而得到了广泛的关注。
尽管已经有一些基于自动编码机的方法可以较好地学习推荐系统的特征表示，并已在个性化推荐中取得了不错的效果，但仍存在两个主要的不足之处，阻碍了这些方法的进一步发展。第一个是自动编码机的模型结构问题，已有的方法大多依赖于相同的自动编码机结构，很难捕获基于用户和基于商品的数据的不同特征。第二个问题是用户对商品的评分矩阵往往很稀疏，导致了个性化推荐的性能显著下降，现在的方法往往需要导入辅助信息，但是辅助信息有时不易获取，且本身也非常稀疏。
发明内容
本发明的目的是克服现有技术缺陷，提供一种基于并行自编码机的协同过滤推荐方法，以期能利用两个不同结构的自编码机模型，并联、同时的学习得到基于用户和基于商品的数据的不同特征，提高个性化推荐准确度。
本发明的目的是这样实现的：一种基于并行自编码机的协同过滤推荐方法，包括以下步骤：
步骤1构建稀疏自编码机模型完成用户潜在特征表示的目标函数，学习基于用户的高层次抽象特征，得到用户评分矩阵的重构矩阵；
步骤2构建图正则化自动编码机模型完成商品潜在特征表示的目标函数，学习基于商品的高层次抽象特征，得到商品评分矩阵的重构矩阵；
步骤3将基于用户评分矩阵的重构矩阵和基于商品评分矩阵的重构矩阵进行矩阵相乘，得到用户对商品感兴趣的预测矩阵，并根据结果对用户进行推荐。
作为本发明的进一步限定，所述步骤1具体包括：
步骤1.1构建稀疏自编码机模型，将用户对商品的评分矩阵表示为
Figure BDA0002534659200000031
其中m是用户的数量，n是商品的数量，观测矩阵表示为
Figure BDA0002534659200000032
观测矩阵表示的是如果Rkl＝0则Qkl＝0，如果Rkl≠0则Qkl＝1，其中k表示评分矩阵的用户k，l表示评分矩阵的商品l，则学习用户潜在特征表示的目标函数可以表示为公式(1)：
Figure BDA0002534659200000033
公式(1)中，第一项中的Ru和Qu分别表示基于用户的评分矩阵和观测矩阵，它们分别是用户对商品的评分矩阵R和观测矩阵Q的转置矩阵，
Figure BDA0002534659200000034
是基于用户的评分矩阵的重构矩阵，
Figure BDA0002534659200000035
可以表示为
Figure BDA0002534659200000036
Wu和bu分别表示学习用户潜在特征表示时的加权矩阵和偏置项，
Figure BDA0002534659200000037
表示第一层也就是编码层的加权矩阵，而
Figure BDA0002534659200000038
表示第二层也就是解码层的加权矩阵，bu以此类推；第二项中的α是控制稀疏惩罚项权重的超参数，s表示隐藏层节点的数量，
Figure BDA0002534659200000039
是用以做稀疏惩罚项的KL距离，其中p是稀疏参数，
Figure BDA00025346592000000310
是隐藏层节点r的平均激活值，
Figure BDA00025346592000000311
是隐藏层的输出值；
步骤1.2对公式(1)分别求关于
Figure BDA0002534659200000041
和
Figure BDA0002534659200000042
的偏导，得到的偏导函数分别如公式(2)-(5)所示：
Figure BDA0002534659200000043
Figure BDA0002534659200000044
Figure BDA0002534659200000045
Figure BDA0002534659200000046
公式(2)-(5)中，ξu T表示ξu的转置矩阵，Ru T表示Ru的转置矩阵；
步骤1.3利用L-FBGS算法，分别迭代计算
Figure BDA0002534659200000047
和
Figure BDA0002534659200000048
如公式(6)所示：
Figure BDA0002534659200000049
迭代计算完成后，得到基于用户的评分矩阵的重构矩阵
Figure BDA00025346592000000410
作为本发明的进一步限定，所述步骤2具体包括：
步骤2.1构建图正则化自动编码机模型，学习商品潜在特征表示的目标函数可以表示为公式(7)：
Figure BDA0002534659200000051
公式(7)中，β和γ是控制商品潜在特征表示学习各项平衡的超参数；第一项中的Ri和Qi分别表示用户对商品的评分矩阵和观测矩阵，它们和原评分矩阵和观测矩阵的关系为Ri＝R和Qi＝Q，M是重构的权重矩阵；第二项是图正则化项，其中的trace表示矩阵的迹运算，即求矩阵所有对角线上元素的和，L为拉普拉斯矩阵，计算公式为L＝D-K，其中D是K的对角矩阵，计算公式为D＝diag(∑lKkl)，而K是邻接矩阵，计算公式如(8)所示：
Figure BDA0002534659200000052
公式(8)中的Ril和Rik分别表示某用户对商品l和k的评分，NN(ε,Ril)表示Ril的ε个最近邻，ε是超参数；
步骤2.2对公式(8)求关于权重矩阵M的偏导数如公式(9)所示：
Figure BDA0002534659200000053
步骤2.3通过公式(9)求解得到的权重矩阵M，利用非线性编码函数tanh激活，求基于商品的评分矩阵的重构矩阵
Figure BDA0002534659200000054
如公式(10)所示：
Figure BDA0002534659200000055
作为本发明的进一步限定，所述步骤3具体包括：用基于用户的评分矩阵的重构矩阵
Figure BDA0002534659200000061
和基于商品的评分矩阵的重构矩阵
Figure BDA0002534659200000062
进行矩阵相乘，得到预测矩阵
Figure BDA0002534659200000063
公式(11)所示：
Figure BDA0002534659200000064
根据预测矩阵
Figure BDA0002534659200000065
将用户k对商品l得分超过0.5的对用户进行推荐。
本发明采用以上技术方案与现有技术相比，有益效果在于：1、本发明使用自动编码机模型学习基于用户和基于商品的特征表示，自编码机模型具有收敛速度快，不需要标签和有效性好的特点，使本方法具有更强的鲁棒性和实用性；
2、本发明提出了使用两种不同结构的自动编码机模型，分别学习基于用户和基于商品的数据的不同特征，从而能够针对数据的不同特点，学习更好和更抽象的特征，提高了特征表示的有效性，从而提高了个性化推荐的准确率；
3、本发明使用并行自动编码机的重构评分矩阵进行预测，有效地集成了两个自动编码机的输出结果，降低了模型结构的不稳定性，同时也避免了单一自编码机模型片面性的弊端，增加了个性化推荐的准确性；
4、本发明将两种不同结构的自动编码机模型进行并行，同时学习数据的不同特征，与传统的串行自动编码机模型相比，显著降低了时间复杂度，使本方法具有重要的应用价值；
5、本发明在自编码机模型中添加了稀疏性度量和稀疏正则化损失项，在不引入辅助信息的情况下，减轻了用户对商品评分数据的数据稀疏问题，增加了个性化推荐的可靠性。
附图说明
图1本发明的总体框架图。
图2本发明中自编码机模型结构示意图。
图3本发明中稀疏自编码机模型结构示意图。
具体实施方式
如图1所示的一种基于并行自编码机的协同过滤推荐方法，包括以下步骤：
步骤1构建稀疏自编码机模型完成用户潜在特征表示的目标函数，学习基于用户的高层次抽象特征，得到用户评分矩阵的重构矩阵；
步骤2构建图正则化自动编码机模型完成商品潜在特征表示的目标函数，学习基于商品的高层次抽象特征，得到商品评分矩阵的重构矩阵；
步骤3将基于用户评分矩阵的重构矩阵和基于商品评分矩阵的重构矩阵进行矩阵相乘，得到用户对商品感兴趣的预测矩阵，并根据结果对用户进行推荐。
该方法具体是按如下步骤进行：
步骤1构建稀疏自编码机(SAE)，进行基于用户的评分矩阵的特征学习；
步骤1.1将用户对商品的评分矩阵表示为
Figure BDA0002534659200000071
其中m是用户的数量，n是商品的数量，观测矩阵表示为
Figure BDA0002534659200000072
观测矩阵表示的是如果Rkl＝0则Qkl＝0，如果Rkl≠0则Qkl＝1，其中k表示评分矩阵的用户k，l表示评分矩阵的商品l，根据图2的思想设计基本的自编码机来提取特征，该图说明了自编码机模型由输入层、隐藏层和输出层组成，假设给定输入为x，要得到重构的输出，目标函数可以表示为：
ξ＝f(W1x+b1)
Figure BDA0002534659200000081
表达式中，
Figure BDA0002534659200000082
是x重构的特征表示，ξ代表隐藏层的特征矩阵，f是非线性的激活函数，W和b分别是权重矩阵和偏置向量，ξ＝f(W1x+b1)代表编码层，而
Figure BDA0002534659200000083
代表解码层，自编码机的目标函数可以表示为：
Figure BDA0002534659200000084
为了构建稀疏自编码机，如图3所示，在隐藏层中加入KL距离进行稀疏性度量，目标函数表示如下：
Figure BDA0002534659200000085
其中，第一项中的Ru和Qu分别表示基于用户的评分矩阵和观测矩阵，它们分别是用户对商品的评分矩阵R和观测矩阵Q的转置矩阵，
Figure BDA0002534659200000086
是基于用户的评分矩阵的重构矩阵，
Figure BDA0002534659200000087
可以表示为
Figure BDA0002534659200000088
Wu和bu分别表示学习用户潜在特征表示时的加权矩阵和偏置项，
Figure BDA0002534659200000089
表示第一层也就是编码层的加权矩阵，而
Figure BDA00025346592000000810
表示第二层也就是解码层的加权矩阵，bu以此类推；第二项中的α是控制稀疏惩罚项权重的超参数，s表示隐藏层节点的数量，
Figure BDA00025346592000000811
是用以做稀疏惩罚项的KL距离，其中p是稀疏参数，
Figure BDA0002534659200000091
是隐藏层节点r的平均激活值，
Figure BDA0002534659200000092
是隐藏层的输出值；
步骤1.2为了求解目标函数，分别求关于W和b的偏导：
关于
Figure BDA0002534659200000093
的偏导：
Figure BDA0002534659200000094
关于
Figure BDA0002534659200000095
的偏导：
Figure BDA0002534659200000096
关于
Figure BDA0002534659200000097
的偏导：
Figure BDA0002534659200000098
关于
Figure BDA0002534659200000099
的偏导：
Figure BDA00025346592000000910
其中，ξu T表示ξu的转置矩阵；Ru T表示Ru的转置矩阵；
步骤1.3利用L-FBGS算法，分别迭代计算
Figure BDA00025346592000000911
和
Figure BDA00025346592000000912
的偏导数：
Figure BDA00025346592000000913
Figure BDA00025346592000000914
迭代计算完成后，得到基于用户的评分矩阵的重构矩阵
Figure BDA00025346592000000915
步骤2：构建图正则化自动编码机(SAGR)，进行基于商品的评分矩阵的特征学习；
步骤2.1图正则化假设已知样本相似的数据则对于的标签也有相似性两个样本在流形中距离相近，那么他们的标签信息也应该一样或相似，图正则化自动编码机的目标函数可以表示为：
Figure BDA0002534659200000101
其中β和γ是控制商品潜在特征表示学习各项平衡的超参数；第一项中的Ri和Qi分别表示用户对商品的评分矩阵和观测矩阵，M是重构的权重矩阵；第二项是图正则化项，其中的trace表示矩阵的迹运算，L为拉普拉斯矩阵，计算公式为L＝D-K，其中D是K的对角矩阵，计算公式为D＝diag(∑lKkl)，而K是邻接矩阵，计算公式可以表示为：
Figure BDA0002534659200000102
其中Ril和Rik分别表示某用户对商品l和k的评分，NN(ε,Ril)表示Ril的ε个最近邻，ε是超参数。
步骤2.2为了求解目标函数，我们求关于权重矩阵M的偏导数：
Figure BDA0002534659200000103
步骤2.3在求解得到权重矩阵M的基础上，利用非线性编码函数tanh激活，可以求得基于商品的评分矩阵的重构矩阵
Figure BDA0002534659200000104
步骤3预测矩阵计算：
用步骤1得到的基于用户的评分矩阵的重构矩阵
Figure BDA0002534659200000105
和步骤2得到的基于商品的评分矩阵的重构矩阵
Figure BDA0002534659200000111
进行矩阵相乘，得到预测矩阵
Figure BDA0002534659200000112
根据预测矩阵将用户k对商品l得分超过0.5的对用户进行推荐。
本发明可通过以下实验进一步说明：
为了测试本发明的有效性，分别在MovieLens 100K，MovieLens 1M和Yelp数据集上实现预测结果，其中MovieLens 100K数据集包括943个用户对1682部电影的100000个评分，MovieLens 1M数据集包括6040个用户对3706部电影的1000209个评分，Yelp数据集包括4409个用户对3419部电影的132745个评分，评价指标用平均绝对误差(MAE)和均方根误差(RMSE)，计算公式如下，这两个值越小，推荐系统越好。
Figure BDA0002534659200000113
Figure BDA0002534659200000114
其中，ru,i和
Figure BDA0002534659200000115
分别表示原始的和重构的用户u对电影i的评分，|TestSet|表示的整个测试集。
为了表明测试结果的性能，选择了非负矩阵分解(NMF)、概率矩阵分解(PMF)和概率评分自编码机(PRA)作为对比，预测结果如表1和表2所示，由表1和表2可知本发明在三种数据集上的预测结果平均绝对误差(MAE)和方根误差(RMSE)这两种指标均优于其他方法。
表1 MAE指标的实验结果
Figure BDA0002534659200000121
表2 RMSE指标的实验结果
Figure BDA0002534659200000122
Figure BDA0002534659200000131
本发明能够并行利用不同结构的自编码机且同时学习用户和商品的不同特征信息，提取用户和商品更准确的高层次抽象特征，利用提取的抽象特征进行预测，达到为用户进行更准确推荐的目的。
本发明并不局限于上述实施例，在本发明公开的技术方案的基础上，本领域的技术人员根据所公开的技术内容，不需要创造性的劳动就可以对其中的一些技术特征作出一些替换和变形，这些替换和变形均在本发明的保护范围内。

Claims (4)

1.一种基于并行自编码机的协同过滤推荐方法，其特征在于，包括以下步骤：
步骤1构建稀疏自编码机模型完成用户潜在特征表示的目标函数，学习基于用户的高层次抽象特征，得到用户评分矩阵的重构矩阵；
步骤2构建图正则化自动编码机模型完成商品潜在特征表示的目标函数，学习基于商品的高层次抽象特征，得到商品评分矩阵的重构矩阵；
步骤3将基于用户评分矩阵的重构矩阵和基于商品评分矩阵的重构矩阵进行矩阵相乘，得到用户对商品感兴趣的预测矩阵，并根据结果对用户进行推荐。
2.根据权利要求1所述的一种基于并行自编码机的协同过滤推荐方法，其特征在于，所述步骤1具体包括：
步骤1.1构建稀疏自编码机模型，将用户对商品的评分矩阵表示为
Figure FDA0002534659190000011
其中m是用户的数量，n是商品的数量，观测矩阵表示为
Figure FDA0002534659190000012
观测矩阵表示的是如果Rkl＝0则Qkl＝0，如果Rkl≠0则Qkl＝1，其中k表示评分矩阵的用户k，l表示评分矩阵的商品l，则学习用户潜在特征表示的目标函数可以表示为公式(1)：
Figure FDA0002534659190000013
公式(1)中，第一项中的Ru和Qu分别表示基于用户的评分矩阵和观测矩阵，它们分别是用户对商品的评分矩阵R和观测矩阵Q的转置矩阵，
Figure FDA0002534659190000014
是基于用户的评分矩阵的重构矩阵，
Figure FDA0002534659190000015
可以表示为
Figure FDA0002534659190000016
Wu和bu分别表示学习用户潜在特征表示时的加权矩阵和偏置项，W1 u表示第一层也就是编码层的加权矩阵，而W2 u表示第二层也就是解码层的加权矩阵，bu以此类推；第二项中的α是控制稀疏惩罚项权重的超参数，s表示隐藏层节点的数量，
Figure FDA0002534659190000021
是用以做稀疏惩罚项的KL距离，其中p是稀疏参数，
Figure FDA0002534659190000022
是隐藏层节点r的平均激活值，
Figure FDA0002534659190000023
是隐藏层的输出值；
步骤1.2对公式(1)分别求关于W1 u，W2 u，
Figure FDA0002534659190000024
和
Figure FDA0002534659190000025
的偏导，得到的偏导函数分别如公式(2)-(5)所示：
Figure FDA0002534659190000026
Figure FDA0002534659190000027
Figure FDA0002534659190000028
Figure FDA0002534659190000029
公式(2)-(5)中，ξu T表示ξu的转置矩阵，
Figure FDA00025346591900000210
表示Ru的转置矩阵；
步骤1.3利用L-FBGS算法，分别迭代计算W1 u，W2 u，
Figure FDA00025346591900000211
和
Figure FDA00025346591900000212
如公式(6)所示：
Figure FDA00025346591900000213
迭代计算完成后，得到基于用户的评分矩阵的重构矩阵
Figure FDA0002534659190000031
3.根据权利要求1所述的一种基于并行自编码机的协同过滤推荐方法，其特征在于，所述步骤2具体包括：
步骤2.1构建图正则化自动编码机模型，学习商品潜在特征表示的目标函数可以表示为公式(7)：
Figure FDA0002534659190000032
公式(7)中，β和γ是控制商品潜在特征表示学习各项平衡的超参数；第一项中的Ri和Qi分别表示用户对商品的评分矩阵和观测矩阵，它们和原评分矩阵和观测矩阵的关系为Ri＝R和Qi＝Q，M是重构的权重矩阵；第二项是图正则化项，其中的trace表示矩阵的迹运算，即求矩阵所有对角线上元素的和，L为拉普拉斯矩阵，计算公式为L＝D-K，其中D是K的对角矩阵，计算公式为D＝diag(∑lKkl)，而K是邻接矩阵，计算公式如(8)所示：
Figure FDA0002534659190000033
公式(8)中的Ril和Rik分别表示某用户对商品l和k的评分，NN(ε,Ril)表示Ril的ε个最近邻，ε是超参数；
步骤2.2对公式(8)求关于权重矩阵M的偏导数如公式(9)所示：
Figure FDA0002534659190000034
步骤2.3通过公式(9)求解得到的权重矩阵M，利用非线性编码函数tanh激活，求基于商品的评分矩阵的重构矩阵
Figure FDA0002534659190000035
如公式(10)所示：
Figure FDA0002534659190000036
4.根据权利要求2或3所述的一种基于并行自编码机的协同过滤推荐方法，其特征在于，所述步骤3具体包括：用基于用户的评分矩阵的重构矩阵
Figure FDA0002534659190000041
和基于商品的评分矩阵的重构矩阵
Figure FDA0002534659190000042
进行矩阵相乘，得到预测矩阵
Figure FDA0002534659190000043
公式(11)所示：
Figure FDA0002534659190000044
根据预测矩阵
Figure FDA0002534659190000045
将用户k对商品l得分超过0.5的对用户进行推荐。
CN202010529350.2A 2020-06-11 2020-06-11 一种基于并行自编码机的协同过滤推荐方法 Active CN111652695B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010529350.2A CN111652695B (zh) 2020-06-11 2020-06-11 一种基于并行自编码机的协同过滤推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010529350.2A CN111652695B (zh) 2020-06-11 2020-06-11 一种基于并行自编码机的协同过滤推荐方法

Publications (2)

Publication Number Publication Date
CN111652695A true CN111652695A (zh) 2020-09-11
CN111652695B CN111652695B (zh) 2023-05-30

Family

ID=72349061

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010529350.2A Active CN111652695B (zh) 2020-06-11 2020-06-11 一种基于并行自编码机的协同过滤推荐方法

Country Status (1)

Country Link
CN (1) CN111652695B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112734519A (zh) * 2021-01-06 2021-04-30 河北工业大学 一种基于卷积自编码器网络的商品推荐方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107563841A (zh) * 2017-08-03 2018-01-09 电子科技大学 一种基于用户评分分解的推荐系统
CN108491431A (zh) * 2018-02-09 2018-09-04 淮阴工学院 一种基于自编码机和聚类的混合推荐方法
CN109783739A (zh) * 2019-01-23 2019-05-21 北京工业大学 一种基于层叠稀疏降噪自编码器增强的协同过滤推荐方法
CN110503508A (zh) * 2019-07-15 2019-11-26 电子科技大学 一种层级多粒度矩阵分解的物品推荐方法
CN111079028A (zh) * 2019-12-04 2020-04-28 上海财经大学 基于多源辅助信息的协同过滤推荐系统及方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107563841A (zh) * 2017-08-03 2018-01-09 电子科技大学 一种基于用户评分分解的推荐系统
CN108491431A (zh) * 2018-02-09 2018-09-04 淮阴工学院 一种基于自编码机和聚类的混合推荐方法
CN109783739A (zh) * 2019-01-23 2019-05-21 北京工业大学 一种基于层叠稀疏降噪自编码器增强的协同过滤推荐方法
CN110503508A (zh) * 2019-07-15 2019-11-26 电子科技大学 一种层级多粒度矩阵分解的物品推荐方法
CN111079028A (zh) * 2019-12-04 2020-04-28 上海财经大学 基于多源辅助信息的协同过滤推荐系统及方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112734519A (zh) * 2021-01-06 2021-04-30 河北工业大学 一种基于卷积自编码器网络的商品推荐方法

Also Published As

Publication number Publication date
CN111652695B (zh) 2023-05-30

Similar Documents

Publication Publication Date Title
CN111222332B (zh) 一种结合注意力网络和用户情感的商品推荐方法
Xu et al. House price forecasting with neural networks
CN110555455A (zh) 一种基于实体关系的在线交易欺诈检测方法
CN105868334A (zh) 一种基于特征递增型的电影个性化推荐方法及系统
CN107563841A (zh) 一种基于用户评分分解的推荐系统
CN112364242B (zh) 针对上下文感知型的图卷积推荐系统
CN115860880B (zh) 基于多层异质图卷积模型的个性化商品推荐方法及系统
CN113407861A (zh) 基于去中心化图神经网络的社交推荐方法
CN112800344A (zh) 一种基于深度神经网络的电影推荐方法
CN113761359A (zh) 数据包推荐方法、装置、电子设备和存储介质
CN113159892B (zh) 一种基于多模态商品特征融合的商品推荐方法
CN111652695B (zh) 一种基于并行自编码机的协同过滤推荐方法
Zhou et al. Bipartite network embedding with symmetric neighborhood convolution
CN116664253A (zh) 一种基于广义矩阵分解与遮蔽注意力的项目推荐方法
CN112861017A (zh) 一种基于图卷积的神经协同过滤的信息推荐方法
CN116701781A (zh) 一种基于图卷积神经网络的物品同质图邻域聚合推荐算法
CN113744023B (zh) 一种基于图卷积网络的双通道协同过滤推荐方法
CN114780862B (zh) 一种用户兴趣向量提取方法、提取模型及计算机系统
CN112734519B (zh) 一种基于卷积自编码器网络的商品推荐方法
CN114491086A (zh) 服饰个性化搭配推荐方法、系统、电子设备及存储介质
Ghadirian et al. Hybrid adaptive modularized tri-factor non-negative matrix factorization for community detection in complex networks
Ko et al. Deep model compression and inference speedup of sum–product networks on tensor trains
Moodi et al. Evaluation of feature selection performance for identification of best effective technical indicators on stock market price prediction
Yang et al. Towards purchase prediction: a voting-based method leveraging transactional information
Mohan et al. Representation learning for temporal networks using temporal random walk and deep autoencoder

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant