CN110263232A - 一种基于广度学习和深度学习的混合推荐方法 - Google Patents

一种基于广度学习和深度学习的混合推荐方法 Download PDF

Info

Publication number
CN110263232A
CN110263232A CN201910425341.6A CN201910425341A CN110263232A CN 110263232 A CN110263232 A CN 110263232A CN 201910425341 A CN201910425341 A CN 201910425341A CN 110263232 A CN110263232 A CN 110263232A
Authority
CN
China
Prior art keywords
recommended
user
label
prediction
prediction scoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910425341.6A
Other languages
English (en)
Other versions
CN110263232B (zh
Inventor
张家精
陈金兰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui University of Architecture
Original Assignee
Anhui University of Architecture
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui University of Architecture filed Critical Anhui University of Architecture
Priority to CN201910425341.6A priority Critical patent/CN110263232B/zh
Publication of CN110263232A publication Critical patent/CN110263232A/zh
Application granted granted Critical
Publication of CN110263232B publication Critical patent/CN110263232B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/903—Querying
    • G06F16/9035—Filtering based on additional data, e.g. user or group profiles
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种基于广度学习和深度学习的混合推荐方法，包括：推荐对象根据张量分解算法从用户对带有标签的推荐对象的评分数据张量中分解提取用户、推荐对象和标签的隐性特征，得到用户、推荐对象和标签的特征矩阵，再对用户、推荐对象和标签的特征矩阵进行特征匹配，得到张量分解的第一预测评分；采用循环神经网络提取用户特征和标签特征，采用文本卷积网络提取推荐对象名特征，将标签特征和推荐对象名特征输入BP神经网络的全连接层，得到推荐对象的目标特征，将用户特征和推荐对象的目标特征进行特征匹配，得到深度学习的第二预测评分；将第一预测评分和第二预测评分进行融合，得到最终预测评分并输出。

Description

一种基于广度学习和深度学习的混合推荐方法
技术领域
本发明涉及数据处理技术领域，尤其涉及一种基于广度学习和深度学习的混合推荐方法。
背景技术
传统的推荐算法大多研究用户和推荐对象两者之间的关系，例如矩阵分解通过现有部分用户对推荐对象的评分提取用户和推荐对象隐含在评分数据中隐性特征，再根据对应特征的匹配程度进行推荐。然而给用户推荐的对象往往不仅仅取决于用户和推荐对象两个方面的特征，还会取决于其他因素的特征，如销售商的服务态度、标签及物流情况等。因此现有推荐系统扩展了推荐的影响因素，考虑三个甚至三个以上因素特征匹配的推荐，其中张量分解就利用张量的高阶特征，从评分中提取三个或者三个以上影响因素的特征，再将三个或三个以上影响因素对应特征进行匹配，得出推荐结果，从而提高推荐的精准度。
对于任何单一推荐算法都存在相应的优缺点，然而通过广度学习融合不同的推荐算法，兼顾提取研究对象不同方面数据的特征，融合推荐结果，往往能表现出更优异的性能。
发明内容
基于背景技术存在的技术问题，本发明提出了一种基于广度学习和深度学习的混合推荐方法；
本发明提出的一种基于广度学习和深度学习的混合推荐方法，包括：
S1、推荐对象根据张量分解算法从用户对带有标签的推荐对象的评分数据张量中分解提取用户、推荐对象和标签的隐性特征，得到用户、推荐对象和标签的特征矩阵，再对用户、推荐对象和标签的特征矩阵进行特征匹配，得到张量分解的第一预测评分；
S2、采用循环神经网络提取用户特征和标签特征，采用文本卷积网络提取推荐对象名特征，将标签特征和推荐对象名特征输入BP神经网络的全连接层，得到推荐对象的目标特征，将用户特征和推荐对象的目标特征进行特征匹配，得到深度学习的第二预测评分；
S3、将第一预测评分和第二预测评分进行融合，得到最终预测评分并输出。
优选地，步骤S1，具体为：
通过Tucker分解模型从用户对带有标签的推荐对象的评分数据张量中分解提取用户、推荐对象和标签的隐性特征，得到用户、推荐对象和标签的特征矩阵；
Tucker分解模型为：其中，Yijk为目标张量，Uip、Tjq、Ikr分别为用户、推荐对象和标签的特征矩阵，P、Q、R分别为各个矩阵对应的阶数，Sijk为核心张量，表示各个维度上的潜在相互关系；
计算Xijk≈∑pqrSijk×Uip×Tjq×Ikr，得到近似表示张量Xijk作为张量分解的第一预测评分。
优选地，步骤S2中，所述将用户特征和推荐对象的目标特征进行特征匹配，具体包括：
根据联合训练法将用户特征、标签特征和推荐对象的目标特征进行匹配，将用户特征、标签特征和推荐对象的目标特征作为输入传入全连接层，得到输出值，再将输出值进行逻辑斯蒂回归得出预测评分概率值，根据Adam算法作为深度学习部分的优化策略，取深度学习后概率最高值所对应的评分等级，作为深度学习的第二预测评分；
深度学习模型预测评分计算公式为：
其中，y为评分等级，分别对应1-5个评分等级，P(y|x)为各个预测评分等级的概率值，其中x为待推荐对象，和分别代表用户模型和推荐对象的目标模型所对应的权重值和输入值的乘积，其中和的权重值为预设值，b为偏移量，取P(y|x)概率最高值所对应的评分等级，作为深度学习的第二预测评分yDeep。
优选地，步骤S3，具体为：
将第一预测评分和第二预测评分相加，根据线性回归模型得到最终预测评分并输出，所述预测模型为：
yscore＝w1yTD+w2yDeep+b，其中，yscore∈[0,5]为最终综合评分，yTD为第一预测评分，yDeep为第二预测评分，w1和w2分别为预设的第一预测评分和第二预测评分的权重，b为预设的偏移量。
优选地，步骤S3，具体为：
将第一预测评分和第二预测评分相加，通过逻辑斯蒂回归函数转化成概率，再取概率最大时对应的分值作为最终预测评分并输出，所述预测模型为：
s2＝yTD+yDeep；yscore＝argmaxP(y|x)，
其中，yscore∈[0,5]为最终综合评分，P(y|x)概率值，yTD为第一预测评分，yDeep为第二预测评分。
本发明先用张量分解从用户的评分数据中提取用户、推荐对象以及其他影响因素的隐性特征及它们之间的相互关系，经相应特征匹配第一预测评分，再使用深度学习方法从多源异构的辅助信息中提取用户特征、标签特征和推荐对象特征，使相应特征匹配，得到第二预测评分，最后将第一预测评分和第二预测评分融合形成最终综合评分，该方法经融合张量分解和深度神经网络，兼顾用户、推荐对象(标签和推荐对象)影响因素在用户评分数据中的隐性特征和辅助数据信息中的特征，从而提高预测推荐的精准度。
附图说明
图1为本发明提出的一种基于广度学习和深度学习的混合推荐方法的流程示意图；
图2为本发明中文本卷积网络提取推荐对象特征的流程示意图。
具体实施方式
参照图1，本发明提出的一种基于广度学习和深度学习的混合推荐方法，包括：
步骤S1，推荐对象根据张量分解算法从用户对带有标签的推荐对象的评分数据张量中分解提取用户、推荐对象和标签的隐性特征，得到用户、推荐对象和标签的特征矩阵，再对用户、推荐对象和标签的特征矩阵进行特征匹配，得到张量分解的第一预测评分。
步骤S1具体为：通过Tucker分解模型从用户对带有标签的推荐对象的评分数据张量中分解提取用户、推荐对象和标签的隐性特征，得到用户、推荐对象和标签的特征矩阵；Tucker分解模型为：其中，Yijk为目标张量，Uip、Tjq、Ikr分别为用户、推荐对象和标签的特征矩阵，P、Q、R分别为各个矩阵对应的阶数，Sijk为核心张量，表示各个维度上的潜在相互关系；计算Xijk≈∑pqrSijk×Uip×Tjq×Ikr，得到近似表示张量Xijk作为张量分解的第一预测评分。
在具体方案中，张量分解属于因式分解机，目标是从高阶的用户评价张量中提取用户、推荐对象及标签的隐性特征，用户的评分数据即包含了用户对某推荐对象的喜好特征，也包含了推荐对象自身特征以及其所属的标签特征，张量分解可直接从用户评分的高阶张量数据中提取用户、推荐对象和标签的特征，再通过特征间的匹配得到第一预测评分；
近似表示张量Xijk的计算为张量分解的逆向运算，通过将Yijk分解出的三个矩阵和一个核心张量进行重新组合，还原近似表示张量，经过重组后，新产生的近似表示张量将给各个用户对应的推荐对象和标签重新给出近似的评分，同时预测出原来评分张量中缺省的评分，这不仅可以还原用户的真实评价，同时还可以预测出某用户对某种没有评价过的推荐对象的评分。
步骤S2，根据采用循环神经网络提取用户特征和标签特征，根据文本卷积网络提取推荐对象特征，将标签特征和推荐对象特征输入BP神经网络的全连接层，得到推荐对象的目标特征，将用户特征和推荐对象的目标特征进行特征匹配，得到深度学习的第二预测评分。
步骤S2中将用户特征和推荐对象的目标特征进行特征匹配具体包括：根据联合训练法将用户特征、标签特征和推荐对象的目标特征进行匹配，将用户特征、标签特征和推荐对象的目标特征作为输入传入全连接层，得到输出值，再将输出值进行逻辑斯蒂回归得出预测评分概率值，根据Adam算法作为深度学习部分的优化策略，取深度学习后概率最高值所对应的评分等级，作为深度学习的第二预测评分；深度学习模型预测评分计算公式为：
其中，y为评分等级，分别对应1-5个评分等级，P(y|x)为各个预测评分等级的概率值，其中x为待推荐对象，和分别代表用户模型和推荐对象的目标模型所对应的权重值和输入值的乘积，其中和的权重值为预设值，b为偏移量，取P(y|x)概率最高值所对应的评分等级，作为深度学习的第二预测评分yDeep。
参照图2，在具体方案中，使用嵌入层对用户信息和对象(标签和推荐对象)这类结构化信息进行预处理，而推荐对象名特征较为复杂，为文本类信息，需要使用文本卷积网络进行处理，再将提取的推荐对象名特征与循环神经网络提取的标签特征共同输入全连接层，产生推荐对象的目标特征；卷积神经网络模型的第一层为嵌入层，分别由每一个处理过的单词向量组成的嵌入矩阵，第二层为卷积层，使用特征提取器在嵌入矩阵上做卷积操作，将词嵌入层中待输入的信息进行特征提取，第三层为池化层，提取前一层中各特征提取器产生的特征值实现代表性的特征提取，最后一层为全连接层，输出推荐对象的目标特征。
步骤S3，将第一预测评分和第二预测评分进行融合，得到最终预测评分并输出。
步骤S3具体为：将第一预测评分和第二预测评分相加，根据线性回归模型得到最终预测评分并输出，所述预测模型为：yscore＝w1yTD+w2yDeep+b，其中，yscore∈[0,5]为最终综合评分，yTD为第一预测评分，yDeep为第二预测评分，w1和w2分别为预设的第一预测评分和第二预测评分的权重，b为预设的偏移量；
或，步骤S3具体为：将第一预测评分和第二预测评分相加，通过逻辑斯蒂回归函数转化成概率，再取概率最大时对应的分值作为最终预测评分并输出，所述预测模型为：
s2＝yTD+yDeep；yscore＝argmaxP(y|x)，其中，yscore∈[0,5]为最终综合评分，P(y|x)概率值，yTD为第一预测评分，yDeep为第二预测评分。
在具体方案中，可采用两种混合方法将第一预测评分和第二预测评分进行融合：
合线性回归法：将第一预测评分和第二预测评分相加，根据线性回归模型得到最终预测评分并输出；
逻辑斯蒂回归法：将第一预测评分和第二预测评分相加，通过逻辑斯蒂回归函数转化成概率，再取概率最大时对应的分值作为最终预测评分并输出。
本实施方式先用张量分解从用户的评分数据中提取用户、推荐对象以及其他影响因素的隐性特征及它们之间的相互关系，经相应特征匹配第一预测评分，再使用深度学习方法从多源异构的辅助信息中提取用户特征、标签特征和推荐对象特征，使相应特征匹配，得到第二预测评分，最后将第一预测评分和第二预测评分融合形成最终综合评分，该方法经融合张量分解和深度神经网络，兼顾用户、推荐对象(标签和推荐对象)影响因素在用户评分数据中的隐性特征和辅助数据信息中的特征，从而提高预测推荐的精准度。
以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。

Claims (5)

1.一种基于广度学习和深度学习的混合推荐方法，其特征在于，包括：
S1、推荐对象根据张量分解算法从用户对带有标签的推荐对象的评分数据张量中分解提取用户、推荐对象和标签的隐性特征，得到用户、推荐对象和标签的特征矩阵，再对用户、推荐对象和标签的特征矩阵进行特征匹配，得到张量分解的第一预测评分；
S2、采用循环神经网络提取用户特征和标签特征，采用文本卷积网络提取推荐对象名特征，将标签特征和推荐对象名特征输入BP神经网络的全连接层，得到推荐对象的目标特征，将用户特征和推荐对象的目标特征进行特征匹配，得到深度学习的第二预测评分；
S3、将第一预测评分和第二预测评分进行融合，得到最终预测评分并输出。
2.根据权利要求1所述的基于广度学习和深度学习的混合推荐方法，其特征在于，步骤S1，具体为：
通过Tucker分解模型从用户对带有标签的推荐对象的评分数据张量中分解提取用户、推荐对象和标签的隐性特征，得到用户、推荐对象和标签的特征矩阵；
Tucker分解模型为：其中，Yijk为目标张量，Uip、Tjq、Ikr分别为用户、推荐对象和标签的特征矩阵，P、Q、R分别为各个矩阵对应的阶数，Sijk为核心张量，表示各个维度上的潜在相互关系；
计算Xijk≈∑pqrSijk×Uip×Tjq×Ikr，得到近似表示张量Xijk作为张量分解的第一预测评分。
3.根据权利要求1所述的基于广度学习和深度学习的混合推荐方法，其特征在于，步骤S2中，所述将用户特征和推荐对象的目标特征进行特征匹配，具体包括：
根据联合训练法将用户特征、标签特征和推荐对象的目标特征进行匹配，将用户特征、标签特征和推荐对象的目标特征作为输入传入全连接层，得到输出值，再将输出值进行逻辑斯蒂回归得出预测评分概率值，根据Adam算法作为深度学习部分的优化策略，取深度学习后概率最高值所对应的评分等级，作为深度学习的第二预测评分；
深度学习模型预测评分计算公式为：
yDeep＝argmaxP(y|x)；
其中，y为评分等级，分别对应1-5个评分等级，P(y|x)为各个预测评分等级的概率值，其中x为待推荐对象，和分别代表用户模型和推荐对象的目标模型所对应的权重值和输入值的乘积，其中和的权重值为预设值，b为偏移量，取P(y|x)概率最高值所对应的评分等级，作为深度学习的第二预测评分yDeep。
4.根据权利要求1所述的基于广度学习和深度学习的混合推荐方法，其特征在于，步骤S3，具体为：
将第一预测评分和第二预测评分相加，根据线性回归模型得到最终预测评分并输出，所述预测模型为：
yscore＝w1yTD+w2yDeep+b，其中，yscore∈[0,5]为最终综合评分，yTD为第一预测评分，yDeep为第二预测评分，w1和w2分别为预设的第一预测评分和第二预测评分的权重，b为预设的偏移量。
5.根据权利要求1所述的基于广度学习和深度学习的混合推荐方法，其特征在于，步骤S3，具体为：
将第一预测评分和第二预测评分相加，通过逻辑斯蒂回归函数转化成概率，再取概率最大时对应的分值作为最终预测评分并输出，所述预测模型为：
s2＝yTD+yDeep；yscore＝argmaxP(y|x)，
其中，yscore∈[0,5]为最终综合评分，P(y|x)概率值，yTD为第一预测评分，yDeep为第二预测评分。
CN201910425341.6A 2019-05-21 2019-05-21 一种基于广度学习和深度学习的混合推荐方法 Active CN110263232B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910425341.6A CN110263232B (zh) 2019-05-21 2019-05-21 一种基于广度学习和深度学习的混合推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910425341.6A CN110263232B (zh) 2019-05-21 2019-05-21 一种基于广度学习和深度学习的混合推荐方法

Publications (2)

Publication Number Publication Date
CN110263232A true CN110263232A (zh) 2019-09-20
CN110263232B CN110263232B (zh) 2022-10-04

Family

ID=67915024

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910425341.6A Active CN110263232B (zh) 2019-05-21 2019-05-21 一种基于广度学习和深度学习的混合推荐方法

Country Status (1)

Country Link
CN (1) CN110263232B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111241408A (zh) * 2020-01-21 2020-06-05 武汉轻工大学 推荐模型的构建系统及方法
CN113051463A (zh) * 2019-12-26 2021-06-29 中移物联网有限公司 一种项目推送方法及系统
CN113297490A (zh) * 2021-06-04 2021-08-24 西南大学 基于图卷积神经网络的双向推荐方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106649657A (zh) * 2016-12-13 2017-05-10 重庆邮电大学 面向社交网络基于张量分解的上下文感知推荐系统及方法
WO2018107102A1 (en) * 2016-12-09 2018-06-14 Alibaba Group Holding Limited Network interaction system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018107102A1 (en) * 2016-12-09 2018-06-14 Alibaba Group Holding Limited Network interaction system
CN106649657A (zh) * 2016-12-13 2017-05-10 重庆邮电大学 面向社交网络基于张量分解的上下文感知推荐系统及方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
申远等: "一种具有迁移学习的MF和DNN的组合推荐算法", 《空军预警学院学报》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113051463A (zh) * 2019-12-26 2021-06-29 中移物联网有限公司 一种项目推送方法及系统
CN113051463B (zh) * 2019-12-26 2023-07-07 中移物联网有限公司 一种项目推送方法及系统
CN111241408A (zh) * 2020-01-21 2020-06-05 武汉轻工大学 推荐模型的构建系统及方法
CN113297490A (zh) * 2021-06-04 2021-08-24 西南大学 基于图卷积神经网络的双向推荐方法

Also Published As

Publication number Publication date
CN110263232B (zh) 2022-10-04

Similar Documents

Publication Publication Date Title
US11631147B2 (en) Social recommendation method based on multi-feature heterogeneous graph neural networks
CN108875807A (zh) 一种基于多注意力多尺度的图像描述方法
CN109785062B (zh) 一种基于协同过滤模型的混合神经网络推荐系统
CN108710680A (zh) 一种利用深度学习进行基于情感分析的电影推荐方法
CN104598611B (zh) 对搜索条目进行排序的方法及系统
CN110263232A (zh) 一种基于广度学习和深度学习的混合推荐方法
CN108874914A (zh) 一种基于图卷积与神经协同过滤的信息推荐方法
CN111163359B (zh) 弹幕生成方法、装置和计算机可读存储介质
CN109754317B (zh) 融合评论的可解释性服装推荐方法、系统、设备及介质
CN107563841A (zh) 一种基于用户评分分解的推荐系统
CN109241255A (zh) 一种基于深度学习的意图识别方法
CN111932336A (zh) 一种基于长短期兴趣偏好的商品列表推荐方法
CN106875007A (zh) 用于语音欺骗检测的基于卷积长短期记忆端对端深度神经网络
CN106504064A (zh) 基于深度卷积神经网络的服装分类与搭配推荐方法及系统
CN109857871A (zh) 一种基于社交网络海量情景数据的用户关系发现方法
CN109639710A (zh) 一种基于对抗训练的网络攻击防御方法
CN107070852A (zh) 网络攻击检测方法和装置
CN111753207B (zh) 一种基于评论的神经图协同过滤方法
CN105069072A (zh) 基于情感分析的混合用户评分信息推荐方法及其推荐装置
CN105787100A (zh) 一种基于深度神经网络的用户会话推荐方法
CN109241518A (zh) 一种基于情感分析的检测网络水军方法
CN107993126A (zh) 一种基于挖掘评论修正用户评分的改进协同过滤方法
CN106355346A (zh) 一种基于神经网络算法的电影票房预测方法及预测系统
CN110096587A (zh) 基于注意力机制的lstm-cnn词嵌入的细粒度情感分类模型
CN104750779A (zh) 一种基于条件随机场的中文兼类词识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant