CN111428147A - 结合社交和兴趣信息的异源图卷积网络的社交推荐方法 - Google Patents

结合社交和兴趣信息的异源图卷积网络的社交推荐方法 Download PDF

Info

Publication number
CN111428147A
CN111428147A CN202010216211.4A CN202010216211A CN111428147A CN 111428147 A CN111428147 A CN 111428147A CN 202010216211 A CN202010216211 A CN 202010216211A CN 111428147 A CN111428147 A CN 111428147A
Authority
CN
China
Prior art keywords
user
social
graph
formula
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010216211.4A
Other languages
English (en)
Other versions
CN111428147B (zh
Inventor
吴乐
黎俊伟
孙培杰
付瑞吉
汪萌
洪日昌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
iFlytek Co Ltd
Hefei University of Technology
Original Assignee
iFlytek Co Ltd
Hefei University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by iFlytek Co Ltd, Hefei University of Technology filed Critical iFlytek Co Ltd
Priority to CN202010216211.4A priority Critical patent/CN111428147B/zh
Publication of CN111428147A publication Critical patent/CN111428147A/zh
Application granted granted Critical
Publication of CN111428147B publication Critical patent/CN111428147B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9536Search customisation based on social or collaborative filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Abstract

本发明公开了一种结合社交和兴趣信息的异源图卷积网络的社交推荐方法,包括:1.构造用户社交关系矩阵S,用户物品评分矩阵R;2.利用用户社交关系矩阵S和用户物品评分矩阵R,构造异源图G;3.构造用户和物品的嵌入表示矩阵;4.构造两个均为K个传播层的图卷积层,将所述的异源图G输入其中,并通过构造注意力机制,将两个图卷积网络传播过程联系起来;5.计算用户对物品的物品偏好值,从而对用户进行推荐。本发明能有效地结合社交信息和兴趣信息,将两者同时整合到一个模型,捕捉用户与用户之间和用户与物品之间的高阶关联信息,并采用分层的注意力机制训练,最大化利用用户数据,实现对用户进行更精准的商品推荐。

Description

结合社交和兴趣信息的异源图卷积网络的社交推荐方法
技术领域
本发明涉及社交推荐领域,具体地说是一种结合社交和兴趣信息的异源图卷积网络的社交推荐方法。
背景技术
基于协同过滤的推荐系统,由于能很好地对用户和商品建模从而大大提高推荐性能,近年来引起了工业界和学术界的广泛关注。但是普遍存在的用户行为数据稀疏性问题,仍极大地限制了协同过滤的效果。而如何结合更多的有效信息,从而学习到更精准的推荐,成为了很迫切的研究需要。
随着社交网络技术的发展,人们在各种平台逐渐建立自己的社交关系,并彼此分享和影响自己对各种物品的偏好,社交网络成为了用户很重要的数据信息。因此,为了在推荐算法中有效的融入社交信息以达到更精准的推荐效果,2006年Friedkin等人注意到了社交网络对用户偏好的影响性,2010年Jamali等人开始尝试利用社交网络中用户的邻居信息解决用户数据稀疏问题,提升推荐算法的效果。因此通过利用图结构对用户-用户的社交信息,或者用户-物品之间的兴趣信息进行建模,达到了不错的效果。
而图卷积网络技术的出现和流行,更进一步推动了这些模型的性能。比如2019年Xu等人提出利用图中的邻居节点信息,捕捉用户之间的高阶相关信息,实现对用户更好的建模。但目前大多数基于图卷积的模型,只能将社交网络和兴趣网络独立区分对待,无法实现在同一个模型中,同时利用到两种类型的网络信息。
然而,用户在两种图之间起到了重要的关联作用,之前将两者独立对待的图卷积网络模型,无法捕捉到兴趣网络和社交网络之间重要的相关信息,因此推荐效果也受到限制。因此,如何有效地将社交信息和兴趣信息融合进一个模型对用户进行建模,使得用户的行为数据能最大化的利用和充分挖掘以提高推荐效果,成为了一个值得关注的问题。
发明内容
本发明为解决现有技术的不足之处,提出一种结合社交和兴趣信息的异源图卷积网络的社交推荐方法,以期通过有效融合两者信息,对用户进行更精准的推荐,尤其是对行为数据稀疏的用户群体,从而实现更好的推荐效果。
本发明为解决技术问题采用如下技术方案:
本发明一种结合社交和兴趣信息的异源图卷积网络的社交推荐方法的特点是按如下步骤进行:
步骤1、构造用户社交关系矩阵S,用户物品评分矩阵R:
令U表示用户集,且U={u1,...,ua,...,ub,...,uM},其中,ua表示第a个用户,ub表示第b个用户,M表示用户总数,1≤a,b≤M;令V表示物品集,且V={v1,...,vi,...,vj,...,vN},其中,vi表示第i个物品,vj表示第j个物品,N表示物品总数,1≤i,j≤N;令sab表示第a个用户ua对第b个用户ub的社交关系,若sab=1,则表示第a个用户ua对第b个用户ub存在社交依赖关系,若sab=0,则表示第a个用户ua对第b个用户ub不存在社交依赖关系,从而构造所有用户之间的社交关系矩阵S={sab}M×M;令Sa表示对第a个用户ua存在社交依赖关系的所有用户集合;令rai表示第a个用户ua对第i个物品vi的评分值,从而构造所有用户对所有物品的评分矩阵R={rai}M×N;令Ra表示第a个用户ua产生过消费行为的所有物品集合,令Ri表示对第i个物品vi产生过消费行为的所有用户集合;
步骤2、利用用户社交关系矩阵S和用户物品评分矩阵R,构造异源图G:
步骤2.1、利用用户社交关系矩阵S,构造用户-用户的社交关系图Gs={U,S∈RM ×M},其中,用户集U作为结点集,社交关系矩阵S作为边集;
步骤2.2、利用用户物品评分矩阵R,构造用户-物品的兴趣关系图Gc={U∪V,R∈RM ×N},其中,用户集U和物品集V作为结点集,评分矩阵R作为边集;
步骤2.3、利用用户作为中间媒介,将社交关系图Gs和兴趣关系图Gc结合起来作为整体异源图G={U∪V,E∈R(M+N)},其中,用户集U和物品集V作为结点集,E=R∪S作为边集;
步骤3、构造用户和物品的嵌入表示矩阵:
由用户集U和物品集V构建用户的自由嵌入矩阵C∈RN×D和物品的自由嵌入矩阵Y∈RM×D,其中D表示隐因子的维度,令所述自由嵌入矩阵C中第a列向量ca表示第a个用户ua对应的自由嵌入向量,Y中第i列向量yi表示第i个物品vi对应的自由嵌入向量;
步骤4、构造两个均为K个传播层的图卷积网络,并输入所述异源图G,再通过构造注意力机制,将两个图卷积网络传播过程联系起来:
步骤4.1、新建两个K个传播层的图卷积网络,并分别输入社交关系图Gs和兴趣关系图Gc,从而得到社交图卷积网络和兴趣图卷积网络;
步骤4.2、定义两个图卷积网络的当前传播层数为k,并初始化k=0;
步骤4.3、在社交图卷积网络中,将第k个传播层中第a个用户ua对应的节点表示向量
Figure BDA0002424508810000031
初始化为ca;在兴趣图卷积网络中,将第k个传播层中第a个用户ua对应的节点表示向量
Figure BDA0002424508810000032
初始化为ca,将第k个传播层中第i个物品vi对应的节点表示向量
Figure BDA0002424508810000033
初始化为yi
步骤4.4、将所述社交网络图Gs输入到在社交图卷积网络中,并利用式(7)更新社交网络图Gs中每个用户的嵌入表示,得到第k+1层的第a个用户ua的嵌入表示
Figure BDA0002424508810000034
Figure BDA0002424508810000035
式(1)中,
Figure BDA0002424508810000036
表示在第k+1个传播层的社交图卷积网络中,第b个用户ub的社交影响在第a个用户ua所有关联用户社交影响中所占的比重;
步骤4.5、将所述兴趣网络图Gc输入到兴趣图卷积网络中,并分别利用式(8)和式(9)更新兴趣网络图Gc中用户和物品的嵌入表示,得到第k+1层的第a个用户ua的嵌入表示
Figure BDA0002424508810000037
和第i个物品vi的嵌入表示
Figure BDA0002424508810000038
与当前第k层的表示
Figure BDA0002424508810000039
拼接,然后利用式(10)进行线性变换得到第k+1层第i个物品vi的最终嵌入表示
Figure BDA00024245088100000310
Figure BDA00024245088100000311
Figure BDA00024245088100000312
Figure BDA00024245088100000313
式(2)中,
Figure BDA00024245088100000314
表示在第k+1个传播层的社交图卷积网络中,第i个物品vi的影响在第a个用户ua所有关联商品的影响中所占的比重;
式(3)中,
Figure BDA00024245088100000315
表示在第k+1个传播层的社交图卷积网络中,第a个用户ca的影响在第i个物品vi所有关联用户的影响中所占的比重;
式(4)中,fk+1是一个非线性变换函数,Wf是对应的转换矩阵;
步骤4.6、利用式(5)得到更新后的第k+1层的第a个用户ua的嵌入表示向量
Figure BDA0002424508810000041
Figure BDA0002424508810000042
式(5)中,
Figure BDA0002424508810000043
分别代表在第k+1个传播层中第l种输出的重要性权重因子;l∈{1,2,3};
步骤5、计算用户对物品的物品偏好值,从而对用户进行推荐:
步骤5.1、根据每层图卷积网络的输出,利用式(6)计算第a个用户ua对第i个物品vi的偏好:
Figure BDA0002424508810000044
式(6)中,[·||·]表示对两个向量的拼接操作;
步骤5.2、选取贝叶斯个性化排序的框架,建立如式(7)所示的损失函数L(θ):
Figure BDA0002424508810000045
式(7)中,σ(·)表示sigmoid函数,λ是正则化参数,||·||2表示二范数,Θ为网络模型在优化过程中的所有可学习参数的集合,
Figure BDA0002424508810000046
第a个用户ua对第j个物品vj的预测偏好值;R-表示用户评分为0的评分集合,R+表示用户评分为1的评分集合;
步骤5.3、通过随机梯度下降法对所述损失函数L进行优化求解,使得L达到最小,从而得到最优的预测评分矩阵,并根据最优预测评分矩阵对用户进行物品推荐。
本发明所述的社交推荐方法的特点也在于,所述步骤4.4中比重
Figure BDA0002424508810000047
是按如下过程计算得到:
利用式(8)得到第k+1个传播层的社交图卷积网络中第a个用户ua和第b个用户ub之间的社交影响力因子
Figure BDA0002424508810000048
并利用式(9)进行归一化处理,得到归一化后的社交影响力因子
Figure BDA0002424508810000049
用于学习用户之间的社交影响力,从而在社交图卷积网络中构造社交Bottom注意力神经网络:
Figure BDA00024245088100000410
Figure BDA00024245088100000411
式(8)中,w1和W1是社交Bottom注意力神经网络中计算社交影响力的参数。
所述步骤4.5中的比重
Figure BDA0002424508810000051
是按如下过程计算得到:
利用式(10)得到第k+1个传播层的社交图卷积网络中第i个用户vi和第a个用户ua之间的社交影响力因子
Figure BDA0002424508810000052
并利用式(11)进行归一化处理,得到归一化后的兴趣影响力因子
Figure BDA0002424508810000053
用于学习物品对用户的兴趣影响力,从而在兴趣图卷积网络中构造兴趣Bottom注意力神经网络:
Figure BDA0002424508810000054
Figure BDA0002424508810000055
式(10)中,w2和W2是兴趣Bottom注意力神经网络中计算物品对用户产生的兴趣影响力的参数。
所述步骤4.5中的比重
Figure BDA0002424508810000056
是按如下过程计算得到:
利用式(12)得到第k+1个传播层的社交图卷积网络中第a个用户ua和第i个物品vi之间的社交影响力因子
Figure BDA0002424508810000057
并利用式(13)进行归一化处理,得到归一化后的兴趣影响力因子
Figure BDA0002424508810000058
用于学习用户对物品的兴趣影响力,从而在兴趣图卷积网络中构造另一个兴趣Bottom注意力神经网络:
Figure BDA0002424508810000059
Figure BDA00024245088100000510
式(12)中,w3和W3是兴趣Bottom注意力神经网络中计算用户对物品产生的兴趣影响力的参数。
所述步骤4.6中的重要性权重因子
Figure BDA00024245088100000511
是按如下过程计算得到:
利用式(14)计算得到在第k+1个传播层时综合三种输出的综合权重因子
Figure BDA00024245088100000512
并利用式(15)进行归一化处理,得到归一化后的综合权重因子
Figure BDA00024245088100000513
从而为两个图卷积网络构造Top注意力神经网络:
Figure BDA0002424508810000061
Figure BDA0002424508810000062
式(14)中,w4和W4表示top注意力神经网络中的学习参数,
Figure BDA0002424508810000063
表示top注意力神经网络层的每个输入,其中top注意力神经网络层的第1个输入
Figure BDA0002424508810000064
是当前第k个传播层中第a个用户ua的嵌入表示向量
Figure BDA0002424508810000065
Figure BDA0002424508810000066
top注意力神经网络层的第2个输入
Figure BDA0002424508810000067
是社交图卷积网络中第k+1层第a个用户ua的嵌入表示
Figure BDA0002424508810000068
Figure BDA0002424508810000069
top注意力神经网络层的第3个输入
Figure BDA00024245088100000610
是兴趣图卷积网络中第k+1层的第a个用户ua的嵌入表示
Figure BDA00024245088100000611
Figure BDA00024245088100000612
与已有技术相比,本发明有益效果体现在:
本发明提出同时结合用户兴趣信息和用户社交信息的思想,将社交推荐问题视为预测图连接的问题。通过构造用户-用户的社交网络,和用户-物品的兴趣网络,作为异源图的形式输入到图卷积网络中,克服了现有的用户数据稀疏性的问题,更够实现更好的用户社交推荐;另外在采用基于异源图输入的图卷积网络结构中,本发明设计了分层的注意力机制,能够根据各自重要性,区分地学习各自图中的邻居聚集信息,以捕捉到更精确的高阶关系,以及根据重要程度区分学习对应图更新后的输出嵌入表示,以捕捉每个用户的偏好被不同方面的影响程度。
附图说明
图1为本发明结合社交和兴趣信息的异源图卷积网络的社交推荐方法的流程图。
具体实施方式
参见图1,本实施例中,一种结合社交信息和兴趣信息的图卷积网络的社交推荐方法是按如下步骤进行:
步骤1、构造用户社交关系矩阵S,用户物品评分矩阵R:
令U表示用户集,且U={u1,...,ua,...,ub,...,uM},其中,ua表示第a个用户,ub表示第b个用户,M表示用户总数,1≤a,b≤M;令V表示物品集,且V={v1,...,vi,...,vj,...,vN},其中,vi表示第i个物品,vj表示第j个物品,N表示物品总数,1≤i,j≤N;令sab表示第a个用户ua对第b个用户ub的社交关系,若sab=1,则表示第a个用户ua对第b个用户ub存在社交依赖关系,若sab=0,则表示第a个用户ua对第b个用户ub不存在社交依赖关系,从而构造所有用户之间的社交关系矩阵S={sab}M×M;令Sa表示对第a个用户ua存在社交依赖关系的所有用户集合;令rai表示第a个用户ua对第i个物品vi的评分值,从而构造所有用户对所有物品的评分矩阵R={rai}M×N;令Ra表示第a个用户ua产生过消费行为的所有物品集合,令Ri表示对第i个物品vi产生过消费行为的所有用户集合;
步骤2、利用用户社交关系矩阵S和用户物品评分矩阵R,构造异源图G:
步骤2.1、利用用户社交关系矩阵S,构造用户-用户的社交关系图Gs={U,S∈RM ×M},其中,用户集U作为结点集,社交关系矩阵S作为边集;
步骤2.2、利用用户物品评分矩阵R,构造用户-物品的兴趣关系图Gc={U∪V,R∈RM ×N},其中,用户集U和物品集V作为结点集,评分矩阵R作为边集;
步骤2.3、利用用户作为中间媒介,将社交关系图Gs和兴趣关系图Gc结合起来作为整体异源图G=(U∪V,E∈RM×(M+N)),其中,用户集U和物品集V作为结点集,E=R∪S作为边集;
步骤3、构造用户和物品的嵌入表示矩阵:
由用户集U和物品集V构建用户的自由嵌入矩阵C∈RN×D和物品的自由嵌入矩阵Y∈RM×D,其中D表示隐因子的维度,令自由嵌入矩阵C中第a列向量ca表示第a个用户ua对应的自由嵌入向量,Y中第i列向量yi表示第i个物品vi对应的自由嵌入向量;
步骤4、构造两个均为K个传播层的图卷积网络,并输入异源图G,再通过构造注意力机制,将两个图卷积网络传播过程联系起来:
步骤4.1、新建两个K个传播层的图卷积网络,并分别输入社交关系图Gs和兴趣关系图Gc,从而得到社交图卷积网络和兴趣图卷积网络;
步骤4.2、定义两个图卷积网络的当前传播层数为k,并初始化k=0;
步骤4.2、在社交图卷积网络中,将第k个传播层中第a个用户ua对应的节点表示向量
Figure BDA0002424508810000071
初始化为ca;在兴趣图卷积网络中,将第k个传播层中第a个用户ua对应的节点表示向量
Figure BDA0002424508810000072
初始化为ca,将第k个传播层中第i个物品vi对应的节点表示向量
Figure BDA0002424508810000073
初始化为yi
步骤4.3、对每个图卷积网络内部分别构造Bottom注意力机制:
步骤4.3.1、利用式(1)得到第k+1个传播层的社交图卷积网络中第a个用户ua和第b个用户ub之间的社交影响力因子
Figure BDA0002424508810000081
并利用式(2)进行归一化处理,得到归一化后的社交影响力因子
Figure BDA0002424508810000082
用于学习用户之间的社交影响力,从而在社交图卷积网络中构造社交Bottom注意力神经网络:
Figure BDA0002424508810000083
Figure BDA0002424508810000084
式(1)中,w1和W1是社交Bottom注意力神经网络中计算社交影响力的参数;
步骤4.3.2、利用式(3)得到第k+1个传播层的社交图卷积网络中第i个用户vi和第a个用户ua之间的社交影响力因子
Figure BDA0002424508810000085
并利用式(4)进行归一化处理,得到归一化后的兴趣影响力因子
Figure BDA0002424508810000086
用于学习物品对用户的兴趣影响力,从而在兴趣图卷积网络中构造兴趣Bottom注意力神经网络:
Figure BDA0002424508810000087
Figure BDA0002424508810000088
式(3)中,w2和W2是兴趣Bottom注意力神经网络中计算物品对用户产生的兴趣影响力的参数;
步骤4.3.3、聚集物品的邻居结点信息,更新兴趣图中的物品结点:
在聚集邻居信息操作中,最自然的做法是,求平均值,如更新第k+1层物品vi可以通过
Figure BDA0002424508810000089
求得,但是,这种做法忽略了不同用户对每个用户产生的兴趣影响程度。所以考虑构造一个注意力神经网络。
利用式(3)得到第k+1个传播层的社交图卷积网络中第a个用户ua和第i个物品vi之间的社交影响力因子
Figure BDA00024245088100000810
并利用式(4)进行归一化处理,得到归一化后的兴趣影响力因子
Figure BDA00024245088100000811
用于学习用户对物品的兴趣影响力,从而在兴趣图卷积网络中构造另一个兴趣Bottom注意力神经网络:
Figure BDA0002424508810000091
Figure BDA0002424508810000092
式(3)中,w3和W3是兴趣Bottom注意力神经网络中计算用户对物品产生的兴趣影响力的参数;
步骤4.4、将社交网络图Gs输入到在社交图卷积网络中,并利用式(7)更新社交网络图Gs中每个用户的嵌入表示,得到第k+1层的第a个用户ua的嵌入表示
Figure BDA0002424508810000093
Figure BDA0002424508810000094
步骤4.5、将兴趣网络图Gc输入到兴趣图卷积网络中,并分别利用式(8)和式(9)更新兴趣网络图Gc中用户和物品的嵌入表示,得到第k+1层的第a个用户ua的嵌入表示
Figure BDA0002424508810000095
和第i个物品vi的嵌入表示
Figure BDA0002424508810000096
与当前第k层的表示
Figure BDA0002424508810000097
拼接,然后经过式(10)的线性变换得到第k+1层第i个物品vi的最终嵌入表示
Figure BDA0002424508810000098
Figure BDA0002424508810000099
Figure BDA00024245088100000910
Figure BDA00024245088100000911
式(10)中,fk+1是一个非线性变换函数,Wf是对应的转换矩阵;
步骤4.6、构造Top注意力机制,结合两种图卷积网络更新传播整体的用户嵌入表示:
步骤4.6.1、利用式(11)计算得到在第k+1个传播层时综合三种输出的综合权重因子
Figure BDA00024245088100000912
并利用式(12)进行归一化处理,得到归一化后的综合权重因子
Figure BDA00024245088100000913
从而为两个图卷积网络构造Top注意力神经网络:
Figure BDA00024245088100000914
Figure BDA00024245088100000915
式(11)中,w4和W4表示top注意力神经网络中的学习参数,
Figure BDA0002424508810000101
表示top注意力神经网络层的每个输入,其中top注意力神经网络层的第1个输入
Figure BDA0002424508810000102
是当前第k个传播层中第a个用户ua的嵌入表示向量
Figure BDA0002424508810000103
Figure BDA0002424508810000104
top注意力神经网络层的第2个输入
Figure BDA0002424508810000105
是社交图卷积网络中第k+1层第a个用户ua的嵌入表示
Figure BDA0002424508810000106
Figure BDA0002424508810000107
top注意力神经网络层的第3个输入
Figure BDA0002424508810000108
是兴趣图卷积网络中第k+1层的第a个用户ua的嵌入表示
Figure BDA0002424508810000109
Figure BDA00024245088100001010
对于每个用户而言,学习其来自三个方面的建模数据的重要性得分,在每轮迭代中根据各自的重要性得分区分地对用户嵌入进行更新。重要性得分越大,意味着用户越容易被该方面的信息影响。
步骤4.6.2、利用式(13)得到更新后的第k+1层的第a个用户ua的嵌入表示向量
Figure BDA00024245088100001011
Figure BDA00024245088100001012
步骤5、计算用户对物品的物品偏好值,从而对用户进行推荐:
步骤5.1、根据每层图卷积网络的输出,利用式(14)计算第a个用户ua对第i个物品vi的偏好:
Figure BDA00024245088100001013
式(14)中,[·||·]表示对两个向量的拼接操作;
步骤5.2、选取贝叶斯个性化排序的框架,建立如式(15)所示的损失函数L(θ):
Figure BDA00024245088100001014
式(15)中,σ(·)表示sigmoid函数,λ是正则化参数,||·||2表示二范数,Θ为网络模型在优化过程中的所有可学习参数的集合,
Figure BDA00024245088100001015
第a个用户ua对第j个物品vj的预测偏好值;R-表示用户评分为0的评分集合,R+表示用户评分为1的评分集合;
步骤5.3、通过随机梯度下降法对损失函数L进行优化求解,使得L达到最小,从而得到最优的预测评分矩阵,并根据最优预测评分矩阵对用户进行物品推荐。
实施例:
为了验证本发明方法的有效性,本发明选取了来自两个社交平台的真实公开数据集:Yelp和Flickr,都包含了大量的用户社交信息和物品评价信息。Yelp数据集包含用户之间的社交网络,和用户基于位置对周围餐厅的评价信息,由17237个用户,38342个物品,204448条评价和143765个用户之间的连接构成;Flickr数据集包含用户之间的关注信息,和用户分享图片的偏好,由8358个用户,82120个物品,327815条评价和187273个用户连接构成。本实验将原始的5分制评分转化为二值评分,即把3分及以上的评价视作1,把3分以下的评分视作0。为了避免噪音,过滤掉了少于2条用户连接和2条物品评价的用户信息,以及少于2条评价的物品。最终处理后的数据集作为本次实验的两个数据集D_Yelp和D_Flickr。
在训练过程中,为每个用户挑选5%的记录作为测试数据,10%的作为验证数据,其余的作为训练数据。本发明采用两种评价指标,包括HR(Hit Ratio)和NDCG(NormalizedDiscounted Cumulative Gain)。选取了8个模型来和本发明提出的方法进行效果对比,分别是:2019年Rendle等人提出的BPR,2017年He等人提出的NeuMF,2019年Fanet等人提出的GraphRec,2018年Ying等人提出的PinSage,2019年Wang等人提出的NGCF,2010年Jamali等人提出的SocialMF,2015年Guo,Zhang等人提出的TrustSVD,2019年Wu等人提出的DiffNet。
具体地,根据实验结果,可得出结果如下表所示。其中,表1为本发明方法在两种评价指标下,与所选用的8种对比方法在数据集D_Yelp和D_Flickr上得到的实验结果对比表;表2为本发明方法在选用不同Top-N排序时,分别根据这两种排序评价指标与8种对比方法在两个数据集上得到的实验结果对比表。
Figure BDA0002424508810000111
表1
Figure BDA0002424508810000121
表2
实验结果显示,在两个数据集上,本发明提出的方法,在不同的评价标准上,均比选用的8种方法效果要更好,从而证明了本发明提出方法的可行性。
综上所述,本方法能够同时利用用户的社交信息和兴趣信息,在图卷积网络中对用户进行更精准的建模,有效的解决用户的数据稀疏性问题,捕捉用户在两方面的高阶关联信息,实现更精准的社交推荐。

Claims (5)

1.一种结合社交和兴趣信息的异源图卷积网络的社交推荐方法,其特征是按如下步骤进行:
步骤1、构造用户社交关系矩阵S,用户物品评分矩阵R:
令U表示用户集,且U={u1,...,ua,...,ub,...,uM},其中,ua表示第a个用户,ub表示第b个用户,M表示用户总数,1≤a,b≤M;令V表示物品集,且V={v1,…,vi,…,vj,…,vN},其中,vi表示第i个物品,vj表示第j个物品,N表示物品总数,1≤i,j≤N;令sab表示第a个用户ua对第b个用户ub的社交关系,若sab=1,则表示第a个用户ua对第b个用户ub存在社交依赖关系,若sab=0,则表示第a个用户ua对第b个用户ub不存在社交依赖关系,从而构造所有用户之间的社交关系矩阵S={sab}M×M;令Sa表示对第a个用户ua存在社交依赖关系的所有用户集合;令rai表示第a个用户ua对第i个物品vi的评分值,从而构造所有用户对所有物品的评分矩阵R={rai}M×N;令Ra表示第a个用户ua产生过消费行为的所有物品集合,令Ri表示对第i个物品vi产生过消费行为的所有用户集合;
步骤2、利用用户社交关系矩阵S和用户物品评分矩阵R,构造异源图G:
步骤2.1、利用用户社交关系矩阵S,构造用户-用户的社交关系图Gs={U,S∈RM×M},其中,用户集U作为结点集,社交关系矩阵S作为边集;
步骤2.2、利用用户物品评分矩阵R,构造用户-物品的兴趣关系图Gc={U∪V,R∈RM×N},其中,用户集U和物品集V作为结点集,评分矩阵R作为边集;
步骤2.3、利用用户作为中间媒介,将社交关系图Gs和兴趣关系图Gc结合起来作为整体异源图G={U∪V,E∈RM×(M+N)},其中,用户集U和物品集V作为结点集,E=R∪S作为边集;
步骤3、构造用户和物品的嵌入表示矩阵:
由用户集U和物品集V构建用户的自由嵌入矩阵C∈RN×D和物品的自由嵌入矩阵Y∈RM×D,其中D表示隐因子的维度,令所述自由嵌入矩阵C中第a列向量ca表示第a个用户ua对应的自由嵌入向量,Y中第i列向量yi表示第i个物品vi对应的自由嵌入向量;
步骤4、构造两个均为K个传播层的图卷积网络,并输入所述异源图G,再通过构造注意力机制,将两个图卷积网络传播过程联系起来:
步骤4.1、新建两个K个传播层的图卷积网络,并分别输入社交关系图Gs和兴趣关系图Gc,从而得到社交图卷积网络和兴趣图卷积网络;
步骤4.2、定义两个图卷积网络的当前传播层数为k,并初始化k=0;
步骤4.3、在社交图卷积网络中,将第k个传播层中第a个用户ua对应的节点表示向量
Figure FDA0002424508800000021
初始化为ca;在兴趣图卷积网络中,将第k个传播层中第a个用户ua对应的节点表示向量
Figure FDA0002424508800000022
初始化为ca,将第k个传播层中第i个物品vi对应的节点表示向量
Figure FDA0002424508800000023
初始化为yi
步骤4.4、将所述社交网络图Gs输入到在社交图卷积网络中,并利用式(7)更新社交网络图Gs中每个用户的嵌入表示,得到第k+1层的第a个用户ua的嵌入表示
Figure FDA0002424508800000024
Figure FDA0002424508800000025
式(1)中,
Figure FDA0002424508800000026
表示在第k+1个传播层的社交图卷积网络中,第b个用户ub的社交影响在第a个用户ua所有关联用户社交影响中所占的比重;
步骤4.5、将所述兴趣网络图Gc输入到兴趣图卷积网络中,并分别利用式(8)和式(9)更新兴趣网络图Gc中用户和物品的嵌入表示,得到第k+1层的第a个用户ua的嵌入表示
Figure FDA0002424508800000027
和第i个物品vi的嵌入表示
Figure FDA0002424508800000028
与当前第k层的表示
Figure FDA0002424508800000029
拼接,然后利用式(10)进行线性变换得到第k+1层第i个物品vi的最终嵌入表示
Figure FDA00024245088000000210
Figure FDA00024245088000000211
Figure FDA00024245088000000212
Figure FDA00024245088000000213
式(2)中,
Figure FDA00024245088000000214
表示在第k+1个传播层的社交图卷积网络中,第i个物品vi的影响在第a个用户ua所有关联商品的影响中所占的比重;
式(3)中,
Figure FDA00024245088000000215
表示在第k+1个传播层的社交图卷积网络中,第a个用户ca的影响在第i个物品vi所有关联用户的影响中所占的比重;
式(4)中,fk+1是一个非线性变换函数,Wf是对应的转换矩阵;
步骤4.6、利用式(5)得到更新后的第k+1层的第a个用户ua的嵌入表示向量
Figure FDA0002424508800000031
Figure FDA0002424508800000032
式(5)中,
Figure FDA0002424508800000033
分别代表在第k+1个传播层中第l种输出的重要性权重因子;l∈{1,2,3};
步骤5、计算用户对物品的物品偏好值,从而对用户进行推荐:
步骤5.1、根据每层图卷积网络的输出,利用式(6)计算第a个用户ua对第i个物品vi的偏好:
Figure FDA0002424508800000034
式(6)中,[·||·]表示对两个向量的拼接操作;
步骤5.2、选取贝叶斯个性化排序的框架,建立如式(7)所示的损失函数L(θ):
Figure FDA0002424508800000035
式(7)中,σ(·)表示sigmoid函数,λ是正则化参数,||·||2表示二范数,Θ为网络模型在优化过程中的所有可学习参数的集合,
Figure FDA0002424508800000036
第a个用户ua对第j个物品vj的预测偏好值;R-表示用户评分为0的评分集合,R+表示用户评分为1的评分集合;
步骤5.3、通过随机梯度下降法对所述损失函数L进行优化求解,使得L达到最小,从而得到最优的预测评分矩阵,并根据最优预测评分矩阵对用户进行物品推荐。
2.根据权利要求1所述的社交推荐方法,其特征是,所述步骤4.4中比重
Figure FDA0002424508800000037
是按如下过程计算得到:
利用式(8)得到第k+1个传播层的社交图卷积网络中第a个用户ua和第b个用户ub之间的社交影响力因子
Figure FDA0002424508800000038
并利用式(9)进行归一化处理,得到归一化后的社交影响力因子
Figure FDA0002424508800000039
用于学习用户之间的社交影响力,从而在社交图卷积网络中构造社交Bottom注意力神经网络:
Figure FDA00024245088000000310
Figure FDA00024245088000000311
式(8)中,w1和W1是社交Bottom注意力神经网络中计算社交影响力的参数。
3.根据权利要求1所述的社交推荐方法,其特征是,所述步骤4.5中的比重
Figure FDA0002424508800000041
是按如下过程计算得到:
利用式(10)得到第k+1个传播层的社交图卷积网络中第i个用户vi和第a个用户ua之间的社交影响力因子
Figure FDA0002424508800000042
并利用式(11)进行归一化处理,得到归一化后的兴趣影响力因子
Figure FDA0002424508800000043
用于学习物品对用户的兴趣影响力,从而在兴趣图卷积网络中构造兴趣Bottom注意力神经网络:
Figure FDA0002424508800000044
Figure FDA0002424508800000045
式(10)中,w2和W2是兴趣Bottom注意力神经网络中计算物品对用户产生的兴趣影响力的参数。
4.根据权利要求1所述的社交推荐方法,其特征是,所述步骤4.5中的比重
Figure FDA0002424508800000046
是按如下过程计算得到:
利用式(12)得到第k+1个传播层的社交图卷积网络中第a个用户ua和第i个物品vi之间的社交影响力因子
Figure FDA0002424508800000047
并利用式(13)进行归一化处理,得到归一化后的兴趣影响力因子
Figure FDA0002424508800000048
用于学习用户对物品的兴趣影响力,从而在兴趣图卷积网络中构造另一个兴趣Bottom注意力神经网络:
Figure FDA0002424508800000049
Figure FDA00024245088000000410
式(12)中,w3和W3是兴趣Bottom注意力神经网络中计算用户对物品产生的兴趣影响力的参数。
5.根据权利要求1所述的社交推荐方法,其特征是,所述步骤4.6中的重要性权重因子
Figure FDA0002424508800000051
是按如下过程计算得到:
利用式(14)计算得到在第k+1个传播层时综合三种输出的综合权重因子
Figure FDA0002424508800000052
并利用式(15)进行归一化处理,得到归一化后的综合权重因子
Figure FDA0002424508800000053
从而为两个图卷积网络构造Top注意力神经网络:
Figure FDA0002424508800000054
Figure FDA0002424508800000055
式(14)中,w4和W4表示top注意力神经网络中的学习参数,
Figure FDA0002424508800000056
表示top注意力神经网络层的每个输入,其中top注意力神经网络层的第1个输入
Figure FDA0002424508800000057
是当前第k个传播层中第a个用户ua的嵌入表示向量
Figure FDA0002424508800000058
Figure FDA0002424508800000059
top注意力神经网络层的第2个输入
Figure FDA00024245088000000510
是社交图卷积网络中第k+1层第a个用户ua的嵌入表示
Figure FDA00024245088000000511
Figure FDA00024245088000000512
top注意力神经网络层的第3个输入
Figure FDA00024245088000000513
是兴趣图卷积网络中第k+1层的第a个用户ua的嵌入表示
Figure FDA00024245088000000514
Figure FDA00024245088000000515
CN202010216211.4A 2020-03-25 2020-03-25 结合社交和兴趣信息的异源图卷积网络的社交推荐方法 Active CN111428147B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010216211.4A CN111428147B (zh) 2020-03-25 2020-03-25 结合社交和兴趣信息的异源图卷积网络的社交推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010216211.4A CN111428147B (zh) 2020-03-25 2020-03-25 结合社交和兴趣信息的异源图卷积网络的社交推荐方法

Publications (2)

Publication Number Publication Date
CN111428147A true CN111428147A (zh) 2020-07-17
CN111428147B CN111428147B (zh) 2021-07-27

Family

ID=71549416

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010216211.4A Active CN111428147B (zh) 2020-03-25 2020-03-25 结合社交和兴趣信息的异源图卷积网络的社交推荐方法

Country Status (1)

Country Link
CN (1) CN111428147B (zh)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111967946A (zh) * 2020-09-04 2020-11-20 吉林大学 一种基于面向用户多关系信息网络的商品推荐方法及系统
CN112084428A (zh) * 2020-09-17 2020-12-15 辽宁工程技术大学 一种基于耦合网络嵌入及知识图谱的协同过滤推荐方法
CN112435079A (zh) * 2020-12-16 2021-03-02 合肥工业大学 一种面向纯社交平台的广告推荐方法
CN112445981A (zh) * 2020-11-04 2021-03-05 西安电子科技大学 社交及消费联合推荐系统、方法、存储介质、计算机设备
CN112650920A (zh) * 2020-12-10 2021-04-13 中山大学 一种基于贝叶斯排序的融合社交网络的推荐方法
CN112765373A (zh) * 2021-01-29 2021-05-07 北京达佳互联信息技术有限公司 资源推荐方法、装置、电子设备和存储介质
CN112990972A (zh) * 2021-03-19 2021-06-18 华南理工大学 一种基于异构图神经网络的推荐方法
CN113010796A (zh) * 2021-04-15 2021-06-22 重庆大学 用于项目推荐的方法
CN113158071A (zh) * 2021-03-19 2021-07-23 广东工业大学 一种基于图神经网络的知识社交推荐方法、系统和设备
CN113344177A (zh) * 2021-05-10 2021-09-03 电子科技大学 基于图注意力的深度推荐方法
CN113379494A (zh) * 2021-06-10 2021-09-10 清华大学 基于异质社交关系的商品推荐方法、装置和电子设备
CN113407817A (zh) * 2021-01-25 2021-09-17 北京工业大学 一种基于注意力机制的图神经协同过滤方法
CN113407861A (zh) * 2021-05-19 2021-09-17 中国科学技术大学 基于去中心化图神经网络的社交推荐方法
CN113590976A (zh) * 2021-07-17 2021-11-02 郑州大学 一种空间自适应图卷积网络的推荐方法
CN113792937A (zh) * 2021-09-29 2021-12-14 中国人民解放军国防科技大学 一种基于图神经网络的社交网络影响力预测方法、装置
CN113918834A (zh) * 2021-10-22 2022-01-11 重庆理工大学 融合社交关系的图卷积协同过滤推荐方法
CN113918832A (zh) * 2021-10-22 2022-01-11 重庆理工大学 基于社交关系的图卷积协同过滤推荐系统
CN114756768A (zh) * 2022-06-15 2022-07-15 腾讯科技(深圳)有限公司 数据处理方法、装置、设备、可读存储介质及程序产品
CN117540111A (zh) * 2024-01-09 2024-02-09 安徽农业大学 一种基于图神经网络的偏好感知社会化推荐方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8489112B2 (en) * 2009-07-29 2013-07-16 Shopkick, Inc. Method and system for location-triggered rewards
US20190286752A1 (en) * 2018-03-13 2019-09-19 Pinterest, Inc. Efficient convolutional network for recommender systems
CN110781406A (zh) * 2019-10-14 2020-02-11 西安交通大学 一种基于变分自动编码器的社交网络用户多属性推断方法
CN110837578A (zh) * 2019-11-06 2020-02-25 合肥工业大学 一种基于图卷积网络的视频片段推荐方法
CN110909942A (zh) * 2019-11-27 2020-03-24 第四范式(北京)技术有限公司 训练模型的方法及系统和预测序列数据的方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8489112B2 (en) * 2009-07-29 2013-07-16 Shopkick, Inc. Method and system for location-triggered rewards
US20190286752A1 (en) * 2018-03-13 2019-09-19 Pinterest, Inc. Efficient convolutional network for recommender systems
CN110781406A (zh) * 2019-10-14 2020-02-11 西安交通大学 一种基于变分自动编码器的社交网络用户多属性推断方法
CN110837578A (zh) * 2019-11-06 2020-02-25 合肥工业大学 一种基于图卷积网络的视频片段推荐方法
CN110909942A (zh) * 2019-11-27 2020-03-24 第四范式(北京)技术有限公司 训练模型的方法及系统和预测序列数据的方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
LE WU等: "A Neural Influence Diffusion Model for Social Recommendation", 《SIGIR 2019》 *
LE WU等: "SocialGCN: An Efficient Graph Convolutional Network based Model for Social Recommendation", 《HTTPS://WWW.RESEARCHGATE.NET/PUBLICATION/328800776_SOCIALGCN_AN_EFFICIENT_GRAPH_CONVOLUTIONAL_NETWORK_BASED_MODEL_FOR_SOCIAL_RECOMMENDATION》 *
孙培杰: "基于深度用户兴趣建模的社交推荐问题研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111967946B (zh) * 2020-09-04 2024-04-12 吉林大学 一种基于面向用户多关系信息网络的商品推荐方法及系统
CN111967946A (zh) * 2020-09-04 2020-11-20 吉林大学 一种基于面向用户多关系信息网络的商品推荐方法及系统
CN112084428A (zh) * 2020-09-17 2020-12-15 辽宁工程技术大学 一种基于耦合网络嵌入及知识图谱的协同过滤推荐方法
CN112084428B (zh) * 2020-09-17 2024-02-02 辽宁工程技术大学 一种基于耦合网络嵌入及知识图谱的协同过滤推荐方法
CN112445981A (zh) * 2020-11-04 2021-03-05 西安电子科技大学 社交及消费联合推荐系统、方法、存储介质、计算机设备
CN112650920A (zh) * 2020-12-10 2021-04-13 中山大学 一种基于贝叶斯排序的融合社交网络的推荐方法
CN112435079A (zh) * 2020-12-16 2021-03-02 合肥工业大学 一种面向纯社交平台的广告推荐方法
CN112435079B (zh) * 2020-12-16 2022-09-16 合肥工业大学 一种面向纯社交平台的广告推荐方法
CN113407817A (zh) * 2021-01-25 2021-09-17 北京工业大学 一种基于注意力机制的图神经协同过滤方法
CN112765373A (zh) * 2021-01-29 2021-05-07 北京达佳互联信息技术有限公司 资源推荐方法、装置、电子设备和存储介质
CN112990972A (zh) * 2021-03-19 2021-06-18 华南理工大学 一种基于异构图神经网络的推荐方法
CN113158071A (zh) * 2021-03-19 2021-07-23 广东工业大学 一种基于图神经网络的知识社交推荐方法、系统和设备
CN113010796A (zh) * 2021-04-15 2021-06-22 重庆大学 用于项目推荐的方法
CN113344177A (zh) * 2021-05-10 2021-09-03 电子科技大学 基于图注意力的深度推荐方法
CN113344177B (zh) * 2021-05-10 2022-10-14 电子科技大学 基于图注意力的深度推荐方法
CN113407861A (zh) * 2021-05-19 2021-09-17 中国科学技术大学 基于去中心化图神经网络的社交推荐方法
CN113407861B (zh) * 2021-05-19 2022-07-15 中国科学技术大学 基于去中心化图神经网络的社交推荐方法
CN113379494A (zh) * 2021-06-10 2021-09-10 清华大学 基于异质社交关系的商品推荐方法、装置和电子设备
CN113590976A (zh) * 2021-07-17 2021-11-02 郑州大学 一种空间自适应图卷积网络的推荐方法
CN113792937A (zh) * 2021-09-29 2021-12-14 中国人民解放军国防科技大学 一种基于图神经网络的社交网络影响力预测方法、装置
CN113918832A (zh) * 2021-10-22 2022-01-11 重庆理工大学 基于社交关系的图卷积协同过滤推荐系统
CN113918834A (zh) * 2021-10-22 2022-01-11 重庆理工大学 融合社交关系的图卷积协同过滤推荐方法
CN113918834B (zh) * 2021-10-22 2022-10-28 重庆理工大学 融合社交关系的图卷积协同过滤推荐方法
CN114756768A (zh) * 2022-06-15 2022-07-15 腾讯科技(深圳)有限公司 数据处理方法、装置、设备、可读存储介质及程序产品
CN114756768B (zh) * 2022-06-15 2022-09-02 腾讯科技(深圳)有限公司 数据处理方法、装置、设备、可读存储介质及程序产品
CN117540111A (zh) * 2024-01-09 2024-02-09 安徽农业大学 一种基于图神经网络的偏好感知社会化推荐方法
CN117540111B (zh) * 2024-01-09 2024-03-26 安徽农业大学 一种基于图神经网络的偏好感知社会化推荐方法

Also Published As

Publication number Publication date
CN111428147B (zh) 2021-07-27

Similar Documents

Publication Publication Date Title
CN111428147B (zh) 结合社交和兴趣信息的异源图卷积网络的社交推荐方法
CN112529168B (zh) 一种基于gcn的属性多层网络表示学习方法
CN109785062B (zh) 一种基于协同过滤模型的混合神经网络推荐系统
CN107833117B (zh) 一种考虑标签信息的贝叶斯个性化排序推荐方法
CN109190030B (zh) 融合node2vec和深度神经网络的隐式反馈推荐方法
Lin et al. Multiobjective personalized recommendation algorithm using extreme point guided evolutionary computation
CN107545471B (zh) 一种基于高斯混合的大数据智能推荐方法
CN109034960B (zh) 一种基于用户节点嵌入的多属性推断的方法
CN112667877A (zh) 一种基于旅游知识图谱的景点推荐方法及设备
Duma et al. Sparseness reduction in collaborative filtering using a nearest neighbour artificial immune system with genetic algorithms
CN112115377A (zh) 一种基于社交关系的图神经网络链路预测推荐方法
CN113918832B (zh) 基于社交关系的图卷积协同过滤推荐系统
CN113918833B (zh) 通过社交网络关系的图卷积协同过滤实现的产品推荐方法
CN109960755B (zh) 一种基于动态迭代快速梯度的用户隐私保护方法
CN113918834B (zh) 融合社交关系的图卷积协同过滤推荐方法
CN109446420A (zh) 一种跨域协同过滤方法和系统
CN111723285A (zh) 一种基于评分的深度谱卷积协同过滤推荐方法
CN110321492A (zh) 一种基于社区信息的项目推荐方法及系统
CN107291894A (zh) 一种融合相似性和共同评分项数量的概率矩阵分解模型
CN113590976A (zh) 一种空间自适应图卷积网络的推荐方法
CN112085158A (zh) 一种基于堆栈降噪自编码器的图书推荐方法
CN109300057B (zh) 基于社交用户隐特征表示的网络群体形成机制发现方法
CN115935067A (zh) 面向社会化推荐的语义与结构视图融合的物品推荐方法
CN114139066A (zh) 一种基于图神经网络的协同过滤推荐系统
CN113158088A (zh) 一种基于图神经网络的位置推荐方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant