CN117194805A - 基于深度图神经网络的多特征空间融合推荐方法及系统 - Google Patents
基于深度图神经网络的多特征空间融合推荐方法及系统 Download PDFInfo
- Publication number
- CN117194805A CN117194805A CN202311477505.2A CN202311477505A CN117194805A CN 117194805 A CN117194805 A CN 117194805A CN 202311477505 A CN202311477505 A CN 202311477505A CN 117194805 A CN117194805 A CN 117194805A
- Authority
- CN
- China
- Prior art keywords
- user
- matrix
- project
- neural network
- item
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 64
- 230000004927 fusion Effects 0.000 title claims abstract description 35
- 239000011159 matrix material Substances 0.000 claims abstract description 172
- 238000013507 mapping Methods 0.000 claims description 14
- 238000000354 decomposition reaction Methods 0.000 claims description 10
- 238000004458 analytical method Methods 0.000 claims description 4
- 239000013598 vector Substances 0.000 description 37
- 230000006870 function Effects 0.000 description 22
- 238000005516 engineering process Methods 0.000 description 10
- 238000001914 filtration Methods 0.000 description 10
- 230000004913 activation Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 6
- 238000005457 optimization Methods 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000002474 experimental method Methods 0.000 description 5
- 230000006399 behavior Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 102100029212 Putative tetratricopeptide repeat protein 41 Human genes 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 230000006735 deficit Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 102000004169 proteins and genes Human genes 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 238000005295 random walk Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000000547 structure data Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供一种基于深度图神经网络的多特征空间融合推荐方法及系统,该方法包括如下步骤:获取用户特征空间矩阵和项目特征空间矩阵;根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵;根据用户项目评级矩阵,获得社交网络推荐最优解。本申请同时考虑用户特征空间和项目特征空间对于用户串联影响,实现提高社交网络推荐准确度。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及一种基于深度图神经网络的多特征空间融合推荐方法及系统。
背景技术
近年来,物联网的快速发展对于人机交互带来了新的机遇和挑战,更好的社交网络推荐将为未来的物联网用户提供更可行的个性化信息服务。尤其是人际社会交流的网络空间,在这里可以开展更为丰富的社交及娱乐活动,但也造成了信息量爆炸性增长的必然情况。信息量的过载意味着面临着数量庞大、种类繁多的数据流,使得物联网用户无法找到他们真正需要的信息。因此提前研究物联网场景下的推荐系统具有重要意义。考虑到各种社交网络的日益普及,将社交网络集成到推荐系统中并根据用户的偏好反馈提供个性化的产品或服务推荐。社交网络本质上就是一种图网络,每个节点代表一个社交实体,而边则表示这些社交实体之间的关系。
因此,社交网络推荐系统的一个通用场景可以表示为通过社会关系的信息推断未知的偏好反馈。然而,以社交网络为背景的推荐系统从来都不是一项容易的任务,因为各种关系特征的表示和量化仍然具有挑战性。主要反映在数据的多样性和复杂性,对于不同类型的关系数据具有非线性、非对称、动态等特征。同时社交网络的用户数据通常是隐性反馈,这些输入往往不够丰富和准确。
现有的,社交网络推荐技术包括如下:
第一,图神经网络技术。
图神经网络是一类用于处理图数据的深度学习模型。与传统的深度学习模型(如卷积神经网络)专注于处理网格结构数据不同,GNN 专门处理非网格结构的数据,如社交网络、化学分子和蛋白质结构等。GNN 通过将节点和边表示为向量来表示图数据。节点和边的特征可以是数值、文本或图像等不同类型的数据。然后,GNN 使用神经网络算法从这些特征中学习节点和边之间的关系,以及整个图的结构。最终,GNN 可以生成对节点和边的预测,例如节点分类、边分类、图分类等任务。
第二,常见推荐系统技术:基于协同过滤推荐系统技术、基于用户的协同过滤推荐系统技术、基于物品的协同过滤推荐系统技术、基于矩阵分解推荐系统技术、矩阵分解推荐系统技术。
基于协同过滤推荐系统技术是一种基于用户历史行为数据的推荐方法。它假设用户的兴趣可以通过分析他们的历史行为来推断,因此可以根据用户与其他用户或物品之间的相似性来进行推荐。协同过滤推荐系统技术可以分为两种类型:基于用户和基于物品的协同过滤。
基于用户的协同过滤推荐系统技术是通过计算用户之间的相似度来进行推荐。它的基本思想是找到与当前用户兴趣相似的其他用户,并将这些用户喜欢的物品推荐给当前用户。具体来说,基于用户的协同过滤推荐系统技术分为以下三个步骤:(1)计算用户之间的相似度;(2)找到与当前用户相似的其他用户;(3)将这些用户喜欢的物品推荐给当前用户。
基于物品的协同过滤推荐系统技术则是通过计算物品之间的相似度来进行推荐。它的基本思想是找到与当前用户喜欢的物品相似的其他物品,并将这些物品推荐给当前用户。具体来说,基于物品的协同过滤推荐系统技术分为以下三个步骤:(1)计算物品之间的相似度;(2)找到与当前用户喜欢的物品相似的其他物品;(3)将这些物品推荐给当前用户。
基于矩阵分解推荐系统技术可以将用户和物品之间的关系表示为矩阵,并将其分解为多个低秩矩阵的乘积。这种技术的主要目的是通过预测用户和物品之间的交互来提高推荐的准确性和个性化程度。
矩阵分解推荐系统技术的工作原理是将用户评分矩阵分解为两个低秩矩阵:一个表示用户特征的矩阵和一个表示物品特征的矩阵。这些特征可以包括用户和物品的属性,例如年龄,性别,职业,电影类型等。通过将这些特征映射到低维空间中,计算用户和物品之间的相似度,从而提供推荐。
在矩阵分解推荐系统中,最常见的方法是奇异值分解(SVD),它可以将评分矩阵分解为三个矩阵,其中一个是奇异值矩阵,表示特征向量的重要性。然而,SVD不适用于大规模数据集,因为它需要将整个评分矩阵加载到内存中。因此,近年来,随机梯度下降(SGD)和交替最小二乘法(ALS)等算法被广泛使用来解决大规模数据集的问题。
现有技术提出了一种新颖的混合随机漫步(HRW)方法,将社交网络表示为以社交领域为中心的星形结构的混合图,它与其他项目领域相连接,在辅助域中选择可转移的项目,将跨域知识与社会域连接起来,并准确预测目标域中的用户-项目链接。
现有技术还提出了一种深度学习方法来学习用户的偏好和朋友在生成推荐时的社会影响,通过堆叠多个边缘化去噪自动编码器来设计一个深度学习架构,定义了一个联合目标函数,以强制自动编码器隐藏层中的社会关系的潜在表征在对用户-项目矩阵进行因子化时尽可能地接近用户的潜在表征。通过四个基准数据集上的实验表明,与其他最先进的方法相比,所提出的方法达到了较高的推荐精度。
现有技术还提出了一种基于深度图神经网络(DGBNN)框架,用于在社交媒体平台上推荐朋友。获得了用户特征的全面表述,以生成一个更合理的推荐列表,同时考虑到用户的关系和个人属性。为了获得准确的预测,使用了反向传播神经网络来预测社交图中的社交链接。推荐列表是基于预测的用户之间的社会联系而构建的。用微博数据集进行的实验表明,在朋友推荐方面得到了改进。
现有技术的缺点包括:第一,现有技术基本上只关注用户特征空间的建模,而忽略了项目特征空间。事实上,项目属性特征之间也存在相关性,这最终会影响社交网络用户的真实偏好特征和社交网络其内部拓扑结构。第二,现有技术基本上没有考虑到对于物联网场景中的推荐系统,用户特征与项目特征之间的关系也是一个更关键的元素。第三,现有技术大多数都设法探索和量化用户偏好和其社会关系之间的相关性,用户明显更有可能还会受到具有更多社会关系的人的影响。
因此,目前亟需解决的技术问题是:如何提供一种同时考虑用户特征空间和项目特征空间对于用户串联影响的图神经网络推荐系统,实现提高社交网络推荐准确度。
发明内容
本申请的目的在于提供一种基于深度图神经网络的多特征空间融合推荐方法及系统,同时考虑用户特征空间和项目特征空间对于用户串联影响,实现提高社交网络推荐准确度。
为达到上述目的,本申请提供一种基于深度图神经网络的多特征空间融合推荐方法,该方法包括如下步骤:获取用户特征空间矩阵和项目特征空间矩阵;根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵;根据用户项目评级矩阵,获得社交网络推荐最优解。
如上所述的基于深度图神经网络的多特征空间融合推荐方法,其中,根据用户特征空间和项目特征空间,进行评级预测,获得用户项目评级矩阵的方法包括:将用户特征空间矩阵和项目特征空间矩阵分别嵌入到矩阵分解的两个潜在因子中,获得用户项目评级矩阵。
如上所述的基于深度图神经网络的多特征空间融合推荐方法,其中,获取用户特征空间矩阵的方法包括如下步骤:获取用户的固有偏好特征,通过图神经网络对固有偏好特征编码,转换为固有偏好因素;获取社会影响特征,通过图神经网络对社会影响特征进行编码,转换为社会影响因素;对固有偏好因素和社会影响因素进行编码拼接,获得用户特征空间矩阵。
如上所述的基于深度图神经网络的多特征空间融合推荐方法,其中,获取项目特征空间矩阵的方法包括如下步骤:获取项目的属性内容特征;获取项目的属性关联特征;通过图神经网络对项目的属性内容特征和属性关联特征编码拼接,获得项目特征空间矩阵。
如上所述的基于深度图神经网络的多特征空间融合推荐方法,其中,对固有偏好因素和社会影响因素进行编码拼接,获得用户特征空间矩阵的方法包括:将固有偏好因素和社会影响因素输入多层感知机,获取多层感知机第一层隐藏层的运算结果;在第一隐藏层的运算结果基础上,使用权重参数和偏置参数不断迭代运算,获得用户特征空间矩阵。
如上所述的基于深度图神经网络的多特征空间融合推荐方法,其中,获取项目的属性关联特征的方法包括:在项目属性的基础上,通过图神经网络聚合其他属性的相关信息进行编码,获取项目的属性关联特征。
如上所述的基于深度图神经网络的多特征空间融合推荐方法,其中,对用户与项目进行评级预测的方法包括:根据用户特征空间矩阵和项目特征空间矩阵,计算用户项目矩阵中缺失的评分值对用户与项目进行评级预测。
如上所述的基于深度图神经网络的多特征空间融合推荐方法,其中,该方法还包括:根据社交网络推荐最优解,向用户推荐项目。
作为本申请的第二方面,本申请提供一种基于深度图神经网络的多特征空间融合推荐系统,执行如上所述的方法,该系统包括:用户社会特征映射网络模块,用于获取用户特征空间矩阵;项目特征分析模块,用于获取项目特征空间矩阵;评级预测模块,用于根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵;根据用户项目评级矩阵,获得社交网络推荐最优解。
如上所述的基于深度图神经网络的多特征空间融合推荐系统,其中,该系统还包括:推荐模块,用于根据社交网络推荐最优解,向用户推荐项目。
本申请实现的有益效果如下:
(1)本申请加强用户及其社会关系与项目特征之间的相关性。在不同数据集上,从用户的社交网络、历史行为、兴趣标签等多个角度进行建模,将不同项目之间的特征关系作为关键因素。
(2)本申请将社交网络推荐系统视为用户特征和项目特征的空间集合,将用户特征视为其固有偏好和其社会影响的串联关系,这些特征可以看作来自不同的特征空间,通过图神经网络(GNN)进行融合,得到更加全面、准确的用户表示。
(3)本申请利用图神经网络方法来获得各种复杂关系的更好表示,将项目属性的相关性建模为编码向量,将其集成到项目总特征空间中,从而提高特征空间的粒度。
(4)本申请考虑用户特征空间和项目特征空间对于用户的串联影响,使用图神经网络将用户特征和项目特征用两个包括实体和实体关系的图网络表示,即将项目、物品特征之间的关系作为关键因素,更好的理解不同项目之间对于用户特征关系的相似性和差异性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域技术人员来讲,还可以根据这些附图获得其他的附图。
图1为本申请实施例的一种基于深度图神经网络的多特征空间融合推荐方法的流程图。
图2为本申请实施例的获取用户特征空间矩阵的方法流程图。
图3为本申请实施例的获取项目特征空间矩阵的方法流程图。
图4为本申请实施例的基于深度图神经网络的多特征空间融合推荐系统的总体框图。
图5为本申请实施例的用户特征空间体系结构。
图6为本申请实施例的项目特征空间体系结构。
图7为本申请实施例的评级预测体系结构。
图8为本申请实施例的多特征空间融合推荐系统的结构示意图。
附图标记:10-用户社会特征映射网络模块;20-项目特征分析模块;30-评级预测模块;
40-推荐模块;100-多特征空间融合推荐系统。
具体实施方式
下面结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
实施例一
如图1所示,本申请提供一种基于深度图神经网络的多特征空间融合推荐方法,该方法包括如下步骤:
步骤S1,获取用户特征空间矩阵和项目特征空间矩阵。
作为本发明的一个具体实施例,获取用户特征空间矩阵的方法为:获取用户的固有偏好特征和社会影响特征,对用户的固有偏好特征和社会影响特征通过图神经网络进行编码,获得用户特征空间矩阵。
作为本发明的一个具体实施例,本发明提供一种图神经网络框架,将用户特征空间和项目特征空间抽象为两个图网络,并分别通过图神经网络方法进行编码。随后将两个编码获得的矩阵嵌入到矩阵分解的两个潜在因子中,进而实现用户特征空间矩阵和项目特征空间矩阵的融合,提高社交网络推荐准确度。
如图5所示,为本发明的用户特征空间体系结构。从用户特征空间体系结构中可以看出,本申请首先获取固有偏好和社会影响,并分别对固有偏好和社会影响进行特征编码,将两个编码过程获得的结果进行编码拼接获得最终的矩阵,也就是用户特征空间矩阵。
如图2所示,获取用户特征空间矩阵的方法包括如下步骤:
步骤S110,获取用户的固有偏好特征,通过图神经网络对固有偏好特征编码,转换为固有偏好因素。
作为本发明的一个具体实施例,将固有偏好特征设定为维固有偏好特征向量,/>表示项目索引,/>表示用户索引。将固有偏好向量编码,转换为所对应的固有偏好因素。
作为本发明的一个具体实施例,对固有偏好特征编码,转换为固有偏好因素的方法包括如下:
使用自动提取抽象特征的函数加入权重和偏置,对固有偏好特征向量进行特征映射,获得。具体的,对固有偏好特征向量进行特征映射的公式如下:
;(1)
其中,表示固有偏好因素;/>表示权重参数向量;/>表示自动提取抽象特征的函数;/>表示固有偏好特征向量;/>表示偏置参数向量。
对公式(1)加入非线性激活函数,获得公式(2)。
;(2)
其中Relu激活函数可表示如下:
;
其中,x是输入值,f(x)是输出值。如果x大于等于0,则输出为x;如果x小于0,则输出为0。
通过函数,使得固有偏好特征向量/>转换为另一向量/>,如下:
;(3)
其中,仅仅作为固有偏好特征向量/>的一个元素;/>表示项目索引,/>表示用户索引;/>表示向量/>的元素。
设表示/>中的所有元素,对于公式/>使用加权平均算子表示如下:
;(4)
其中,是一个三维向量;/>表示/>中元素的个数;/>;/>表示矩阵转置。
根据公式(4),代入公式(2)中,公式(2)可以重写为:
;(5)
其中,是权重参数向量,/>是偏置参数向量。需要解释的是,公式(5)获得的数据为最终的固有偏好因素。
步骤S120,获取社会影响特征,通过图神经网络对社会影响特征进行编码,转换为社会影响因素。
作为本发明的具体实施例,社会影响特征设定为维的社会影响特征向量,/>表示用户索引,索引位置的内容代表该用户的社会影响特征。对社会影响特征编码,转换为对应的社会影响因素/>,社会影响因素表示为如下:
;(6)
其中,表示权重参数向量;/>表示映射函数;/>表示社会影响特征向量,/>表示偏置参数向量。
对公式(6)加入非线性激活函数,获得公式(7)。
;(7)
其中,引入均值算子构造映射函数,映射函数的计算公式如下:
;(8)
其中,表示特征映射的权重向量参数;/>表示矩阵转置;/>表示社会影响特征向量。
其中,特征映射的权重向量参数的计算公式如下:
;(9)
其中,表示非线性激活函数;/>表示用户/>的潜在隐藏变量;均表示模型参数。
需要解释的是,将公式(9)代入公式(8)中,将公式(8)代入公式(7)中,获得最终的社会影响因素。
步骤S130,对固有偏好因素和社会影响因素进行编码拼接,获得用户特征空间矩阵。
作为本发明的具体实施例,编码拼接过程主要依靠多层感知机实现。
作为本发明的具体实施例,对固有偏好因素和社会影响因素进行编码拼接,获得用户特征空间矩阵的方法包括如下步骤:
步骤S131,将固有偏好因素和社会影响因素输入多层感知机,获取多层感知机第一层隐藏层的运算结果。
设多层感知机的第一隐藏层的输入向量为:固有偏好因素和社会影响因素/>。则第一隐藏层的运算结果为:
;(10)
其中,表示多层感知机第一隐藏层的运算结果;/>表示感知机隐藏层运算。
步骤S132,在第一隐藏层的运算结果基础上,使用权重参数和偏置参数不断迭代运算,获得用户特征空间矩阵。
具体的,使用权重参数和偏置参数不断迭代运算的具体计算公式如下:
;(11)
其中,表示多层感知机对应运算迭代次数为/>的运算结果;/>是权重参数向量;/>表示非线性激活函数;/>是偏置参数向量;/>是感知机隐藏层(Layer)的迭代次数;/>表示多层感知机对应运算迭代次数为/>的运算结果。
需要解释的是,经过公式(11)的不断迭代运算后,获得用户特征空间矩阵。
作为本发明的一个具体实施例,获取项目特征空间矩阵的方法为:获取项目的属性内容特征和属性关联特征,对项目的属性内容特征和属性关联特征通过图神经网络进行编码,获得项目特征空间矩阵。可以理解的是,将推荐系统中项目属性的相关性建模为编码向量,并将其拼接到项目总特征空间中,获得最终的项目特征空间矩阵。
如图6所示,为本发明的项目特征空间体系结构。从项目特征空间体系结构中可以看出,本申请首先获取属性内容和属性关联,并分别对属性内容和属性关联进行特征编码,将两个编码过程获得的结果进行编码拼接获得最终的矩阵,也就是项目特征空间矩阵。
如图3所示,获取项目特征空间矩阵的方法包括如下步骤:
步骤S140,获取项目的属性内容特征。
由于属性内容特征通常不适用于矢量化计算或卷积计算,尤其是其中还包括一些文本数据。因此需要将其映射为矢量化数值数据。属性内容特征可分为结构化属性和非结构化属性两种。不同属性的维度可能不同,为保证所有属性维度的一致性,将维度最多的属性作为标准进行统一。需要将其他属性相应编码中多余维度以0填充,项目的属性内容矩阵具体表示公式如下:
;(12)
其中,表示项目的属性内容矩阵,该矩阵反映了项目属性与属性之间的相关性;/>是项目/>的属性数量;/>表示项目属性矩阵的元素。
步骤S150,获取项目的属性关联特征。
设定项目的属性表示为/>,在当前项目属性的基础上,通过图神经网络聚合其他项目属性的相关信息进行编码,获取项目的属性关联特征,也即获取属性相关性编码矩阵,项目比如为一个电影,项目属性包括制片导演、男主角、女主角和电影产地等,分析项目属性之间的相关性作为推荐网络的考虑因素,分析项目属性之间的相关性时,选择一个项目属性,例如制片导演,通过图神经网络聚合其他属性的相关信息进行编码,其他属性为男主角、女主角和电影产地,获得项目的属性关联特征,即选择的项目属性与其他项目属性的关联特征。项目的属性相关性编码矩阵如下:
;(13)
其中,表示项目的属性相关性编码矩阵或项目/>的属性相关矩阵;/>分别表示项目不同的属性,/>作为项目/>属性/>到/>的有向边,反映了该项目属性和属性/>的关系,将矩阵视为图结构,则/>可以理解为属性之间的关系边;/>表示变换函数。
当时,/>,同时/>可表示为如下公式:
;(14)
其中,函数表示事件发生频次;/>表示项目/>属性/>和/>的共现频率;/>表示项目/>属性权重/>的发生频次;/>项目/>属性/>和/>的共现频率;/>表示项目/>属性权重/>的发生频次;/>表示项目/>中属性的另一个索引号,无具体含义,方便运算。
需要解释的是,对于变换函数,若对每一个属性相关边都分配唯一的权重,将导致复杂的计算和冗余的时间消耗。将公式(14)代入公式(13)中,计算获得项目的属性相关性编码矩阵。
针对项目每一个属性/>都分配一个输入矩阵和一个输出矩阵。对于来自属性到/>的有向关联边其状态信息转换表示如下:
;(15)
其中,表示/>属性分配的输出矩阵;/>表示/>属性分配的输入矩阵。
因此,项目的属性相关矩阵可以表示为:
;(16)
其中,表示项目/>的属性相关矩阵;/>表示项目/>的属性数量;/>分别表示项目不同的属性;/>作为项目/>属性/>到/>的有向边;/>表示/>属性分配的输出矩阵;/>表示/>属性分配的输入矩阵;/>表示偏置向量。
需要解释的是,公式(16)获得的项目的属性相关矩阵即属性关联特征。
作为本发明的具体实施例,将项目中的属性数量视作结构图的节点数量,属性与属性之间的相关性视作结构图的边。为了降低计算复杂度,将项目的每个属性的属性相关性(结构图的边)聚合到向量/>中。
步骤S160,根据项目的属性内容特征和属性关联特征,获得项目特征空间矩阵。
具体的,对于项目特征空间矩阵的更新过程公式如下:
;(17)
其中,表示项目特征空间第/>次迭代更新后的矩阵;/>表示项目/>的属性数量;/>分别表示项目不同的属性;/>表示自然常数;/>表示对项目所有属性第/>次迭代的隐藏领域向量。
其中,可以在考虑元素的情况下,在矩阵/>中进行计算,计算公式如下:
;(18)
其中,表示非线性激活函数;/>是权重参数向量,/>是偏置参数向量;表示项目特征空间第/>次迭代更新后的矩阵;/>表示矩阵/>和矩阵/>编码拼接。
其中,使用以下公式进行迭代更新:
;(19)
;(20)
其中,表示非线性激活函数;/>是权重参数向量,/>是偏置参数向量;表示项目特征空间第/>次迭代更新后的矩阵。
作为本发明的具体实施例,项目特征空间矩阵定义为:
;(21)
其中,是一个/>维向量。
由于图神经网络能够处理具有不同大小和拓扑的图结构,在捕捉图节点特征信息方面被证明是有效的,因此,图深度神经网络更有利于分析对象之间的关系,尤其在推荐系统中可以发挥关键的作用。
步骤S2,根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵。
具体的,将用户特征空间矩阵和项目特征空间矩阵分别嵌入到矩阵分解的两个潜在因子中,获得用户项目评级矩阵。
本发明针对物联网场景的推荐系统,在算法中对于多社会群体,考虑项目属性特征之间与用户特征的关系影响,融合多空间特征,更全面、准确地描述用户兴趣,极大程度提高推荐准确度。
用户项目评级矩阵用于对用户与项目的偏好评级。
作为本发明的具体实施例,对用户与项目进行评级预测的方法包括:根据用户项目矩阵(包括用户特征空间矩阵和项目特征空间矩阵),计算用户特征与项目特征之间注意力权重来决定用户与项目之间的关注程度,计算用户项目矩阵中缺失的评分值对用户与项目进行评级预测。
在注意力机制中,注意力权重公式计算如下:
;
其中,和/>分别为用户特征空间矩阵和项目特征空间矩阵的可学习注意力权重参数,relu是线性激活函数,softmax是用于归一化注意力权重的函数,/>为计算得到的注意力权重参数。/>
将注意力权重参数应用于用户特征空间矩阵和项目特征空间矩阵,得到加权后的用户特征空间矩阵和项目特征空间矩阵/>,具体公式如下:
;
;
其中和/>分别为加权后的用户特征空间矩阵和项目特征空间矩阵。
用户项目评级矩阵中缺失的评分值可以通过这两个潜在矩阵(用户特征空间矩阵和项目特征空间矩阵)的点积来完成。由于用户特征空间矩阵(即用户特征矩阵),并且项目特征空间矩阵(即项目特征矩阵)/>,两矩阵之间无法进行点积运算。因此,需要一个转移矩阵/>匹配用户特征矩阵和项目特征矩阵之间的维度。用户项目矩阵中缺失的评级值(也即用户项目评级矩阵)计算公式如下:
;(22)
其中,表示用户项目矩阵中缺失的评分值;/>表示用户特征空间矩阵;/>表示项目特征空间矩阵;/>表示转移矩阵;/>表示点积运算。
如图7所示,为本发明评级预测体系结构,从评级预测体系结构中可以看出,本发明根据用户特征空间矩阵、转移矩阵和项目特征空间矩阵获得用户项目评级矩阵。
步骤S3,根据用户项目评级矩阵,获得社交网络推荐最优解。
具体的,根据用户项目评级矩阵,获得目标函数的最优解,即社交网络推荐最优解。
具体的,获得目标函数的最优解的方法如下:
作为本发明的具体实施例,矩阵分解方法利用用户-项目矩阵中缺失的评级值解决的优化问题如下:
;(23)
其中,WT表示优化问题;表示取最小值;/>是实际观察到的评级值。
优化问题进一步优化为如下计算方法:
;(24)
其中,表示优化后的优化问题;/>是三个正则化参数;满足均大于0,/>是罗贝尼乌斯范数;/>表示用户-项目矩阵中缺失的评级值;表示实际观察到的评级值;/>表示给定图结构/>中的元素;/>表示在用户社会特征映射网络模块所涉及的固有偏好因素;/>表示在用户社会特征映射网络模块所涉及的社会影响因素;/>表示转移矩阵。
作为本发明的具体实施例,利用自适应梯度下降算法解决优化问题。自适应梯度下降算法通过计算参数的偏导数来寻找目标函数的最小值,并迭代更新以减少参数误差。L表示目标函数的分量,偏导数计算公式如下:
;(25)
;(26)
;(27)
;(28)
;(29)
其中,表示偏导数运算;/>是三个正则化参数;满足/>均大于0;/>表示用户-项目矩阵中缺失的评级值;/>表示实际观察到的评级值;表示给定图结构/>中的元素;/>表示在用户社会特征映射网络模块所涉及的固有偏好因素;/>表示在用户社会特征映射网络模块所涉及的社会影响因素;表示转移矩阵。
作为本发明的具体实施例,在每一轮的迭代中将计算出的偏导数视为搜索方向搜索优化问题的最优解。
作为本发明的具体实施例,在每一轮的迭代中,具体收敛的幅度大小采用余弦下降方式进行判断,lr作为初始收敛幅度,em作为总的训练步数。在每个训练步骤中,根据当前步数如t计算当前收敛幅度系数,具体公式如下:
其中cos是余弦函数,t是当前的步数(迭代次数),em是总的训练步数,是计算得到的当前收敛幅度系数。
最终的收敛系数计算为初始的收敛幅度和收敛幅度系数的乘积,公式如下:
;/>
其中为最终的收敛系数,/>为初始收敛幅度,/>为当前的收敛幅度系数。
作为本发明的具体实施例,根据每一轮迭代的优化方向以及参数的收敛系数不断收敛,得到最优解。
作为其他可选的实施例,对于用户与项目的偏好评级设定以及用户之间社交关系记录表示可以采用更加复杂的聚合函数,在汇聚邻居节点加入注意力机制提高图神经网络的性能。
步骤S4,根据社交网络推荐最优解,向用户推荐项目。
如图4所示,为本申请基于深度图神经网络的多特征空间融合推荐系统的总体框图。本申请通过固有偏好和社会影响获得用户特征空间,通过属性内容和属性关联获得项目特征空间,根据用户特征空间、过渡空间和项目特征空间获得用户-项目评级矩阵。
作为本发明的具体实施例,通过在三个真实数据集中的实验,验证本申请社交网络推荐方法的有效性。
本发明使用的数据集是社交网络推荐领域常见的三个经典的真实世界数据集:Epinions、Yelp和Flixster。Epinions是通过互联网爬虫从著名的在线购物网站epinions1收集。在该在线购物网站中,用户可以发布对整数范围从1到5的项目的偏好评级,并与他人建立信任关系,以便于做出决策。过滤掉值小于4的评分,并删除发布低于5个评分的用户和发布不超过5个评级的项目。由于初始Epinions不包含属性内容和相关性的信息,本发明根据Epinions中的产品信息从著名购物网站Amazon2抓取元数据(产品属性)。然后,通过搜索属性对的同现记录来量化已爬网属性的相关性信息。属性相关性表示为二进制值0或1,其中1表示存在相关性,0则相反。Yelp数据集由Yelp官方收集并发布,旨在为商业发展呼吁创新的数据挖掘方法。数据集包含用户信息、商家信息、用户对商家的偏好评级、用户对商户的评价等。其中,数据集中的商家被视为项目,可以从商家信息中提取属性对的相关性。由于数据总量太大,首先选择只与餐厅类别相关的数据进行评估,然后筛选出评分记录少于三条的用户。此外,在Yelp数据集中无法直接观察到社交关系,通常查看同一项目的用户被视为彼此具有社交关系。Flixster数据集由亚利桑那州立大学的研究人员收集。它包含了用户对物品和社交关系的丰富偏好评级。至于项目的属性,本发明从一个名为IMDb5的著名在线电影数据库中抓取元数据,并提取属性的相关性。请注意,Flixster中的评级是0.5到5.0之间的真实值,不受0.5的影响,因此本发明进一步将非整数评级值转换为整数。
为了评估本发明所提出的基于深度图神经网络的多特征空间融合推荐方法的效率,本发明在推荐系统中使用了三种广泛使用的评估指标:RMSE、MAE和NDCG。RMSE是指均方根误差,是衡量实际值和预测值之间差异程度的常用指标。MAE是指平均绝对误差,定义为绝对误差的平均值。对于RMSE和MAE,值越低表示性能越好。NDCG是指归一化折损累计增益指标,通过基于职位的重要性折扣来衡量排名的质量。NDCG数值更高表示性能更好。选择了四种关于社交网络推荐的经典方法作为基线:TrustMF、SocialMF、TrustSVD和AutoRec推荐模型。SGD(随机梯度下降)中的学习率设置为0.01,惩罚参数分别设置为0.35、0.35和0.3。在每个数据集中,训练数据的比例设置为两个值:60%和80%。对于每个评估度量,本发明在两个不同的推荐大小5和10下测量其值。本发明所提出的所提出的推荐方法(GNN-SoR)在大多数实验中都能比基线表现得更好。总体而言,本发明推荐方法的性能优于其他四个基线。
本申请提出的一种基于深度图神经网络框架,用于在社交媒体平台上推荐朋友。获得了用户特征的全面表述,以生成一个更合理的推荐列表,同时考虑到用户的关系和个人属性。为了获得准确的预测,使用了反向传播神经网络来预测社交图中的社交链接。推荐列表是基于预测的用户之间的社会联系而构建的。用微博数据集进行的实验表明,在朋友推荐方面得到了改进。
实施例二
如图8所示,本发明提供一种基于深度图神经网络的多特征空间融合推荐系统100,该系统包括:
用户社会特征映射网络模块10,用于获取用户特征空间矩阵.
项目特征分析模块20,用于获取项目特征空间矩阵.
评级预测模块30,用于根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵;根据用户项目评级矩阵,获得社交网络推荐最优解;
推荐模块40,用于根据社交网络推荐最优解,向用户推荐项目。
本申请实现的有益效果如下:
(1)本申请加强用户及其社会关系与项目特征之间的相关性。在不同数据集上,从用户的社交网络、历史行为、兴趣标签等多个角度进行建模,将不同项目之间的特征关系作为关键因素。
(2)本申请将社交网络推荐系统视为用户特征和项目特征的空间集合,将用户特征视为其固有偏好和其社会影响的串联关系,这些特征可以看作来自不同的特征空间,通过图神经网络(GNN)进行融合,得到更加全面、准确的用户表示。
(3)本申请利用图神经网络方法来获得各种复杂关系的更好表示,将项目属性的相关性建模为编码向量,将其集成到项目总特征空间中,从而提高特征空间的粒度。
(4)本申请考虑用户特征空间和项目特征空间对于用户的串联影响,使用图神经网络将用户特征和项目特征用两个包括实体和实体关系的图网络表示,即将项目、物品特征之间的关系作为关键因素,更好的理解不同项目之间对于用户特征关系的相似性和差异性。
在本申请的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本申请的描述中,“例如”一词用来表示“用作例子、例证或说明”。本申请中被描述为“例如”的任何实施例不一定被解释为比其它实施例更优选或更具优势。为了使本领域任何技术人员能够实现和使用本发明,给出了以下描述。在以下描述中,为了解释的目的而列出了细节。应当明白的是,本领域普通技术人员可以认识到,在不使用这些特定细节的情况下也可以实现本发明。在其它实例中,不会对公知的结构和过程进行详细阐述,以避免不必要的细节使本发明的描述变得晦涩。因此,本发明并非旨在限于所示的实施例,而是与符合本申请所公开的原理和特征的最广范围相一致。
以上所述仅为本发明的实施方式而已,并不用于限制本发明。对于本领域技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原理内所做的任何修改、等同替换、改进等,均应包括在本发明的权利要求范围之内。
Claims (9)
1.一种基于深度图神经网络的多特征空间融合推荐方法,其特征在于,该方法包括如下步骤:
获取用户特征空间矩阵和项目特征空间矩阵;
根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵;
根据用户项目评级矩阵,获得社交网络推荐最优解;
其中,根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵的方法包括:将用户特征空间矩阵和项目特征空间矩阵分别嵌入到矩阵分解的两个潜在因子中,获得用户项目评级矩阵。
2.根据权利要求1所述的基于深度图神经网络的多特征空间融合推荐方法,其特征在于,获取用户特征空间矩阵的方法包括如下步骤:
获取用户的固有偏好特征,通过图神经网络对固有偏好特征编码,转换为固有偏好因素;
获取社会影响特征,通过图神经网络对社会影响特征进行编码,转换为社会影响因素;
对固有偏好因素和社会影响因素进行编码拼接,获得用户特征空间矩阵。
3.根据权利要求1所述的基于深度图神经网络的多特征空间融合推荐方法,其特征在于,获取项目特征空间矩阵的方法包括如下步骤:
获取项目的属性内容特征;
获取项目的属性关联特征;
通过图神经网络对项目的属性内容特征和属性关联特征编码拼接,获得项目特征空间矩阵。
4.根据权利要求2所述的基于深度图神经网络的多特征空间融合推荐方法,其特征在于,对固有偏好因素和社会影响因素进行编码拼接,获得用户特征空间矩阵的方法包括:
将固有偏好因素和社会影响因素输入多层感知机,获取多层感知机第一隐藏层的运算结果;
在第一隐藏层的运算结果基础上,使用权重参数和偏置参数不断迭代运算,获得用户特征空间矩阵。
5.根据权利要求3所述的基于深度图神经网络的多特征空间融合推荐方法,其特征在于,获取项目的属性关联特征的方法包括:在当前项目属性的基础上,通过图神经网络聚合属性内容特征中其他项目属性的相关信息进行编码,获取项目的属性关联特征;
其中,属性内容特征分为结构化属性和非结构化属性。
6.根据权利要求1所述的基于深度图神经网络的多特征空间融合推荐方法,其特征在于,对用户与项目进行评级预测的方法包括:根据用户特征空间矩阵和项目特征空间矩阵,计算用户项目矩阵中缺失的评分值对用户与项目进行评级预测。
7.根据权利要求1所述的基于深度图神经网络的多特征空间融合推荐方法,其特征在于,该方法还包括:根据社交网络推荐最优解,向用户推荐项目。
8.一种基于深度图神经网络的多特征空间融合推荐系统,执行权利要求1-7任一所述的方法,其特征在于,该系统包括:
用户社会特征映射网络模块,用于获取用户特征空间矩阵;
项目特征分析模块,用于获取项目特征空间矩阵;
评级预测模块,用于根据用户特征空间矩阵和项目特征空间矩阵,对用户与项目进行评级预测,获得用户项目评级矩阵;根据用户项目评级矩阵,获得社交网络推荐最优解。
9.根据权利要求8所述的基于深度图神经网络的多特征空间融合推荐系统,其特征在于,该系统还包括:推荐模块,用于根据社交网络推荐最优解,向用户推荐项目。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311477505.2A CN117194805A (zh) | 2023-11-08 | 2023-11-08 | 基于深度图神经网络的多特征空间融合推荐方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311477505.2A CN117194805A (zh) | 2023-11-08 | 2023-11-08 | 基于深度图神经网络的多特征空间融合推荐方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117194805A true CN117194805A (zh) | 2023-12-08 |
Family
ID=89002051
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311477505.2A Pending CN117194805A (zh) | 2023-11-08 | 2023-11-08 | 基于深度图神经网络的多特征空间融合推荐方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117194805A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111523051A (zh) * | 2020-04-24 | 2020-08-11 | 山东师范大学 | 基于图卷积矩阵分解的社交兴趣推荐方法及系统 |
CN113158071A (zh) * | 2021-03-19 | 2021-07-23 | 广东工业大学 | 一种基于图神经网络的知识社交推荐方法、系统和设备 |
CN114201682A (zh) * | 2021-12-14 | 2022-03-18 | 云南大学 | 融合社交关系和语义关系的图神经网络推荐方法及系统 |
CN115937994A (zh) * | 2023-01-06 | 2023-04-07 | 南昌大学 | 一种基于深度学习检测模型的数据检测方法 |
US20230195809A1 (en) * | 2021-12-22 | 2023-06-22 | Naver Corporation | Joint personalized search and recommendation with hypergraph convolutional networks |
-
2023
- 2023-11-08 CN CN202311477505.2A patent/CN117194805A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111523051A (zh) * | 2020-04-24 | 2020-08-11 | 山东师范大学 | 基于图卷积矩阵分解的社交兴趣推荐方法及系统 |
CN113158071A (zh) * | 2021-03-19 | 2021-07-23 | 广东工业大学 | 一种基于图神经网络的知识社交推荐方法、系统和设备 |
CN114201682A (zh) * | 2021-12-14 | 2022-03-18 | 云南大学 | 融合社交关系和语义关系的图神经网络推荐方法及系统 |
US20230195809A1 (en) * | 2021-12-22 | 2023-06-22 | Naver Corporation | Joint personalized search and recommendation with hypergraph convolutional networks |
CN115937994A (zh) * | 2023-01-06 | 2023-04-07 | 南昌大学 | 一种基于深度学习检测模型的数据检测方法 |
Non-Patent Citations (9)
Title |
---|
TONG HE,等: "Bag of Tricks for Image Classification with Convolutional Neural Networks", 《2019 IEEE/CVF CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR)》, 9 January 2020 (2020-01-09), pages 558 - 567 * |
YE XINGXING,等: "POI Recommendation Based on Graph Enhanced Attention GNN", 《2021 11TH INTERNATIONAL CONFERENCE ON INTELLIGENT CONTROL AND INFORMATION PROCESSING (ICICIP)》, pages 284 - 291 * |
ZHIWEI GUO,等: "A Deep Graph Neural Network-Based Mechanism for Social Recommendations", 《IEEE TRANSACTIONS ON INDUSTRIAL INFORMATICS》, vol. 17, no. 4, pages 2776 - 2783, XP011830690, DOI: 10.1109/TII.2020.2986316 * |
ZHIWEI GUO,等: "Enhancing Matrix Factorization-based Recommender Systems via Graph Neural Networks", 《2021 IEEE INTL CONF ON PARALLEL & DISTRIBUTED PROCESSING WITH APPLICATIONS, BIG DATA & CLOUD COMPUTING, SUSTAINABLE COMPUTING & COMMUNICATIONS, SOCIAL COMPUTING & NETWORKING (ISPA/BDCLOUD/SOCIALCOM/SUSTAINCOM)》, 22 December 2021 (2021-12-22), pages 1053 - 1059 * |
ZHIWEI GUO,等: "Enhancing Matrix Factorization-based Recommender Systems via Graph Neural Networks", 《2021 IEEE INTL CONF ON PARALLEL & DISTRIBUTED PROCESSING WITH APPLICATIONS, BIG DATA & CLOUD COMPUTING, SUSTAINABLE COMPUTING & COMMUNICATIONS, SOCIAL COMPUTING & NETWORKING (ISPA/BDCLOUD/SOCIALCOM/SUSTAINCOM)》, pages 1053 - 1059 * |
吴茂贵,等: "《深入浅出Embedding原理解析与应用实践》", 30 June 2021, 机械工业出版社, pages: 91 * |
邹维远: "基于图神经网络的推荐算法研究及应用", 《中国优秀硕士学位论文全文数据库信息科技辑》, pages 10 - 25 * |
顾亦然,等: "基于多头图注意力机制的神经协同过滤推荐算法", 《小型微型计算机系统》, 19 September 2023 (2023-09-19), pages 1 - 8 * |
高华玲: "《推荐算法及应用》", 31 January 2021, 北京邮电大学出版社, pages: 36 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111428147B (zh) | 结合社交和兴趣信息的异源图卷积网络的社交推荐方法 | |
CN110516160B (zh) | 基于知识图谱的用户建模方法、序列推荐方法 | |
Pan et al. | Study on convolutional neural network and its application in data mining and sales forecasting for E-commerce | |
Luo et al. | Personalized recommendation by matrix co-factorization with tags and time information | |
CN110910218B (zh) | 一种基于深度学习的多行为迁移推荐方法 | |
CN109389151B (zh) | 一种基于半监督嵌入表示模型的知识图谱处理方法和装置 | |
CN113918832B (zh) | 基于社交关系的图卷积协同过滤推荐系统 | |
CN113918833B (zh) | 通过社交网络关系的图卷积协同过滤实现的产品推荐方法 | |
Hu et al. | Bayesian personalized ranking based on multiple-layer neighborhoods | |
Wen et al. | Neural attention model for recommendation based on factorization machines | |
Pan et al. | Clustering of designers based on building information modeling event logs | |
CN113918834B (zh) | 融合社交关系的图卷积协同过滤推荐方法 | |
Paleti et al. | Approaching the cold-start problem using community detection based alternating least square factorization in recommendation systems | |
CN113590976A (zh) | 一种空间自适应图卷积网络的推荐方法 | |
CN117556148B (zh) | 一种基于网络数据驱动的个性化跨域推荐方法 | |
Fareed et al. | A collaborative filtering recommendation framework utilizing social networks | |
Li et al. | A novel learning model based on trust diffusion and global item for recommender systems | |
CN118071400A (zh) | 基于图计算技术在信息消费领域的应用方法及系统 | |
CN114139066A (zh) | 一种基于图神经网络的协同过滤推荐系统 | |
CN113342994A (zh) | 一种基于无采样协作知识图网络的推荐系统 | |
Zhang et al. | Multi-view dynamic heterogeneous information network embedding | |
Huang et al. | Multi-affect (ed): improving recommendation with similarity-enhanced user reliability and influence propagation | |
CN114168804B (zh) | 一种基于异质子图神经网络的相似信息检索方法和系统 | |
CN115545833A (zh) | 一种基于用户社交信息的推荐方法及系统 | |
CN115391555A (zh) | 一种用户感知的知识图谱推荐系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |