CN117743694A - 基于图节点特征增强的多层迁移学习跨域推荐方法及系统 - Google Patents
基于图节点特征增强的多层迁移学习跨域推荐方法及系统 Download PDFInfo
- Publication number
- CN117743694A CN117743694A CN202410166365.5A CN202410166365A CN117743694A CN 117743694 A CN117743694 A CN 117743694A CN 202410166365 A CN202410166365 A CN 202410166365A CN 117743694 A CN117743694 A CN 117743694A
- Authority
- CN
- China
- Prior art keywords
- user
- domain
- embedded
- feature
- graph
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 35
- 238000013526 transfer learning Methods 0.000 title claims abstract description 15
- 230000004931 aggregating effect Effects 0.000 claims abstract description 18
- 238000013508 migration Methods 0.000 claims description 25
- 230000005012 migration Effects 0.000 claims description 25
- 230000006978 adaptation Effects 0.000 claims description 17
- 230000002776 aggregation Effects 0.000 claims description 16
- 238000004220 aggregation Methods 0.000 claims description 16
- 238000000605 extraction Methods 0.000 claims description 11
- 230000003993 interaction Effects 0.000 claims description 11
- 230000002708 enhancing effect Effects 0.000 claims description 9
- 230000006870 function Effects 0.000 claims description 8
- 230000004927 fusion Effects 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 6
- 235000019580 granularity Nutrition 0.000 claims description 5
- 238000012935 Averaging Methods 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 4
- 230000007246 mechanism Effects 0.000 claims description 4
- 230000005540 biological transmission Effects 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 238000009825 accumulation Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明属于跨域推荐技术领域,公开了基于图节点特征增强的多层迁移学习跨域推荐方法及系统,该方法首先利用用户和物品的索引ID,基于高阶图结构生成用户和物品在源域和目标域的初始嵌入特征;然后提取多维一致性用户偏好特征,然后基于Transformer模型架构深度融合用户初始图节点嵌入特征和多维一致性用户偏好特征,增强图节点嵌入特征;然后分层对齐源域和目标域的用户特征分布、并聚合各层用户和物品特征,最后得到最终用于评分预测的用户和物品嵌入特征,进行评分预测。通过本发明充分挖掘推荐系统中辅助信息的价值以提取用户多维一致性偏好特征,获得更高质量的用户特征表示,提高跨域推荐质量。
Description
技术领域
本发明属于跨域推荐技术领域,特别涉及基于图节点特征增强的多层迁移学习跨域推荐方法及系统。
背景技术
基于迁移学习机制的跨域推荐是解决推荐领域数据稀疏性和冷启动问题的有效方法。跨域推荐通过利用辅助域中足够丰富的用户和物品的购买历史和交互信息来提高交互信息相对稀疏的目标域的推荐性能。目前先进的跨域推荐方法基于图神经网络,利用用户和物品的购买历史构建交互图结构,其优势在于可实现对用户和物品联合建模,在用户和物品特征学习过程中加入多层级结构化信息,通过提取多层级嵌入特征来提高用户或物品的特征表示质量。
但是,现有的基于图神经网络的跨域推荐方法存在以下问题:第一,仅利用单一的成对交互关系构建交互图来挖掘用户偏好,忽略了多维社交媒体信息的通用语义对用户偏好的影响,导致图节点表征不能显著体现用户偏好。例如,不同视角的辅助信息之间,不同领域的媒体信息之间,都会存在体现用户偏好的通用语义表示,即用户偏好的多维一致性。第二,未利用高阶图结构的层次特点,分层对齐特征分布差异进行域适应。基于图卷积网络的跨域推荐方法通常采用传播聚合的学习方式提取用户嵌入特征,不够精准的聚合权重会导致信息误差累积而引起负迁移问题。
发明内容
针对现有技术存在的不足,本发明提供基于图节点特征增强的多层迁移学习跨域推荐方法及系统,充分挖掘推荐系统中辅助信息的价值以提取用户固有偏好聚合特征,获得更高质量的用户特征表示,提高跨域推荐质量。
为了解决上述技术问题,本发明采用的技术方案是:
基于图节点特征增强的多层迁移学习跨域推荐方法,包括以下步骤:
步骤S1、获取数据及数据预处理:
收集用户和物品在源域和目标域的交互历史,包括用户和物品的ID信息、评分信息、以及多个维度的社交媒体信息;
步骤S2、提取初始图节点嵌入特征:
利用用户和物品的索引ID,基于高阶图结构生成用户和物品在源域和目标域的初始嵌入特征;
步骤S3、提取多维一致性用户偏好特征:
通过语义对齐多个维度的社交媒体信息与全局语义单元,得到用户在单域内的多维一致性偏好特征;
步骤S4、图节点特征增强:
基于Transformer模型架构深度融合步骤S2生成的用户初始图节点嵌入特征和步骤S3提取的多维一致性用户偏好特征,增强图节点嵌入特征的质量,更新图节点嵌入特征;
步骤S5、分层对齐源域和目标域的用户特征分布;
对于步骤S4增强后的图节点嵌入特征,利用基于度量学习的分层域适应方法,通过学习层迁移权重将源域和目标域的用户特征分布进行分层域适应对齐;
步骤S6、聚合源域和目标域的各层用户和物品特征:
将步骤S4得到的增强后的用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将步骤S4得到的增强后的用户在每一层的图节点嵌入特征与步骤S5得到的层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将步骤S2得到的物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征;
步骤S7、评分预测:
将步骤S6得到的用户嵌入特征与物品嵌入特征的转秩做向量相乘运算,得到该用户对物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品。
进一步的,步骤S2中,将源域和目标域中每个用户和物品的索引ID 作为特征信息进行初始图节点嵌入特征的提取,具体步骤是:设表示通过对用户索引 ID 信息进行编码得到的初始用户图节点嵌入特征,/>为对物品索引ID 信息进行编码得到的初始物品图节点嵌入特征;随后,根据图卷积的规则进行信息传递与标准化聚合,获得带有不同层次结构化信息的用户嵌入特征/>和物品嵌入特征/>,/>为高阶图中的层数。
进一步的,步骤S3中,提取用户在单域内多维一致性偏好特征,具体是:通过定义一个全局语义单元,将经过词嵌入预处理过程得到的多维社交媒体信息文档/>与全局语义单元G分两步进行不同粒度的语义对齐,从而提取多维一致性用户偏好特征,减少不同维度的社交媒体信息之间的语义差异,其中两步具体如下:第一步,粗粒度的语义对齐:将每个维度的社交媒体文档作为整体与全局语义单元之间的相似度;第二步,细粒度的语义对齐:建立每个维度社交媒体信息文档中的每个单词与全局语义单元之间的相关性,从而得到具有丰富语义的多维一致性用户偏好,最后将提取出的分维度表示的多维一致性用户偏好多个维度特征通过拼接方式组成一个整体的多维一致性用户偏好特征/>,其中/>表示全局语义单元的第m个维度,M为全局语义单元的总维度数,/>, />,… ,/>分别是第1,2,...,K个维度的社交媒体信息文档,/>, />, … , />分别是第1,2,...,K个维度的一致性用户偏好特征。
进一步的,步骤S4中,具体步骤是,首先,将步骤S3提取出的多维一致性用户偏好特征,进入基于自注意力的Transformer模型的编码器进行特征融合编码;然后,编码后的多维一致性用户偏好特征/>与步骤S2生成的用户嵌入特征/>一起作为解码器的输入,基于交叉注意力机制进行特征融合;最后,通过融合多维一致性用户偏好特征对高阶图结构的初始节点特征表示进行增强,得到更新后的图节点嵌入特征。
进一步的,步骤S5具体是,先将用户在源域和目标域两个域中的特征分布分层进行对齐,利用高阶图结构的层次特征来对齐源域和目标域中的特征分布差异,首先,通过定义权重向量,基于最大均值差异来学习每个样本的权重,通过最小化目标函数来减小源域和目标域的边缘分布差异同时得到权重向量/>,将其加和求平均值计算得到层迁移权重/>,该层迁移权重用于将用户特征从源域迁移到目标域;步骤S6中,将步骤S4得到的增强后的用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将步骤S4得到的增强后的用户在每一层的图节点嵌入特征与步骤S5得到的层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将步骤S2得到的物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征。
其次本发明还提供一种基于图节点特征增强的多层迁移学习跨域推荐系统,用于实现如前面所述的基于图节点特征增强的多层迁移学习跨域推荐方法,所述系统包括数据获取模块、基于高阶图结构的嵌入特征生成模块、多维一致性用户偏好提取模块、基于Transformer的图节点特征增强模块、基于度量学习的分层域适应模块、评分预测模块,
所述数据获取模块用于获取用户和物品的ID信息、评分信息、以及多个维度的社交媒体信息;
所述基于高阶图结构的嵌入特征生成模块,将源域和目标域中每个用户和物品的索引ID 作为特征信息进行初始图节点嵌入特征的提取;
所述多维一致性用户偏好提取模块,通过对齐多个维度的社交媒体信息的通用语义提取用户在单域内的多维一致性偏好特征;
所述基于Transformer的图节点特征增强模块用于融合基于高阶图结构的嵌入特征生成模块生成的用户初始图节点嵌入特征和多维一致性用户偏好提取模块提取的多维一致性用户偏好特征,增强图节点嵌入特征,输出更新的图节点嵌入特征;
所述基于度量学习的分层域适应模块,用于分层对齐源域和目标域的用户特征分布,并聚合各层用户和物品特征;
所述评分预测模块利用已知的目标域的物品向量,在目标域做向量相乘运算,得到该用户对目标域物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品,并输出推荐结果。
与现有技术相比,本发明优点在于:
(1)充分挖掘推荐系统中媒体信息的价值,通过定义全局语义单元,对不同维度的社交媒体信息进行不同粒度的语义对齐,以提取高质量的多维一致性用户偏好。然后,基于Transformer架构,将多维一致性用户偏好特征与初始的高阶图结构嵌入特征深度融合,增强图节点的特征表示。
(2)考虑到图结构特征表示的分层特性,本发明创新性的建模了一个基于度量学习的分层域适应模块,以利用高阶图结构的层次特征来对齐源域和目标域中的特征分布差异。同时,通过学习层迁移权重来计算源域和目标域的层相似度获得层迁移权重进行特征迁移。与将用户特征整体迁移的传统方法不同,本发明可以基于不同层进行更细致的特征传递以减少由于不准确的特征聚合导致的信息错误累积。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明的整套系统架构图;
图2为本发明的模型的训练具体流程图;
图3为本发明跨域推荐步骤的流程图;
图4为本发明整个模型的架构图;
图5为本发明的基于Transformer的图节点特征增强模块示意图。
具体实施方式
下面结合附图及具体实施例对本发明作进一步的说明。
实施例1
结合图1所示,本实施例设计了一整套跨域推荐系统,分为两大部分,第一部分是实验所用数据,第二部分是整个网络模型。本系统的数据包括用户和物品的索引ID信息、评分信息、以及多个维度的社交媒体信息。网络模型分为6个部分,通过基于高阶图结构生成源域和目标域用户和物品初始节点嵌入特征、源域和目标域多维一致性用户偏好特征提取、源域和目标域图节点特征增强、多层域适应、源域和目标域用户和物品特征聚合、评分预测。
结合图2-图5所示,本实施例设计了基于图节点特征增强的多层迁移学习跨域推荐方法,包括以下步骤:
步骤S1、获取数据及数据预处理:
收集用户和物品在源域和目标域的交互历史,包括用户和物品的索引ID信息、评分信息、以及多个维度的社交媒体信息。
步骤S2、提取初始图节点嵌入特征:
利用用户和物品的索引ID,基于高阶图结构生成用户和物品在源域和目标域的初始图节点嵌入特征。
本步骤将源域和目标域中每个用户和物品的索引ID 作为特征信息进行初始图节点嵌入特征的提取,具体步骤是:设表示通过对用户索引 ID 信息进行编码得到的初始用户图节点嵌入特征,/>为对物品索引ID 信息进行编码得到的初始物品图节点嵌入特征;随后,根据图卷积的规则进行信息传递与标准化聚合,获得带有不同层次结构化信息的用户嵌入特征/>和物品嵌入特征/>,/>为高阶图中的层数。
其中,图4中,,/>(l=0,1,2,3)即/> 、/> 、/> 、/> 、/> 、/>分别为用户和物品的第1,2,3层的图节点嵌入特征;对应的,/>、/>、/>、/>、/>、/>为增强后源域和目标域用户图节点嵌入特征;/>,/>为源域和目标域用户各层特征聚合后的嵌入特征;/>,/>为源域和目标域物品各层特征聚合后的嵌入特征,/>为层迁移权重。
步骤S3、提取多维一致性用户偏好特征:
通过语义对齐多个维度的社交媒体信息与全局语义单元,得到用户在单域内的多维一致性偏好特征。
提取用户在单域内多维一致性用户偏好特征,具体是:通过定义一个全局语义单元,将经过词嵌入预处理过程得到的多维社交媒体信息文档与全局语义单元G分两步进行不同粒度的语义对齐,从而提取多维一致性用户偏好特征,减少不同维度的社交媒体信息之间的语义差异。由于不同维度的社交媒体信息可能存在维度不一致的问题,所以在进行语义对齐前,利用不同的全连接层对多种辅助信息的维度进行调整,映射成与全局语义单元相同的维度。然后分两步提取多维一致性用户偏好特征。
第一步,粗粒度的语义对齐:将每个维度的社交媒体文档作为整体与全局语义单元之间的相似度;此过程仅以每个维度的媒体信息文章作为整体与全局语义进行聚合,所以视为粗粒度的语义对齐。
第二步,细粒度的语义对齐:建立每个维度社交媒体信息文档中的每个单词与全局语义单元之间的相关性,从而得到具有丰富语义的多维一致性用户偏好。
最后将提取出的分维度表示的多维一致性用户偏好多个维度特征通过拼接方式组成一个整体的多维一致性用户偏好特征,/>。其中/>表示全局语义单元的第m个维度,M为全局语义单元的总维度数,/>, />,… ,/>分别是第1,2,...,K个维度的社交媒体信息文档,/>, />, … , />分别是第1,2,...,K个维度的一致性用户偏好特征。
该方法一个创新性是通过定义一个全局语义单元,对没有明确的对齐边界的多视角媒体信息进行不同粒度的语义对齐,提取用户在单域内的高质量的具有丰富语义的多维一致性偏好特征。
步骤S4、图节点特征增强:
基于Transformer模型架构深度融合步骤S2生成的用户初始图节点嵌入特征和步骤S3提取的多维一致性用户偏好特征,增强图节点嵌入特征的质量,更新图节点嵌入特征。
具体步骤是,首先,将步骤S3提取出的多维一致性用户偏好特征,进入基于自注意力的Transformer模型的编码器进行特征融合编码;编码器由一系列多头自注意力和前馈网络组成。具体结构此处不再赘述。
然后,编码后的多维一致性用户偏好特征与步骤S2生成的用户嵌入特征/>一起作为解码器的输入,基于交叉注意力机制进行特征融合。
最后,通过融合多维一致性用户偏好特征对高阶图结构的初始图节点特征表示进行增强,更新图节点特征表示,得到更新后的图节点嵌入特征(鲁棒性更高)。
步骤S5、分层对齐源域和目标域的用户特征分布;
对于步骤S4增强后的图节点嵌入特征,利用基于度量学习的分层域适应方法,通过学习层迁移权重将源域和目标域的用户特征分布进行分层域适应对齐。
本步骤通过一个训练好的基于度量学习的多层域适应模块实现,步骤S5具体是,先将用户在源域和目标域两个域中的特征分布分层进行对齐,利用高阶图结构的层次特征来对齐源域和目标域中的特征分布差异,首先,通过定义权重向量,基于最大均值差异来学习每个样本的权重,通过最小化目标函数来减小源域和目标域的边缘分布差异同时得到权重向量/>,将其加和求平均值计算得到层迁移权重/>,该层迁移权重用于将用户特征从源域迁移到目标域。
步骤S6中,将步骤S4得到的增强后的用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将步骤S4得到的增强后的用户在每一层的图节点嵌入特征与步骤S5得到的层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将步骤S2得到的物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征。
与传统的跨域推荐方法将每一层学习到的嵌入特征进行聚合后作为一个整体进行特征迁移的方式不同,本发明在特征集成之前,先将用户在两个域中的特征分布分层进行对齐。具体是,先将用户在源域和目标域两个域中的特征分布分层进行对齐,利用高阶图结构的层次特征来对齐源域和目标域中的特征分布差异。首先,通过定义权重向量,基于最大均值差异(MMD)来学习每个样本的权重,通过最小化目标函数来减小源域和目标域的边缘分布差异同时得到权重向量/>,将其加和求平均值计算得到层迁移权重/>,该层迁移权重用于将用户特征从源域迁移到目标域。
步骤S6、聚合源域和目标域的各层用户和物品特征,即将各层用户和物品特征进行聚合得到最终的用户和物品嵌入特征。
将用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将用户在每一层的图节点嵌入特征与步层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征。
步骤S7、评分预测:
将步骤S6得到的用户嵌入特征与物品嵌入特征的转秩做向量相乘运算,得到该用户对物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品。
模型训练时,反复迭代上述步骤,直至模型收敛。
如图3所示,对于一个冷启动用户,输入训练好的模型,利用用户的索引ID基于高阶图结构生成用户在源域的初始节点嵌入特征,通过语义对齐多维度社交媒体信息与全局语义单元得到用户单域内的多维一致性偏好,基于Transformer模型架构融合多维一致性用户偏好和用户初始图节点嵌入特征来更新图节点特征表示,然后将更新后的图节点嵌入特征表示利用训练好的域适应模块得到用户在源域的嵌入特征乘以域适应过程得到的层迁移权重作为该用户在目标域的嵌入特征;利用已知的目标域的物品向量,在目标域做向量相乘运算,得到该用户对目标域物品的预测打分值;最终选取该用户对目标物品的预测打分的高者为对该用户推荐的物品。
需要说明的是,本发明在模型训练阶段,通过将提取的源域用户特征表示乘以层迁移权重而获得的特征表示被用作用户在目标域中的嵌入特征来进行评分预测。预测的交互评分是通过将用户的特征/>和/>与物品特征/>和/>的转秩相乘来获得的,并通过在源和目标域中反向传播真实评分矩阵/>和/>与预测结果之间的差来执行训练。选择预测评分最高的一组物品作为用户的推荐列表。
损失函数如下:
(1);
(2);
(3);
(4);
源域损失函数L源域为源域用户对物品评分的损失,目标域损失函数L目标域为目标域用户对物品评分的损失,和/>为源域和目标域的评分矩阵,n为源域和目标域重叠用户数量,/>为用户在源域通过增强后的图节点嵌入特征,/>为用户在目标域通过增强后的图节点嵌入特征,/>为可学习的权重向量,函数/>定义了原数据到可再生核希尔伯特空间的映射,H表示可再生希尔伯特空间。
训练的总损失为:
(5)。
实施例2
结合图4所示,本实施例设计了基于图节点特征增强的多层迁移学习跨域推荐系统,用于实现如实施例1记载的基于图节点特征增强的多层迁移学习跨域推荐方法,具体方法及各个模块的功能实现可参见实施例1的记载,此处不再赘述。
系统包括数据获取模块、基于高阶图结构的嵌入特征生成模块、多维一致性用户偏好提取模块、基于Transformer的图节点特征增强模块、基于度量学习的分层域适应模块、评分预测模块。
数据获取模块用于获取用户和物品的ID信息、评分信息、以及多个维度的社交媒体信息。
所述基于高阶图结构的嵌入特征生成模块,将源域和目标域中每个用户和物品的索引ID 作为特征信息进行初始图节点嵌入特征的提取。
所述多维一致性用户偏好提取模块,通过对齐多个维度的社交媒体信息的通用语义提取用户在单域内的多维一致性偏好特征。
如图5所示,所述基于Transformer的图节点特征增强模块用于融合基于高阶图结构的嵌入特征生成模块生成的用户初始图节点嵌入特征和多维一致性用户偏好提取模块提取的多维一致性用户偏好特征,增强图节点嵌入特征,输出更新的图节点嵌入特征。
所述基于度量学习的分层域适应模块,用于分层对齐源域和目标域的用户特征分布,并聚合各层用户和物品特征。
所述评分预测模块利用已知的目标域的物品向量,在目标域做向量相乘运算,得到该用户对目标域物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品,并输出推荐结果。
当然,上述说明并非是对本发明的限制,本发明也并不限于上述举例,本技术领域的普通技术人员,在本发明的实质范围内,做出的变化、改型、添加或替换,都应属于本发明的保护范围。
Claims (6)
1.基于图节点特征增强的多层迁移学习跨域推荐方法,其特征在于,包括以下步骤:
步骤S1、获取数据及数据预处理:
收集用户和物品在源域和目标域的交互历史,包括用户和物品的ID信息、评分信息、以及多个维度的社交媒体信息;
步骤S2、提取初始图节点嵌入特征:
利用用户和物品的索引ID,基于高阶图结构生成用户和物品在源域和目标域的初始嵌入特征;
步骤S3、提取多维一致性用户偏好特征:
通过语义对齐多个维度的社交媒体信息与全局语义单元,得到用户在单域内的多维一致性偏好特征;
步骤S4、图节点特征增强:
基于Transformer模型架构深度融合步骤S2生成的用户初始图节点嵌入特征和步骤S3提取的多维一致性用户偏好特征,增强图节点嵌入特征的质量,更新图节点嵌入特征;
步骤S5、分层对齐源域和目标域的用户特征分布;
对于步骤S4增强后的图节点嵌入特征,利用基于度量学习的分层域适应方法,通过学习层迁移权重将源域和目标域的用户特征分布进行分层域适应对齐;
步骤S6、聚合源域和目标域的各层用户和物品特征:
将步骤S4得到的增强后的用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将步骤S4得到的增强后的用户在每一层的图节点嵌入特征与步骤S5得到的层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将步骤S2得到的物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征;
步骤S7、评分预测:
将步骤S6得到的用户嵌入特征与物品嵌入特征的转秩做向量相乘运算,得到该用户对物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品。
2.根据权利要求1所述的基于图节点特征增强的多层迁移学习跨域推荐方法,其特征在于,步骤S2中,将源域和目标域中每个用户和物品的索引ID 作为特征信息进行初始图节点嵌入特征的提取,具体步骤是:设表示通过对用户索引 ID 信息进行编码得到的初始用户图节点嵌入特征,/>为对物品索引ID 信息进行编码得到的初始物品图节点嵌入特征;随后,根据图卷积的规则进行信息传递与标准化聚合,获得带有不同层次结构化信息的用户嵌入特征/>和物品嵌入特征/>,/>为高阶图中的层数。
3.根据权利要求1所述的基于图节点特征增强的多层迁移学习跨域推荐方法,其特征在于,步骤S3中,提取用户在单域内多维一致性偏好特征,具体是:通过定义一个全局语义单元,将经过词嵌入预处理过程得到的多维社交媒体信息文档与全局语义单元G分两步进行不同粒度的语义对齐,从而提取多维一致性用户偏好特征,减少不同维度的社交媒体信息之间的语义差异,其中两步具体如下:第一步,粗粒度的语义对齐:将每个维度的社交媒体文档作为整体与全局语义单元之间的相似度;第二步,细粒度的语义对齐:建立每个维度社交媒体信息文档中的每个单词与全局语义单元之间的相关性,从而得到具有丰富语义的多维一致性用户偏好,最后将提取出的分维度表示的多维一致性用户偏好多个维度特征通过拼接方式组成一个整体的多维一致性用户偏好特征/>,其中/>表示全局语义单元的第m个维度,M为全局语义单元的总维度数,/>, />,… ,/>分别是第1,2,...,K个维度的社交媒体信息文档,/>, />, … , />分别是第1,2,...,K个维度的一致性用户偏好特征。
4.根据权利要求3所述的基于图节点特征增强的多层迁移学习跨域推荐方法,其特征在于,步骤S4中,具体步骤是,首先,将步骤S3提取出的多维一致性用户偏好特征,进入基于自注意力的Transformer模型的编码器进行特征融合编码;然后,编码后的多维一致性用户偏好特征/>与步骤S2生成的用户嵌入特征/>一起作为解码器的输入,基于交叉注意力机制进行特征融合;最后,通过融合多维一致性用户偏好特征对高阶图结构的初始节点特征表示进行增强,得到更新后的图节点嵌入特征。
5.根据权利要求4所述的基于图节点特征增强的多层迁移学习跨域推荐方法,其特征在于,步骤S5具体是,先将用户在源域和目标域两个域中的特征分布分层进行对齐,利用高阶图结构的层次特征来对齐源域和目标域中的特征分布差异,首先,通过定义权重向量,基于最大均值差异来学习每个样本的权重,通过最小化目标函数来减小源域和目标域的边缘分布差异同时得到权重向量/>,将其加和求平均值计算得到层迁移权重/>,该层迁移权重用于将用户特征从源域迁移到目标域;步骤S6中,将步骤S4得到的增强后的用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将步骤S4得到的增强后的用户在每一层的图节点嵌入特征与步骤S5得到的层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将步骤S2得到的物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征。
6.基于图节点特征增强的多层迁移学习跨域推荐系统,其特征在于,用于实现如权利要求1-5任一项所述的基于图节点特征增强的多层迁移学习跨域推荐方法,所述系统包括数据获取模块、基于高阶图结构的嵌入特征生成模块、多维一致性用户偏好提取模块、基于Transformer的图节点特征增强模块、基于度量学习的分层域适应模块、评分预测模块,
所述数据获取模块用于获取用户和物品的ID信息、评分信息、以及多个维度的社交媒体信息;
所述基于高阶图结构的嵌入特征生成模块,将源域和目标域中每个用户和物品的索引ID 作为特征信息进行初始图节点嵌入特征的提取;
所述多维一致性用户偏好提取模块,通过对齐多个维度的社交媒体信息的通用语义提取用户在单域内的多维一致性偏好特征;
所述基于Transformer的图节点特征增强模块用于融合基于高阶图结构的嵌入特征生成模块生成的用户初始图节点嵌入特征和多维一致性用户偏好提取模块提取的多维一致性用户偏好特征,增强图节点嵌入特征,输出更新的图节点嵌入特征;
所述基于度量学习的分层域适应模块,用于分层对齐源域和目标域的用户特征分布,并聚合各层用户和物品特征;
所述评分预测模块利用已知的目标域的物品向量,在目标域做向量相乘运算,得到该用户对目标域物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品,并输出推荐结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410166365.5A CN117743694B (zh) | 2024-02-06 | 2024-02-06 | 基于图节点特征增强的多层迁移学习跨域推荐方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410166365.5A CN117743694B (zh) | 2024-02-06 | 2024-02-06 | 基于图节点特征增强的多层迁移学习跨域推荐方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117743694A true CN117743694A (zh) | 2024-03-22 |
CN117743694B CN117743694B (zh) | 2024-05-14 |
Family
ID=90278065
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410166365.5A Active CN117743694B (zh) | 2024-02-06 | 2024-02-06 | 基于图节点特征增强的多层迁移学习跨域推荐方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117743694B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140074650A1 (en) * | 2012-03-01 | 2014-03-13 | Qloo, Inc. | Personalized cross-domain recommender system |
CN112288042A (zh) * | 2020-12-18 | 2021-01-29 | 蚂蚁智信(杭州)信息技术有限公司 | 行为预测系统的更新方法及装置、存储介质和计算设备 |
CN114443954A (zh) * | 2022-01-07 | 2022-05-06 | 中国海洋大学 | 基于高阶图结构的一对多跨域推荐方法及系统 |
CN116431914A (zh) * | 2023-04-12 | 2023-07-14 | 广西大学 | 一种基于个性化偏好转移模型的跨域推荐方法及系统 |
CN116910375A (zh) * | 2023-09-13 | 2023-10-20 | 南京大数据集团有限公司 | 一种基于用户偏好多样性的跨域推荐方法及系统 |
-
2024
- 2024-02-06 CN CN202410166365.5A patent/CN117743694B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140074650A1 (en) * | 2012-03-01 | 2014-03-13 | Qloo, Inc. | Personalized cross-domain recommender system |
CN112288042A (zh) * | 2020-12-18 | 2021-01-29 | 蚂蚁智信(杭州)信息技术有限公司 | 行为预测系统的更新方法及装置、存储介质和计算设备 |
CN114443954A (zh) * | 2022-01-07 | 2022-05-06 | 中国海洋大学 | 基于高阶图结构的一对多跨域推荐方法及系统 |
CN116431914A (zh) * | 2023-04-12 | 2023-07-14 | 广西大学 | 一种基于个性化偏好转移模型的跨域推荐方法及系统 |
CN116910375A (zh) * | 2023-09-13 | 2023-10-20 | 南京大数据集团有限公司 | 一种基于用户偏好多样性的跨域推荐方法及系统 |
Non-Patent Citations (4)
Title |
---|
HAO WU 等: "Effective metric learning with co-occurrence embedding for collaborative recommendations", 《ELSEVIER》, 30 January 2020 (2020-01-30) * |
张俊三 等: "基于邻域采样的多任务图推荐算法", 《基于邻域采样的多任务图推荐算法》, 28 December 2023 (2023-12-28) * |
李小娟 等: "基于深度度量学习的轴承故障诊断方法", 《振动与冲击》, 31 August 2020 (2020-08-31) * |
王欣娟: "基于用户评论语义信息的推荐算法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑 (月刊)》, 15 January 2022 (2022-01-15) * |
Also Published As
Publication number | Publication date |
---|---|
CN117743694B (zh) | 2024-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Fu et al. | Deeply fusing reviews and contents for cold start users in cross-domain recommendation systems | |
CN110807154A (zh) | 一种基于混合深度学习模型的推荐方法与系统 | |
CN109389151B (zh) | 一种基于半监督嵌入表示模型的知识图谱处理方法和装置 | |
CN112328900A (zh) | 一种融合评分矩阵和评论文本的深度学习推荐方法 | |
CN110781319B (zh) | 跨媒体大数据的公共语义表示、搜索方法和装置 | |
CN109033294B (zh) | 一种融入内容信息的混合推荐方法 | |
WO2023272748A1 (zh) | 一种面向学术精准推荐的异质科研信息集成方法及系统 | |
CN112884045A (zh) | 基于多视角的随机删边嵌入模型的分类方法 | |
CN112085158A (zh) | 一种基于堆栈降噪自编码器的图书推荐方法 | |
CN110083676B (zh) | 一种基于短文本的领域动态跟踪方法 | |
CN116108351A (zh) | 面向跨语言知识图谱的弱监督实体对齐优化方法及系统 | |
CN115270004A (zh) | 一种基于场因子分解的教育资源推荐方法 | |
CN117034921B (zh) | 一种基于用户数据的提示学习训练方法、装置和介质 | |
CN114048754A (zh) | 一种融合上下文信息图卷积的中文短文本分类方法 | |
CN111382333B (zh) | 基于案件相关性联合学习与图卷积的新闻文本句中案件要素抽取方法 | |
CN113342994A (zh) | 一种基于无采样协作知识图网络的推荐系统 | |
CN117150145A (zh) | 一种基于大语言模型的个性化新闻推荐方法及系统 | |
CN117743694B (zh) | 基于图节点特征增强的多层迁移学习跨域推荐方法及系统 | |
CN115757529B (zh) | 基于多元辅助信息融合的跨域共性迁移推荐方法和系统 | |
CN116662601A (zh) | 一种基于图神经网络和知识图谱的歌曲推荐方法 | |
CN115952360A (zh) | 基于用户和物品共性建模的域自适应跨域推荐方法及系统 | |
CN115630223A (zh) | 基于多模型融合的服务推荐方法及推荐系统 | |
CN115840853A (zh) | 一种基于知识图谱和图注意力网络的课程推荐系统 | |
CN115860119A (zh) | 基于动态元学习的少样本知识图谱补全方法和系统 | |
CN115422939A (zh) | 一种基于大数据的细粒度商品命名实体识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |