CN116501956A - 一种基于分层图对比学习的知识感知多域推荐方法及系统 - Google Patents
一种基于分层图对比学习的知识感知多域推荐方法及系统 Download PDFInfo
- Publication number
- CN116501956A CN116501956A CN202310347942.6A CN202310347942A CN116501956A CN 116501956 A CN116501956 A CN 116501956A CN 202310347942 A CN202310347942 A CN 202310347942A CN 116501956 A CN116501956 A CN 116501956A
- Authority
- CN
- China
- Prior art keywords
- domain
- hierarchical
- learning
- nodes
- knowledge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 90
- 230000008447 perception Effects 0.000 title claims abstract description 22
- 230000003993 interaction Effects 0.000 claims abstract description 54
- 238000005457 optimization Methods 0.000 claims abstract description 26
- 238000012549 training Methods 0.000 claims abstract description 25
- 230000007246 mechanism Effects 0.000 claims abstract description 20
- 230000004931 aggregating effect Effects 0.000 claims abstract description 12
- 230000002452 interceptive effect Effects 0.000 claims abstract description 12
- 230000002776 aggregation Effects 0.000 claims description 22
- 238000004220 aggregation Methods 0.000 claims description 22
- 238000004590 computer program Methods 0.000 claims description 15
- 238000003860 storage Methods 0.000 claims description 8
- 230000003542 behavioural effect Effects 0.000 claims description 6
- 238000009499 grossing Methods 0.000 claims description 5
- 238000009827 uniform distribution Methods 0.000 claims description 5
- 230000005540 biological transmission Effects 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000013461 design Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 239000004973 liquid crystal related substance Substances 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 238000002679 ablation Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种基于分层图对比学习的知识感知多域推荐方法及系统，包括：获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。本发明解决了现有多域推荐难以准确推测用户喜好的问题。
Description
技术领域
本发明涉及内容推荐技术领域，尤其涉及一种基于分层图对比学习的知识感知多域推荐方法及系统。
背景技术
个性化推荐系统已被广泛用于协助用户在各种推荐场景中进行决策，例如购物平台的商品推荐、短视频推荐、知识平台的论文推荐等。为了满足用户多样化的需求，这些平台提供了越来越多属于不同领域的异构项目，例如，购物平台提供了多种领域的产品，包括书籍、数字音乐、服装等。每个用户都可以在平台上浏览和评论不同领域的项目，每个领域的项目也可以被不同用户交互。因此，为了更好地刻画目标用户的偏好，可以聚合这些多领域的用户行为，以了解目标用户的多样化特征，从而提高每个领域的推荐质量。
多域推荐(MDR)旨在利用来自多个领域的丰富知识来同时提高各个域的推荐性能，近年来已经引起了广泛关注。它的关键挑战在于如何基于域间重叠实体(用户或项目)来捕获目标用户的域不变和特定域偏好。一种常见的解决方案是基于多任务学习策略，它可以将每个领域的推荐目标视为一个任务，然后联合使用多领域的行为信息来生成最终的推荐。此外，还有一些其他模型利用不同的技术(即自监督学习、特征聚类、预训练和迁移学习)来提高目标域中用户的推荐性能。然而，尽管现今对MDR进行了大量研究，但它们的性能仍然遭受着一些瓶颈问题，一些关键挑战仍没有得到很好地解决。例如，1)少量的用户交互数据导致低效的监督效果。在现实世界的推荐系统中，因为大多数用户只与有限数量的项目进行交互，因此来自不同领域的跨数据集总是表现出弱监督问题；此外，样本标签的不足也会严重降低模型训练过程中用户或物品的表示效率。因此，如何在没有大量显式训练标签的情况下缓解稀疏交互问题是提高MDR性能的关键。2)特征不全问题使得现有模型更加关注目标域中目标用户的独域偏好，忽略了它们在其他域中的域不变特征。简单地结合多个线性训练模型的方案无法全面地捕获多维度用户偏好，导致难以解决多域场景下的用户特征偏差问题。
稀疏用户交互问题导致多域推荐难以实现有效的预测性能。虽然目前很多技术(迁移技术、自监督学习等)可以应用于多域推荐场景，但是这些现有模型仍然遭受着低效的推荐结果。特征偏差问题致使目前多域推荐模型的预测精度十分低下。大多数推荐方法仅关注目标域中用户特征，忽略用户在其它域中的域不变偏好，因此，难以准确推荐用户偏好的内容。
发明内容
本发明提供一种基于分层图对比学习的知识感知多域推荐方法及系统，用以解决现有多域推荐难以准确推测用户喜好的问题。
本发明提供一种基于分层图对比学习的知识感知多域推荐方法，包括：
获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
根据本发明提供的一种基于分层图对比学习的知识感知多域推荐方法，所述获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识，具体包括：
在分层交互网络上存在大规模节点，包括目标节点，每个目标节点周围有邻居节点；
通过加权求和策略来平滑目标节点及其邻居节点的特征，进行分层表示定义；
通过堆叠不同的层级表示形成用户或项目的更高级别的分层表示，聚合在多个层级上获得的分层表示生成最终的偏好知识表示。
根据本发明提供的一种基于分层图对比学习的知识感知多域推荐方法，所述基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强，具体包括：
通过对比学习方法，在每个分层视图上随机丢弃设定比例的节点及其连接关系；
每个节点的丢弃概率遵循相同的均匀分布，实现数据增强。
根据本发明提供的一种基于分层图对比学习的知识感知多域推荐方法，所述基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征，具体包括：
在跨多域中域共享图对比学习中，跨多个域来学习目标用户的域不变特征，通过学习在所有域中的行为特征来展示用户的不变偏好；
通过采用生成的不同层次视图来共同训练多域的对比学习任务，获得不同分层结构中的域不变特征，以识别目标用户内在的偏好特征。
根据本发明提供的一种基于分层图对比学习的知识感知多域推荐方法，所述基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征，还包括：
在特定域中独域图对比学习包括基于项目的独域对比学习和基于邻居的独域对比学习；
所述基于项目的独域对比学习，基于项目的独域对比学习任务，对于每个项目节点，基于增强的分层视图从同一交互节点的两个特定域的表示生成正对样例，负对样例可以从每个分层视图中不同交互节点的表示中获取；
所述基于邻居的独域对比学习，利用相似邻居的交互项目建立基于邻居的独域对比学习任务，能够在特定域中节点之间执行高阶连接，采用多跳推理策略来获得目标用户的高阶偏好信号，邻居引导的正样本和负样本可以为提出的模型提供不同的偏好信号，识别偏好特征。
根据本发明提供的一种基于分层图对比学习的知识感知多域推荐方法，所述基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐，具体包括：
基于域共享和特定域视图，对用户或项目执行多层知识聚合后，通过多个对比学习任务获得多域表示；
通过多域贝叶斯个性化排序方法来预测目标域中未观察到的评分值，确定优化目标；
基于优化目标通过执行多任务优化策略训练生成多域推荐模型，进行多域推荐。
本发明还提供一种基于分层图对比学习的知识感知多域推荐系统，所述系统包括：
分层表示聚合模块，用于获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
数据增强模块，用于基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
图对比模块，用于基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
模型生成模块，用于基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述基于分层图对比学习的知识感知多域推荐方法。
本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述基于分层图对比学习的知识感知多域推荐方法。
本发明还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述基于分层图对比学习的知识感知多域推荐方法。
本发明提供的一种基于分层图对比学习的知识感知多域推荐方法及系统，通过基于知识图谱上高效的聚合模型表示策略实现用户或项目的分层知识表示，通过分层节点丢弃机制来增强原始交互数据并捕获更多的自监督语义信号，并且提出了三种图对比学习任务来探索目标用户的偏好特征，以缓解数据稀疏性和多域推荐预测性能较差的问题，利用多任务学习框架来训练提出的多域推荐器。此外，与各种先进的基线模型相比，本发明在两个真实世界数据集的性能改进证明了提出方法的有效性，验证了该方案可以在稀疏交互场景中实现强大的推荐性能；不仅可以利用多域中目标用户的域共享特征，还可以聚合特定域中目标用户的独域特征。另外，本发明提出的多域推荐模型不仅在消融测试、分层知识聚合深度等方面实现了较好的预测性能，而且在线上测试中也展现了更好的推荐精度。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作以简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明提供的一种基于分层图对比学习的知识感知多域推荐方法的流程示意图之一；
图2是本发明提供的一种基于分层图对比学习的知识感知多域推荐方法的流程示意图之二；
图3是本发明提供的一种基于分层图对比学习的知识感知多域推荐方法的流程示意图之三；
图4是本发明提供的一种基于分层图对比学习的知识感知多域推荐方法的流程示意图之四；
图5是本发明提供的一种基于分层图对比学习的知识感知多域推荐方法的流程示意图之五；
图6是本发明提供的一种基于分层图对比学习的知识感知多域推荐系统的模块连接示意图；
图7是本发明提供的一种基于分层图对比学习的知识感知多域推荐系统的架构图；
图8是本发明提供的电子设备的结构示意图。
附图标记：
110：分层表示聚合模块；120：数据增强模块；130：图对比模块；140：模型生成模块；
810：处理器；820：通信接口；830：存储器；840：通信总线。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明中的附图，对本发明中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
下面结合图1-图5描述本发明的一种基于分层图对比学习的知识感知多域推荐方法，包括：
S100、获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
S200、基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
S300、基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
S400、基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
本发明受启发于图对比学习和知识图谱技术，将知识感知的图上下文信息结合到自监督训练模型中，以提高多域推荐的性能。具体来说，基于定义的层次交互网络，本发明首先采用LightGCN聚合模型来获取用户和项目在知识图谱上的分层表示。然后，本发明提出了一种分层节点丢弃策略来增强原始交互样本并捕获更多的自监督信号。特别地，本发明设计了一种新颖的图对比网络来学习目标用户的偏好特征。在提出的图对比学习网络中，本发明设计了域共享对比学习任务来获取跨不同领域的用户域不变特征；同时基于目标域中相似邻居和被点击的项目，本发明又设计了两种对比学习任务来获取目标用户的特定域特征。最后，本发明提出了一种多域贝叶斯个性化排序机制，结合多任务学习架构来学习模型的对比损失。
一般地，给定多个领域的交互矩阵、知识图谱和分层交互网络，本发明旨在构建一种新颖的基于分层图对比学习的知识感知多域推荐模型，来预测目标用户可能喜欢的潜在项目。本发明主要包括以下四个部分：分层知识表示和聚合；多域分层视图上的数据增强；在多域和特定域上的图对比网络；多任务训练模型。
获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识，具体包括：
S101、在分层交互网络上存在大规模节点，包括目标节点，每个目标节点周围有邻居节点；
S102、通过加权求和策略来平滑目标节点及其邻居节点的特征，进行分层表示定义；
S103、通过堆叠不同的层级表示形成用户或项目的更高级别的分层表示，聚合在多个层级上获得的分层表示生成最终的偏好知识表示。
本发明中，基于图神经网络强大的表示能力，首先设计了一种新颖的分层知识表示机制，以聚合各个领域中目标用户的偏好知识。为了处理和学习分层交互网络和KG上大规模节点的表示，本发明利用LightGCN聚合模型的高效聚合原理，采用简单的加权求和策略来平滑目标节点及其邻居节点的特征。因此，每个域中用户和项目的分层表示被定义如下：
其中，h代表分层交互网络中第h层，和/>分别表示用户u和项目i在第h层中的传播表示，/>表示在第h层中所有与用户u交互的项目集合，Ni (h)表示在第h层中所有与i交互的用户集合。
为了充分利用多个节点之间的高阶关系，本发明在知识图谱上设计了一种分层消息传递机制，然后通过交互的项目及其连接的实体来聚合更多偏好知识。为此，本发明堆叠不同的层级表示以形成用户或项目的更高级别的分层表示。最后，本发明聚合了在多个层级上获得的分层表示来生成最终的表示。
其中，代表第h层表示在最终表示中的层级重要度。对于/>本发明可以通过与上述相同的计算方式来获得。因此，基于上述分层消息传递机制，目标节点的最终表示聚合了来自多个域的语义信号，这样可以更全面地刻画目标用户的偏好特征。显然地，由于现前的嵌入方法(TransE、MF等)未能从多域的稀疏用户-项目交互中捕获更多的监督信号，因此它们无法学习更好的无偏表示。相比之下，本发明提出的分层表示解决方案可以为模型训练提供更多的偏好信号
基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强，具体包括：
S201、通过对比学习方法，在每个分层视图上随机丢弃设定比例的节点及其连接关系；
S202、每个节点的丢弃概率遵循相同的均匀分布，实现数据增强。
在本发明中，受激发于数据增强技术在图对比学习中的快速发展，本发明尝试将自监督信号结合到节点表示学习中。然而，数据增强操作不能简单地直接应用于推荐系统，而目标用户多跳邻居的行为偏好则可以在一定程度上揭露其潜在意图。因此，本发明利用知识图谱中目标用户的邻居信息来更好地学习节点的表示。
在提出的框架中，本发明设计生成了源自多域图映射派生的不同分层视图。因此，基于先进的GraphCL方法，本发明提出了一种分层节点删除策略作为在多域推荐模型中进行对比学习的数据增强方法。具体来说，给定一个交互图G，本发明在每个分层视图上随机丢弃了一定比例的节点及其关联连接，此操作背后的原理是丢弃一些节点不会影响分层网络的语义程度，并且每个节点的丢弃概率遵循相同的均匀分布。为此，本发明在用户-项目交互图上定义了数据增强操作如下：
其中，h代表不同的分层结构，k是随机采样数，表示向量的内积，/>和/>是两个掩码向量，它们依赖于层次结构h上的用户-项目交互图。通过上述掩码操作，本发明可以更加关注目标节点的内在偏好特征，增强了实体表示学习对噪声连接的鲁棒性。因此，基于每个域的两个随机数据扩充操作来获得了增强的分层视图/>和/>此外，从上述数据增强操作也可以看出，知识图谱中实体的分层表示储存了来自不同分层中邻居的多跳语义信号。
基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征，具体包括：
在跨多域中域共享图对比学习中，跨多个域来学习目标用户的域不变特征，通过学习在所有域中的行为特征来展示用户的不变偏好；
通过采用生成的不同层次视图来共同训练多域的对比学习任务，获得不同分层结构中的域不变特征，以识别目标用户内在的偏好特征。
基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征，还包括：
S301、在特定域中独域图对比学习包括基于项目的独域对比学习和基于邻居的独域对比学习；
S302、所述基于项目的独域对比学习，基于项目的独域对比学习任务，对于每个项目节点，基于增强的分层视图从同一交互节点的两个特定域的表示生成正对样例，负对样例可以从每个分层视图中不同交互节点的表示中获取；
S303、所述基于邻居的独域对比学习，利用相似邻居的交互项目建立基于邻居的独域对比学习任务，能够在特定域中节点之间执行高阶连接，采用多跳推理策略来获得目标用户的高阶偏好信号，邻居引导的正样本和负样本可以为提出的模型提供不同的偏好信号，识别偏好特征。
本发明中，图对比学习是一种非常有前景的自监督训练方法，它基于特征空间中的对比损失，通过最大化同一图上两个视图间的一致性来增强数据特征。与之前的图对比模型不同，本发明将知识图谱提供的一些语义知识结合到图对比学习框架里，以增强模型的自监督信号。基于获得的每个领域的不同分层视图，本发明设计了三种图对比学习任务来验证提出方法的有效性。其中，域共享对比学习任务被提出来学习跨所有领域中目标用户的共享特征，特定域图对比学习被提出来学习每个特定领域中目标用户的独域特征。
域共享对比学习的挑战在于跨多个域来学习目标用户的域不变特征，其中通过学习它们在所有域中的行为特征来揭露用户的不变偏好。为了引导多域知识感知偏好特征的获取，本发明提出了一种基于KG表示技术的分层语义不变方法。因此，分层语义不变系数Hsipq被定义如下：
Hsipq＝s(fp(xp,ζpφ(ep,rp,ip))+fq(xq,ζqφ(eq,rq,iq))) (8)
其中，p和q表示不同的层次结构，fp表示知识感知的嵌入聚合函数，s表示余弦函数来评估xp和xq之间的一致性，ζp和ζq表示分层因子。基于分层语义不变系数，用户和项目的分层共享表示通过MLP框架建模。
其中，σ是ELU非线性函数，p,q∈H。然后，本发明提出的方法采用生成的不同层次视图来共同训练多域的对比学习任务。具体来说，对于任何节点的分层共享表示 被看作为同一批次S中/>的正样本。另一方面，本发明随机采样来自其他批次S′的/>来配对负实例。基于InfoNCE算法，在跨多域中域共享对比学习损失被定义如下：
其中，sim(·)是衡量正样本和负样本间相似度的余弦函数，τ是温度参数。通过最小化域共享对比损失，本发明获得了不同分层结构中的域不变特征，以识别目标用户内在的偏好特征。
除了在跨多域中探索目标用户的域共享特征外，本发明进一步挖掘了不同领域中一些额外的特征信息作为互补协作信号，以共同预测目标用户的最终偏好。因此，基于在每个域中获得的分层视图，本发明尝试在两个视图上执行域特定的对比损失以相互监督。为此，基于目标用户的邻居和与之交互的项目，本发明设计了两个特定域的独域对比学习任务。
基于项目的独域对比学习。在每个分层结构中，目标用户交互的那些项目揭示了它们当前的潜在意图，这在生成最终偏好特征方面起着关键作用。因此，本发明依据上述想法设计了基于项目的独域对比学习任务。对于每个项目节点，本发明可以基于增强的分层视图从同一交互节点的两个特定域的表示生成正对样例。类似地，负对样例可以从每个分层视图中不同交互节点的表示中获取。因此，本发明基于项目的独域对比损失被定义如下所示：
其中，Iu是目标用户在特定域中与之交互的项目集合，τ是温度参数。基于项目的独域对比损失是在小批量中所有正负对样例上计算的，因而它们之间达成了潜在语义的一致。
基于邻居的独域对比学习。虽然被点击的项目可以直接为目标用户提供明确的偏好信号，但新上线的推荐系统往往只有少量的交互数据，导致系统具有严重的数据稀疏问题。因此，基于“相似用户倾向于喜欢相似物品”的这一原则，特定域中那些相似邻居的行为特征也可以为模型提供隐含的偏好信号。为此，本发明假设可以利用相似邻居的交互项目来提出了一种基于邻居的独域对比学习任务，该任务可以在特定域中节点之间执行高阶连接。如果Nu是目标用户u在特定域中的相似邻居集，那么基于邻居的独域对比损失被定义如下：
其中，是目标节点的表示，/>和/>分别是特定域中邻居节点和非邻居节点的表示。为了探索特定域中更多邻居的语义偏好，本发明采用多跳推理策略来获得目标用户的高阶偏好信号。此外，由这些邻居引导的正样本和负样本可以为提出的模型提供不同的偏好信号，因而本发明基于邻居和基于被点击项目的独域对比学习任务可以相互补充，协同训练目标函数。
直观地，本发明将这两个独域对比损失结合，以形成最终的特定域对比损失函数。
LSpecific＝LIspecific+LNSpecific (14)
基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐，具体包括：
S401、基于域共享和特定域视图，对用户或项目执行多层知识聚合后，通过多个对比学习任务获得多域表示；
S402、通过多域贝叶斯个性化排序方法来预测目标域中未观察到的评分值，确定优化目标；
S403、基于优化目标通过执行多任务优化策略训练生成多域推荐模型，进行多域推荐。
本发明中基于域共享和特定域视图，对用户或项目执行多层知识聚合后，本发明通过三个对比学习任务获得它们的多域表示。最终的预测评分由用户和项目表示的内积生成。
其中，和/>分别是用户和项目的最终多域表示。
基于获得的自监督信号，本发明执行多任务优化策略来训练提出的多域推荐模型。受原始BPR和它的变体CBPR的启发，本发明提出了一种多域贝叶斯个性化排序方法来预测目标域中未观察到的评分值。其预测公式如下：
其中，H表示分层结构总数，λh表示每个分层结构的正则化参数，σ(·)是sigmoid函数，Ot和Oh是来自目标域和其他域的训练样本。因此，本发明的优化目标被定义如下。
其中，Θ是可学习的模型参数，λ1和λ2表示对比参数以确定共享级和特定级的自监督信号强度，λ3表示联合损失函数的正则化参数。
本发明提供的一种基于分层图对比学习的知识感知多域推荐方法，通过基于知识图谱上高效的聚合模型表示策略实现用户或项目的分层知识表示，通过分层节点丢弃机制来增强原始交互数据并捕获更多的自监督语义信号，并且提出了三种图对比学习任务来探索目标用户的偏好特征，以缓解数据稀疏性和多域推荐预测性能较差的问题，利用多任务学习框架来训练提出的多域推荐器。此外，与各种先进的基线模型相比，本发明在两个真实世界数据集的性能改进证明了提出方法的有效性，验证了该方案可以在稀疏交互场景中实现强大的推荐性能；不仅可以利用多域中目标用户的域共享特征，还可以聚合特定域中目标用户的独域特征。另外，本发明提出的多域推荐模型不仅在消融测试、分层知识聚合深度等方面实现了较好的预测性能，而且在线上测试中也展现了更好的推荐精度。
参考图6和图7，本发明还公开了一种基于分层图对比学习的知识感知多域推荐系统，所述系统包括：
分层表示聚合模块110，用于获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
数据增强模块120，用于基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
图对比模块130，用于基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
模型生成模块140，用于基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
其中，分层表示聚合模块110在分层交互网络上存在大规模节点，包括目标节点，每个目标节点周围有邻居节点；
通过加权求和策略来平滑目标节点及其邻居节点的特征，进行分层表示定义；
通过堆叠不同的层级表示形成用户或项目的更高级别的分层表示，聚合在多个层级上获得的分层表示生成最终的偏好知识表示。
数据增强模块120，通过对比学习方法，在每个分层视图上随机丢弃设定比例的节点及其连接关系；
每个节点的丢弃概率遵循相同的均匀分布，实现数据增强。
图对比模块130，在跨多域中域共享图对比学习中，跨多个域来学习目标用户的域不变特征，通过学习在所有域中的行为特征来展示用户的不变偏好；
通过采用生成的不同层次视图来共同训练多域的对比学习任务，获得不同分层结构中的域不变特征，以识别目标用户内在的偏好特征。
在特定域中独域图对比学习包括基于项目的独域对比学习和基于邻居的独域对比学习；
所述基于项目的独域对比学习，基于项目的独域对比学习任务，对于每个项目节点，基于增强的分层视图从同一交互节点的两个特定域的表示生成正对样例，负对样例可以从每个分层视图中不同交互节点的表示中获取；
所述基于邻居的独域对比学习，利用相似邻居的交互项目建立基于邻居的独域对比学习任务，能够在特定域中节点之间执行高阶连接，采用多跳推理策略来获得目标用户的高阶偏好信号，邻居引导的正样本和负样本可以为提出的模型提供不同的偏好信号，识别偏好特征。
模型生成模块140，基于域共享和特定域视图，对用户或项目执行多层知识聚合后，通过多个对比学习任务获得多域表示；
通过多域贝叶斯个性化排序方法来预测目标域中未观察到的评分值，确定优化目标；
基于优化目标通过执行多任务优化策略训练生成多域推荐模型，进行多域推荐。
通过本发明提供的一种基于分层图对比学习的知识感知多域推荐系统，通过基于知识图谱上高效的聚合模型表示策略实现用户或项目的分层知识表示，通过分层节点丢弃机制来增强原始交互数据并捕获更多的自监督语义信号，并且提出了三种图对比学习任务来探索目标用户的偏好特征，以缓解数据稀疏性和多域推荐预测性能较差的问题，利用多任务学习框架来训练提出的多域推荐器。此外，与各种先进的基线模型相比，本发明在两个真实世界数据集的性能改进证明了提出方法的有效性，验证了该方案可以在稀疏交互场景中实现强大的推荐性能；不仅可以利用多域中目标用户的域共享特征，还可以聚合特定域中目标用户的独域特征。另外，本发明提出的多域推荐模型不仅在消融测试、分层知识聚合深度等方面实现了较好的预测性能，而且在线上测试中也展现了更好的推荐精度。
图8示例了一种电子设备的实体结构示意图，如图8所示，该电子设备可以包括：处理器(processor)810、通信接口(Communications Interface)820、存储器(memory)830和通信总线840，其中，处理器810，通信接口820，存储器830通过通信总线840完成相互间的通信。处理器810可以调用存储器830中的逻辑指令，以执行一种基于分层图对比学习的知识感知多域推荐方法，该方法包括：获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
此外，上述的存储器830中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面，本发明还提供一种计算机程序产品，所述计算机程序产品包括计算机程序，计算机程序可存储在非暂态计算机可读存储介质上，所述计算机程序被处理器执行时，计算机能够执行上述各方法所提供的一种基于分层图对比学习的知识感知多域推荐方法，该方法包括：获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
又一方面，本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各方法提供的一种基于分层图对比学习的知识感知多域推荐方法，该方法包括：获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种基于分层图对比学习的知识感知多域推荐方法，其特征在于，包括：
获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
2.根据权利要求1所述的基于分层图对比学习的知识感知多域推荐方法，其特征在于，所述获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识，具体包括：
在分层交互网络上存在大规模节点，包括目标节点，每个目标节点周围有邻居节点；
通过加权求和策略来平滑目标节点及其邻居节点的特征，进行分层表示定义；
通过堆叠不同的层级表示形成用户或项目的更高级别的分层表示，聚合在多个层级上获得的分层表示生成最终的偏好知识表示。
3.根据权利要求1所述的基于分层图对比学习的知识感知多域推荐方法，其特征在于，所述基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强，具体包括：
通过对比学习方法，在每个分层视图上随机丢弃设定比例的节点及其连接关系；
每个节点的丢弃概率遵循相同的均匀分布，实现数据增强。
4.根据权利要求1所述的基于分层图对比学习的知识感知多域推荐方法，其特征在于，所述基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征，具体包括：
在跨多域中域共享图对比学习中，跨多个域来学习目标用户的域不变特征，通过学习在所有域中的行为特征来展示用户的不变偏好；
通过采用生成的不同层次视图来共同训练多域的对比学习任务，获得不同分层结构中的域不变特征，以识别目标用户内在的偏好特征。
5.根据权利要求4所述的基于分层图对比学习的知识感知多域推荐方法，其特征在于，所述基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征，还包括：
在特定域中独域图对比学习包括基于项目的独域对比学习和基于邻居的独域对比学习；
所述基于项目的独域对比学习，基于项目的独域对比学习任务，对于每个项目节点，基于增强的分层视图从同一交互节点的两个特定域的表示生成正对样例，负对样例可以从每个分层视图中不同交互节点的表示中获取；
所述基于邻居的独域对比学习，利用相似邻居的交互项目建立基于邻居的独域对比学习任务，能够在特定域中节点之间执行高阶连接，采用多跳推理策略来获得目标用户的高阶偏好信号，邻居引导的正样本和负样本可以为提出的模型提供不同的偏好信号，识别偏好特征。
6.根据权利要求1所述的基于分层图对比学习的知识感知多域推荐方法，其特征在于，所述基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐，具体包括：
基于域共享和特定域视图，对用户或项目执行多层知识聚合后，通过多个对比学习任务获得多域表示；
通过多域贝叶斯个性化排序方法来预测目标域中未观察到的评分值，确定优化目标；
基于优化目标通过执行多任务优化策略训练生成多域推荐模型，进行多域推荐。
7.一种基于分层图对比学习的知识感知多域推荐系统，其特征在于，所述系统包括：
分层表示聚合模块，用于获取分层交互网络上多个节点，通过加权求和平滑目标节点和邻居节点进行分层表示，基于分层消息传递机制，通过交互的项目及其连接的实体来聚合更多偏好知识；
数据增强模块，用于基于预设的对比学习方法，在分层节点中删除部分节点进行对比学习的数据增强；
图对比模块，用于基于增强后的数据通过在跨多域中域共享图对比学习和在特定域中独域图对比学习，识别目标用户内在的偏好特征；
模型生成模块，用于基于目标用户内在的偏好特征进行多任务模型构建，对所述多任务模型进行优化训练生成多域推荐模型，通过所述多域推荐模型完成多域推荐。
8.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至6任一项所述基于分层图对比学习的知识感知多域推荐方法。
9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述基于分层图对比学习的知识感知多域推荐方法。
10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述基于分层图对比学习的知识感知多域推荐方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310347942.6A CN116501956A (zh) | 2023-04-03 | 2023-04-03 | 一种基于分层图对比学习的知识感知多域推荐方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310347942.6A CN116501956A (zh) | 2023-04-03 | 2023-04-03 | 一种基于分层图对比学习的知识感知多域推荐方法及系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116501956A true CN116501956A (zh) | 2023-07-28 |
Family
ID=87325731
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310347942.6A Pending CN116501956A (zh) | 2023-04-03 | 2023-04-03 | 一种基于分层图对比学习的知识感知多域推荐方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116501956A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116720005A (zh) * | 2023-08-10 | 2023-09-08 | 四川大学 | 一种自适应噪声的数据协同对比推荐模型 |
| CN117648493A (zh) * | 2023-12-13 | 2024-03-05 | 南京航空航天大学 | 一种基于图学习的跨领域推荐方法 |
-
2023
- 2023-04-03 CN CN202310347942.6A patent/CN116501956A/zh active Pending
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116720005A (zh) * | 2023-08-10 | 2023-09-08 | 四川大学 | 一种自适应噪声的数据协同对比推荐模型 |
| CN116720005B (zh) * | 2023-08-10 | 2023-10-20 | 四川大学 | 一种基于自适应噪声的数据协同对比推荐模型的系统 |
| CN117648493A (zh) * | 2023-12-13 | 2024-03-05 | 南京航空航天大学 | 一种基于图学习的跨领域推荐方法 |
| CN117648493B (zh) * | 2023-12-13 | 2024-05-31 | 南京航空航天大学 | 一种基于图学习的跨领域推荐方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Xiong et al. | Deep hybrid collaborative filtering for web service recommendation | |
| CN116501956A (zh) | 一种基于分层图对比学习的知识感知多域推荐方法及系统 | |
| Ding et al. | Leveraging two types of global graph for sequential fashion recommendation | |
| CN113918832A (zh) | 基于社交关系的图卷积协同过滤推荐系统 | |
| CN113918833A (zh) | 通过社交网络关系的图卷积协同过滤实现的产品推荐方法 | |
| Gupta et al. | EnPSO: an AutoML technique for generating ensemble recommender system | |
| Xu et al. | SDNN: Symmetric deep neural networks with lateral connections for recommender systems | |
| Ji et al. | Multi-range gated graph neural network for telecommunication fraud detection | |
| Fan et al. | Adversarial attacks for black-box recommender systems via copying transferable cross-domain user profiles | |
| CN115098692A (zh) | 跨域推荐方法、装置、电子设备及存储介质 | |
| Zhou et al. | Rank2vec: learning node embeddings with local structure and global ranking | |
| Chen et al. | Integrating user-group relationships under interest similarity constraints for social recommendation | |
| Yang et al. | Hierarchical reinforcement learning for conversational recommendation with knowledge graph reasoning and heterogeneous questions | |
| CN113590976A (zh) | 一种空间自适应图卷积网络的推荐方法 | |
| Xu et al. | Neural node matching for multi-target cross domain recommendation | |
| Bose et al. | Can graph neural networks go deeper without over-smoothing? yes, with a randomized path exploration! | |
| Wang et al. | Social dual-effect driven group modeling for neural group recommendation | |
| Shu et al. | Multi-task feature and structure learning for user-preference based knowledge-aware recommendation | |
| Han et al. | A triple-branch neural network for knowledge graph embedding | |
| Chen et al. | Combine temporal information in session-based recommendation with graph neural networks | |
| CN115599990A (zh) | 一种知识感知结合深度强化学习的跨域推荐方法及系统 | |
| Zhang et al. | Hybrid recommendation system with graph neural collaborative filtering and local self-attention mechanism | |
| CN115545833A (zh) | 一种基于用户社交信息的推荐方法及系统 | |
| Pan et al. | A Graph-Based Soft Actor Critic Approach in Multi-Agent Reinforcement Learning | |
| Selma et al. | Deep learning for recommender systems: Literature review and perspectives |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |