CN117688247B - 推荐方法、终端设备及存储介质 - Google Patents
推荐方法、终端设备及存储介质 Download PDFInfo
- Publication number
- CN117688247B CN117688247B CN202410133890.7A CN202410133890A CN117688247B CN 117688247 B CN117688247 B CN 117688247B CN 202410133890 A CN202410133890 A CN 202410133890A CN 117688247 B CN117688247 B CN 117688247B
- Authority
- CN
- China
- Prior art keywords
- user
- entity
- feature
- relation
- triplet
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 239000013598 vector Substances 0.000 claims abstract description 80
- 238000013519 translation Methods 0.000 claims abstract description 77
- 230000004927 fusion Effects 0.000 claims abstract description 72
- 230000003993 interaction Effects 0.000 claims description 89
- 239000011159 matrix material Substances 0.000 claims description 80
- 238000013507 mapping Methods 0.000 claims description 58
- 230000006870 function Effects 0.000 claims description 34
- 238000001228 spectrum Methods 0.000 claims description 22
- 230000007246 mechanism Effects 0.000 claims description 16
- 230000002452 interceptive effect Effects 0.000 claims description 9
- 230000000694 effects Effects 0.000 abstract description 8
- 238000000605 extraction Methods 0.000 abstract description 5
- 238000007500 overflow downdraw method Methods 0.000 abstract description 3
- 238000013461 design Methods 0.000 abstract description 2
- 230000006399 behavior Effects 0.000 description 8
- 238000013135 deep learning Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 239000000047 product Substances 0.000 description 5
- 239000000306 component Substances 0.000 description 4
- 241000764238 Isis Species 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 239000008358 core component Substances 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Machine Translation (AREA)
Abstract
本申请公开了一种推荐方法、终端设备及存储介质，属于预测技术领域，其中，所述一种推荐方法设计了全新的特征融合方法，采用多层注意力的深度特征融合模块对推荐模块与知识图谱嵌入模块的特征向量加权融合，进一步提高特征提取的能力，增强网络的表示效果，进而提高推荐结果的准确度。且基于翻译的思想，采用TransR改进知识图谱嵌入方法，更好地提取知识图谱的结构化特征，同时缓解数据稀疏的问题。
Description
技术领域
本申请涉及预测技术领域，尤其涉及一种推荐方法、终端设备及存储介质。
背景技术
随着信息过载的状况愈发严重，推荐系统在学术界和工业界得到迅速发展，诞生了大量的技术和相关应用。而神经网络与深度学习技术的发展促进了推荐系统的研究。目前推荐系统通常由推荐模块、知识图谱嵌入模块以及特征融合模块组成。知识图谱嵌入模块提供了结构化的知识表示，而特征融合模块则将知识图谱嵌入模块和推荐模块的各种特征进行整合，生成最终的特征表示，最终推荐模块利用这些特征表示来进行个性化推荐。因此特征融合模块在推荐系统中扮演着重要的角色，它的性能和效果直接影响到推荐结果的准确度。
在相关推荐方案中，特征融合模块一般是利用线性操作对输入特征进行融合，当特征之间的关系非线性时，线性方法无法地捕捉到这些特征之间的关系，从而导致特征的信息丢失，无法对特征进行有效利用，导致推荐结果的准确度低。
发明内容
本申请实施例通过提供一种推荐方法、终端设备和计算机可读存储介质，旨在解决推荐结果准确度低的技术问题。
为实现上述目的，本申请实施例提供一种推荐方法，所述推荐方法包括以下：
接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征；
基于预设的多层注意力的深度特征融合机制，融合所述翻译特征和所述潜在特征，生成所述潜在特征对应的第一融合潜在特征和所述翻译特征对应的第一融合翻译特征，其中，所述深度特征融合机制为：
；
；
；
其中，Q为用户信息矩阵，K为物品信息矩阵，V为所述历史交互物品集合，为所述深层特征融合机制，att为的缩写，为所
述潜在特征，为所述翻译特征，为所述潜在特征对应的第一融合潜在特征，为所
述翻译特征对应的第一融合翻译特征；
将所述第一融合翻译特征输入知识图谱嵌入模块，作为下一实体的输入，以使所述知识图谱嵌入模块基于所述第一融合翻译特征更新用户历史交互图谱中实体和关系对应的向量表示，继续执行所述接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及用户的历史交互物品集合的潜在特征的步骤，直至满足预设的迭代次数；
在满足预设的迭代次数时，根据用户的用户向量对应的用户潜在特征和所述第一融合潜在特征确定对应交互物品的访问概率；
基于所述访问概率，输出对应的推荐结果。
可选地，所述接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征的步骤之前，包括：
获取用户的历史交互图谱集合，并将所述历史交互图谱集合输入所述知识图谱嵌入模块，其中，所述历史交互图谱集合由各个知识三元组构成，所述三元组包括头实体、关系以及尾实体；
对所述历史交互图谱集合的各个知识三元组进行分段，获得各个待处理分组；
确定所述待处理分组内各个三元组的头实体和尾实体之间的偏移量，并对各个三元组的所述偏移量进行聚类，获得各个子待处理聚类组；
基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的所述关系映射矩阵；
确定所述待处理分组内的各个所述头实体在对应的所述关系映射矩阵中的所述翻译特征。
可选地，所述确定所述待处理分组内各个三元组的头实体和尾实体之间的偏移量，并对各个三元组的所述偏移量进行聚类，获得各个子待处理聚类组的步骤之后，还包括：
基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的独立关系向量以及实体映射矩阵；
根据所述待处理分组内的各个所述三元组的头实体以及所述实体映射矩阵，确定所述头实体在所述实体映射矩阵中的头实体投影向量，以及根据所述待处理分组内的各个所述三元组的尾实体以及所述关系映射矩阵，确定所述尾实体在所述关系映射矩阵中的尾实体投影向量；
将所述独立关系向量和所述头实体投影向量以及所述尾实体投影向量和所述关系输入预设的评分函数，确定各个三元组对应的评分；
将所述评分以及所述访问概率输入预设的损失函数，确定所述损失函数的结果值；
根据所述结果值更新所述知识图谱嵌入模型和推荐模块的模型参数。
可选地，所述评分函数为：
其中，hr,c为所述头实体投影向量，rc为所述独立关系向量，tr,c为所述尾实体投影向量，r为所述关系。
所述损失函数为：
其中，为所述访问概率，W为关系矩阵，其中为所述知识图谱嵌入模块的超
参数，为推荐模块的超参数，为虚三元组的评分，为真实三元
组的评分。
可选地，所述于知识图谱嵌入模块接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征的步骤之前，还包括：
获取用户的所述历史交互物品集合以及用户向量；
采用MLP提取所述用户向量对应的用户潜在特征，以及采用交叉和压缩单元提取所述历史交互物品集合的潜在特征。
此外，本申请为实现上述目的，本申请还提供一种终端设备，所述终端设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的推荐程序，所述推荐程序被所述处理器执行时实现如上所述的推荐方法的步骤。
此外，本申请为实现上述目的，本申请还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有推荐程序，所述推荐程序被处理器执行时实现如上所述的推荐方法的步骤。
本申请第一实施例提出的一种推荐方法，终端设备和计算机可读存储介质，设计了全新的特征融合方法，采用多层注意力的深度特征融合模块对推荐模块与知识图谱嵌入模块的特征向量加权融合，进一步提高特征提取的能力，增强网络的表示效果，进而提高推荐结果的准确度。且采用基于翻译的思想，采用TransR改进知识图谱嵌入方法，更好地提取知识图谱的结构化特征，同时缓解数据稀疏的问题。
附图说明
图1为本申请推荐方法的第一实施例的流程示意图；
图2为本申请涉及的深度学习的特征融合模块示意图；
图3为本申请推荐方法的第二实施例的流程示意图；
图4为本申请涉及的推荐系统的DFFN模型框架示意图；
图5为本申请推荐方法的第三实施例的流程图；
图6是本申请实施例方案涉及的硬件运行环境的终端结构示意图。
本申请目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
在相关推荐方案中，特征融合模块一般是利用线性操作对输入特征进行融合，当特征之间的关系非线性时，线性方法无法地捕捉到这些特征之间的关系，从而导致特征的信息丢失，无法对特征进行有效利用，导致推荐结果的准确度低。
为解决相关技术中的上述缺陷，本申请提出一种推荐方法，其主要解决步骤包括以下：
本申请通过设计全新的特征融合方法，采用多层注意力的深度特征融合模块对推荐模块与知识图谱嵌入模块的特征向量加权融合，进一步提高特征提取的能力，增强网络的表示效果，进而提高推荐结果的准确度。且采用基于翻译的思想，采用TransR改进知识图谱嵌入方法，更好地提取知识图谱的结构化特征，同时缓解数据稀疏的问题。
为了更好地理解上述技术方案，下面将参照附图更详细地描述本申请的示例性实施例。虽然附图中显示了本申请的示例性实施例，然而应当理解，可以以各种形式实现本申请而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本申请，并且能够将本申请的范围完整地传达给本领域的技术人员。
DFFN（Dual-channel Feature Fusion Network，双通道特征融合网络）是一种用于知识图谱补全任务的深度学习模型。该模型的目标是通过融合知识图谱信息和用户行为数据，来预测实体之间的关系。DFFN模型包括以下几个核心组成部分：
知识图谱嵌入模块：该模块用于将知识图谱中的实体和关系转化为低维向量表示。常用的方法包括基于图卷积网络（GCN）的嵌入学习，通过迭代地聚合邻居节点信息来获取节点的向量表示。
推荐模块：该模块利用用户行为数据，如点击、收藏、购买等，为用户生成个性化的推荐结果。典型的推荐算法包括协同过滤和矩阵分解等。在DFFN中，推荐模块用于学习用户的特征表示，并对用户进行相关实体的推荐。
特征融合模块：该模块将知识图谱嵌入模块和推荐模块得到的特征进行融合，以提高模型的性能。通过将两个模块得到的特征进行适当的组合和加权，可以有效地结合知识图谱的结构信息和用户行为的个性化特征，从而提升知识图谱补全任务的预测准确度。
通过综合利用知识图谱的结构信息和用户行为数据，DFFN模型能够更好地理解实体之间的关系，从而提高知识图谱补全的效果。该模型的设计思想在许多推荐系统和信息检索任务中得到了广泛的应用。
参照图1，在本申请推荐方法的第一实施例中，所述一种推荐方法包括以下步骤：
步骤S1：接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征；
步骤S2：基于预设的多层注意力的深度特征融合机制，融合所述翻译特征和所述潜在特征，生成所述潜在特征对应的第一融合潜在特征和所述翻译特征对应的第一融合翻译特征，其中，所述深度特征融合机制为：
；
；
；
其中，Q为用户信息矩阵，K为物品信息矩阵，V为所述历史交互物品集合，为所述深层特征融合机制，att为的缩写，为所
述潜在特征，为所述翻译特征，为所述潜在特征对应的第一融合潜在特征，为所
述翻译特征对应的第一融合翻译特征；
在本实施例中，本申请的推荐方法应用于推荐系统，推荐系统包括推荐模块、知识图谱嵌入模块以及特征融合模块。需要说明的是，本申请的推荐系统基于DFFN模型进行改进。
可选地，本申请采用多层注意力的深度特征融合机制构建深度学习的特征融合模块，从推荐模块接收用户的历史交互物品集合的潜在特征以及从知识图谱嵌入模块接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征后，将其输入深度学习的特征融合模块进行融合，提高特征提取的能力，进而达成提高推荐结果的准确度的技术效果。
可选地，参照图2，图2为本申请涉及的深度学习的特征融合模块示意图。特征融合模块的输入为推荐模块和知识图谱嵌入模块中产生的不同特征vl和el，其中el为知识图谱嵌入模块中第L个用户历史交互图谱头实体ℎl在关系映射矩阵Mr中的翻译特征，vl为推荐模块中历史交互物品集合的第L个潜在特征。特征融合模块接收vl和el后，特征融合模块先将vl和el进行融合，生成初始特征矩阵，然后将初始特征矩阵作为第一个Seft-ATT（Self-Attention，自注意力机制）模块的输入，Seft-ATT的输出有两端，一端输出与vl做点乘生成第一初始融合潜在特征，图中用带箭头实线表示，另一端输出用1减自身之后与el做点乘生成第一初始融合翻译特征，其中，这里用1减自身是为了加权平均，图中用带箭头虚线表示。然后将第一初始融合潜在特征与第一初始融合翻译特征进行融合作为第二个Seft-ATT模块的输入矩阵，第二个Seft-ATT的输出同样有两端，一端输出与vl做点乘输出为vl+1，即第一融合潜在特征，另一端输出用1减自身之后与ℎl做点乘输出为el+1，即第一融合翻译特征。Seft-ATT在对当前矩阵进行编码时，会在集中于自身的位置上进行输入特征内部的信息交互，因此输出的矩阵也会根据自身输入情况，更偏重于推荐学习任务，从而提高推荐结果的准确度。在深度结构中，特征的可迁移性在高层会随着任务的非相似性增加而显著下降，并且在高层网络中，特征经过多次信息融合后，不再具有显示直接的关联，致使特征融合模型可以学习到更具有表达能力的特征，并且能够更好地适应不同的推荐任务和用户群体，从而提高推荐系统的效果。
步骤S3：将所述第一融合翻译特征输入知识图谱嵌入模块，作为下一实体的输入，以使所述知识图谱嵌入模块基于所述第一融合翻译特征更新用户历史交互图谱中实体和关系对应的向量表示，继续执行所述接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及用户的历史交互物品集合的潜在特征的步骤，直至满足预设的迭代次数；
在本实施例中，特征融合模块生成第一融合潜在特征和第一融合翻译特征之后，分别将第一融合潜在特征反馈给推荐模块，将第一融合翻译特征反馈给致使图谱嵌入模块。通过将第一融合翻译特征输入知识图谱嵌入模块，作为下一实体的输入，以使知识图谱嵌入模块基于第一融合翻译特征更新用户历史交互图谱中实体和关系对应的向量表示，即生成下一头实体在关系映射矩阵中的翻译特征，进而继续执行所述接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及用户的历史交互物品集合的潜在特征的步骤，直至满足预设的迭代次数。
步骤S4：在满足预设的迭代次数时，根据用户的用户向量对应的用户潜在特征和所述第一融合潜在特征确定对应交互物品的访问概率；
步骤S5：基于所述访问概率，输出对应的推荐结果。
在本实施例中，在满足预设的迭代次数时，推荐模块根据用户潜在特征和第一融合潜在特征计算用户对该交互物品的访问概率，在访问概率满足推荐模块的输出条件时，将该交互物品作为推荐结果输出。
可选地，用户访问该交互物品的访问概率计算如下公式所示：
其中，ul为所述用户潜在特征，vl为所述第一融合潜在特征，fRS()是关于ul和vl连
接的预测函数，为常数系数。
可选地，推荐模块的输出条件可以是预置的访问概率阈值，进而将访问概率大于访问概率阈值的交互物品作为推荐结果输出。输出条件还可以是将访问概率最大的交互物品作为推荐结果输出，本实施例对此不做具体限定。
可选地，所述于知识图谱嵌入模块接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征的步骤之前，还包括：获取用户的历史交互物品集合以及用户向量，使用L层MLP提取用户向量对应的用户潜在特征，以及使用L层交叉和压缩单元提取历史交互物品集合的潜在特征，并将每一层交叉和压缩单元提取到的潜在特征发送至对应层数的深度学习的特征融合模块，执行所述基于预设的多层注意力的深度特征融合机制，融合所述翻译特征和所述潜在特征，生成所述潜在特征对应的第一融合潜在特征和所述翻译特征对应的第一融合翻译特征的步骤。
在本实施例中，本申请的推荐模块的输入为用户的历史交互物品集合以及用户向量。用户向量是指描述用户属性和行为的信息，例如年龄、性别、地理位置、历史行为等。这些特征可以用来表示用户的个性化需求和偏好，从而在推荐过程中提供更加精准的推荐结果。本申请的推荐模块包括L层MLP（Multilayer Perceptron，多层感知机）和L层交叉和压缩单元（Layer-wise Cross and Compression Unit），分别对输入的历史交互物品集合和用户向量提取特征
所述L层MLP可表示为：
，
其中，uL为所述用户潜在特征，M(u)为所述MLP。
所述L层交叉和压缩单元可表示为：
其中，vL为所述历史交互物品集合的潜在特征，v为所述历史交互物品集合，e为边信息，Ee~s(v)为边信息合集，s(v)为所述历史交互物品集合的关联实体的集合，CL(v,e)为节点与边的信息合集。
需要说明的是，本申请的迭代次数与推荐模块中的MLP层数以及交叉和压缩单元的层数相同，在输入的用户向量以及历史交互物品集合分别经过L层MLP和L层交叉和压缩单元后，表征满足预设的迭代次数，从而获取最后一层MLP输出的用户潜在特征以及最后一层交叉和压缩单元输出的历史交互物品集合的潜在特征，执行所述根据用户的用户向量对应的用户潜在特征和所述第一融合潜在特征确定对应交互物品的访问概率的步骤。
在本实施例提供的技术方案中，接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征，然后基于预设的多层注意力的深度特征融合机制，融合翻译特征和潜在特征，生成所潜在特征对应的第一融合潜在特征和翻译特征对应的第一融合翻译特征，进而将第一融合翻译特征输入知识图谱嵌入模块，作为下一实体的输入，以使知识图谱嵌入模块基于第一融合翻译特征更新用户历史交互图谱中实体和关系对应的向量表示，继续执行接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及用户的历史交互物品集合的潜在特征的步骤，直至满足预设的迭代次数，在满足预设的迭代次数时，根据用户的用户向量对应的用户潜在特征和第一融合潜在特征确定对应交互物品的访问概率，基于访问概率，输出对应的推荐结果。本申请采用多层注意力的深度特征融合模块对推荐模块与知识图谱嵌入模块的特征向量加权融合，提高特征提取的能力，增强网络的表示效果，进而提高推荐结果的准确度。
参照图3，在第二实施例中，基于第一实施例，所述步骤S1之前，还包括：
步骤S6：获取用户的历史交互图谱集合，并将所述历史交互图谱集合输入所述知识图谱嵌入模块，其中，所述历史交互图谱集合由各个知识三元组构成，所述三元组包括头实体、关系以及尾实体；
在本实施例中，历史交互图谱集合由各个知识三元组构成，所述历史交互图谱集合可表示为：
其中，e和R分别是实体集和关系集。
步骤S7：对所述历史交互图谱集合的各个知识三元组进行分段，获得各个待处理分组；
在本实施例中，基于分段线性回归的思想，知识图谱嵌入模块首先对输入的历史交互图谱集合进行分段为多个待处理分组，从而降低计算复杂度，并且可以更好地处理大规模的知识图谱。每个分组的嵌入表示可以用于后续的推荐或其他任务中。
步骤S8：确定所述待处理分组内各个三元组的头实体和尾实体之间的偏移量，并对各个三元组的所述偏移量进行聚类，获得各个子待处理聚类组；
在本实施例中，偏移量为头实体和尾实体的差。采用对应的聚类方法会偏移量进行聚类，从而获得各个子待处理聚类组。
可选地，可采用K-means聚类方法对偏移量进行聚类，也可采用其他聚类方法对偏移量进行聚类，本实施例对此不做具体限定。
步骤S9：基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的所述关系映射矩阵；
步骤S10：确定所述待处理分组内的各个所述头实体在对应所述关系映射矩阵中的所述翻译特征。
在本实施例中，通过知识图谱嵌入模块基于子待处理聚类组内各个三元组的关系，对各个三元组的所述偏移量进行学习，生成子待处理聚类组对应的关系映射矩阵Mr，然后确定待处理分组内的各个头实体在对应的关系映射矩阵中的所述翻译特征，然后将翻译特征输入深度学习的特征融合模块。执行所述基于预设的多层注意力的深度特征融合机制，融合所述翻译特征和所述潜在特征，生成所述潜在特征对应的第一融合潜在特征和所述翻译特征对应的第一融合翻译特征的步骤。
可选地，所述基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的所述关系映射矩阵的步骤，还包括：基于子待处理聚类组内各个三元组的关系，对各个三元组的偏移量进行学习，生成子待处理聚类组对应的独立关系向量以及实体映射矩阵，进而根据待处理分组内的各个三元组的头实体以及实体映射矩阵，确定头实体在实体映射矩阵中的头实体投影向量，以及根据待处理分组内的各个三元组的尾实体以及关系映射矩阵，确定尾实体在关系映射矩阵中的尾实体投影向量，将独立关系向量和头实体投影向量以及尾实体投影向量和关系输入预设的评分函数，确定各个三元组对应的评分，这个评分用于衡量节点之间的语义关联程度，从而确定与当前三元组最相关的其他三元组，这些关联关系的发现有助于深入理解知识图谱中的数据，并提供更全面的信息，从而解决数据稀疏问题。
可选地，所述评分函数为：
其中，hr,c为所述头实体投影向量，rc为所述独立关系向量，tr,c为所述尾实体投影向量，r为所述关系。
在本实施例中，用于确保特定集群的关系向量rc与原始关系向量r的距
离不会太远，hr,c和tr,c映射后，它们被连接在一起并且尾部t由k层MLP预测，如下公式所示：
其中，其中S(h)是头实体ℎ的关联项集，是尾实体t的预切分向量，C特征增强模
块。
可选地，知识图谱嵌入模块了采用上述评分函数计算评分外，还采用分采用相似度函数计算评分。
所述相似度函数如下所示：
其中，t为尾实体，tr是t的平移向量，为常数系数。
需要说明的是，评分函数主要关注实体之间的关联强度或相关度评分，而相似度函数主要关注实体或关系之间的相似度计算。通过综合使用这两个函数，我们可以更全面地分析和理解知识图谱中的实体和关系，为不同的应用场景提供更准确和有用的结果。
参照图4，图4为本申请涉及的推荐系统的DFFN模型框架示意图。推荐系统为基于DFFN模型进行改进。改进DFFN整体有三个主要结构，其中第一个模块是推荐模块，第二个是知识图谱嵌入模块，两个模块通过深度特征融合模块来进行特征融合。推荐模块主要执行基于用户与交互序列的注意力聚合。推荐模块的输入为用户向量U与用户交互行为矩阵V，使用L层MLP 提取他们的潜在特征，提取出的特征再一起送入另一个多层感知器，输入预测可能性。知识图谱嵌入模块使用TransR对MKR的知识图谱嵌入方法进行了改造，将待推荐的物品作为头节点，通过TransR学习他们之间的关系，在学习过程中，知识图谱的结构向量与知识图谱编码向量共享特征。中间部分是注意力特征增强模块，采用了多层注意力模型来深度提取两个任务在训练时产生的特征。
在本实施例提供的技术方案中，通过获取用户的历史交互图谱集合，并将历史交互图谱集合输入知识图谱嵌入模块，其中，历史交互图谱集合由各个知识三元组构成，所述三元组包括头实体、关系以及尾实体，然后对历史交互图谱集合的各个知识三元组进行分段，获得各个待处理分组，确定待处理分组内各个三元组的头实体和尾实体之间的偏移量，并对各个三元组的偏移量进行聚类，获得各个子待处理聚类组，基于子待处理聚类组内各个三元组的关系，对各个三元组的所述偏移量进行学习，生成子待处理聚类组对应的关系映射矩阵，进而可确定待处理分组内的各个头实体在对应关系映射矩阵中的翻译特征。通过采用TransR改进知识图谱嵌入方法，更好地提取知识图谱的结构化特征，同时缓解数据稀疏的问题。
参照图5，在第三实施例中，基于上述任一实施例，所述步骤S8之后，还包括：
步骤S11：基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的独立关系向量以及实体映射矩阵；
步骤S12：根据所述待处理分组内的各个所述三元组的头实体以及所述实体映射矩阵，确定所述头实体在所述实体映射矩阵中的头实体投影向量，以及根据所述待处理分组内的各个所述三元组的尾实体以及所述关系映射矩阵，确定所述尾实体在所述关系映射矩阵中的尾实体投影向量；
步骤S13：将所述独立关系向量和所述头实体投影向量以及所述尾实体投影向量和所述关系输入预设的评分函数，确定各个三元组对应的评分；
步骤S14：将所述评分以及所述访问概率输入预设的损失函数，确定所述损失函数的结果值；
步骤S15：根据所述结果值更新所述知识图谱嵌入模型和推荐模块的模型参数。
在本实施例中，在训练阶段，本申请知识图谱嵌入模块通过预设评分函数计算获得各个三元组对应的评分，以及推荐模块计算该三元组的访问概率输入预设的损失函数，确定损失函数的结果值，从而根据结果值不断跟新知识图谱嵌入模块以及推荐模块的模型参数，提高推荐系统的性能，进而达成提高推荐阶段准确度的目的。本申请的损失函数设计为每个任务的总和，以便整个框架可以被训练交替优化具有不同权重和的两个任务频率。
所述损失函数为：
其中，为所述访问概率，W为关系矩阵，其中为所述知识图谱嵌入模块的超
参数，为推荐模块的超参数，为虚三元组的评分，为真实三元
组的评分。
需要说明的是，上述损失函数计算公式中的第一项为通过交叉熵计算的推荐任务损失，第二项为知识图谱嵌入的损失，最后一项则是正则项。
可以理解的是，虚三元组评分是指根据知识图谱中的已有信息，通过推理生成的三元组在知识图谱中的可信度。这种评分是基于推理算法得出的，因此可以补充知识图谱中缺失的信息。真实三元组评分则是指知识图谱中已有的三元组的可信度。关系矩阵W用于描述用户和物品之间关系强度的矩阵。
在本实施例提供的技术方案中，通过将独立关系向量和头实体投影向量以及尾实体投影向量和关系输入预设的评分函数，确定各个三元组对应的评分，进而将评分以及访问概率输入预设的损失函数，确定损失函数的结果值，根据结果值更新知识图谱嵌入模型和推荐模块的模型参数，提高模型的性能，进而提高推荐结果的准确度。
参照图6，图6为本申请实施例方案涉及的硬件运行环境的终端结构示意图。
如图6所示，该终端可以包括：处理器1001，例如CPU，网络接口1004，用户接口1003，存储器1005，通信总线1002。其中，通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏（Display）、输入单元比如键盘（Keyboard）、鼠标等，可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口（如WI-FI接口）。存储器1005可以是高速RAM存储器，也可以是稳定的存储器（non-volatile memory），例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储设备。
本领域技术人员可以理解，图6中示出的终端结构并不构成对终端的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
如图6所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及推荐程序。
在图6所示的终端中，网络接口1004主要用于连接后台服务器，与后台服务器进行数据通信；处理器1001可以用于调用存储器1005中存储的推荐程序，并执行以下操作：
接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征；
基于预设的多层注意力的深度特征融合机制，融合所述翻译特征和所述潜在特征，生成所述潜在特征对应的第一融合潜在特征和所述翻译特征对应的第一融合翻译特征，其中，所述深度特征融合机制为：
；
；
；
其中，Q为用户信息矩阵，K为物品信息矩阵，V为所述历史交互物品集合，为所述深层特征融合机制，att为的缩写，为所
述潜在特征，为所述翻译特征，为所述潜在特征对应的第一融合潜在特征，为所
述翻译特征对应的第一融合翻译特征；
将所述第一融合翻译特征输入知识图谱嵌入模块，作为下一实体的输入，以使所述知识图谱嵌入模块基于所述第一融合翻译特征更新用户历史交互图谱中实体和关系对应的向量表示，继续执行所述接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及用户的历史交互物品集合的潜在特征的步骤，直至满足预设的迭代次数；
在满足预设的迭代次数时，根据用户的用户向量对应的用户潜在特征和所述第一融合潜在特征确定对应交互物品的访问概率；
基于所述访问概率，输出对应的推荐结果。
进一步地，处理器1001可以调用存储器1005中存储的推荐程序，还执行以下操作：
获取用户的历史交互图谱集合，并将所述历史交互图谱集合输入所述知识图谱嵌入模块，其中，所述历史交互图谱集合由各个知识三元组构成，所述三元组包括头实体、关系以及尾实体；
对所述历史交互图谱集合的各个知识三元组进行分段，获得各个待处理分组；
确定所述待处理分组内各个三元组的头实体和尾实体之间的偏移量，并对各个三元组的所述偏移量进行聚类，获得各个子待处理聚类组；
基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的所述关系映射矩阵；
确定所述待处理分组内的各个所述头实体在对应的所述关系映射矩阵中的所述翻译特征。
进一步地，处理器1001可以调用存储器1005中存储的推荐程序，还执行以下操作：
基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的独立关系向量以及实体映射矩阵；
根据所述待处理分组内的各个所述三元组的头实体以及所述实体映射矩阵，确定所述头实体在所述实体映射矩阵中的头实体投影向量，以及根据所述待处理分组内的各个所述三元组的尾实体以及所述关系映射矩阵，确定所述尾实体在所述关系映射矩阵中的尾实体投影向量；
将所述独立关系向量和所述头实体投影向量以及所述尾实体投影向量和所述关系输入预设的评分函数，确定各个三元组对应的评分；
将所述评分以及所述访问概率输入预设的损失函数，确定所述损失函数的结果值；
根据所述结果值更新所述知识图谱嵌入模型和推荐模块的模型参数。
进一步地，处理器1001可以调用存储器1005中存储的推荐程序，还执行以下操作：
获取用户的所述历史交互物品集合以及用户向量；
采用MLP提取所述用户向量对应的用户潜在特征，以及采用交叉和压缩单元提取所述历史交互物品集合的潜在特征。
此外，本申请为实现上述目的，本申请还提供一种终端设备，所述终端设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的推荐程序，所述推荐程序被所述处理器执行时实现如上所述的推荐方法的步骤。
此外，本申请为实现上述目的，本申请还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有推荐程序，所述推荐程序被处理器执行时实现如上所述的推荐方法的步骤。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述 实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通 过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体 现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备（可以是手机、电脑）执行本申请各个实施例所述的方法。
以上仅为本申请的优选实施例，并非因此限制本申请的专利范围，凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本申请的专利保护范围内。
Claims (6)
1.一种推荐方法，其特征在于，所述推荐方法包括：
接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征；
基于预设的多层注意力的深度特征融合机制，融合所述翻译特征和所述潜在特征，生成所述潜在特征对应的第一融合潜在特征和所述翻译特征对应的第一融合翻译特征，其中，所述深度特征融合机制为：
；
；
；
其中，Q为用户信息矩阵，K为物品信息矩阵，V为所述历史交互物品集合，为深层特征融合机制，att为/>的缩写，/>为所述潜在特征，/>为所述翻译特征，/>为所述潜在特征对应的第一融合潜在特征，/>为所述翻译特征对应的第一融合翻译特征；
将所述第一融合翻译特征输入知识图谱嵌入模块，作为下一实体的输入，以使所述知识图谱嵌入模块基于所述第一融合翻译特征更新用户历史交互图谱中实体和关系对应的向量表示，继续执行所述接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及用户的历史交互物品集合的潜在特征的步骤，直至满足预设的迭代次数；
在满足预设的迭代次数时，根据用户的用户向量对应的用户潜在特征和所述第一融合潜在特征确定对应交互物品的访问概率；
基于所述访问概率，输出对应的推荐结果；
所述接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征的步骤之前，包括：
获取用户的历史交互图谱集合，并将所述历史交互图谱集合输入所述知识图谱嵌入模块，其中，所述历史交互图谱集合由各个知识三元组构成，所述三元组包括头实体、关系以及尾实体；
对所述历史交互图谱集合的各个知识三元组进行分段，获得各个待处理分组；
确定所述待处理分组内各个三元组的头实体和尾实体之间的偏移量，并对各个三元组的所述偏移量进行聚类，获得各个子待处理聚类组；
基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的所述关系映射矩阵；
确定所述待处理分组内的各个所述头实体在对应的所述关系映射矩阵中的所述翻译特征；
所述确定所述待处理分组内各个三元组的头实体和尾实体之间的偏移量，并对各个三元组的所述偏移量进行聚类，获得各个子待处理聚类组的步骤之后，还包括：
基于所述子待处理聚类组内各个三元组的关系，对各个所述三元组的所述偏移量进行学习，生成所述子待处理聚类组对应的独立关系向量以及实体映射矩阵；
根据所述待处理分组内的各个所述三元组的头实体以及所述实体映射矩阵，确定所述头实体在所述实体映射矩阵中的头实体投影向量，以及根据所述待处理分组内的各个所述三元组的尾实体以及所述关系映射矩阵，确定所述尾实体在所述关系映射矩阵中的尾实体投影向量；
将所述独立关系向量和所述头实体投影向量以及所述尾实体投影向量和所述关系输入预设的评分函数，确定各个三元组对应的评分；
将所述评分以及所述访问概率输入预设的损失函数，确定所述损失函数的结果值；
根据所述结果值更新所述知识图谱嵌入模型和推荐模块的模型参数。
2.如权利要求1所述的方法，其特征在于，所述评分函数为：
；
其中，hr,c为所述头实体投影向量，rc为所述独立关系向量，tr,c为所述尾实体投影向量，r为所述关系。
3.如权利要求1所述的方法，其特征在于，所述损失函数为：
；
其中，为所述访问概率，W为关系矩阵，其中/>为所述知识图谱嵌入模块的超参数，为推荐模块的超参数，/>为虚三元组的评分，/>为真实三元组的评分。
4.如权利要求1所述的方法，其特征在于，所述于知识图谱嵌入模块接收用户的历史交互图谱头实体在关系映射矩阵中的翻译特征以及接收用户的历史交互物品集合的潜在特征的步骤之前，还包括：
获取用户的所述历史交互物品集合以及用户向量；
采用MLP提取所述用户向量对应的用户潜在特征，以及采用交叉和压缩单元提取所述历史交互物品集合的潜在特征。
5.一种终端设备，其特征在于，所述终端设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的终端设备的推荐方法，所述终端设备的推荐方法被所述处理器执行时实现如权利要求1至4中任一项所述的推荐方法的步骤。
6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有终端设备的推荐方法，所述终端设备的推荐方法被处理器执行时实现如权利要求1至4中任一项所述的推荐方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410133890.7A CN117688247B (zh) | 2024-01-31 | 2024-01-31 | 推荐方法、终端设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410133890.7A CN117688247B (zh) | 2024-01-31 | 2024-01-31 | 推荐方法、终端设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117688247A CN117688247A (zh) | 2024-03-12 |
| CN117688247B true CN117688247B (zh) | 2024-04-12 |
Family
ID=90139359
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410133890.7A Active CN117688247B (zh) | 2024-01-31 | 2024-01-31 | 推荐方法、终端设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117688247B (zh) |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112232925A (zh) * | 2020-11-02 | 2021-01-15 | 哈尔滨工程大学 | 一种融合知识图谱对商品进行个性化推荐的方法 |
| CN113420212A (zh) * | 2021-06-23 | 2021-09-21 | 平安科技（深圳）有限公司 | 基于深度特征学习的推荐方法、装置、设备及存储介质 |
| CN113806630A (zh) * | 2021-08-05 | 2021-12-17 | 中国科学院信息工程研究所 | 基于注意力的多视角特征融合跨域推荐方法及装置 |
| CN115062237A (zh) * | 2022-06-16 | 2022-09-16 | 东北大学 | 基于图神经网络和知识图谱结合的文化资源推荐方法 |
| CN115374288A (zh) * | 2022-07-27 | 2022-11-22 | 电子科技大学 | 一种基于知识图谱与注意力机制的推荐方法 |
| WO2023273182A1 (zh) * | 2021-06-29 | 2023-01-05 | 北京邮电大学 | 面向多源知识图谱融合的实体对齐方法、装置与系统 |
| WO2023097929A1 (zh) * | 2021-12-01 | 2023-06-08 | 浙江师范大学 | 一种基于改进型kgat模型的知识图谱推荐方法及系统 |
| CN116701611A (zh) * | 2023-05-25 | 2023-09-05 | 湖北工业大学 | 一种融合交互注意力的学习知识图谱的推荐方法及系统 |
| CN117370674A (zh) * | 2023-12-08 | 2024-01-09 | 西南石油大学 | 融合用户行为和知识图谱的多任务推荐算法 |
-
2024
- 2024-01-31 CN CN202410133890.7A patent/CN117688247B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112232925A (zh) * | 2020-11-02 | 2021-01-15 | 哈尔滨工程大学 | 一种融合知识图谱对商品进行个性化推荐的方法 |
| CN113420212A (zh) * | 2021-06-23 | 2021-09-21 | 平安科技（深圳）有限公司 | 基于深度特征学习的推荐方法、装置、设备及存储介质 |
| WO2023273182A1 (zh) * | 2021-06-29 | 2023-01-05 | 北京邮电大学 | 面向多源知识图谱融合的实体对齐方法、装置与系统 |
| CN113806630A (zh) * | 2021-08-05 | 2021-12-17 | 中国科学院信息工程研究所 | 基于注意力的多视角特征融合跨域推荐方法及装置 |
| WO2023097929A1 (zh) * | 2021-12-01 | 2023-06-08 | 浙江师范大学 | 一种基于改进型kgat模型的知识图谱推荐方法及系统 |
| CN115062237A (zh) * | 2022-06-16 | 2022-09-16 | 东北大学 | 基于图神经网络和知识图谱结合的文化资源推荐方法 |
| CN115374288A (zh) * | 2022-07-27 | 2022-11-22 | 电子科技大学 | 一种基于知识图谱与注意力机制的推荐方法 |
| CN116701611A (zh) * | 2023-05-25 | 2023-09-05 | 湖北工业大学 | 一种融合交互注意力的学习知识图谱的推荐方法及系统 |
| CN117370674A (zh) * | 2023-12-08 | 2024-01-09 | 西南石油大学 | 融合用户行为和知识图谱的多任务推荐算法 |
Non-Patent Citations (3)
| Title |
|---|
| 基于知识图谱的个性化推荐系统研究;刘礼楠;《中国优秀硕士学位论文全文数据库信息科技辑》;20221215(第12期);I138-369 * |
| 融合知识图谱与循环神经网络的推荐模型;程淑玉;黄淑桦;印鉴;;《小型微型计算机系统》;20200815(第8期);104-109 * |
| 面向深度学习的多模态融合技术研究综述;何俊 等;《计算机工程》;20200323;第46卷(第5期);1-11 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117688247A (zh) | 2024-03-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111931062B (zh) | 一种信息推荐模型的训练方法和相关装置 | |
| CN110472090B (zh) | 基于语义标签的图像检索方法以及相关装置、存储介质 | |
| CN109344884B (zh) | 媒体信息分类方法、训练图片分类模型的方法及装置 | |
| CN110837602B (zh) | 基于表示学习和多模态卷积神经网络的用户推荐方法 | |
| WO2023000574A1 (zh) | 一种模型训练方法、装置、设备及可读存储介质 | |
| CN111797321B (zh) | 一种面向不同场景的个性化知识推荐方法及系统 | |
| WO2019144892A1 (zh) | 数据处理方法、装置、存储介质和电子装置 | |
| WO2023065859A1 (zh) | 物品推荐方法、装置及存储介质 | |
| CN112307351A (zh) | 用户行为的模型训练、推荐方法、装置和设备 | |
| CN113220886A (zh) | 文本分类方法、文本分类模型训练方法及相关设备 | |
| CN111783903B (zh) | 文本处理方法、文本模型的处理方法及装置、计算机设备 | |
| CN111611801B (zh) | 一种识别文本地域属性的方法、装置、服务器及存储介质 | |
| CN112199600A (zh) | 目标对象识别方法和装置 | |
| CN108389113B (zh) | 一种协同过滤推荐方法和系统 | |
| CN111241850B (zh) | 提供业务模型的方法及装置 | |
| CN112819024B (zh) | 模型处理方法、用户数据处理方法及装置、计算机设备 | |
| CN112258250A (zh) | 基于网络热点的目标用户识别方法、装置和计算机设备 | |
| CN112215629B (zh) | 基于构造对抗样本的多目标广告生成系统及其方法 | |
| CN115438787A (zh) | 行为预测系统的训练方法及装置 | |
| CN112148994B (zh) | 信息推送效果评估方法、装置、电子设备及存储介质 | |
| CN117574915A (zh) | 基于多方数据源的公共数据平台及其数据分析方法 | |
| CN117688247B (zh) | 推荐方法、终端设备及存储介质 | |
| CN114840777B (zh) | 多维度养老服务推荐方法、装置以及电子设备 | |
| CN116431816A (zh) | 一种文献分类方法、装置、设备和计算机可读存储介质 | |
| CN114842247B (zh) | 基于特征累加的图卷积网络半监督节点分类方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |