CN116204628A - 一种知识图谱增强的物流知识神经协同过滤推荐方法 - Google Patents

一种知识图谱增强的物流知识神经协同过滤推荐方法 Download PDF

Info

Publication number
CN116204628A
CN116204628A CN202310174702.0A CN202310174702A CN116204628A CN 116204628 A CN116204628 A CN 116204628A CN 202310174702 A CN202310174702 A CN 202310174702A CN 116204628 A CN116204628 A CN 116204628A
Authority
CN
China
Prior art keywords
entity
knowledge
recommendation
collaborative filtering
knowledge graph
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310174702.0A
Other languages
English (en)
Inventor
葛军
程诚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202310174702.0A priority Critical patent/CN116204628A/zh
Publication of CN116204628A publication Critical patent/CN116204628A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/335Filtering based on additional data, e.g. user or group profiles
    • G06F16/337Profile generation, learning or modification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3344Query execution using natural language analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367Ontology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking
    • G06F40/295Named entity recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种知识图谱增强的物流知识神经协同过滤推荐方法,包括:获取未经处理的物流数据转换成三元组形式的规则信息,搭建初始知识图谱;选取表示学习方法中的TransR模型,对初始知识图谱进行语义特征提取;通过对图结构中相连节点分布本身,结合注意力机制,将领域信息聚合度到目标节点上,完成语义和结构特征的提取;将两个特征与原始项目表示进行融合,将融合后的最终实体带入到矩阵分解推荐和神经网络推荐中;最后将两个推荐模型进行融合,构建神经协同过滤推荐模型,得到最终推荐结果。使得物流知识信息的推荐更加准确,提高推荐的精确度。

Description

一种知识图谱增强的物流知识神经协同过滤推荐方法
技术领域
本发明涉及知识推荐技术领域,尤其涉及一种知识图谱增强的物流知识神经协同过滤推荐方法。
背景技术
近年来随着我国经济的快速发展,国内物流行业同样也在迅速发展,因此物流人才的缺口也在不断变大,因此专业物流人才的培养也处在至关重要的地步,很多人苦于没办法找到专业物流知识进行学习或者说没法精准的推荐用户所需要学习的物流知识,因此也在一定程度上阻碍了我国物流行业的进一步发展。
传统的知识推荐方法主要有基于用户或物品的协同过滤方法,前者通过考察用户之间的相似喜好进行推荐,而后者通过考察物品之间的相似程度进行推荐,它们都是基于用户的历史交互数据进行建模分析。然而,在现实生活中,用户与信息知识的数量庞大,但是用户和信息知识交互的数量却有限,因此对于数据稀疏的场景,协同过滤算法的准确率就会降低;现实中很多应用场景中大部分用户并不会明确给系统反馈自己对物品喜好的行为,此时协同过滤算法无法准确挖掘出用户的偏好兴趣。
发明内容
本部分的目的在于概述本发明的实施例的一些方面以及简要介绍一些较佳实施例。在本部分以及本申请的说明书摘要和发明名称中可能会做些简化或省略以避免使本部分、说明书摘要和发明名称的目的模糊,而这种简化或省略不能用于限制本发明的范围。
鉴于上述现有存在的问题,提出了本发明。
因此,本发明提供了一种知识图谱增强的物流知识神经协同过滤推荐方法解决无法准确挖掘出用户的偏好兴趣的问题。
为解决上述技术问题,本发明提供如下技术方案:
获取未经处理的物流数据转换成三元组形式的规则信息,搭建初始知识图谱;
选取表示学习方法中的TransR模型,对初始知识图谱进行语义特征提取;
通过对图结构中相连节点分布本身,结合注意力机制,将领域信息聚合度到目标节点上,完成语义和结构特征的提取;
将两个特征与原始项目表示进行融合,将融合后的最终实体带入到矩阵分解推荐和神经网络推荐中;
最后将两个推荐模型进行融合,构建神经协同过滤推荐模型,得到最终推荐结果。
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述获取未经处理的物流数据转换成三元组形式的规则信息,搭建初始知识图谱,每个三元组包括一个头实体、一个尾实体和头尾实体之间的关系。得到三元组后用neo4j数据库搭建一个初始的物流知识的领域知识图谱。
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述选取表示学习方法中的TransR模型,对初始知识图谱进行语义特征提取,对于每一个关系r,TransR定义投影矩阵Mr∈Rd×k,将实体向量从实体空间投影到关系r的子空间,头实体投影到r空间
Figure BDA0004100529020000021
和尾实体投影到r空间
Figure BDA0004100529020000022
表示为:
Figure BDA0004100529020000023
Figure BDA0004100529020000024
然后使得
Figure BDA0004100529020000025
因此将TransR模型的损失函数定义为:
Figure BDA0004100529020000026
其中h表示物流知识头实体,r表示物流知识实体之间的关系,t表示物流知识尾实体。
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述通过对图结构中相连节点分布本身,结合注意力机制,将领域信息聚合度到目标节点上,完成语义和结构特征的提取,具体操作步骤如下:
A1:对每个实体可得到一个表示ei,令ni为该实体的邻域集合表示为:Ni={en|(ei,r,en)∈G}
A2:对于实体自身ei与其邻域中的实体en,使用实体注意力ain表示实体en对实体ei的重要性,计算出实体注意力ain表示为:
Figure BDA0004100529020000027
Figure BDA0004100529020000031
其中ei,en分别是实体和其邻居实体经过语义特征提取得到的向量表示,‖表示拼接操作,W为训练参数,将拼接好的实体表示进行点积操作,然后使用LeakyReLU激活函数,得到实体en对于实体ei的重要性;
A3:使用softmax函数对其进行归一化,得到实体的聚合权重系数ain
A4:经过邻域聚合后的实体表示由其邻居实体en和相对应的聚合权重系数ain的加权和表示为:
Figure BDA0004100529020000032
A5:将上述部分作为一个单层的邻域聚合层,我们可以通过不断叠加该聚合层获取更远距离的邻居实体上的知识,假设进行L次叠加,则实体ei在第l+1层的表示为:
Figure BDA0004100529020000033
A6:最终我们得到第L层聚合后的实体表示为:
Figure BDA0004100529020000034
A7:将得到的实体表示应用到推荐领域之中,推荐部分的ei即代表上式得到的最终实体表示ei_fianl。
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述得到实体的聚合权重系数ain表示为:
Figure BDA0004100529020000035
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述将最终实体带入到矩阵分解推荐包括以下步骤:
B1:使用pu和qi的内积来估计其交互yui:
B2:将从知识图谱中提取的语义特征和结构特征与原始项目表示进行融合,其中项目i对应与知识图谱中的实体e:
Figure BDA0004100529020000039
其中
Figure BDA00041005290200000310
表示将两种表示进行融合。B3:采用avg方法对实体嵌入和项目表示进行合并,并作为最终的项目表示输入矩阵分解模型:
Figure BDA0004100529020000036
其中⊙表示对应元素相乘;
B4:将语义和结构的特征向量投影到输出层,加入上文语义特征和结构特征后矩阵的表达式表示为:
Figure BDA0004100529020000037
B5:输出层激活函数表示为σ,采用sigmoid函数
Figure BDA0004100529020000038
B6:最后通过log损失学习输出边权重h。
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述pu和qi搭建的矩阵的表达式表示为:
Figure BDA0004100529020000041
其中K表示隐空间的维度;
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述将最终实体带入到神经网络推荐中部分模型表示为:
Figure BDA0004100529020000042
Figure BDA0004100529020000043
.....
Figure BDA0004100529020000044
Figure BDA0004100529020000045
其中Wx,bx,ax分别表示第x层感知机的权重矩阵、偏置向量和激活函数。
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述将两个特征与原始项目表示进行融合,融合后的预测模型表示为:
Figure BDA0004100529020000046
Figure BDA0004100529020000047
Figure BDA0004100529020000048
其中,
Figure BDA0004100529020000049
Figure BDA00041005290200000410
分别表示在MF和MLP部分中的用户嵌入,
Figure BDA00041005290200000411
Figure BDA00041005290200000412
分别表示在MF和MLP部分中的项目嵌入,ei表示项目对应实体通过语义特征提取和结构特征提取后获得的实体嵌入。h表示输出层的边权重。
作为本发明所述的知识图谱增强的物流知识神经协同过滤推荐方法的一种优选方案,其中:所述神经协同过滤推荐模型的损失函数表示为:
Figure BDA0004100529020000051
其中,最后一项为L2正则化项,用来控制过拟合,使用随机梯度下降SGD来实现目标函数最小化。
本发明的有益效果:本发明选用TransR模型提取语义特征,结合注意力机制的领域聚合方式提取结构特征,并且融合矩阵分解推荐和神经网络推荐,使得物流知识信息的推荐更加准确,提高推荐的精确度。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。其中:
图1为本发明一个实施例提供的一种知识图谱增强的物流知识神经协同过滤推荐方法的基本流程示意图;
图2为本发明一个实施例提供的一种知识图谱增强的物流知识神经协同过滤推荐方法的TransR模型图;
图3为本发明一个实施例提供的一种知识图谱增强的物流知识神经协同过滤推荐方法的提取结构特征流程图;
图4为本发明一个实施例提供的一种知识图谱增强的物流知识神经协同过滤推荐方法的知识增强表示下的神经协同过滤推荐方法框架图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合说明书附图对本发明的具体实施方式做详细的说明,显然所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明的保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是本发明还可以采用其他不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本发明内涵的情况下做类似推广,因此本发明不受下面公开的具体实施例的限制。
其次,此处所称的“一个实施例”或“实施例”是指可包含于本发明至少一个实现方式中的特定特征、结构或特性。在本说明书中不同地方出现的“在一个实施例中”并非均指同一个实施例,也不是单独的或选择性的与其他实施例互相排斥的实施例。
本发明结合示意图进行详细描述,在详述本发明实施例时,为便于说明,表示器件结构的剖面图会不依一般比例作局部放大,而且所述示意图只是示例,其在此不应限制本发明保护的范围。此外,在实际制作中应包含长度、宽度及深度的三维空间尺寸。
同时在本发明的描述中,需要说明的是,术语中的“上、下、内和外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一、第二或第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
本发明中除非另有明确的规定和限定,术语“安装、相连、连接”应做广义理解,例如:可以是固定连接、可拆卸连接或一体式连接;同样可以是机械连接、电连接或直接连接,也可以通过中间媒介间接相连,也可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
实施例1
参照图1-4,为本发明的一个实施例,提供了一种知识图谱增强的物流知识神经协同过滤推荐方法,如图1所示,包括以下步骤:
S1:获取未经处理的物流数据转换成三元组形式的规则信息,搭建初始知识图谱;
更进一步的,通过大数据、网络爬虫等手段,获取关于物流知识信息。用三元组表示所获取的信息,每个三元组包括一个头实体、一个尾实体和头尾实体之间的关系。得到三元组后用neo4j数据库搭建一个初始的物流知识的领域知识图谱;
更进一步的,分别针对各物流知识信息,抽取物流知识中预设各类型物流知识实体、物流知识实体之间的关系,然后构建各物流知识实体分别对应的三元组(h,r,t),其中h表示物流知识头实体,r表示物流知识实体之间的关系,t表示物流知识尾实体,基于各物流知识实体分别对应的三元组(h,r,t),构建物流领域知识图谱;
S2:选取表示学习方法中的TransR模型,对初始知识图谱进行语义特征提取;
更进一步的,在物流领域中存在着一个实体是多种属性的综合体的情况,因此决定采用TransR模型。于是对于每个三元组(h,r,t),将实体向量向关系r空间投影,使得原来在实习空间中的头、尾实体相似的实体,在关系r空间中被区分开了。如图2所示,对于每一个关系r,TransR定义投影矩阵Mr∈Rd×k,将实体向量从实体空间投影到关系r的子空间,头实体投影到r空间
Figure BDA0004100529020000071
和尾实体投影到r空间
Figure BDA0004100529020000072
表示为:
Figure BDA0004100529020000073
Figure BDA0004100529020000074
然后使得
Figure BDA0004100529020000075
因此将TransR模型的损失函数定义为:
Figure BDA0004100529020000076
S3:通过对图结构中相连节点分布本身,结合注意力机制,将领域信息聚合度到目标节点上,完成语义和结构特征的提取;
更进一步的,如图3所示,通过邻域聚合的方式提取相邻节点的分布(称之为结构特征),并将其与语义特征相融和,得到最终实体,完成知识增强项目表示。其操作过程如下:
A1:对每个实体可得到一个表示ei,令ni为该实体的邻域集合表示为:Ni={en|(ei,r,en)∈G};
A2:对于实体自身ei与其邻域中的实体en,使用实体注意力ain表示实体en对实体ei的重要性,计算出实体注意力ain表示为:
Figure BDA0004100529020000077
Figure BDA0004100529020000078
其中ei,en分别是实体和其邻居实体经过语义特征提取得到的向量表示,‖表示拼接操作,W为训练参数,将拼接好的实体表示进行点积操作,然后使用LeakyReLU激活函数,得到实体en对于实体ei的重要性;
A3:使用softmax函数对其进行归一化,得到实体的聚合权重系数ain
A4:经过邻域聚合后的实体表示由其邻居实体en和相对应的聚合权重系数ain的加权和表示为:
Figure BDA0004100529020000081
A5:将上述部分作为一个单层的邻域聚合层,我们可以通过不断叠加该聚合层获取更远距离的邻居实体上的知识,假设进行L次叠加,则实体ei在第l+1层的表示为:
Figure BDA0004100529020000082
A6:最终我们得到第L层聚合后的实体表示为:
Figure BDA0004100529020000083
A7:将得到的实体表示应用到推荐领域之中,推荐部分的ei即代表上式得到的最终实体表示ei_fianl。
更进一步的,得到实体的聚合权重系数ain表示为:
Figure BDA0004100529020000084
S4:将两个特征与原始项目表示进行融合,将融合后的最终实体带入到矩阵分解推荐和神经网络推荐中;
更进一步的,将知识增强后的用户与项目表示带入到矩阵分解推荐中方法如下:
B1:使用pu和qi的内积来估计其交互yui:
B2:将从知识图谱中提取的语义特征和结构特征与原始项目表示进行融合,其中项目i对应与知识图谱中的实体e:
Figure BDA00041005290200000810
其中
Figure BDA0004100529020000089
表示将两种表示进行融合。
B3:采用avg方法对实体嵌入和项目表示进行合并,并作为最终的项目表示输入矩阵分解模型:
Figure BDA0004100529020000085
其中⊙表示对应元素相乘;
B4:将语义和结构的特征向量投影到输出层,加入上文语义特征和结构特征后矩阵的表达式表示为:
Figure BDA0004100529020000086
B5:输出层激活函数表示为σ,采用sigmoid函数
Figure BDA0004100529020000087
B6:最后通过log损失学习输出边权重h。
更进一步的,pu和qi搭建的矩阵的表达式表示为:
Figure BDA0004100529020000088
其中K表示隐空间的维度。
更进一步的,将知识增强后的用户与项目表示带入到神经网络推荐中,该部分模型如下:
Figure BDA0004100529020000091
Figure BDA0004100529020000092
.....
Figure BDA0004100529020000093
Figure BDA0004100529020000094
其中Wx,bx,ax分别表示第x层感知机的权重矩阵、偏置向量和激活函数。在输入阶段,将项目对应实体嵌入作为辅助信息加入到项目表示中,以此缓解数据稀疏性问题.接着选择ReLU作为激活函数。在网络结构的设计方面,采用塔式结构,让底层的尺寸最大,每层大小减半。利用这种结构,隐藏层中的高层能够学习到较为抽象的非线性特征。
S5:最后将两个推荐模型进行融合,构建神经协同过滤推荐模型,得到最终推荐结果。
更进一步的,如图4所示,将两个模型融合,更好地建模复杂的用户-项目交互。将两个模型分别学习各自的独立嵌入,并连接两个模型的最后隐藏层。融合后的预测模型如下:
Figure BDA0004100529020000095
Figure BDA0004100529020000096
Figure BDA0004100529020000097
其中
Figure BDA0004100529020000098
Figure BDA0004100529020000099
分别表示在MF和MLP部分中的用户嵌入,
Figure BDA00041005290200000910
Figure BDA00041005290200000911
分别表示在MF和MLP部分中的项目嵌入,ei表示项目对应实体通过语义特征提取和结构特征提取后获得的实体嵌入。h表示输出层的边权重。接着将损失函数定义为:
Figure BDA00041005290200000912
最后一项为L2正则化项,用来控制过拟合,使用随机梯度下降SGD来实现目标函数最小化。
应说明的是,推荐系统的好坏主要取决于是否能给用户匹配到其想要浏览的内容,在初始物流领域图谱中,选取TransR模型进行提取语义特征能有效提高推荐的准确率,其他模型无法比TransR模型更有效提高准确率,因此该模型为决定性指标。
实施例2
参照表1,为本发明的一个实施例,提供了一种知识图谱增强的物流知识神经协同过滤推荐方法,为了验证其有益效果,提供了两种方案的对比结果。
表1对比表
本方法 传统方法
推荐准确率 94.1% 90.7%
推荐速率 推荐速率快 推荐速率慢
方法可用性 可用性高 可用性低
从表1可以看出,我方对于知识图谱增强的物流知识神经协同过滤推荐方法的处理较为细致,选用TransR模型提取语义特征,结合注意力机制的领域聚合方式提取结构特征,并且融合矩阵分解推荐和神经网络推荐,提高推荐准确率,使得推荐速率更快,方法可用性更高。
应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的精神和范围,其均应涵盖在本发明的权利要求范围当中。

Claims (10)

1.一种知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于,包括以下步骤:
获取未经处理的物流数据转换成三元组形式的规则信息,搭建初始知识图谱;
选取表示学习方法中的TransR模型,对初始知识图谱进行语义特征提取;
通过对图结构中相连节点分布本身,结合注意力机制,将领域信息聚合度到目标节点上,完成语义和结构特征的提取;
将两个特征与原始项目表示进行融合,将融合后的最终实体带入到矩阵分解推荐和神经网络推荐中;
最后将矩阵分解推荐模型和神经网络推荐模型进行融合,构建神经协同过滤推荐模型,得到最终推荐结果。
2.如权利要求1所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述获取未经处理的物流数据转换成三元组形式的规则信息,搭建初始知识图谱,每个三元组包括一个头实体、一个尾实体和头尾实体之间的关系,得到三元组后用数据库建立初始物流知识图谱。
3.如权利要求1或2所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述选取表示学习方法中的TransR模型,对初始知识图谱进行语义特征提取,对于每一个关系r,TransR定义投影矩阵Mr∈Rd×k,将实体向量从实体空间投影到关系r的子空间,头实体投影到r空间
Figure FDA0004100529000000011
和尾实体投影到r空间
Figure FDA0004100529000000012
表示为:
Figure FDA0004100529000000013
Figure FDA0004100529000000014
然后使得
Figure FDA0004100529000000015
因此将TransR模型的损失函数定义为:
Figure FDA0004100529000000016
其中h表示物流知识头实体,r表示物流知识实体之间的关系,t表示物流知识尾实体。
4.如权利要求3所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述通过对图结构中相连节点分布本身,结合注意力机制,将领域信息聚合度到目标节点上,完成语义和结构特征的提取,具体操作步骤如下:
对每个实体可得到一个表示ei,令ni为该实体的邻域集合表示为:Ni={en|(ei,r,en)∈G};
对于实体自身ei与其邻域中的实体en,使用实体注意力ain表示实体en对实体ei的重要性,计算出实体注意力ain表示为:
Figure FDA0004100529000000021
Figure FDA0004100529000000022
其中ei,en分别是实体和其邻居实体经过语义特征提取得到的向量表示,‖表示拼接操作,W为训练参数,将拼接好的实体表示进行点积操作,然后使用LeakyReLU激活函数,得到实体en对于实体ei的重要性;
使用softmax函数对其进行归一化,得到实体的聚合权重系数ain
经过邻域聚合后的实体表示由其邻居实体en和相对应的聚合权重系数ain的加权和表示为:
Figure FDA0004100529000000023
将上述部分作为一个单层的邻域聚合层,通过不断叠加该聚合层获取更远距离的邻居实体上的知识,假设进行L次叠加,则实体ei在第l+1层的表示为:
Figure FDA0004100529000000024
最终得到第L层聚合后的实体表示为:
Figure FDA0004100529000000025
将得到的实体表示应用到推荐领域之中,推荐部分的ei即代表上式得到的最终实体表示为ei_fianl。
5.如权利要求4所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述得到实体的聚合权重系数ain表示为:
Figure FDA0004100529000000026
6.如权利要求5所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述将最终实体带入到矩阵分解推荐包括以下步骤:
使用pu和qi的内积来估计其交互yui
将从知识图谱中提取的语义特征和结构特征与原始项目表示进行融合,其中项目i对应与知识图谱中的实体e:
Figure FDA0004100529000000027
其中⊕表示将两种表示进行融合;
采用avg方法对实体嵌入和项目表示进行合并,并作为最终的项目表示输入矩阵分解模型:
Figure FDA0004100529000000028
其中⊙表示对应元素相乘;
将语义和结构的特征向量投影到输出层,加入上文语义特征和结构特征后矩阵的表达式表示为:
Figure FDA0004100529000000031
输出层激活函数表示为σ,采用sigmoid函数
Figure FDA0004100529000000032
最后通过log损失学习输出边权重h。
7.如权利要求6所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述pu和qi搭建的矩阵的表达式表示为:
Figure FDA0004100529000000033
其中K表示隐空间的维度。
8.如权利要求7所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述将最终实体带入到神经网络推荐中部分模型表示为:
Figure FDA0004100529000000034
Figure FDA0004100529000000035
.....
Figure FDA0004100529000000036
Figure FDA0004100529000000037
其中Wx,bx,ax分别表示第x层感知机的权重矩阵、偏置向量和激活函数。
9.如权利要求8所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述将两个特征与原始项目表示进行融合,融合后的预测模型表示为:
Figure FDA0004100529000000038
Figure FDA0004100529000000039
Figure FDA00041005290000000310
其中,
Figure FDA00041005290000000311
Figure FDA00041005290000000312
分别表示在MF和MLP部分中的用户嵌入,
Figure FDA00041005290000000313
Figure FDA00041005290000000314
分别表示在MF和MLP部分中的项目嵌入,ei表示项目对应实体通过语义特征提取和结构特征提取后获得的实体嵌入,h表示输出层的边权重。
10.如权利要求8或9所述的知识图谱增强的物流知识神经协同过滤推荐方法,其特征在于:所述神经协同过滤推荐模型的损失函数表示为:
Figure FDA0004100529000000041
其中,最后一项为L2正则化项,用来控制过拟合,使用随机梯度下降SGD来实现目标函数最小化。
CN202310174702.0A 2023-02-27 2023-02-27 一种知识图谱增强的物流知识神经协同过滤推荐方法 Pending CN116204628A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310174702.0A CN116204628A (zh) 2023-02-27 2023-02-27 一种知识图谱增强的物流知识神经协同过滤推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310174702.0A CN116204628A (zh) 2023-02-27 2023-02-27 一种知识图谱增强的物流知识神经协同过滤推荐方法

Publications (1)

Publication Number Publication Date
CN116204628A true CN116204628A (zh) 2023-06-02

Family

ID=86518866

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310174702.0A Pending CN116204628A (zh) 2023-02-27 2023-02-27 一种知识图谱增强的物流知识神经协同过滤推荐方法

Country Status (1)

Country Link
CN (1) CN116204628A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116756203A (zh) * 2023-06-13 2023-09-15 淮阴工学院 一种基于碳减排目标的知识图谱驱动冷链物流设备选型方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116756203A (zh) * 2023-06-13 2023-09-15 淮阴工学院 一种基于碳减排目标的知识图谱驱动冷链物流设备选型方法及装置
CN116756203B (zh) * 2023-06-13 2024-06-11 淮阴工学院 一种基于碳减排目标的知识图谱驱动冷链物流设备选型方法及装置

Similar Documents

Publication Publication Date Title
CN111291212B (zh) 基于图卷积神经网络的零样本草图图像检索方法和系统
Guo et al. A deep graph neural network-based mechanism for social recommendations
CN111611472B (zh) 一种基于图卷积神经网络的捆绑推荐方法及系统
CN109190030B (zh) 融合node2vec和深度神经网络的隐式反馈推荐方法
CN111143705B (zh) 一种基于图卷积网络的推荐方法
CN113378047B (zh) 一种基于多方面增强的图神经网络推荐方法
CN113158071A (zh) 一种基于图神经网络的知识社交推荐方法、系统和设备
CN109978836A (zh) 基于元学习的用户个性化图像美感评价方法、系统、介质和设备
CN113918834B (zh) 融合社交关系的图卷积协同过滤推荐方法
CN112667920A (zh) 基于文本感知的社交影响力预测方法、装置及设备
CN111737569B (zh) 基于属性感知注意图卷积神经网络的个性化推荐方法
CN116204628A (zh) 一种知识图谱增强的物流知识神经协同过滤推荐方法
CN114997476A (zh) 一种融合商品关联关系的商品预测方法
CN115510319A (zh) 一种基于潜在兴趣多视图融合的推荐方法和系统
CN114579852A (zh) 一种基于图卷积网络与注意力机制的推荐方法
Liu et al. TCD-CF: Triple cross-domain collaborative filtering recommendation
CN114139066A (zh) 一种基于图神经网络的协同过滤推荐系统
CN111949894B (zh) 一种基于多空间交互的协同过滤个性化推荐方法
CN113065321A (zh) 基于lstm模型和超图的用户行为预测方法及系统
CN116664253A (zh) 一种基于广义矩阵分解与遮蔽注意力的项目推荐方法
CN116821519A (zh) 一种基于图结构的系统过滤和降噪的智能推荐方法
CN113343121B (zh) 基于多粒度流行度特征的轻量级图卷积协同过滤推荐方法
CN116484114A (zh) 非对称邻域聚合的残差图卷积协同过滤推荐方法和设备
CN116306834A (zh) 一种基于全局路径感知图神经网络模型的链路预测方法
CN115659852A (zh) 一种基于离散潜在表示的布局生成方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination