CN115878904A - 基于深度学习的知识产权个性化推荐方法、系统及介质 - Google Patents
基于深度学习的知识产权个性化推荐方法、系统及介质 Download PDFInfo
- Publication number
- CN115878904A CN115878904A CN202310151519.9A CN202310151519A CN115878904A CN 115878904 A CN115878904 A CN 115878904A CN 202310151519 A CN202310151519 A CN 202310151519A CN 115878904 A CN115878904 A CN 115878904A
- Authority
- CN
- China
- Prior art keywords
- interest
- intellectual property
- target user
- user
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于深度学习的知识产权个性化推荐方法、系统及介质，包括：获取目标用户的背景信息，挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣信息；通过注意力机制将兴趣向量集合进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；利用图卷积网络生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；基于偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分对模型参数进行优化。本发明根据目标用户背景信息进行量化以获取其需求偏好，基于需求偏好定制个性化知识产权数据推荐结果，改善了知识产权资源的推荐效果。
Description
技术领域
本发明涉及知识产权管理技术领域，更具体的，涉及一种基于深度学习的知识产权个性化推荐方法、系统及介质。
背景技术
伴随新一轮科技革命和产业变革的快速演进，如何对技术研发现状进行识别并预测未来发展趋势，成为企业技术创新活动关注的热点。企业在技术发展过程中，知识产权的作用愈发凸显。其中，专利在知识产权众多类型中占据重要位置，也是企业之间竞争的关键；知识产权资源包含专利、软著、商标等内容，随着我国创新发展战略的大力实施，知识产权作为一种创新的保护方式，越来越受到企业和用户的重视。面对海量的知识产权数据，掌握知识产权数据中包含的科技知识对推动企业和国家发展有重大意义。在知识产权数据分析过程中，如何方便高效地为目标用户推荐所需知识产权数据是一个值得研究的问题。
当前对于知识产权数据的检索大多是通过用户搜索，查阅感兴趣的资料，浏览器再呈现搜索结果。但搜索结果匹配度不高，且不能呈现关联、延伸的相关条目，形成检索网，同时现有的推送系统中的知识产权数据划分粗略，大多采用单一的知识产权分类方式进行分类，导致推送系统的个性化水平较低，无法高效获取知识产权资源等一系列问题，因此在知识产权资源检索检索过程中，如何根据用户个性化数据进行针对性的知识产权推荐是亟不可待需要解决的问题。
发明内容
为了解决上述技术问题，本发明提出了一种基于深度学习的知识产权个性化推荐方法、系统及介质。
本发明第一方面提供了一种基于深度学习的知识产权个性化推荐方法，包括：
获取目标用户的背景信息，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏爱信息；
通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；
利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；
根据个性化推荐学习到用户的兴趣偏好特征之后，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化。
本方案中，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏好信息，具体为：
获取目标用户的基础信息判断目标用户的身份信息，基于身份信息按照预设属性类别及属性指标获取目标用户的背景信息，提取目标用户背景信息的知识产权相关信息及科技资源相关信息；
根据所述知识产权相关信息及科技资源相关信息进行预处理，并提取词向量，根据各词向量在的出现频率及分布广度获取关键词信息确定目标用户当前知识产权现状；
基于关键词对知识产权相关信息及科技资源相关信息进行分类，并获取对应特征集合，将科技资源特征集合作为源域，知识产权特征集合作为目标域，利用迁移学习缓解目标对象知识产权相关信息的数据稀疏；
获取源域及目标域中目标用户对项目的评分矩阵及其他属性信息，将评分矩阵及属性信息进行特征拼接，构建深度网络先后进行源域和目标域训练，将源域训练参数迁移到目标域替换为新训练参数；
通过深度网络的迭代训练至收敛实现源域到目标域的迁移，获取目标用户对知识产权数据的评分信息，并基于评分信息生成若干兴趣向量，表征目标用户预设时间内的兴趣偏好信息。
本方案中，通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征，具体为：
获取目标对象知识产权需求并生成对应嵌入向量，通过计算嵌入向量及兴趣向量集合中兴趣向量的相似度获取权重分布，利用注意力机制对将目标用户兴趣向量进行拼接聚合；
将拼接聚合后兴趣向量导入LSTM循环结构进行编码，通过所述LSTM循环结构的门控单元获取目标用户的兴趣偏好在时间维度上的权重分布变化，根据时间维度上的权重分布变化获取目标用户的长短期兴趣特征；
构建损失函数训练至收敛，通过所述长短期兴趣特征进行解码后输出目标用户的动态兴趣偏好特征。
本方案中，利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐，具体为：
根据嵌入空间中用户及用户、用户及项目、项目及项目之间的关系构建异构图，存在关联的节点之间使用边结构进行连接，基于图卷积网络构建知识产权数据个性化推荐模型，对所述异构图进行表征学习；
基于目标用户的动态兴趣偏好特征为异构图中项目节点设置初始权重，利用其他用户与目标用户兴趣偏爱信息的相似度为用户节点设置初始权重；
根据异构图中的节点关系获取三个二部网络，并标注对应的边结构类型，映射到对应的语义空间中，通过计算一对存在链路的节点在三个对应语义空间的欧氏距离联合获取相似度，获取每个节点基于不同链路的低维向量表示；
将嵌入空间中节点的低维向量表示通过非线性函数进行维度变换，引入注意力机制结合初始权重，通过加权融合不同链路的邻居节点的低维向量表示更新节点的特征向量表示，利用表征学习后的用户及项目特征向量表示结合获取预测值；
根据各项目的预测值确定目标用户的知识产权数据个性化推荐内容。
本方案中，通过加权融合不同链路的邻居节点的低维向量表示更新节点的特征向量表示，具体为：
根据不同链路中各节点的初始权重获取链路中的偏好向量，将链路的低维向量表示与所述偏好向量进行相似度计算获取注意力权重；
将节点对应的所有链路的注意力权重结合自身初始权重进行加权融合，更新节点的特征向量表示。
本方案中，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化，具体为：
通过目标用户的兴趣偏好特征构建检索标签，在用户行为记录中通过相似度检索获取相似度符合预设标准的用户行为记录并进行标记，将标记的用户行为记录构建个性化数据集；
同时根据用户行为记录的更新对个性化数据集进行数据扩充，通过个性化数据集对多层感知机进行训练，获取用户对推荐预测的评分，利用均方根值将推荐预测评分与个性化数据集对应评分集中的真实评分做比较；
若推荐预测评分与真实评分的均方根值小于预设均方根阈值，则判断模型的推荐准确度达到预设标准；
若推荐预测评分与真实评分的均方根值大于等于预设均方根阈值，则对模型超参数进行优化训练，在防止过拟合情况下训练得到模型最优超参数，并进行配置参数更新。
本发明第二方面还提供了一种基于深度学习的知识产权个性化推荐系统，该系统包括：存储器、处理器，所述存储器中包括一种基于深度学习的知识产权个性化推荐方法程序，所述一种基于深度学习的知识产权个性化推荐方法程序被所述处理器执行时实现如下步骤：
获取目标用户的背景信息，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏爱信息；
通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；
利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；
根据个性化推荐学习到用户的兴趣偏好特征之后，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化。
本发明第三方面还提供一种计算机可读存储介质，所述计算机可读存储介质中包括一种基于深度学习的知识产权个性化推荐方法程序，所述一种基于深度学习的知识产权个性化推荐方法程序被处理器执行时，实现如上述任一项所述的一种基于深度学习的知识产权个性化推荐方法的步骤。
本发明公开了一种基于深度学习的知识产权个性化推荐方法、系统及介质，包括：获取目标用户的背景信息，挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣信息；通过注意力机制将兴趣向量集合进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；利用图卷积网络生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；基于偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分对模型参数进行优化。本发明根据目标用户背景信息进行量化以获取其需求偏好，基于需求偏好定制个性化知识产权数据推荐结果，改善了知识产权资源的推荐效果，同时提高了推荐的高效性和精准性。
附图说明
图1示出了本发明一种基于深度学习的知识产权个性化推荐方法的流程图；
图2示出了本发明提取用户的动态兴趣偏好特征的方法流程图；
图3示出了本发明根据当前知识产权需求获取个性化推荐的方法流程图；
图4示出了本发明一种基于深度学习的知识产权个性化推荐系统的框图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点，下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是，在不冲突的情况下，本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明，但是，本发明还可以采用其他不同于在此描述的其他方式来实施，因此，本发明的保护范围并不受下面公开的具体实施例的限制。
图1示出了本发明一种基于深度学习的知识产权个性化推荐方法的流程图。
如图1所示，本发明第一方面提供了一种基于深度学习的知识产权个性化推荐方法，包括：
S102，获取目标用户的背景信息，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏爱信息；
S104，通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；
S106，利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；
S108，根据个性化推荐学习到用户的兴趣偏好特征之后，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化。
需要说明的是，获取目标用户的基础信息判断目标用户的身份信息，所述身份信息分为个人用户及企业用户，按照身份信息预设不同的属性指标，例如：个人科研范畴、企业规模、企业所属行业、企业性质等，基于身份信息按照预设属性类别及属性指标获取目标用户的背景信息，提取目标用户背景信息的知识产权相关信息及科技资源相关信息；根据所述知识产权相关信息及科技资源相关信息进行预处理，并提取词向量，根据各词向量在的出现频率及分布广度获取关键词信息确定目标用户当前知识产权现状，设置相关阈值，当词向量的出现频率及分布广度大于相关阈值时则予以保留，通过保留的词向量确定关键词分析知识产权现状。
在个性化推荐方法中存在数据稀疏性问题，基于关键词对知识产权相关信息及科技资源相关信息进行分类，并获取对应特征集合，将科技资源特征集合作为源域，知识产权特征集合作为目标域，利用迁移学习缓解目标对象知识产权相关信息的数据稀疏；获取源域及目标域中目标用户对项目的评分矩阵及其他属性信息，将评分矩阵及属性信息进行特征拼接，构建深度网络先后进行源域和目标域训练，将源域训练参数迁移到目标域替换为新训练参数；在深度网络中进行特征交叉，根据不同层的权重向量及偏执向量进行交叉堆叠，特征交叉的程度对着层数的增加而增大，在特征交叉后进行特征向量化及降维，并调整用户和项目的嵌入表示，通过深度网络的迭代训练至收敛实现源域到目标域的迁移，根据评分机制获取目标用户对知识产权数据的评分信息，并基于评分信息生成若干兴趣向量，表征目标用户预设时间内的兴趣偏好信息。
图2示出了本发明提取用户的动态兴趣偏好特征的方法流程图。
根据本发明实施例，通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征，具体为：
S202，获取目标对象知识产权需求并生成对应嵌入向量，通过计算嵌入向量及兴趣向量集合中兴趣向量的相似度获取权重分布，利用注意力机制对将目标用户兴趣向量进行拼接聚合；
S204，将拼接聚合后兴趣向量导入LSTM循环结构进行编码，通过所述LSTM循环结构的门控单元获取目标用户的兴趣偏好在时间维度上的权重分布变化，根据时间维度上的权重分布变化获取目标用户的长短期兴趣特征；
S206，构建损失函数训练至收敛，通过所述长短期兴趣特征进行解码后输出目标用户的动态兴趣偏好特征。
需要说明的是，LSTM循环结构通过复杂的细胞单元和门控单元模型用户的兴趣在时序上的变化，根据目标用户的兴趣偏好在时间维度上的权重分布变化进行归一化处理后细分长期兴趣偏好及短期兴趣偏好，提取用户的动态兴趣偏好特征。
图3示出了本发明根据当前知识产权需求获取个性化推荐的方法流程图。
根据本发明实施例，利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐，具体为：
S302，根据嵌入空间中用户及用户、用户及项目、项目及项目之间的关系构建异构图，存在关联的节点之间使用边结构进行连接，基于图卷积网络构建知识产权数据个性化推荐模型，对所述异构图进行表征学习；
S604，基于目标用户的动态兴趣偏好特征为异构图中项目节点设置初始权重，利用其他用户与目标用户兴趣偏爱信息的相似度为用户节点设置初始权重；
S306，根据异构图中的节点关系获取三个二部网络，并标注对应的边结构类型，映射到对应的语义空间中，通过计算一对存在链路的节点在三个对应语义空间的欧氏距离联合获取相似度，获取每个节点基于不同链路的低维向量表示；
S308，将嵌入空间中节点的低维向量表示通过非线性函数进行维度变换，引入注意力机制结合初始权重，通过加权融合不同链路的邻居节点的低维向量表示更新节点的特征向量表示，利用表征学习后的用户及项目特征向量表示结合获取预测值；
S310，根据各项目的预测值确定目标用户的知识产权数据个性化推荐内容。
需要说明的是，通过PME方法计算一对存在链路的节点在三个对应语义空间的欧氏距离联合获取相似度，获取每个节点基于不同链路的低维向量表示，损失函数
更新的公式为：/>
其中，
表示存在链路的节点，/>
表示与/>
的无关节点，/>
表示节点间欧式距离，/>
表示边结构类型，/>
表示边结构的正样本集，/>
表示标准合页损失，/>
表示安全距离大小。通过随机梯度算法最小化损失并最终获得节点的低维向量表示。
将嵌入空间中节点的低维向量表示通过非线性函数进行维度变换，
，/>
表示转换的权重和偏置参数，/>
表示基于链路/>
中节点/>
的初始低维向量表示及维度变换后的节点低维向量表示，/>
表示激活函数；
根据不同链路中各节点的初始权重获取链路中的偏好向量，将链路的低维向量表示与所述偏好向量进行相似度计算获取注意力权重,获取所有链路
对节点/>
的重要程度，获取注意力权重，具体为：
其中，
表示链路/>
对节点/>
注意力权重，/>
表示链路/>
的低维向量表示与偏好向量的相似度；
将节点对应的所有链路的注意力权重结合自身初始权重进行加权融合，更新节点的特征向量表示
，/>
，通过表征学习后的用户及项目特征向量表示进行点积获取交互的预测值，将预测值大于预设阈值的项目进行保存排序，输出知识产权资源个性化推荐。
需要说明的是，通过目标用户的兴趣偏好特征构建检索标签，在用户行为记录中通过相似度检索获取相似度符合预设标准的用户行为记录并进行标记，将标记的用户行为记录构建个性化数据集；同时根据用户行为记录的更新对个性化数据集进行数据扩充，通过个性化数据集对多层感知机进行训练，获取用户对推荐预测的评分，利用均方根值将推荐预测评分与个性化数据集对应评分集中的真实评分做比较；若推荐预测评分与真实评分的均方根值小于预设均方根阈值，则判断模型的推荐准确度达到预设标准；若推荐预测评分与真实评分的均方根值大于等于预设均方根阈值，则对模型超参数进行优化训练，在防止过拟合情况下训练得到模型最优超参数，并进行配置参数更新。
根据本发明实施例，在知识产权个性化推荐中判定推荐优先级，具体为：
获取目标用户知识产权资源个性化推荐列表，获取推荐列表中各知识产权资源的分类信息、状态信息及运用信息，利用数据检索获取常用评价指标进行设置，通过获取的信息根据预设评价指标评估知识产权资源综合价值；
根据层次分析法获取各个评价指标的权重信息，预设知识产权资源综合价值的综合评价等级，根据梯形函数判断评价因素对于各个评价等级的隶属度，得到隶属度矩阵，根据所述隶属度矩阵及指标权重信息计算目标层中模糊综合评价结果；
获取个性化推荐列表中知识产权资源综合价值的综合评价等级，将低于预设综合评价等级阈值的知识产权资源进行筛选移除，并对筛选后的推荐列表中知识产权资源按照项目的预测值设置推荐优先级；
根据所述推荐优先级为目标用户进行知识产权数据的个性化推荐，获取目标用户对个性化推荐的交互反馈，并根据预设时间内目标用户的历史交互反馈更新目标用户个性化数据集；
根据个性化数据集对嵌入空间中节点的初始权重进行调整更新，并通过更新的个性化数据集训练LSTM循环结构获取动态兴趣偏好特征。
图4示出了本发明一种基于深度学习的知识产权个性化推荐系统的框图。
本发明第二方面还提供了一种基于深度学习的知识产权个性化推荐系统4，该系统包括：存储器41、处理器42，所述存储器中包括一种基于深度学习的知识产权个性化推荐方法程序，所述一种基于深度学习的知识产权个性化推荐方法程序被所述处理器执行时实现如下步骤：
获取目标用户的背景信息，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏爱信息；
通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；
利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；
根据个性化推荐学习到用户的兴趣偏好特征之后，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化。
需要说明的是，获取目标用户的基础信息判断目标用户的身份信息，所述身份信息分为个人用户及企业用户，按照身份信息预设不同的属性指标，例如：个人科研范畴、企业规模、企业所属行业、企业性质等，基于身份信息按照预设属性类别及属性指标获取目标用户的背景信息，提取目标用户背景信息的知识产权相关信息及科技资源相关信息；根据所述知识产权相关信息及科技资源相关信息进行预处理，并提取词向量，根据各词向量在的出现频率及分布广度获取关键词信息确定目标用户当前知识产权现状，设置相关阈值，当词向量的出现频率及分布广度大于相关阈值时则予以保留，通过保留的词向量确定关键词分析知识产权现状。
在个性化推荐方法中存在数据稀疏性问题，基于关键词对知识产权相关信息及科技资源相关信息进行分类，并获取对应特征集合，将科技资源特征集合作为源域，知识产权特征集合作为目标域，利用迁移学习缓解目标对象知识产权相关信息的数据稀疏；获取源域及目标域中目标用户对项目的评分矩阵及其他属性信息，将评分矩阵及属性信息进行特征拼接，构建深度网络先后进行源域和目标域训练，将源域训练参数迁移到目标域替换为新训练参数；在深度网络中进行特征交叉，根据不同层的权重向量及偏执向量进行交叉堆叠，特征交叉的程度对着层数的增加而增大，在特征交叉后进行特征向量化及降维，并调整用户和项目的嵌入表示，通过深度网络的迭代训练至收敛实现源域到目标域的迁移，根据评分机制获取目标用户对知识产权数据的评分信息，并基于评分信息生成若干兴趣向量，表征目标用户预设时间内的兴趣偏好信息。
根据本发明实施例，通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征，具体为：
获取目标对象知识产权需求并生成对应嵌入向量，通过计算嵌入向量及兴趣向量集合中兴趣向量的相似度获取权重分布，利用注意力机制对将目标用户兴趣向量进行拼接聚合；
将拼接聚合后兴趣向量导入LSTM循环结构进行编码，通过所述LSTM循环结构的门控单元获取目标用户的兴趣偏好在时间维度上的权重分布变化，根据时间维度上的权重分布变化获取目标用户的长短期兴趣特征；
构建损失函数训练至收敛，通过所述长短期兴趣特征进行解码后输出目标用户的动态兴趣偏好特征。
需要说明的是，LSTM循环结构通过复杂的细胞单元和门控单元模型用户的兴趣在时序上的变化，根据目标用户的兴趣偏好在时间维度上的权重分布变化进行归一化处理后细分长期兴趣偏好及短期兴趣偏好，提取用户的动态兴趣偏好特征。
根据本发明实施例，利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐，具体为：
根据嵌入空间中用户及用户、用户及项目、项目及项目之间的关系构建异构图，存在关联的节点之间使用边结构进行连接，基于图卷积网络构建知识产权数据个性化推荐模型，对所述异构图进行表征学习；
基于目标用户的动态兴趣偏好特征为异构图中项目节点设置初始权重，利用其他用户与目标用户兴趣偏爱信息的相似度为用户节点设置初始权重；
根据异构图中的节点关系获取三个二部网络，并标注对应的边结构类型，映射到对应的语义空间中，通过计算一对存在链路的节点在三个对应语义空间的欧氏距离联合获取相似度，获取每个节点基于不同链路的低维向量表示；
将嵌入空间中节点的低维向量表示通过非线性函数进行维度变换，引入注意力机制结合初始权重，通过加权融合不同链路的邻居节点的低维向量表示更新节点的特征向量表示，利用表征学习后的用户及项目特征向量表示结合获取预测值；
根据各项目的预测值确定目标用户的知识产权数据个性化推荐内容。
需要说明的是，通过PME方法计算一对存在链路的节点在三个对应语义空间的欧氏距离联合获取相似度，获取每个节点基于不同链路的低维向量表示，损失函数
更新的公式为：
其中，
表示存在链路的节点，/>
表示与/>
的无关节点，/>
表示节点间欧式距离，/>
表示边结构类型，/>
表示边结构的正样本集，/>
表示标准合页损失，/>
表示安全距离大小。通过随机梯度算法最小化损失并最终获得节点的低维向量表示。
将嵌入空间中节点的低维向量表示通过非线性函数进行维度变换，
，/>
表示转换的权重和偏置参数，/>
表示基于链路/>
中节点/>
的初始低维向量表示及维度变换后的节点低维向量表示，/>
表示激活函数；/>
根据不同链路中各节点的初始权重获取链路中的偏好向量，将链路的低维向量表示与所述偏好向量进行相似度计算获取注意力权重,获取所有链路
对节点/>
的重要程度，获取注意力权重，具体为：
其中，
表示链路/>
对节点/>
注意力权重，/>
表示链路/>
的低维向量表示与偏好向量的相似度；
将节点对应的所有链路的注意力权重结合自身初始权重进行加权融合，更新节点的特征向量表示
，/>
。
需要说明的是，通过目标用户的兴趣偏好特征构建检索标签，在用户行为记录中通过相似度检索获取相似度符合预设标准的用户行为记录并进行标记，将标记的用户行为记录构建个性化数据集；同时根据用户行为记录的更新对个性化数据集进行数据扩充，通过个性化数据集对多层感知机进行训练，获取用户对推荐预测的评分，利用均方根值将推荐预测评分与个性化数据集对应评分集中的真实评分做比较；若推荐预测评分与真实评分的均方根值小于预设均方根阈值，则判断模型的推荐准确度达到预设标准；若推荐预测评分与真实评分的均方根值大于等于预设均方根阈值，则对模型超参数进行优化训练，在防止过拟合情况下训练得到模型最优超参数，并进行配置参数更新。
本发明第三方面还提供一种计算机可读存储介质，所述计算机可读存储介质中包括一种基于深度学习的知识产权个性化推荐方法程序，所述一种基于深度学习的知识产权个性化推荐方法程序被处理器执行时，实现如上述任一项所述的一种基于深度学习的知识产权个性化推荐方法的步骤。
在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，如：多个单元或组件可以结合，或可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口，设备或单元的间接耦合或通信连接，可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的，作为单元显示的部件可以是、或也可以不是物理单元；既可以位于一个地方，也可以分布到多个网络单元上；可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外，在本发明各实施例中的各功能单元可以全部集成在一个处理单元中，也可以是各单元分别单独作为一个单元，也可以两个或两个以上单元集成在一个单元中；上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：移动存储设备、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等各种可以存储程序代码的介质。
或者，本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机、服务器、或者网络设备等）执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括：移动存储设备、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种基于深度学习的知识产权个性化推荐方法，其特征在于，包括以下步骤：
获取目标用户的背景信息，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏爱信息；
通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；
利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；
根据个性化推荐学习到用户的兴趣偏好特征之后，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化。
2.根据权利要求1所述的一种基于深度学习的知识产权个性化推荐方法，其特征在于，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏好信息，具体为：
获取目标用户的基础信息判断目标用户的身份信息，基于身份信息按照预设属性类别及属性指标获取目标用户的背景信息，提取目标用户背景信息的知识产权相关信息及科技资源相关信息；
根据所述知识产权相关信息及科技资源相关信息进行预处理，并提取词向量，根据各词向量在的出现频率及分布广度获取关键词信息确定目标用户当前知识产权现状；
基于关键词对知识产权相关信息及科技资源相关信息进行分类，并获取对应特征集合，将科技资源特征集合作为源域，知识产权特征集合作为目标域，利用迁移学习缓解目标对象知识产权相关信息的数据稀疏；
获取源域及目标域中目标用户对项目的评分矩阵及其他属性信息，将评分矩阵及属性信息进行特征拼接，构建深度网络先后进行源域和目标域训练，将源域训练参数迁移到目标域替换为新训练参数；
通过深度网络的迭代训练至收敛实现源域到目标域的迁移，获取目标用户对知识产权数据的评分信息，并基于评分信息生成若干兴趣向量，表征目标用户预设时间内的兴趣偏好信息。
3.根据权利要求1所述的一种基于深度学习的知识产权个性化推荐方法，其特征在于，通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征，具体为：
获取目标对象知识产权需求并生成对应嵌入向量，通过计算嵌入向量及兴趣向量集合中兴趣向量的相似度获取权重分布，利用注意力机制对将目标用户兴趣向量进行拼接聚合；
将拼接聚合后兴趣向量导入LSTM循环结构进行编码，通过所述LSTM循环结构的门控单元获取目标用户的兴趣偏好在时间维度上的权重分布变化，根据时间维度上的权重分布变化获取目标用户的长短期兴趣特征；
构建损失函数训练至收敛，通过所述长短期兴趣特征进行解码后输出目标用户的动态兴趣偏好特征。
4.根据权利要求1所述的一种基于深度学习的知识产权个性化推荐方法，其特征在于，利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐，具体为：
根据嵌入空间中用户及用户、用户及项目、项目及项目之间的关系构建异构图，存在关联的节点之间使用边结构进行连接，基于图卷积网络构建知识产权数据个性化推荐模型，对所述异构图进行表征学习；
基于目标用户的动态兴趣偏好特征为异构图中项目节点设置初始权重，利用其他用户与目标用户兴趣偏爱信息的相似度为用户节点设置初始权重；
根据异构图中的节点关系获取三个二部网络，并标注对应的边结构类型，映射到对应的语义空间中，通过计算一对存在链路的节点在三个对应语义空间的欧氏距离联合获取相似度，获取每个节点基于不同链路的低维向量表示；
将嵌入空间中节点的低维向量表示通过非线性函数进行维度变换，引入注意力机制结合初始权重，通过加权融合不同链路的邻居节点的低维向量表示更新节点的特征向量表示，利用表征学习后的用户及项目特征向量表示结合获取预测值；
根据各项目的预测值确定目标用户的知识产权数据个性化推荐内容。
5.根据权利要求4所述的一种基于深度学习的知识产权个性化推荐方法，其特征在于，通过加权融合不同链路的邻居节点的低维向量表示更新节点的特征向量表示，具体为：
根据不同链路中各节点的初始权重获取链路中的偏好向量，将链路的低维向量表示与所述偏好向量进行相似度计算获取注意力权重；
将节点对应的所有链路的注意力权重结合自身初始权重进行加权融合，更新节点的特征向量表示。
6.根据权利要求1所述的一种基于深度学习的知识产权个性化推荐方法，其特征在于，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化，具体为：
通过目标用户的兴趣偏好特征构建检索标签，在用户行为记录中通过相似度检索获取相似度符合预设标准的用户行为记录并进行标记，将标记的用户行为记录构建个性化数据集；
同时根据用户行为记录的更新对个性化数据集进行数据扩充，通过个性化数据集对多层感知机进行训练，获取用户对推荐预测的评分，利用均方根值将推荐预测评分与个性化数据集对应评分集中的真实评分做比较；
若推荐预测评分与真实评分的均方根值小于预设均方根阈值，则判断模型的推荐准确度达到预设标准；
若推荐预测评分与真实评分的均方根值大于等于预设均方根阈值，则对模型超参数进行优化训练，在防止过拟合情况下训练得到模型最优超参数，并进行配置参数更新。
7.一种基于深度学习的知识产权个性化推荐系统，其特征在于，该系统包括：存储器、处理器，所述存储器中包括一种基于深度学习的知识产权个性化推荐方法程序，所述一种基于深度学习的知识产权个性化推荐方法程序被所述处理器执行时实现如下步骤：
获取目标用户的背景信息，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣信息；
通过注意力机制将兴趣向量集合中的兴趣向量进行聚合，将聚合后的兴趣向量引入LSTM网络提取用户的动态兴趣偏好特征；
利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐；
根据个性化推荐学习到用户的兴趣偏好特征之后，基于兴趣偏好特征提取相关行为记录构建个性化数据集，训练多层感知器，计算推荐预测的评分，利用评分结果对模型参数进行优化。
8.根据权利要求7所述的一种基于深度学习的知识产权个性化推荐系统，其特征在于，根据所述背景信息挖掘用户行为记录中的序列关系生成若干兴趣向量，构建兴趣向量集合表达用户预设时间内的兴趣偏好信息，具体为：
获取目标用户的基础信息判断目标用户的身份信息，基于身份信息按照预设属性类别及属性指标获取目标用户的背景信息，提取目标用户背景信息的知识产权相关信息及科技资源相关信息；
根据所述知识产权相关信息及科技资源相关信息进行预处理，并提取词向量，根据各词向量在的出现频率及分布广度获取关键词信息确定目标用户当前知识产权现状；
基于关键词对知识产权相关信息及科技资源相关信息进行分类，并获取对应特征集合，将科技资源特征集合作为源域，知识产权特征集合作为目标域，利用迁移学习缓解目标对象知识产权相关信息的数据稀疏；
获取源域及目标域中目标用户对项目的评分矩阵及其他属性信息，将评分矩阵及属性信息进行特征拼接，构建深度网络先后进行源域和目标域训练，将源域训练参数迁移到目标域替换为新训练参数；
通过深度网络的迭代训练至收敛实现源域到目标域的迁移，获取目标用户对知识产权数据的评分信息，并基于评分信息生成若干兴趣向量，表征目标用户预设时间内的兴趣偏好信息。
9.根据权利要求7所述的一种基于深度学习的知识产权个性化推荐系统，其特征在于，利用图卷积网络根据所述动态兴趣偏好特征生成目标用户当前知识产权需求在嵌入空间的预测链路作为个性化推荐，具体为：
根据嵌入空间中用户及用户、用户及项目、项目及项目之间的关系构建异构图，存在关联的节点之间使用边结构进行连接，基于图卷积网络构建知识产权数据个性化推荐模型，对所述异构图进行表征学习；
基于目标用户的动态兴趣偏好特征为异构图中项目节点设置初始权重，利用其他用户与目标用户兴趣偏爱信息的相似度为用户节点设置初始权重；
根据异构图中的节点关系获取三个二部网络，并标注对应的边结构类型，映射到对应的语义空间中，通过计算一对存在链路的节点在三个对应语义空间的欧氏距离联合获取相似度，获取每个节点基于不同链路的低维向量表示；
将嵌入空间中节点的低维向量表示通过非线性函数进行维度变换，引入注意力机制结合初始权重，通过加权融合不同链路的邻居节点的低维向量表示更新节点的特征向量表示，利用表征学习后的用户及项目特征向量表示结合获取预测值；
根据各项目的预测值确定目标用户的知识产权数据个性化推荐内容。
10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中包括一种基于深度学习的知识产权个性化推荐方法程序，所述一种基于深度学习的知识产权个性化推荐方法程序被处理器执行时，实现如权利要求1至6中任一项所述的一种基于深度学习的知识产权个性化推荐方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310151519.9A CN115878904B (zh) | 2023-02-22 | 2023-02-22 | 基于深度学习的知识产权个性化推荐方法、系统及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310151519.9A CN115878904B (zh) | 2023-02-22 | 2023-02-22 | 基于深度学习的知识产权个性化推荐方法、系统及介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115878904A true CN115878904A (zh) | 2023-03-31 |
| CN115878904B CN115878904B (zh) | 2023-06-02 |
Family
ID=85761550
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310151519.9A Active CN115878904B (zh) | 2023-02-22 | 2023-02-22 | 基于深度学习的知识产权个性化推荐方法、系统及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115878904B (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116561446A (zh) * | 2023-07-10 | 2023-08-08 | 中国传媒大学 | 多模态项目推荐方法、系统及设备和存储介质 |
| CN116645174A (zh) * | 2023-07-27 | 2023-08-25 | 山东省人工智能研究院 | 基于解耦多行为表征学习的个性化推荐方法 |
| CN116932893A (zh) * | 2023-06-21 | 2023-10-24 | 江苏大学 | 一种基于图卷积网络的序列推荐方法、系统、设备及介质 |
| CN117217710A (zh) * | 2023-10-19 | 2023-12-12 | 深圳市金文网络科技有限公司 | 一种虚拟商品与快捷服务的智能化管理方法及系统 |
| CN117216403A (zh) * | 2023-10-12 | 2023-12-12 | 南京雅利恒文化科技有限公司 | 一种基于Web的个性化服务推荐方法 |
| CN116932893B (zh) * | 2023-06-21 | 2024-06-04 | 江苏大学 | 一种基于图卷积网络的序列推荐方法、系统、设备及介质 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110704640A (zh) * | 2019-09-30 | 2020-01-17 | 北京邮电大学 | 一种知识图谱的表示学习方法及装置 |
| CN112541132A (zh) * | 2020-12-23 | 2021-03-23 | 北京交通大学 | 基于多视图知识表示的跨领域推荐方法 |
| CN113590900A (zh) * | 2021-07-29 | 2021-11-02 | 南京工业大学 | 一种融合动态知识图谱的序列推荐方法 |
| US20210397980A1 (en) * | 2020-06-22 | 2021-12-23 | Beijing Baidu Netcom Science Technology Co., Ltd. | Information recommendation method and apparatus, electronic device, and readable storage medium |
| CN114021024A (zh) * | 2021-12-09 | 2022-02-08 | 中国科学院重庆绿色智能技术研究院 | 一种融合用户偏好预测的深度强化学习推荐方法 |
| CN114461907A (zh) * | 2022-01-24 | 2022-05-10 | 华中师范大学 | 一种基于知识图谱的多元环境感知推荐方法及系统 |
| US20220277031A1 (en) * | 2021-03-01 | 2022-09-01 | International Business Machines Corporation | Guided exploration for conversational business intelligence |
| CN115114526A (zh) * | 2022-06-30 | 2022-09-27 | 南京邮电大学 | 一种多行为增强信息的加权图卷积网络评分预测推荐方法 |
| CN115481325A (zh) * | 2022-10-10 | 2022-12-16 | 东南大学 | 基于用户全局兴趣迁移感知的个性化新闻推荐方法及系统 |
-
2023
- 2023-02-22 CN CN202310151519.9A patent/CN115878904B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110704640A (zh) * | 2019-09-30 | 2020-01-17 | 北京邮电大学 | 一种知识图谱的表示学习方法及装置 |
| US20210397980A1 (en) * | 2020-06-22 | 2021-12-23 | Beijing Baidu Netcom Science Technology Co., Ltd. | Information recommendation method and apparatus, electronic device, and readable storage medium |
| CN112541132A (zh) * | 2020-12-23 | 2021-03-23 | 北京交通大学 | 基于多视图知识表示的跨领域推荐方法 |
| US20220277031A1 (en) * | 2021-03-01 | 2022-09-01 | International Business Machines Corporation | Guided exploration for conversational business intelligence |
| CN113590900A (zh) * | 2021-07-29 | 2021-11-02 | 南京工业大学 | 一种融合动态知识图谱的序列推荐方法 |
| CN114021024A (zh) * | 2021-12-09 | 2022-02-08 | 中国科学院重庆绿色智能技术研究院 | 一种融合用户偏好预测的深度强化学习推荐方法 |
| CN114461907A (zh) * | 2022-01-24 | 2022-05-10 | 华中师范大学 | 一种基于知识图谱的多元环境感知推荐方法及系统 |
| CN115114526A (zh) * | 2022-06-30 | 2022-09-27 | 南京邮电大学 | 一种多行为增强信息的加权图卷积网络评分预测推荐方法 |
| CN115481325A (zh) * | 2022-10-10 | 2022-12-16 | 东南大学 | 基于用户全局兴趣迁移感知的个性化新闻推荐方法及系统 |
Non-Patent Citations (1)
| Title |
|---|
| （印度）卡西克·拉玛苏布兰马尼安，阿布舍克·辛格: "R语言机器学习（原书第2版）", 机械工业出版社 * |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116932893A (zh) * | 2023-06-21 | 2023-10-24 | 江苏大学 | 一种基于图卷积网络的序列推荐方法、系统、设备及介质 |
| CN116932893B (zh) * | 2023-06-21 | 2024-06-04 | 江苏大学 | 一种基于图卷积网络的序列推荐方法、系统、设备及介质 |
| CN116561446A (zh) * | 2023-07-10 | 2023-08-08 | 中国传媒大学 | 多模态项目推荐方法、系统及设备和存储介质 |
| CN116561446B (zh) * | 2023-07-10 | 2023-10-20 | 中国传媒大学 | 多模态项目推荐方法、系统及设备和存储介质 |
| CN116645174A (zh) * | 2023-07-27 | 2023-08-25 | 山东省人工智能研究院 | 基于解耦多行为表征学习的个性化推荐方法 |
| CN116645174B (zh) * | 2023-07-27 | 2023-10-17 | 山东省人工智能研究院 | 基于解耦多行为表征学习的个性化推荐方法 |
| CN117216403A (zh) * | 2023-10-12 | 2023-12-12 | 南京雅利恒文化科技有限公司 | 一种基于Web的个性化服务推荐方法 |
| CN117217710A (zh) * | 2023-10-19 | 2023-12-12 | 深圳市金文网络科技有限公司 | 一种虚拟商品与快捷服务的智能化管理方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115878904B (zh) | 2023-06-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111428053B (zh) | 一种面向税务领域知识图谱的构建方法 | |
| CN109657947B (zh) | 一种面向企业行业分类的异常检测方法 | |
| CN115878904B (zh) | 基于深度学习的知识产权个性化推荐方法、系统及介质 | |
| CN113392209B (zh) | 一种基于人工智能的文本聚类方法、相关设备及存储介质 | |
| Anoop et al. | Aspect-oriented sentiment analysis: a topic modeling-powered approach | |
| CN113392651A (zh) | 训练词权重模型及提取核心词的方法、装置、设备和介质 | |
| CN114358657B (zh) | 一种基于模型融合的岗位推荐方法及装置 | |
| Lu et al. | Stock trend prediction algorithm based on deep recurrent neural network | |
| CN115062732A (zh) | 基于大数据用户标签信息的资源共享合作推荐方法及系统 | |
| CN115982467A (zh) | 一种去偏化用户多兴趣推荐方法、装置及存储介质 | |
| CN115935991A (zh) | 多任务模型生成方法、装置、计算机设备和存储介质 | |
| CN116610818A (zh) | 一种输变电工程项目知识库的构建方法及系统 | |
| CN117494051A (zh) | 一种分类处理的方法、模型训练的方法以及相关装置 | |
| CN114491079A (zh) | 知识图谱构建和查询方法、装置、设备和介质 | |
| CN113869034B (zh) | 基于强化依赖图的方面情感分类方法 | |
| CN114168804B (zh) | 一种基于异质子图神经网络的相似信息检索方法和系统 | |
| Li et al. | An improved genetic-XGBoost classifier for customer consumption behavior prediction | |
| CN115269984A (zh) | 一种专业情报推荐方法和系统 | |
| Zhao et al. | Detecting fake reviews via dynamic multimode network | |
| Chen et al. | Dgrl: text classification with deep graph residual learning | |
| Xiong et al. | L-RBF: A customer churn prediction model based on lasso+ RBF | |
| CN112529187A (zh) | 融合多源数据语义与特征的知识获取方法 | |
| Van Le et al. | An efficient pretopological approach for document clustering | |
| Gah et al. | Sentiment Analysis of Twitter Feeds using Machine Learning, Effect of Feature Hash Bit Size | |
| CN110609961A (zh) | 一种基于词嵌入的协同过滤推荐方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |