CN115659060A - 一种基于动态图神经网络的信息推荐方法及系统 - Google Patents

Abstract

本发明公开了一种基于动态图神经网络的信息推荐方法及系统，其中所述方法包括：建立第一项目节点集合；建立第一用户节点集合；基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。本发明充分利用了数据库中全体用户数据中包含的跨用户协同推荐信号，增强了现有基于单用户建模的信息捕捉能力，能够更好的在序列推荐场景中为用户产出高质量推荐结果。

Description

一种基于动态图神经网络的信息推荐方法及系统

技术领域

本发明属于数据挖掘和深度学习领域，尤其涉及一种基于动态图神经网络的信息推荐方法及系统。

背景技术

随着互联网应用的不断发展，用户使用互联网的时间越来越多，如何使用户在海量信息中快速获得可能需要的信息，进一步提高用户体验和与用户交互沟通，则需要为用户提供信息推荐服务。例如，在医疗服务平台中，就需要及时为患者提供有用的服务信息。

其中，序列推荐(Sequential Recommendation)旨在通过顺序的方式建模并利用数据信息，为用户挑选出有效信息，作为推荐系统的一个重要分支手段收到了国内外研究人员的广泛关注，涌现了许多推荐方法。基于神经网络的序列推荐方法能够自动提取数据的深层特征，已发展成为最主流的推荐方法之一。

近年来，研究人员利用不同结构的神经网络进行信息推荐任务，并取得了最先进的研究成果。文献“Tang J,Wang K.Personalized top-n sequential recommendationvia convolutional sequence embedding[C]//Proceedings of the Eleventh ACMInternational Conference on Web Search and Data Mining.2018:565-573”提出了利用一个多层卷积神经网络模型Caser对序列数据进行建模。文献：“Hidasi B,KaratzoglouA,Baltrunas L,et al.Session-based recommendations with recurrent neuralnetworks[J].arXiv preprint arXiv:1511.06939,2015”提出GRU4REC，利用门控循环神经网络捕捉序列特性。进一步的，文献：“Hidasi B, Karatzoglou A.Recurrent neuralnetworks with top-k gains for session-based recommendations[C]//Proceedingsof the 27th ACM International Conference on Information and KnowledgeManagement.2018:843-852”提出GRU4REC+，其在 GRU4REC的基础上改进了损失函数的结构，进一步精细化捕捉序列信息。文献“Hidasi B,Karatzoglou A,Baltrunas L,etal.Session-based recommendations with recurrent neural networks[J].arXivpreprint arXiv:1511.06939,2015”提出了模型 SASREC，首次将自注意力模型应用于推荐场景，进一步提升了信息的捕捉能力。然而，这些方法均是将模型运用于单用户行为建模，而不能直接捕捉到数据中的跨用户协同信号，导致无法取得最佳性能。经过观察，推荐任务中的跨用户协同信号，可以利用构建用户项目交互图的形式，较为清晰的表现在图的连接关系中。现在需要一种方法能够克服上述技术中的问题。

发明内容

针对上述现有技术中存在的缺陷，本发明提供一种基于动态图神经网络的信息推荐方法，包括以下步骤：

步骤S101、获取第一用户的所有关联项目节点，建立第一项目节点集合，所述第一项目节点集合包含项目节点；

步骤S103、基于所述第一项目节点集合，获取所有关联项目节点的关联用户，建立第一用户节点集合，其中所述第一用户节点集合包括第一用户节点和除所述第一用户之外的所有其他用户节点，

步骤S105、基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；

步骤S107、设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；

步骤S109、基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；

步骤S1011、基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。

其中，所述关联操作包括：

将用户历史行为与相应历史行为的发生时间戳记为序列 S＝{(i₁,ts₁),(i₂,ts₂),...,(i_n,ts_n)}，其中每一个i_i代表一个项目的ID，每一个 ts_i代表该用户与该项目交互时的时间戳；

每一个用户和每一个项目作为一个节点，并将其间发生的交互行为作为连接两类节点的边，边上包含该交互发生的时间戳信息。

其中，所述步骤S107包括：采集所述第一用户节点的K阶邻域范围内的邻居节点，其中所述K为正整数，2≤K≤5。

其中，采集所述第一用户节点的K阶邻域范围内的邻居节点，具体包括：

基于目标时刻和交互时间戳，分别作为目标节点及其邻居的截止时间，以屏蔽在此之后发生的交互所对应的边，然后从其余邻居节点中采样。

其中，所述步骤S109包括：

基于注意力的聚集器计算中心节点和所有邻居节点之间在相等距离的相关性，获取所述第一用户的全局稳定兴趣；

其中，将注意力机制的Query、Key和Value构建为：

q＝Z_ctrW_Q，K_i＝V_i＝Z_iW_KV，i∈Ngh(n_ctr，ts_ctr)

其中

是可学习的参数矩阵，d_h，d_e，d_t，d_a分别是某一节点、边、时间的表示维度和隐藏层的维度、h^k-1是第K-1层之后模型输出的向量表示、ee_i是可学习的边类型表示、0是与边表示维度相同的零向量、te_i是对于时刻ts_i的时间或位置表示；concat指的是将两个向量拼接在一起，R指的是实数域，Ngh指的是从邻居节点中采样；

得到基于注意力的聚集器的输出：

其中，所述步骤S109还包括：

基于时间感知长短期记忆神经网络的聚集器以顺序方式收集邻居信息，获取所述第一用户的局部动态兴趣；

使用时间感知的LSTM作为序列相关聚合器，其包含一个调整后的细胞状态：

TLSTM_cell＝StandardLSTM_cell(X_t，H_t-1，C′_t-1)；

其中e是自然对数的底数，按照时间顺序将邻居连通边信息构建X的逐个输入到单元中，下标t表示第t个输入邻居；

使用最后一层的隐藏状态

作为该聚合器的输出。

其中，所述步骤S109还包括：

通过一个聚合层，聚合所述第一用户的全局稳定兴趣和局部动态兴趣，并更新得到中心节点当前层的节点表示h^k，W_merge为可学习参数：

其中，所述步骤S1011包括：

在时间戳ts_tgt上得到用户表示

和项目表示

并根据

选择推荐的信息。

其中，在每次模型训练的过程中，从训练集中抽取一个用户u和一个交互时间戳为ts的项目i，以及一个u没有交互的负样本项目j，然后使用BPR损失进行训练：

其中C是样本采样集合，σ是sigmoid函数，θ是模型待学习的参数集，λ是控制L2正则化强度的系数。

本发明还提出了一种基于动态图神经网络的信息推荐系统，其包括：

第一获取模块，其用于获取第一用户的所有关联项目节点，建立第一项目节点集合，所述第一项目节点集合包含项目节点；

第二获取模块，其用于基于所述第一项目节点集合，获取所有关联项目节点的关联用户，建立第一用户节点集合，其中所述第一用户节点集合包括第一用户节点和除所述第一用户之外的所有其他用户节点，

交互图构建模块，其用于基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；

邻居采集模块，其用于设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；

邻居聚合模块，其用于基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；

推荐模块，其用于基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。

与现有技术相比，本发明充分利用了数据库中全体用户数据中包含的跨用户协同推荐信号，增强了现有基于单用户建模的信息捕捉能力，能够更好的在序列推荐场景中为用户产出高质量推荐结果。

附图说明

通过参考附图阅读下文的详细描述，本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本公开的若干实施方式，并且相同或对应的标号表示相同或对应的部分，其中：

图1是示出根据本发明实施例的模型框架示意图；

图2是示出根据本发明实施例的一种基于动态图神经网络的信息推荐方法流程图；

图3是示出根据本发明实施例的一种基于动态图神经网络的信息推荐系统的示意图；以及

图4是示出根据本发明实施例的多聚集器组示意图。

具体实施方式

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义，“多种”一般包含至少两种。

应当理解，尽管在本发明实施例中可能采用术语第一、第二、第三等来描述……，但这些……不应限于这些术语。这些术语仅用来将……区分开。例如，在不脱离本发明实施例范围的情况下，第一……也可以被称为第二……，类似地，第二……也可以被称为第一……。

应当理解，本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

取决于语境，如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地，取决于语境，短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的商品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种商品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的商品或者装置中还存在另外的相同要素。

下面结合附图详细说明本发明的可选实施例。

实施例一、

如图1所示，为与本发明某一实施例一致的模型框架示意图。其中，在本申请中物品与项目的概念等同。

如图2所示，本发明公开了一种基于动态图神经网络的信息推荐方法，包括以下步骤：

步骤S101、获取第一用户的所有关联项目节点，建立第一项目节点集合，所述第一项目节点集合包含项目节点；

步骤S103、基于所述第一项目节点集合，获取所有关联项目节点的关联用户，建立第一用户节点集合，其中所述第一用户节点集合包括第一用户节点和除所述第一用户之外的所有其他用户节点，

步骤S105、基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；

步骤S107、设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；

步骤S109、基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；

步骤S1011、基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。

实施例二、

本发明提出的一种基于动态图神经网络的信息推荐方法，包括以下步骤：

步骤S101、获取第一用户的所有关联项目节点，建立第一项目节点集合，所述第一项目节点集合包含项目节点；

步骤S103、基于所述第一项目节点集合，获取所有关联项目节点的关联用户，建立第一用户节点集合，其中所述第一用户节点集合包括第一用户节点和除所述第一用户之外的所有其他用户节点，

步骤S105、基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；

步骤S107、设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；

步骤S109、基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；

步骤S1011、基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。

其中，所述关联操作包括：

将用户历史行为与相应历史行为的发生时间戳记为序列 S＝{(i₁，ts₁)，(i₂，ts₂)，...，(i_n，ts_n)}，其中每一个i_i代表一个项目的ID，每一个 ts_i代表该用户与该项目交互时的时间戳；

每一个用户和每一个项目作为一个节点，并将其间发生的交互行为作为连接两类节点的边，边上包含该交互发生的时间戳信息。

其中，所述步骤S107包括：采集所述第一用户节点的K阶邻域范围内的邻居节点，其中所述K为正整数，2≤K≤5。

其中，采集所述第一用户节点的K阶邻域范围内的邻居节点，具体包括：

基于目标时刻和交互时间戳，分别作为目标节点及其邻居的截止时间，以屏蔽在此之后发生的交互所对应的边，然后从其余邻居节点中采样。

其中，所述步骤S109包括：

基于注意力的聚集器计算中心节点和所有邻居节点之间在相等距离的相关性，获取所述第一用户的全局稳定兴趣；

其中，将注意力机制的Query、Key和Value构建为：

q＝Z_ctrW_Q，K_i＝V_i＝Z_iW_KV，i∈Ngh(n_ctr，ts_ctr)

其中

是可学习的参数矩阵，d_h，d_e，d_t，d_a分别是某一节点、边、时间的表示维度和隐藏层的维度、h^k-1是第K-1层之后模型输出的向量表示、ee_i是可学习的边类型表示、0是与边表示维度相同的零向量、te_i是对于时刻ts_i的时间或位置表示；concat指的是将两个向量拼接在一起，R指的是实数域，Ngh指的是从邻居节点中采样；

得到基于注意力的聚集器的输出：

其中，所述步骤S109还包括：

基于时间感知长短期记忆神经网络的聚集器以顺序方式收集邻居信息，获取所述第一用户的局部动态兴趣；

使用时间感知的LSTM作为序列相关聚合器，其包含一个调整后的细胞状态：

TLSTM_cell＝StandardLSTM_cell(X_t，H_t-1，C′_t-1)；

其中e是自然对数的底数，按照时间顺序将邻居连通边信息构建X的逐个输入到单元中，下标t表示第t个输入邻居；

使用最后一层的隐藏状态

作为该聚合器的输出。

其中，所述步骤S109还包括：

通过一个聚合层，聚合所述第一用户的全局稳定兴趣和局部动态兴趣，并更新得到中心节点当前层的节点表示h^k，W_merge为可学习参数：

其中，所述步骤S1011包括：

在时间戳ts_tgt上得到用户表示

和项目表示

并根据

选择推荐的信息。

其中，在每次模型训练的过程中，从训练集中抽取一个用户u和一个交互时间戳为ts的项目i，以及一个u没有交互的负样本项目j，然后使用BPR损失进行训练：

其中C是样本采样集合，σ是sigmoid函数，θ是模型待学习的参数集，λ是控制L2正则化强度的系数。

实施例三、

如图3所示，本发明还提出了一种基于动态图神经网络的信息推荐系统，其包括：

第一获取模块，其用于获取第一用户的所有关联项目节点，建立第一项目节点集合，所述第一项目节点集合包含项目节点；

第二获取模块，其用于基于所述第一项目节点集合，获取所有关联项目节点的关联用户，建立第一用户节点集合，其中所述第一用户节点集合包括第一用户节点和除所述第一用户之外的所有其他用户节点，

交互图构建模块，其用于基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；

邻居采集模块，其用于设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；

邻居聚合模块，其用于基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；

推荐模块，其用于基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。

其中，该系统主要包括四个模块：

第一个模块，基于用户历史行为数据的交互图构建模块：利用推荐系统中的用户历史行为数据，构建包含用户和项目节点的交互图；

第二个模块，基于时间顺序的邻居采集模块：利用交互图边上的时间戳，对用户和项目的邻居进行顺序采样；

第三个模块，基于全局和局部兴趣感知的邻居聚合模块：提出了一种简洁高效邻居聚合方式，能够同时感知邻居序列中包含的全局稳定和局部动态的用户兴趣；

第四个模块，基于内积的模型打分和训练模块，在本申请也可简称为推荐模块：采用内积进行推荐打分，并使用贝叶斯个性化排序损失函数进行模型训练。

下面我们将详细介绍这四个模块的内容。

基于用户历史行为数据的交互图构建模块

给定任意一个用户，我们都拥有其历史行为(如：点击，购买)记录的一个序列连同这些记录发生时间戳S＝{(i₁，ts₁)，(i₂，ts₂)，...，(i_n，ts_n)}，其中每一个i_i代表一个项目的ID，每一个ts_i代表该用户对该项目交互时的时间戳。对于数据库中包含的全体用户和项目，连同他们之间的交互记录，我们可以将每一个用户和每一个项目作为一个节点，并将其间发生的交互行为作为连接两类节点的边，边上包含该交互发生的时间戳信息。至此，我们可以获得一张用户和项目交互关系的图(Graph)，称之为交互二部图。

基于时间顺序的邻居采集模块

采样阶段的目标是收集目标节点n_tgt的K阶邻域范围，K指的是图神经网络的深度，应用中一般为2-5，本实施例取3内的邻居，用作后续信息聚合阶段的中心节点n_ctr。对于利用动态图神经网络进行序列推荐的方法，应在采样前按时间顺序对与邻居相连的部分边进行屏蔽。具体来说，使用推荐时间和交互时间分别作为目标节点及其邻居的截止时间，以屏蔽在此之后发生的交互所对应的边，然后从其余邻居节点中采样。考虑到用户节点和项目节点的平均度(degree，即平均发生的交互数)往往不同，因此需要为它们选择不同的采样规模，并通常将其设置为平均度的两倍。采样过程可以遵循随机采样或最近采样的策略。对于那些度小于采样规模的节点，padding节点用于填充补齐。

基于全局和局部兴趣感知的邻居聚合模块

在序列推荐场景中，用户的兴趣通常是全局稳定兴趣和局部动态兴趣的结合。在图神经网络架构中，邻域信息的辨别和融合发生在聚合阶段。基于这一思想，我们提出了一种基于注意机制和时间感知长短期记忆神经网络的组合，并称之为多聚集器组，以同时捕获序列无关和序列相关的信息。如下图2所示。图中左下方节点序列中的虚线表示截止时间戳ts_cut，虚线圆圈表示未被采样或被时间顺序屏蔽的邻居节点，实心箭头表示向量表示的传输，虚线箭头表示用作注意力Query 的向量表示。

基于注意力的聚集器可以计算中心节点和所有邻居之间在相等距离的相关性，这有助于捕获全局稳定兴趣。为了在时间戳ts_ctr处聚合中心节点n_ctr的邻居信息，我们首先将注意力机制的Query、Key和Value 构建为：

q＝Z_ctrW_Q，K_i＝V_i＝Z_iW_KV，i∈Ngh(n_ctr，ts_ctr)

其中

是可学习的参数矩阵，d_h，d_e，d_t，d_a分别是节点、边、时间的表示维度和隐藏层的维度。h^k-1是第k-1层之后模型输出的向量表示。ee_i是可学习的边类型表示。0是与边表示维度相同的零向量。te_i是对于时刻ts_i的时间或位置表示。之后，我们就可以得到基于注意力的聚集器的输出：

基于时间感知长短期记忆神经网络的聚集器以顺序方式收集邻居节点信息，以揭示随时间变化的局部动态兴趣。同时，交互之间的时间间隔也反映了会话分割和兴趣转移等重要语义信息。因此，我们使用时间感知的LSTM(称为T-LSTM)模块作为序列相关聚合器。其核心是一个标准的LSTM单元，并包含一个调整后的细胞状态：

TLSTM_cell＝StandardLSTM_cell(X_t，H_t-1，C′_t-1)

其中e是自然对数的底数。在基于T-LSTM的聚合器的计算过程中，我们按照时间顺序将邻居连通边信息构建X的逐个输入到单元中。下标t表示第t个输入邻居。我们使用最后一层的隐藏状态

作为该聚合器的输出。其中，X指的是输入，用的是被聚集的节点的向量表示；H指的是LSTM中的隐藏状态，C指的是LSTM中的细胞状态； TLSTMcell全称是time-aware LSTM cell，是改进后的LSTM的一个单元。

最后，通过一个聚合层，聚合用户的全局稳定兴趣和局部动态兴趣，并更新得到中心节点当前层的节点表示h^k，W_merge为可学习参数：

基于内积的模型打分和训练模块，在本申请中可简称为推荐模块。

在模型计算完成后，我们可以在时间戳ts_tgt上得到用户表示

和项目表示

并根据

计算推荐排名分数。

实施例四、

本公开实施例提供了一种非易失性计算机存储介质，所述计算机存储介质存储有计算机可执行指令，该计算机可执行指令可执行如上实施例所述的方法步骤。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(AN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/ 或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

以上介绍了本发明的较佳实施方式，旨在使得本发明的精神更加清楚和便于理解，并不是为了限制本发明，凡在本发明的精神和原则之内，所做的修改、替换、改进，均应包含在本发明所附的权利要求概括的保护范围之内。

Claims (10)

1.一种基于动态图神经网络的信息推荐方法，包括以下步骤：

步骤S101、获取第一用户的所有关联项目节点，建立第一项目节点集合，所述第一项目节点集合包含项目节点；

步骤S103、基于所述第一项目节点集合，获取所有关联项目节点的关联用户，建立第一用户节点集合，其中所述第一用户节点集合包括第一用户节点和除所述第一用户之外的所有其他用户节点，

步骤S105、基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；

步骤S107、设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；

步骤S109、基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；

步骤S1011、基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。

2.如权利要求1所述方法，其中所述关联操作包括：

将用户历史行为与相应历史行为的发生时间戳记为序列S＝{(i₁，ts₁)，(i₂，ts₂)，...，(i_n，ts_n)}，其中每一个i_i代表一个项目的ID，每一个ts_i代表该用户与该项目交互时的时间戳；

每一个用户和每一个项目作为一个节点，并将其间发生的交互行为作为连接两类节点的边，边上包含该交互发生的时间戳信息。

3.如权利要求2所述方法，其中所述步骤S107包括：采集所述第一用户节点的K阶邻域范围内的邻居节点，其中所述K为正整数，2≤K≤5。

4.如权利要求3所述方法，其中采集所述第一用户节点的K阶邻域范围内的邻居节点，具体包括：

基于目标时刻和交互时间戳，分别作为目标节点及其邻居的截止时间，以屏蔽在此之后发生的交互所对应的边，然后从其余邻居节点中采样。

5.如权利要求1所述方法，其中所述步骤S109包括：

基于注意力的聚集器计算中心节点和所有邻居节点之间在相等距离的相关性，获取所述第一用户的全局稳定兴趣；

其中，将注意力机制的Query、Key和Value构建为：

q＝Z_ctrW_Q，K_i＝V_i＝Z_iW_KV，i∈Ngh(n_ctr，ts_ctr)

其中

是可学习的参数矩阵，d_h，d_e，d_t，d_a分别是某一节点、边、时间的表示维度和隐藏层的维度、h^k-1是第K-1层之后模型输出的向量表示、ee_i是可学习的边类型表示、0是与边表示维度相同的零向量、te_i是对于时刻ts_i的时间或位置表示；concat指的是将两个向量拼接在一起，R指的是实数域，Ngh指的是从邻居节点中采样；

得到基于注意力的聚集器的输出：

6.如权利要求5所述方法，其中所述步骤S109还包括：

基于时间感知长短期记忆神经网络的聚集器以顺序方式收集邻居信息，获取所述第一用户的局部动态兴趣；

使用时间感知的LSTM作为序列相关聚合器，其包含一个调整后的细胞状态：

TLSTM_cell＝StandardLSTM_cell(X_t，H_t-1，C′_t-1)；

其中e是自然对数的底数，按照时间顺序将邻居连通边信息构建X的逐个输入到单元中，下标t表示第t个输入邻居；

使用最后一层的隐藏状态

作为该聚合器的输出。

7.如权利要求6所述方法，其中所述步骤S109还包括：

通过一个聚合层，聚合所述第一用户的全局稳定兴趣和局部动态兴趣，并更新得到中心节点当前层的节点表示h^k，W_merge为可学习参数：

8.如权利要求1所述方法，其中所述步骤S1011包括：

在时间戳ts_tgt上得到用户表示

和项目表示

并根据

选择推荐的信息。

9.如权利要求8所述方法，其中在每次模型训练的过程中，从训练集中抽取一个用户u和一个交互时间戳为ts的项目i，以及一个u没有交互的负样本项目j，然后使用BPR损失进行训练：

其中C是样本采样集合，σ是sigmoid函数，θ是模型待学习的参数集，λ是控制L2正则化强度的系数。

10.一种基于动态图神经网络的信息推荐系统，其包括：

第一获取模块，其用于获取第一用户的所有关联项目节点，建立第一项目节点集合，所述第一项目节点集合包含项目节点；

第二获取模块，其用于基于所述第一项目节点集合，获取所有关联项目节点的关联用户，建立第一用户节点集合，其中所述第一用户节点集合包括第一用户节点和除所述第一用户之外的所有其他用户节点，

交互图构建模块，其用于基于所述用户历史行为，将所述关联项目节点与所述关联用户关联；

邻居采集模块，其用于设定目标时刻，基于所述目标时刻，获取第一用户的邻居节点，所述邻居节点包含用户节点和项目节点；

邻居聚合模块，其用于基于注意力机制和时间感知长短记忆神经网络，获取所述第一用户的全局稳定兴趣和局部动态兴趣；

推荐模块，其用于基于所述第一用户的全局稳定兴趣和局部动态兴趣，生成推荐信息。

Images