CN113784380B - 一种采用图注意力网络与融合邻域的拓扑预测方法 - Google Patents

Abstract

本发明公开了一种采用图注意力网络与融合邻域的拓扑预测方法，包括如下步骤：步骤1：将时间上连续的原始网络按时间段切分成一系列的时间快照，并对原始网络中节点对的起始链接时间的事件集进行数据转化。步骤2：静态邻域通过GAT嵌入门控循环单元(GRU)从时间快照中聚合邻居特征，并使用自注意力机制计算每一个时间快照的权值。根据权值计算所有节点的节点表示。步骤3：动态邻域通过时序点过程直接对邻居生成序列。步骤4：融合静态邻域生成与动态邻域生成进行拓扑预测。本发明充分地考虑动态节点之间的复杂关系，从而在机会网络中捕获其链路变化的潜在特征，能够解决现有技术无法准确地把握机会网络节点对在时域上的演变规律的技术问题。

Description

一种采用图注意力网络与融合邻域的拓扑预测方法

技术领域

本发明涉及机会网络分析技术领域，特别是涉及一种采用图注意力网络与融合邻域的拓扑预测方法。

背景技术

机会网络是一种源节点与目的节点之间并不是直接相连，通过节点移动创造相遇机会来实现两节点间通信的移动自组织网络，并通过“存储-携带-转发”的方式进行传输数据。

近年来，机会网络在民用和军用领域的应用项目的实施已经得到了深入的开展，并且它在实际应用方面的部署也得到了很大的进展。利用机会网络，能够规划科学、有效的交通路线；也可运用到推荐系统中，精确地推荐商品给用户；机会网络在战役战术中为整个作战的通信网络系统能够确保链路之间信息的准确传输，并保证了网络战系统的正常稳定的运作，这也充分证明了机会网络在军事方面和民用上产生了巨大的潜力和广阔发展的前景。

目前基于深度学习在动态网络的拓扑预测虽然取得了很大成果，但是关于动态网络的研究通常是静态图方法的拓展。这些动态网络嵌入算法，试图通过将时间轴划分为固定大小来对动态建模。但这种方式所学习的嵌入仍然只表示了特殊时间段，而没有考虑到动态过程，无法准确地把握机会网络节点对在时域上的演变规律。

发明内容

针对上述问题，本发明的目的在于提出一种采用图注意力网络与融合邻域的拓扑预测方法，以解决现有技术无法准确地把握机会网络节点对在时域上的演变规律的技术问题。

本发明采用的技术方案如下：一种采用图注意力网络与融合邻域的拓扑预测方法，包括如下步骤：

步骤1：将时间上连续的原始网络按时间段切分成一系列的时间快照，并对原始网络中节点对的起始链接时间的事件集进行数据转化。

步骤2：静态邻域通过GAT嵌入门控循环单元(GRU)从时间快照中聚合邻居特征，并使用自注意力机制计算每一个时间快照的权值。根据权值计算所有节点的节点表示。

步骤3：动态邻域通过时序点过程直接对邻居生成序列。

步骤4：融合静态邻域生成与动态邻域生成进行拓扑预测。

进一步地，所述步骤2中使用自注意力机制计算每一个时间快照的权重，最后计算得出节点向量。将GRU的隐藏状态向量h₁,…,h_T作为输入，并根据权值计算节点表示，如式(1)所示。

α_t＝softmax(w^Ttanh(Vh_t)) (1)

其中，

和/>

是参数，α_t表示相比于其它时间快照，该时间快照的重要性。

进一步地，所述步骤3中构建时序点过程，假设节点x∈V，该节点的邻居集记为N(x)＝{y_i|i＝1,2,…}，节点之间使用交互事件

表示，即节点y_i在t_i时刻与目标节点x产生连边。则节点x与节点y_i形成连边事件的条件强度函数可以如下形式表示：

其中，

和/>

都是参数，/>

代表历史邻居对目标节点x的影响，

代表当前邻居对目标节点x的影响，b_i代表偏置。f:R→R⁺是一个将条件强度函数转化为正实数的函数，即/>

其中s是参数值。

假设卷积核的大小为k，对于一个项目

加上前面的k-1一个项目，生成一个新的卷积表示t^k，前k-1个项目可以用0来自动补全，假设了多个窗口大小k∈{k₁,k₂,...,k_m}。为学习不同的特征，然后对多滤波器卷积表示进行平均池化，其中项的最终卷积向量为

定义为/>

为了进一步考虑连续时间，采用了时间感知的LSTM(Long Short-Term Memory)求解历史节点对当前节点的影响，其中输入为卷积向量v，隐藏状态向量h(t)，依赖于记忆细胞c(t)，如下式所示：

h(t)＝o_k⊙(2σ(2c(t))-1) (4)

其中时间t∈(t_k,t_k+1]，速率δ_k+1计算同遗忘门，σ是激活函数，o_k表示输出门当中决定记忆细胞的输出部分。

根据本发明提供的采用图注意力网络与融合邻域的拓扑预测方法，具有以下有益效果：

本发明在原有时间切片基础之上，融合时序点过程进行动态邻域生成，具体的，本发明融合了静态邻域生成和动态邻域生成建立拓扑预测模型，其中，静态生成邻域的方法首先对动态网络进行切片，然后通过特征提取方法处理每一时间快照，同时考虑时间快照的权重。动态生成邻域的方法通过时序点过程对离散的事件进行建模，从而建立历史邻居节点对当前节点的影响的模型，融合静态与动态能够准确地把握机会网络节点对在时域上的演变规律。本发明充分地考虑动态节点之间的复杂关系，从而在机会网络中捕获其链路变化的潜在特征，为动态网络的拓扑演化提供支持。

附图说明

图1为卷积窗口示意图；

图2为预测模型示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明提供一种采用图注意力网络与融合邻域的拓扑预测方法。机会网络节点对之间的链接状态受历史各个时刻信息的影响，动态邻域生成在静态邻域建模基础之上进行拓展，构建时序点过程对离散顺序事件建模，通过跟踪每个节点的邻居生成来追溯网络生成过程。

本发明中，是通过融合静态邻域生成与动态邻域生成来实现提取网络拓扑变化的潜在特征，具体步骤如下：

步骤1：如图2所示，静态邻域通过GAT嵌入门控循环单元(GRU)从时间快照中聚合邻居特征，并使用自注意力机制计算每一个时间快照的权值。根据权值计算所有节点的节点表示。

使用自注意力机制计算每一个时间快照的权重，最后计算得出节点向量。将GRU的隐藏状态向量h₁,…,h_T作为输入，并根据权值计算节点表示。

(a)根据每个隐藏状态向量计算各个时刻对应的注意力系数，并计算权重：

α_t＝softmax(w^Ttanh(Vh_t)) (1)

其中

和/>

是参数，α_t表示相比于其它时间快照，该时间快照的重要性。

(b)所有的隐藏状态向量的连接被定义为：

(c)所有的隐藏状态向量的注意力值为：

α＝softmax(w^Ttanh(VH^T))∈R^T (3)

(d)通过所有的隐藏状态向量的注意力值α生成单个节点的节点表示：

(e)上述一个注意力单元仅仅集中在节点时间特征的一部分，因此需要多个注意力单元来关注不同的部分。假设需要在输入中提取m个部分，使用m个w，将它们连接成

则最后的节点表示矩阵为：

步骤2：动态邻域通过时序点过程直接对邻居生成序列。

构建时序点过程，假设节点x∈V，该节点的邻居集记为N(x)＝{y_i|i＝1,2,…}，节点之间使用交互事件

表示，即节点y_i在t_i时刻与目标节点x产生连边。则节点x与节点y_i形成连边事件的条件强度函数可以如下形式表示：

其中

和/>

都是参数，/>

代表历史邻居对目标节点x的影响，/>

代表当前邻居对目标节点x的影响，b_i代表偏置。f:R→R⁺是一个将条件强度函数转化为正实数的函数，即/>

其中s是参数值。

则从时间t₀开始，可以通过下式推导出下一个事件将在给定历史的时间t发生的可能性：

然后，可以使用期望来估计下一个事件的时间：

如图1所示，假设卷积核的大小为k，对于一个项目

加上前面的k-1一个项目，生成一个新的卷积表示t^k，前k-1个项目可以用0来自动补全，假设了多个窗口大小k∈{k₁,k₂,...,k_m}。为学习不同的特征，然后对多滤波器卷积表示进行平均池化，其中项的最终卷积向量为/>

定义为/>

为了进一步考虑连续时间，采用了时间感知的LSTM(Long Short-Term Memory)求解历史节点对当前节点的影响，其中输入为卷积向量v，隐藏状态向量h(t)，依赖于记忆细胞c(t)，分别如式(3)和式(4)所示。

h(t)＝o_k⊙(2σ(2c(t))-1) (10)

其中时间t∈(t_k,t_k+1]，速率δ_k+1计算同遗忘门，σ是激活函数，o_k表示输出门当中决定记忆细胞的输出部分。不同于传统LSTM，记忆细胞c(t)以δ_k+1速率从稳态值c_k+1到

呈指数衰减。隐藏状态h(t)由记忆细胞c(t)获取。

步骤3：融合静态邻域生成与动态邻域生成进行拓扑预测。

将上述步骤1和步骤2的结果进行融合：

A＝μQ+(1-μ)Z (11)

其中μ为参数，Q是步骤1所求出的节点表示矩阵，Z是步骤2所求出来的节点表示矩阵。

拓扑预测的目的是分析拓扑结构的变化规律，预测下一时刻的拓扑结构。本发明将原始数据集按7:3的比例划分为训练集和测试集，训练集中的节点间的起始链接时间作为事件集作为动态邻域生成的输入，时间快照的邻接矩阵作为静态邻域生成的输入。训练结束后，通过测试集进行验证模型的有效性，若测试结果达到一定的预期则预测成功，即可使用该模型来预测机会网络拓扑。

根据上述的采用图注意力网络与融合邻域的拓扑预测方法，在原有时间切片基础之上，融合时序点过程进行动态邻域生成，具体的，融合了静态邻域生成和动态邻域生成建立拓扑预测模型，其中，静态生成邻域的方法首先对动态网络进行切片，然后通过特征提取方法处理每一时间快照，同时考虑时间快照的权重。动态生成邻域的方法通过时序点过程对离散的事件进行建模，从而建立历史邻居节点对当前节点的影响的模型，融合静态与动态能够准确地把握机会网络节点对在时域上的演变规律。本发明充分地考虑动态节点之间的复杂关系，从而在机会网络中捕获其链路变化的潜在特征，为动态网络的拓扑演化提供支持。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。

Claims (1)

1.一种采用图注意力网络与融合邻域的拓扑预测方法，其特征在于，包括如下步骤：

步骤1：将时间上连续的原始网络按时间段切分成一系列的时间快照，并对原始网络中节点对的起始链接时间的事件集进行数据转化；

步骤2：静态邻域通过GAT嵌入门控循环单元(GRU)从时间快照中聚合邻居特征，并使用自注意力机制计算每一个时间快照的权值，根据权值计算所有节点的节点表示；

步骤3：动态邻域通过时序点过程直接对邻居生成序列；

步骤4：融合静态邻域生成与动态邻域生成进行拓扑预测；

所述步骤2中使用自注意力机制计算每一个时间快照的权重，最后计算得出节点向量，将GRU的隐藏状态向量h₁,...,h_T作为输入，如下式所示：

α_t＝softmax(w^Ttanh(Vh_t))

其中，

和/>

是参数，α_t表示相比于其它时间快照，该时间快照的重要性；

所述步骤3中构建时序点过程，假设节点x∈V，该节点的邻居集记为N(x)＝{y_i|i＝1,2,...}，节点之间使用交互事件

表示，即节点y_i在t_i时刻与目标节点x产生连边，则节点x与节点y_i形成连边事件的条件强度函数采用下式表示：

其中，

和/>

都是参数，/>

代表历史邻居对目标节点x的影响，/>

代表当前邻居对目标节点x的影响，b_i代表偏置，f:R→R⁺是一个将条件强度函数转化为正实数的函数，即/>

其中s是参数值；

假设卷积核的大小为k，对于一个项目

加上前面的k-1一个项目，生成一个新的卷积表示t^k，前k-1个项目可以用0来自动补全，假设了多个窗口大小k∈{k₁,k₂,...,k_m}，为学习不同的特征，对多滤波器卷积表示进行平均池化，其中项的最终卷积向量为/>

定义为

为进一步考虑连续时间，采用时间感知的LSTM求解历史节点对当前节点的影响，其中输入为卷积向量v，隐藏状态向量h(t)，依赖于记忆细胞c(t)，分别如下式所示：

h(t)＝O_k⊙(2σ(2c(t))-1)

其中，时间t∈(t_k,t_k+1]，速率δ_k+1计算同遗忘门，σ是激活函数，o_k表示输出门当中决定记忆细胞的输出部分。

Images