CN110223785A - 一种基于深度学习的传染病传播网络重构方法 - Google Patents

Abstract

本发明公开了一种基于深度学习的传染病传播网络重构方法，从观察到的人群感染状态数据重构传染病网络隐含的网络结构网络科学技术在实际问题中的重要应用。本方法提出了一种数据驱动的深度学习框架来同时完成网络传染病传播网络的连接结构的重构和网络动力学规则的模拟。该方法由两个交替训练的模块组成，分别是：生成离散网络连接表示的网络生成器和使用生成的网络表示和当前节点状态以预测未来阶段状态的动力学预测器。本方法所述模型具有较强的通用性，这让我们可以还原传染病传播路径，找到关键节点，并提前对关键节点进行接种，实现对传染病的控制。

Description

一种基于深度学习的传染病传播网络重构方法

技术领域

本发明涉及深度学习与网络科学的交叉领域，并可应用于传染病传播网络的结构重构，具体涉及一种使用深度学习进行网络重构的方法。该模型利用Gumbel Softmax机制，结合神经网络实现的图网络框架，能通过正向模拟网络演化过程和逆向梯度反向传播和权重调整，实现对传染病传播网络结构的重构和动力学规则的模拟。

背景技术

大规模的复杂网络普遍存在于现实世界中，例如万维网、航空网络、在线社交网络和蛋白质网络等等。人们对网络科学领域的正向问题有较多的研究，例如在已知网络结构和动力学法则的情况下预测网络未来的节点变化。然而，此领域的逆向问题，例如通过观察节点变化状态重构出隐含的网络结构也具有十分重要的意义，并有许多潜在的应用场景。例如：通过生物体的基因表达重构基因调控网络、蛋白质调控网络；利用人群的传染病感染情况重构传染病传播网络，找出关键节点等。在已有的网络重构方法中，一类基于统计推断的方法通常只能够发现节点之间的功能性链接，而相对难以发现结构性链接。其他方法大多基于特定的假设，例如要求动力学方程可微分等等。最近，深度学习在网络科学领域有了较多的应用，例如将深度学习技术应用于图分类，节点分类和连边预测任务中等，然而，目前尚不存在直接使用深度学习技术同时重构网络结构和动力学法则的工作。也不存在使用深度学习进行传染病网络重构的应用。

发明内容

发明目的：本发明在于提出了一种数据驱动、无模型限制的可同时从人群感染状态变化数据中重构感染病网络传染路径的方法。本方法让我们可以还原传染病传播路径，找到关键节点，并提前对关键节点进行接种，实现对传染病的控制。

为了实现上述目的，本发明提供了一种基于深度学习的网络重构模型。首先，我们将对传染病网络进行建模，以常见的视角，我们选择将传染病网络建模为有向图，其中的节点代表人，节点状态包含健康、染病和恢复三种状态。而网络的连边代表了传染病在人群中的传染关系，例如A将该病传染给了B，使得B的状态从健康更改为染病，则A到B之间存在从A出发指向B的一条连边。

进一步，我们将本方法所述模型应用于对传染病的建模结果之上，该模型包括两个主要部分：网络结构生成器和动力学预测器。所述方法包括：使用gumbel-softmax技术，对邻接矩阵的每一位置以可微分的方式进行离散采样；相互独立的采样组成邻接矩阵；通过这种方法，我们可以采样传染病的传播网络，由于网络生成器的参数为随机初始化，所以初始情况下采样的传染病传播网络并不准确，但梯度下降方法可以使其准确度逐渐提高。

本方法还包括，使用图网络方法将邻接矩阵信息和当前时刻节点状态信息映射为下一时刻节点状态信息。及用图网络手段对人的健康/染病/恢复演化情况进行模拟。在这个过程中，我们使用的图网络框架将会将人状态信息映射为人与人之间的传染关系信息，进一步将传染关系信息，也就是所有的可能的传染源对被影响者的潜在影响进行聚合，最后，我们将更新被影响者的状态，模拟包括健康到健康，健康到染病等状态的变换过程。

我们将上述过程抽象为以下四步：点到边的映射：将任意两个节点信息组合并使用邻接矩阵过滤该组合，则可生成基本连边信息；将连边信息进行线性映射；边到点的映射：将前述结果按点进行聚合；将聚合后的节点信息进行线性映射；多次迭代前述结果，得到未来多步时间预测；将预测结果与真实结果计算损失；反向传播并进行模型的权重调整；所述方法还包括对两个模块的交替训练过程，即每次反向传播后，虽然两模块的参数都带有梯度信息，然而只调整其中一个模块的参数，待其调整完毕后再调整另一个模块，交替进行上述步骤。即可完成传染病传播网络的重构和传染病传播动力学的模拟。

上述技术方案中，所述数学方法具体包括：

1)使用gumbel-softmax技术，通过可微分的方式采样出离散的邻接矩阵，邻接矩阵的每一项具体生成公式为：

其中αij为邻接矩阵第i行和第j列元素为1的概率。ξij为来自于标准正态分布的随机采样重复两次取对数操作和相反数操作的结果，τ为温度参数。

2)使用图网络技术，将t-1时刻节点信息和邻接矩阵信息映射为t时刻节点信息，用公式表示如下：

构建具有该功能的图网络的具体方法分为如下步骤：

2.1)构建节点到连边的映射：首先，将t-1时刻的全部节点信息输入网络，并且将节点信息转化为节点对信息，这个步骤可以被如下公式描述：

其中[..,..]部分表示矩阵乘法操作，(Xt-1)T表示t-1时刻的节点状态向量的转置向量，因此，上述结果包含了所有的可能节点对状态，fv→e代表了节点到连边的映射，此处可以选择多种映射方法，包括卷积神经网络，循环神经网络等，在此处我们使用多层感知机来完成线性映射。其结果为节点对的隐藏状态，这其中捕捉了节点对连边的影响。

2.2)连边到节点的映射：连边到连边的映射可以被如下公式描述：

首先，我们将连边状态与邻接矩阵进行按位相乘，由于邻接矩阵所有的可能状态只有0或1，所以不存在的连边向量会被归零。进一步，我们在此处使用感知机来完成连边到连边的映射。我们首先将邻接矩阵进行按列相加，使得统一节点的所有邻居节点信息聚合到该节点上，然后再使用感知机进行映射。

2.3)最后，我们将进行跨层链接，即将原始节点信息和上一步的映射结果相连接并映射为下一时刻的节点信息，公式表示如下

3)构建合理的损失函数：在上述过程进行完成之后，我们需要使用真实的未来节点状态和预测的未来节点状态构建损失函数，本方法选取全部人员在下一时刻的真实身体状态与模型预测身体状态进行损失函数计算。

4)使用反向传播方法，根据前述损失函数进行反向传播，并调整邻接矩阵生成器和动力学预测器的全部参数。使得未来生成的邻接矩阵和动力学模拟都更为准确。

有益效果

1)本发明可以完成对传染病传播网络的路径重构，让人们可以还原传染病传播路径，找到关键节点，并提前对关键节点进行接种，实现对传染病的控制。

2)除传染病网络外，本发明还可以对不同的节点演化规则进行建模(例如针对微分动力系统或基于规则表演化的系统)，这表明本发明具有较强的通用性。

3)本发明采取gumbel-softmax采样技术生成邻接矩阵，使得即可生成离散的邻接矩阵表示用于后续运算，又能使整个生成过程可微分，因此损失可以反向传播，邻接矩阵的生成参数可以通过深度学习进行调整。

4)本发明采用图神经网络技术模拟动力学预测器，该技术的特点是通过将节点信息映射为连边信息，再将连边信息映射为节点信息进行节点状态的表示，这使得模型可以模拟针对节点对的非线性运算。

5)另外，本发明在具有上述优点的同时，在网络重构技术问题上取得了目前最高的精确度.

附图说明

图1为整体框架示意图，整体框架分为两个部分：网络结构生成器和动力学预测器。

图2为动力学预测器内部结构图，动力学预测器接受的输入信息为邻接矩阵和t-1时刻节点状态，输出信息为t时刻节点状态。

具体实施方式

以下结合附图具体说明本发明技术方案。

本发明解决的问题是以一种通用的方法，基于人群的感染状态重构传染病传播网络结构，即传染路径。为了实现此目的，本发明采取了交替训练动力学预测器和网络结构生成器的方法。本方法将重构传染病传播网络，将人视为网络的节点，人与人之间的有向连边表示传染关系。将人的状态分为三类：未染病、染病、恢复。随着传染病的传播，人的状态随之变化。本方法将使用人们的状态变化数据，即网络模型中的节点状态演化数据重构传染病网络结构，进一步找到关键节点，进行提前接种，实现对传染病的控制。

如图1所示，本方法由两个主要模块组成：网络结构生成器和动力学预测器，他们将被交替训练，网络结构生成器将根据内部参数采样邻接矩阵以表示传染病网络的连接方式，即传染路径，动力学预测器将根据生成的传染病网络连接方式和人群感染数据模拟未来的人群感染状态。模拟结果将与数据中呈现的真实结果计算损失。根据损失和梯度进行两模块内部参数的调整。

1)本方法的潜在构想是生成模拟的传染病传播网络结构和动力学法则，并进行迭代，若网络结构生成准确，则可以在给定出初始感染者的情况下，较为准确的模拟传染病在人群中的传播情况。本方法的技术实现思路是：首先随机初始化邻接矩阵生成器和动力学模拟器的参数，并进行模拟，由于生成的网络结构和传染病传播的动力学均不精确，所以模拟数据与实际数据之间会存在较大误差。此误差可以作为深度学习的损失函数，进行梯度的反向传播和参数调整，随着迭代的进行，网络生成器将会生成更准确的网络结构。

2)关于网络生成器和动力学预测器的技术实现方面。网络生成器模块内部采用了Gumbel-softmax采样技术，而动力学预测器模块内部采用图网络技，具体如下：

3)在网络生成的过程中，本发明将首先通过gumbel-softmax采样技术生成表示网络连接方式的邻接矩阵。具体而言，本发明将设alpha ij为邻接矩阵第i行j列取1的概率(即在传播网络中，第i个人传染给了第j个人)。再通过gumbel-softmax技术模拟轮盘赌采样过程。即可获取离散表示的邻接矩阵，其中第i行、j列取1的概率为

4)将t时刻的节点信息向量表示输入本发明模型，通过前文所述具体方法，将t时刻节点信息通过动力学预测器映射为t+1时刻节点信息，如下：

本步骤的具体执行方式如图2所示，执行过程分为4个子步骤：分别为节点到连边的映射，连边到连边的映射，连边倒节点的映射和节点到节点的映射过程。其中节点到连边的映射将捕捉节点对连边的影响，而连边道节点的映射将聚合连边的信息。节点到节点的映射和连边到连边的映射增加了整个模型的复杂度和拟合能力。

4)迭代进行3)所述步骤，每步均将模型输出信息重新输入给模型，即可获取多步预测结果，即人群感染状态随时间的变化。

5)将多步预测结果与实际数据中的多步结果进行误差计算，并通过反向传播使得全部参数均获取梯度信息。

6)根据梯度信息实施梯度下降过程，完成对全部参数的权重调整。

7)迭代进行2-6步，直到误差足够小，此时的网络生成器即可生成较为精确的传染病传播网络结构。此时，某节点的出度表示该感染者进一步感染的人数，感染人数越多表示该传染者越关键，可以视为传染病传播网络的关键节点，将全部节点按出度降序排列，出度较大的节点即为该传染病传播网络的关键节点，对其进行提前接种可以有效的控制传染病的传播。

Claims (5)

1.一种基于深度学习的传染病传播网络重构方法，其特征在于，

1)对传染病网络进行建模，将传染病网络建模为有向图，其中的节点代表人，节点状态包含健康、染病和恢复三种状态；而网络的连边代表了传染病在人群中的传染关系；

2)应用于对传染病的建模结果之上，该模型包括两个部分：网络结构生成器和动力学预测器；使用gumbel-softmax技术，对邻接矩阵的每一位置以微分的方式进行离散采样；相互独立的采样组成邻接矩阵；通过该方法，采样传染病的传播网络，由于网络生成器的参数为随机初始化，所以初始情况下采样的传染病传播网络并不准确，但梯度下降方法使其准确度逐渐提高；

3)使用图网络方法将邻接矩阵信息和当前时刻节点状态信息映射为下一时刻节点状态信息，即用图网络手段对人的健康/染病/恢复演化情况进行模拟；在这个过程中，使用的图网络框架将会将人状态信息映射为人与人之间的传染关系信息，进一步将传染关系信息，也就是所有的传染源对被影响者的潜在影响进行聚合，最后，将更新被影响者的状态，模拟包括健康到健康，健康到染病状态的变换过程。

2.如权利要求1所述方法，其特征在于，所述3)中的变换过程抽象为以下四步：点到边的映射：将任意两个节点信息组合并使用邻接矩阵过滤该组合，则生成基本连边信息；将连边信息进行线性映射；边到点的映射：将前述结果按点进行聚合；将聚合后的节点信息进行线性映射；多次迭代前述结果，得到未来多步时间预测；将预测结果与真实结果计算损失；反向传播并进行模型的权重调整。

3.如权利要求1所述方法，其特征在于，所述模型还包括对两个模块即网络结构生成器和动力学预测器的交替训练过程，即每次反向传播后，虽然两个模块的参数都带有梯度信息，然而只调整其中一个模块的参数，待其调整完毕后再调整另一个模块，交替进行上述步骤，即完成传染病传播网络的重构和传染病传播动力学的模拟。

4.如权利要求1所述方法，其特征在于，所述模型具体包括：

4-1)使用gumbel-softmax技术，通过微分的方式采样出离散的邻接矩阵，邻接矩阵的每一项具体生成公式为：

其中αij为邻接矩阵第i行和第j列元素为1的概率，ξij为来自于标准正态分布的随机采样重复两次取对数操作和相反数操作的结果，τ为温度参数；

4-2)使用图网络技术，将t-1时刻节点信息和邻接矩阵信息映射为t时刻节点信息，用公式表示如下：

4-3)构建合理的损失函数：在上述过程进行完成之后，需要使用真实的未来节点状态和预测的未来节点状态构建损失函数，选取全部人员在下一时刻的真实身体状态与模型预测身体状态进行损失函数计算；

4-4)使用反向传播方法，根据前述损失函数进行反向传播，并调整邻接矩阵生成器和动力学预测器的全部参数,使得未来生成的邻接矩阵和动力学模拟都更为准确。

5.如权利要求4所述的方法，其特征在于，所述4-2)中使用图网络技术中，构建具有该功能的图网络的具体方法分为如下步骤：

5-1)构建节点到连边的映射：首先，将t-1时刻的全部节点信息输入网络，并且将节点信息转化为节点对信息，这个步骤被如下公式描述：

其中[..,..]部分表示矩阵乘法操作，(Xt-1)T表示t-1时刻的节点状态向量的转置向量，因此，上述结果包含了所有的节点对状态，fv→e代表了节点到连边的映射，此处选择多种映射方法，包括卷积神经网络，循环神经网络，使用多层感知机来完成线性映射；其结果为节点对的隐藏状态，这其中捕捉了节点对连边的影响；

5-2)连边到节点的映射：连边到连边的映射被如下公式描述：

首先，将连边状态与邻接矩阵进行按位相乘，由于邻接矩阵所有的状态只有0或1，所以不存在的连边向量会被归零；进一步，使用感知机来完成连边到连边的映射；将邻接矩阵进行按列相加，使得统一节点的所有邻居节点信息聚合到该节点上，然后再使用感知机进行映射；

5-3)将进行跨层链接，即将原始节点信息和上一步的映射结果相连接并映射为下一时刻的节点信息，公式表示如下: