CN111242867B - 基于截断泰勒级数近似的图信号分布式在线重构方法 - Google Patents

Abstract

本发明公开了基于截断泰勒级数近似的图信号分布式在线重构方法，其特征是，包括如下步骤：1）构建图模型；2）采集数据，构建图信号模型；3）构建凸优化模型；4）Hessian矩阵分解；5）求解凸优化问题。这种方法收敛速度快，而且对问题条件数的鲁棒性更强。

Description

基于截断泰勒级数近似的图信号分布式在线重构方法

技术领域

本发明涉及图信号处理中的时变图信号采样与重构技术，具体是一种基于截断泰勒级数近似的图信号分布式在线重构方法。

背景技术

近年来，图信号处理已经逐渐发展成为用于分析处在不规则域中的数据的有力工具，例如来自无线传感器网络、交通网络，生物网络和社交媒体的数据。在图信号处理框架中，任意不规则的网络都可以建模为具有相应拓扑结构的图，网络中的数据建模为图上各顶点的信号。作为传统信号处理理论的推广，图信号处理理论将诸如时间序列、图像信号的傅里叶变换和滤波等概念和分析方法扩展到具有更加复杂结构的图上，并由此产生了许多新的研究方向和挑战。在过去的十年里，研究者们已经在图信号处理领域的各个方向开展了大量的研究工作并取得了显著的成果，例如图信号的采样重构、图信号的表示、图滤波与滤波器组、图学习和机器学习等。尽管图信号处理理论已经取得了长足的进步与完善，但由于图拓扑结构的复杂性，仍有许多问题需要进一步解决，例如图信号的采样重构问题尚未得到完美解决，这是因为不规则图上的顶点并没有如常规时间序列一样的唯一确定的排序。

无线传感器网络数据的重构问题可以归结为图信号的采样重构问题，对于时变图信号，其重构方法主要分为两种方式：一种是批量重构方式，另一种是在线重构方式。批量重构方式往往拥有比在线重构方式更小的重构误差，但其计算量和重构时延较高。XiaohanWang首先提出了一种基于图信号空时平滑的分布式跟踪方法，这种方法用于重构带限的低频时变图信号，属于在线重构方式；接着，Lorenzo等提出了一种带限图信号的分布式自适应重构方法-基于LMS算法及其对应的最优采样策略，这种自适应重构方法也能用于缓慢变化的时变图信号；Kai Qiu在时变图信号的空时平滑性基础上首次引入了图信号的差分平滑性概念，并以此提出了一般的平滑时变图信号的批量重构和在线重构两种方法，实验数据表明基于差分平滑先验性假设的图信号重构方法对无线传感器网络数据如温度、湿度等的重构性能良好，具有较大的研究意义。目前基于差分平滑性的时变图信号在线重构方法是基于梯度下降法的，梯度下降法属于一阶算法，不仅收敛速度较慢，而且容易受到Hessian矩阵条件数的影响。

现有的图信号重构方法一般是基于两类算法实现的：集中式算法和分布式算法。对于集中式算法，在系统网络中布置一个计算能力较强的处理中心，其他节点测量数据统一传输到处理中心进行处理然后将处理结果分发给各节点，以此完成优化任务；对于分布式算法，网络中不存在处理中心，各节点通过与邻居节点协同各自进行局部运算，完成信号处理任务。对于无线传感器网络这种自组织网络，网络中可能没有中心节点，并且由于各传感器节点功率限制，各节点往往只能与邻居节点进行通信，在大规模网络中各节点将数据传输到中心节点可能需要多跳，在这些场合集中式算法效率低下且局部通信量较大。

发明内容

本发明的目的是针对现有技术的不足，而提供一种基于截断泰勒级数近似的图信号分布式在线重构方法。这种方法收敛速度快，而且对问题条件数的鲁棒性更强。

实现本发明目的的技术方案是：

基于截断泰勒级数近似的图信号分布式在线重构方法，包括如下步骤：

1)构建图模型：依据无线传感器网络中节点之间的位置关系，将距离每个节点最近的若干个节点作为该节点的邻居，把有N个节点的无线传感器网络建模为一个无向有权图G＝(V,E)，其中V表示图的节点集合，E表示图的边集合，依据节点之间地理距离设置边的权重，一般地，由于距离越近的传感器节点测量的数据(如温度、湿度等)越相似，因此设置边的权值对于节点之间距离呈负相关，为高斯核函数：

其中d_i为节点i的位置坐标，依据边的权值构建对应于图的度矩阵D、加权邻接矩阵W与拉普拉斯矩阵L＝D-W，

由于图拉普拉斯矩阵是实对称矩阵，满足如下正交对角化：

L＝UΛU^T (2)，

其中，变换矩阵U为图傅里叶变换矩阵，Λ的特征值为图频率，上标T表示转置，L的特征值λ_i由小到大排列分别表示图信号的低频与高频；

2)采集数据，构建图信号模型：采集一段时间内无线传感器网络中部分节点的数据，并建模为空时平滑的时变图信号，即：

其中，y_t为观测信号，

为实际信号，n_t为观测噪声，S_t为对角的采样矩阵，满足如下条件：

将数据建模为时变图信号Y=[y₁ y₂…y_T],

由于图的边权值越大代表边所连节点数据(温度、湿度等)越相似，各时刻图信号

关于图拓扑结构呈平滑性，根据图傅里叶变换/>

图拉普拉斯二次型满足如下转化：

可以看到，图拉普拉斯二次型的值越小，图信号的能量越集中在低频，即图信号越平滑，因此可用图拉普拉斯二次型描述图信号的平滑性；

3)构建凸优化模型：对于描述无线传感器网络数据如温度、湿度等的时变图信号，其一般不仅在图拓扑结构上呈平滑性，在时间维度上也呈平滑变化，因此仅仅用图拉普拉矩阵二次型

描述图信号的平滑性是不够的，采用差分图拉普拉矩阵二次型描述时变图信号的平滑性：/>

进一步把t时刻的图信号的在线重构问题转化为如下无约束的最小二乘优化问题：

其中，S_t与L分别为采样矩阵和图拉普拉斯矩阵，y_t为观测信号，

为t-1时刻重构信号，上标T表示转置，λ为可调整的正参数；

4)Hessian矩阵分解：对优化问题的目标函数求二阶导，求出目标函数的Hessian矩阵，然后对Hessian矩阵进行分解，并对Hessian逆矩阵作泰勒级数展开，即：

对优化问题的目标函数分别求一阶导与二阶导，得到目标函数的梯度为：

梯度g_t为一个N维列向量，反映了目标函数在x_t处的变化率，

目标函数的Hessian矩阵为：

H_t＝S_t+λL (9)，

H_t为目标函数的二阶信息，是一个N阶正定矩阵，反映了目标函数梯度的变化率，

对Hessian矩阵进行分解：

其中，D和W分别为图的度矩阵与加权邻接矩阵，K_t为经分解得到的正定对角矩阵，

依据矩阵级数

其中I为单位矩阵，对Hessian逆矩阵作泰勒级数展开：

5)求解凸优化问题：将截断泰勒级数作为Hessian逆矩阵的近似，并代入牛顿法迭代公式对优化问题进行迭代求解直至满足迭代终止条件，即：

将截断泰勒级数作为Hessian逆矩阵的近似为：

其中，M为泰勒级数阶数，反映了近似矩阵

对/>

的近似程度，

将近似Hessian逆代入牛顿法迭代公式对优化问题进行迭代求解直至满足迭代终止条件，最终求得重构信号

迭代公式为：/>

其中，

为t时刻目标函数的近似下降方向，n为迭代次数。

与现有技术相比，本技术方案将无线传感器网络数据的重构问题归结为关于图信号采样重构的凸优化问题，使用截断泰勒级数来近似原目标函数的Hessian矩阵，替代传统的牛顿法迭代公式。

这种方法收敛速度快，而且对问题条件数的鲁棒性更强。

附图说明

图1为实施例方法流程示意图；

图2为实施例中分布式算法的节点i伪代码流程示意图；

图3为仿真例1中模拟无线传感器网络节点分布示意图；

图4为仿真例1与现有技术重构信号相对误差收敛曲线对比示意图；

图5为仿真例2中太平洋海平面温度网络传感器节点分布示意图；

图6为仿真例2与现有技术重构信号相对误差收敛曲线对示意图。

具体实施方式

下面结合附图和实施例对本发明的内容作进一步的阐述，但不是对本发明的限定。

实施例：

参照图1，基于截断泰勒级数近似的图信号分布式在线重构方法，包括如下步骤：

1)构建图模型：依据无线传感器网络中节点之间的位置关系，将距离每个节点最近的若干个节点作为该节点的邻居，把有N个节点的无线传感器网络建模为一个无向有权图G＝(V,E)，其中V表示图的节点集合，E表示图的边集合，依据节点之间地理距离设置边的权重，一般地，由于距离越近的传感器节点测量的温度数据越相似，因此设置边的权值对于节点之间距离呈负相关，为高斯核函数：

其中d_i为节点i的位置坐标，依据边的权值构建对应于图的度矩阵D、加权邻接矩阵W与拉普拉斯矩阵L＝D-W，

由于图拉普拉斯矩阵是实对称矩阵，满足如下正交对角化：

L＝UΛU^T (2)，

其中，变换矩阵U为图傅里叶变换矩阵，Λ的特征值为图频率，上标T表示转置，L的特征值λ_i由小到大排列分别表示图信号的低频与高频；

2)采集数据，构建图信号模型：采集一段时间内无线传感器网络中部分节点的数据，并建模为空时平滑的时变图信号，即：

其中，y_t为观测信号，

为实际信号，n_t为观测噪声，S_t为对角的采样矩阵，满足如下条件：/>

将数据建模为时变图信号Y＝[y₁ y₂…y_T],

由于图的边权值越大代表边所连节点数据(温度、湿度等)越相似，各时刻图信号

关于图拓扑结构呈平滑性，根据图傅里叶变换/>

图拉普拉斯二次型满足如下转化：

可以看到，图拉普拉斯二次型的值越小，图信号的能量越集中在低频，即图信号越平滑，因此可用图拉普拉斯二次型描述图信号的平滑性；

3)构建凸优化模型：对于描述无线传感器网络数据如温度、湿度等的时变图信号，其一般不仅在图拓扑结构上呈平滑性，在时间维度上也呈平滑变化，因此仅仅用图拉普拉矩阵二次型

描述图信号的平滑性是不够的，采用差分图拉普拉矩阵二次型描述时变图信号的平滑性：

进一步把t时刻的图信号的在线重构问题转化为如下无约束的最小二乘优化问题：

其中，S_t与L分别为采样矩阵和图拉普拉斯矩阵，y_t为观测信号，

为t-1时刻重构信号，上标T表示转置，λ为可调整的正参数，本例取λ＝1；

4)Hessian矩阵分解：对优化问题的目标函数求二阶导，求出目标函数的Hessian矩阵，然后对Hessian矩阵进行分解，并对Hessian逆矩阵作泰勒级数展开，即：

对优化问题的目标函数分别求一阶导与二阶导，得到目标函数的梯度为：

梯度g_t为一个N维列向量，反映了目标函数在x_t处的变化率，

目标函数的Hessian矩阵为：

H_t＝S_t+λL (9)，

H_t为目标函数的二阶信息，是一个N阶正定矩阵，反映了目标函数梯度的变化率，对Hessian矩阵进行分解：

其中，D和W分别为图的度矩阵与加权邻接矩阵，K_t为经分解得到的正定对角矩阵，

依据矩阵级数

其中I为单位矩阵，对Hessian逆矩阵作泰勒级数展开：

5)求解凸优化问题：将截断泰勒级数作为Hessian逆矩阵的近似，并代入牛顿法迭代公式对优化问题进行迭代求解直至满足迭代终止条件，即：

将截断泰勒级数作为Hessian逆矩阵的近似为：

其中，M为泰勒级数阶数，反映了近似矩阵

对/>

的近似程度，

将近似Hessian逆代入牛顿法迭代公式对优化问题进行迭代求解直至满足迭代终止条件，最终求得重构信号

迭代公式为：

其中，

为t时刻目标函数的近似下降方向，n为迭代次数。

本例分别取一阶与二阶近似，即M＝1与M＝2。

用相对误差衡量算法相对模型最优值的误差：

设置迭代终止条件为n＝1500或RE＜10^-4。

由于截断泰勒级数求出的近似Hessian逆矩阵是稀疏矩阵且稀疏模式与图拓扑结构相同，因此本迭代公式可以分布式计算，算法具体流程如图2所示。

结合具体仿真例，对本技术方案进行说明。

仿真实例1：

如图3所示，随机产生的100节点传感图用于模拟现实世界的无线传感器网络，通过如下方式随机产生时变图信号数据集：

式中，n'_t为高斯噪声，用于使图信号随机变化，本次仿真将本技术方案与现有的基于梯度下降法的重构方法作对比，其中梯度下降法的步长为0.28，如图4所示，此时目标函数Hessian矩阵条件数为63.2，由图4可知，本例方法收敛速度比现有技术收敛速度更快，对于分布式算法，迭代次数与算法所需各节点通信量有关，表1为本例方法与现有技术达到相同的相对误差指标所需的网络节点总通信次数对比：

表1

仿真例2：

如图5所示，太平洋海平面温度传感器节点分布在170°W-90°W,60°S-10°N区间内，温度数据为传感器每月测得的平均海平面温度，选取100个月，本次仿真将本技术方案与现有的基于梯度下降法的重构方法作对比，其中梯度下降法的步长为0.6。如图6所示，此时目标函数Hessian矩阵条件数为1283.6，由图6可知，当条件数较大时，现有的技术由于基于梯度下降法而收敛速度大大下降，然而本例方法收敛速度依然较快，对条件数不敏感，表2给出了本方案与现有技术达到相同的相对误差指标所需的网络节点总通信次数对比。

表2

在条件数较大时，由于梯度下降法要得到目标精度所需迭代次数过大，因此所需节点通信次数比本方案高很多。

Claims (1)

1.基于截断泰勒级数近似的图信号分布式在线重构方法，其特征是，包括如下步骤：

1)构建图模型：依据无线传感器网络中节点之间的位置关系，把有N个节点的无线传感器网络建模为一个无向有权图G＝(V,E)，其中V表示图的节点集合，E表示图的边集合，依据节点之间地理距离设置边的权重，设置边的权值对节点之间距离呈负相关，为高斯核函数：

其中d_i为节点i的位置坐标，依据边的权值构建对应于图的度矩阵D、加权邻接矩阵W与拉普拉斯矩阵L＝D-W，

图拉普拉斯矩阵满足如下正交对角化：

L＝UΛU^T (2)，

其中，变换矩阵U为图傅里叶变换矩阵，Λ是一个对角矩阵，其特征值为图频率，上标T表示转置，L的特征值λ_i由小到大排列分别表示图信号的低频与高频；

2)采集数据，构建图信号模型：采集一段时间内无线传感器网络中部分节点的数据，并建模为空时平滑的时变图信号，即：

其中，y_t为观测信号，

为实际信号，n_t为观测噪声，S_t为对角的采样矩阵，满足如下条件：

将数据建模为时变图信号Y＝[y₁ y₂…y_T],

根据图傅里叶变换

图拉普拉斯二次型满足如下转化：

3)构建凸优化模型：采用差分图拉普拉矩阵二次型描述时变图信号的空时平滑性：

进一步把t时刻的图信号的在线重构问题转化为如下无约束的最小二乘优化问题：

其中，S_t与L分别为采样矩阵和图拉普拉斯矩阵，y_t为观测信号，上标T表示转置，

为t-1时刻重构信号，λ为可调整的正参数；

4)Hessian矩阵分解：对优化问题的目标函数求二阶导，求出目标函数的梯度与Hessian矩阵，然后对Hessian矩阵进行分解，并对Hessian逆矩阵作泰勒级数展开，即：

对优化问题的目标函数分别求一阶导与二阶导，得到目标函数的梯度为：

梯度g_t为一个N维列向量，

目标函数的Hessian矩阵为：

H_t＝S_t+λL (9)，

H_t为目标函数的二阶信息，是一个N阶正定矩阵，

对Hessian矩阵进行分解：

其中，D和W分别为图的度矩阵与加权邻接矩阵，K_t为经分解得到的正定对角矩阵，

依据矩阵级数

其中I为单位矩阵，对Hessian逆矩阵作泰勒级数展开：

5)求解凸优化问题：将截断泰勒级数作为Hessian逆矩阵的近似，并代入牛顿法迭代公式对优化问题进行迭代求解直至满足迭代终止条件，即：

将截断泰勒级数作为Hessian逆矩阵的近似为：

其中，M为泰勒级数阶数，反映近似矩阵

对/>

的近似程度，

将近似Hessian逆代入牛顿法迭代公式对优化问题进行迭代求解直至满足迭代终止条件，最终求得重构信号

迭代公式为：

其中，

为t时刻目标函数的近似下降方向，n为迭代次数。/>

Images