CN110121184A - 一种非负约束的分布式在线自适应扩散组合系数优化方法 - Google Patents

Abstract

本发明方法属于信号处理领域，具体为一种非负约束条件下的分布式在线自适应扩散组合系数优化方法。本发明通过构造全局代价函数，应用KKT条件和定点迭代方案，将非负组合系数的在线优化问题转化为最小方差无偏估计问题，进而分别得到组合系数的闭式解和自适应解。与静态组合系数方案(Uniform)相比，本发明能够提高各种分布式算法对网络环境的空间变化的鲁棒性和稳健性；与现有的分布式自适应组合系数在线优化方法(Stochastic g radient)相比，嵌入本发明方法的分布式跟踪算法的暂态和稳态性能均有所提升；同时，本发明方法具有计算复杂度低的优点，且能够满足更多非负性约束条件下的实际信号处理系统的要求。

Description

一种非负约束的分布式在线自适应扩散组合系数优化方法

技术领域

本发明属于信号处理领域，具体是信号处理领域的组合系数的优化问题，特别是涉及到分布式无线传感器网络上的自适应扩散组合系数在线优化方法问题，具体为一种非负约束条件下的分布式在线自适应扩散组合系数优化方法。

背景技术

近年来，分布式无线传感器网络上的协作扩散式(diffusion)处理已经逐渐成为一种有效的数据处理技术；与传统的集中式技术相比，分布式扩散处理利用每个节点处的本地计算和相邻节点之间的通信来解决整个网络上的问题，这种处理方式能提高网络的可扩展性和灵活性，故而广泛应用于如环境监测，救灾管理，参数估计，目标跟踪以及其他领域中。

在协作扩散模式中，节点与邻居交换它们的估计并通过某些组合规则来对得到的估计值进行线性组合交换。例如Ali H.Sayed在文章“Diffusion least-mean-squaresover adaptive networks:Formulation and performance analysis”中提出的应用比较广泛的Uniform组合规则。近年来，人们又根据不同的适用环境相继提出了几种组合规则，例如Metropolis和relative-degree组合规则，这两种组合规则仅取决于网络拓扑结构，即组合系数仅仅是根据每个节点的度(一个节点连接的节点的总个数称为该节点的度)计算的，而不会反映节点的信噪比情况。因此，如果某些节点的信噪比(SNR)明显低于其他节点，则可能会导致上述这些规则的性能恶化，因为这些节点的噪声估计可以通过节点之间的协作扩散到整个网络中。因此，组合系数的设计在协作扩散模式中也起着至关重要的作用。

最近几年，一些学者提出了组合系数的离线优化方法，例如，在“Diffusion LMSstrategies for distributed estimation”文中，基于稳态性能分析，针对扩散LMS提出了组合系数离线优化方法。这种预先优化组合系数的方法，会使算法的性能提高。但是，这种离线优化方法需要知道网络统计数据，例如回归量和噪声分布。此外，因为该问题需要整个网络的信息，这种离线的方式可能难以用分布式方式解决优化问题。

后来，学者们通过使用自适应组合系数在线优化来克服这种困难。与组合系数的离线优化方法不同，在线优化不需要预先知道输入信号的统计信息，当输入信号流(signalstream)进入系统时，在线优化算法可自适应性地跟踪输入信号的统计特性变化，即随输入信号统计特性的变化，算法实时地自适应地调整组合系数以到某种最佳状态。文章“Adaptive processing over distributed networks”基于两个自适应滤波器的凸组合，实现了针对分布式扩散算法的自适应组合器在线优化。然而，这种自适应优化组合器的结构只能实现一个标量系数自适应调整。后来，Ali H.Sayed在文章“Diffusion least-mean-squares over adaptive networks:Formulation and performance analysis”中提出了一种基于最小方差无偏估计的随机梯度自适应组合系数方法，以下简称为Stochasticgradient方法，实验表明Stochastic gradient方法对分布式网络环境的空间变化具有很强的鲁棒性。另外，实际应用中的分布式信号处理领域的组合系数通常存在一些约束，其中非负性约束是分布式信号处理协作扩散过程中常见的约束。

发明内容

本发明的目的在于提出一种非负约束条件下的分布式在线自适应扩散组合系数优化方法，用于解决非负组合系数的在线优化问题，以提高各种分布式算法对网络环境的空间变化的鲁棒性和稳健性。

为实现上述目的，本发明采用的技术方案如下：

非负约束条件下的分布式在线自适应扩散组合系数优化方法，其特征在于，包括以下步骤：

步骤1：构造求解全局最优组合系数的带约束条件的代价函数

其中，L表示网络中的节点总数，k表示时刻，Ψ_k＝[ψ_1，k,ψ_2，k,…,ψ_l，k,…,ψ_L，k]，其中ψ_l,k为长度m的列向量表示第l个节点的局部中间状态估计值，表示第l个节点的组合系数向量，[·]_j表示方括号内向量的第j个元素，x_k表示真实的目标状态向量(m维)，||·||表示求矩阵或向量的二范数，符号E(·)表示求数学期望，1_L表示长度为L的全1列向量，(·)^T表示矩阵或向量的转置，表示节点l的邻域、包括节点l及其所有邻居节点(邻居节点指的是与节点l直接相连的节点)；

将求解全局代价函数分解成求解L个节点的最优组合系数的子问题，得到最小方差无偏估计问题

其中，维度为L×L的Ψ_k的自相关矩阵定义为：

步骤2：在Karush-Kuhn-Tucker(KKT)条件下，得出最小方差无偏估计问题的自适应解

其中，用a_l,k表示c_l,k中排除满足条件的项后的组合系数向量，用来表示可能不满足的组合系数向量，a_l,k的函数f_j(a_l,k)的值是非负的，ν_l,k是步长因子，diag{·}表示由指定的向量或矩阵组成的(块)对角矩阵，将节点l邻域内的节点定义为：n_l表示节点l邻域内节点总数，表示的瞬时估计值，eh表示L×L的单位矩阵的第h列；

步骤3：将组合系数向量a_l,k进行归一化

进一步地，所述步长因子ν_l,k

其中，||·||_∞代表向量的无穷范数，常数α∈(0,1)，常数ε＞0用于保证分母的非零，g_l,k表示组合系数的调整方向，其第j个分量表示为

步骤4：将n_l×1维的归一化组合系数向量a_l,k转换为L×1维的组合系数向量c_l,k＝S_la_l,k。

本发明的有益效果在于：

本发明提出的一种非负性约束条件下的分布式在线自适应扩散组合系数优化方法具有如下优点：

1.本发明将优化组合系数的问题转化为明确定义的最小方差无偏估计问题，再利用Karush-Kuhn-Tucker(KKT)条件，给出最优组合系数的闭式解，另一方面，应用不动点迭代方法得到的组合系数的自适应解；

2.本发明提出的组合系数优化方法是一种在线组合系数优化方法，不需要网络提供统计信息，为各种分布式算法在线数据融合处理提供了一种较为高效且可行解决方案；

3.本发明提出的组合系数优化方法是一种非负性约束条件下的方案，可以满足很多非负性约束条件下的实际信号处理系统的要求，将本发明的方法嵌入各种分布式包含组合系数的算法后，可以提高算法的实用性和合理性；

4.本发明提出的组合系数优化方法适用于各种分布式算法在扩散阶段的数据融合，一方面，与现有的静态的固定的组合系数方案相比，本发明提出的方法可以提高分布式算法对网络中信号和噪声统计量的空间变化的鲁棒性；另一方面，与现有的分布式自适应组合系数在线优化方法(Stochastic gradient)相比，本方法又具有复杂度低的特点。

附图说明

图1为本发明方法采用的分布式网络拓扑结构(以网络中有15个节点为例)；

图2为分布式网络信噪比的仿真条件(有一个节点信噪比条件很恶劣)；

图3是在图2实验条件下，本发明实施例中得到的位置的NRMSE结果对比图；

图4是在图2实验条件下，本发明实施例中得到的速度的NRMSE结果对比图；

图5是本发明实施例中采用本发明方法(Nonnegative)得到的组合系数随迭代次数变化的结果；

图6是本发明实施例中采用文献方法(Stochastic gradient)得到的组合系数随迭代次数变化的结果。

具体实施方式

下面结合附图对本发明作进一步说明：

将一种非负性约束条件下的分布式在线自适应扩散组合系数优化方法应用到实施例中，具体步骤如下：

步骤1：构造求解全局最优组合系数的带约束条件的代价函数

其中，L表示网络中的节点总数，在k时刻，Ψ_k＝[ψ_1，k,ψ_2，k,…,ψ_l，k,…,ψ_L，k]，其中，ψ_l,k为长度m的列向量表示第l个节点的局部中间状态估计值，表示第l个节点的组合系数向量，[·]_j表示方括号内向量的第j个元素，x_k表示真实的目标状态向量(m维)，符号||·||表示求矩阵或向量的二范数，符号E(·)表示求数学期望，1_L表示长度为L的全1列向量，(·)^T表示矩阵或向量的转置，表示节点l的邻域、包括节点l及其所有邻居节点(邻居节点指的是与节点l直接相连的节点)；

步骤2：将求解全局代价函数分解成求解L个节点的最优组合系数的子问题，即

然而，由于目标状态向量x_k未知，所以无法直接求解这些子问题；进一步地，本发明假设所有节点上的局部中间状态估计值ψ_l,k在时刻k都为真实状态x_k的无偏估计，即E{ψ_l,k}＝x_k，l＝1,...,L；

步骤3：利用偏方差分解的方法，对步骤2中得到的子问题的代价函数进一步简化，得到最小方差无偏估计问题

其中，维度为L×L的Ψ_k的自相关矩阵定义为

步骤4：进一步给出最小方差无偏估计问题的闭式解，将节点l邻域内的节点定义为：n_l表示节点l邻域内节点总数，任何满足约束条件的向量(表示实数域)表示为：

c_l,k＝S_la_l,k,

其中，e_h表示维度为L×L的单位矩阵的第h列，即是从c_l,k中排除满足条件的项后组成的向量，进一步将上式中的最小方差无偏估计问题转化为：

其中，定义投影 是自相关矩阵的子矩阵，定义为：

其中，是一个维度为m×n_l的矩阵，只包括节点l邻域内节点的局部中间状态估计值因此，本发明得到此问题的闭式解为：

步骤5：根据Karush-Kuhn-Tucker(KKT)条件可得

其中，是的下降方向，进一步地，应用定点迭代方案，可以得到节点l的组合系数的每一个分量的迭代公式：

其中，表示可能不满足条件的组合系数向量，a_l,k的函数f_j(a_l,k)的值是非负的；ν_l,k是步长因子，每个节点可使用不同的步长参数；注意，通过上式的计算，可以得到上式的向量形式如下

其中，组合系数调节方向g_l,k的第j个分量表示为：

因为f_j(a_l,k)[a_l,k]_j≥0，所以g_l,k实际是组合系数的下降方向，注意到如果那么[a_l,k+1]_j≥0一直成立，但是相反，如果那么可以保证[a_l,k+1]_j≥0一直成立的一个步长因子选择为

其中，常数α∈(0,1)，常数ε＞0保证分母的非负，||·||_∞代表向量的无穷范数；

步骤6：为了得到迭代公式，本发明需要用瞬时估计值代替进一步假设在非常短的时间间隔内，Ψ_l,k-1和Ψ_l,k-2与Ψ_l,k是不相关的，可以作如下近似

进一步写成如下递推公式

其中，λ是遗忘因子(0＜＜λ＜1)，通过下式计算维度为m×n_l的矩阵

综上所述，最优组合系数的迭代方程最终表示为

其中，diag{·}表示由指定的向量或矩阵组成的(块)对角矩阵；

步骤7：最后，为了满足这个条件，将组合系数a_l,k进行归一化，即

步骤8：将n_l×1维的归一化组合系数向量a_l,k转换为L×1维的组合系数向量c_l,k＝S_la_l,k。

下面通过将本发明方法(简称Nonnegative方法)与文献“N.Takahashi,I.Yamada,A.H.Sayed,Diffusion least-mean squares with adaptive combiners:Formulationand performance analy-sis,IEEE Transactions on Signal Processing58(9)(2010)4795–4810”中方法(简称Stochastic gradient方法)分别嵌入一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法(夏威，王岩岩，朱菊蕾，一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法.申请号：2017105840733.申请日期：2017.7.18.申请公布号：CN107367710A.)中来说明本发明的可行性、优越性。

仿真条件：

仿真试验1：将本发明提出的方法嵌入一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法，采用包括15个节点的分布式网络，网络拓扑结构如图1所示，假定目标在x-y平面移动，具体仿真条件如下：网络的信噪比分布如图2所示，此时网络中某一个节点的信噪比条件恶劣，在该情况下，分别将本发明方法(Nonnegative)嵌入一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法中的扩散阶段、将对比文献中的自适应组合系数方法(Stochastic gradient)嵌入一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法中的扩散阶段、原方法使用静态的扩散组合系数(Uniform)进行仿真，蒙特卡罗实验50次，二者的位置误差仿真结果对比如图3所示，二者速度误差的仿真结果如图4所示。

由图3、4表明在网络的信噪比条件恶劣时，此时原文中的Uniform方法所得到的位置误差已经十分严重，几近失去了位置跟踪的能力，而本发明方法嵌入一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法中(Nonnegative)在位置准确度和速度准确度方面明显优于Uniform方法，并且优于将对比文献中的自适应组合系数方法嵌入(Stochastic gra-dient)得到的结果，可以有效地提高分布式算法对网络上信号和噪声统计量的空间变化的鲁棒性。

由图5、6可见，本发明Nonnegative方法与对比文献中的Stochastic gradient法优化的组合系数均可以随着迭代次数的增加逐渐达到稳定状态，并且本发明方法组合系数收敛更稳定，且均可以始终保证非负。因此，当有些实际系统需要限制权重的非负性时，加入本发明提供的方法可以提高分布式自适应算法的实用性和合理性。

算法复杂度分析

下表给出了实数情况下，本发明提供的非负约束条件下的自适应组合系数方法(Nonnegative)和文献提出的自适应组合系数方法(Stochastic gradient)的算法复杂度的对比(复数情况的结果类似，不再赘述)。经对比分析可知，本发明提出的非负约束条件下的自适应组合系数方法(Nonnegative)在加法、乘法以及除法的计算次数上是比Stochastic gradient方法少一个n_l的量级的，因此本发明提出的Nonnegative方法还具有计算量低的优越性。表中m表示目标状态向量x_k的长度，L表示网络中的节点总数，n_l表示节点l邻域内节点总数。

以上所述，仅为本发明的具体实施方式，本说明书中所公开的任一特征，除非特别叙述，均可被其他等效或具有类似目的的替代特征加以替换；所公开的所有特征、或所有方法或过程中的步骤，除了互相排斥的特征和/或步骤以外，均可以任何方式组合。

Claims (2)

1.一种非负约束的分布式在线自适应扩散组合系数优化方法，其特征在于，包括以下步骤：

步骤1：构造求解全局最优组合系数的带约束条件的代价函数

其中，L表示网络中的节点总数，k表示时刻，Ψ_k＝[ψ_1，k,ψ_2，k,…,ψ_l，k,…,ψ_L，k]、ψ_l,k为长度m的列向量表示第l个节点的局部中间状态估计值，表示第l个节点的组合系数向量，[·]_j表示方括号内向量的第j个元素，x_k表示真实的目标状态向量(m维)，1_L表示长度为L的全1列向量，符号表示节点l的邻域、包括节点l及其所有邻居节点；

将求解全局代价函数分解成求解L个节点的最优组合系数的子问题，得到最小方差无偏估计问题

其中，维度为L×L的Ψ_k的自相关矩阵定义为

步骤2：在Karush-Kuhn-Tucker(KKT)条件下，得出最小方差无偏估计问题的自适应解

其中，用a_l,k表示c_l,k中排除满足条件的项后的组合系数向量，表示可能不满足的组合系数向量，a_l,k的函数f_j(a_l,k)的值是非负的，ν_l,k是步长因子，将节点l邻域内的节点定义为：n_l表示节点l邻域内节点总数，表示的瞬时估计值，e_h表示维度为L×L的单位矩阵的第h列，diag{·}表示由指定的向量或矩阵组成的(块)对角矩阵；

步骤3：将组合系数向量a_l,k进行归一化

步骤4：将n_l×1维的只包含邻域的归一化组合系数向量a_l,k转换为L×1维的组合系数向量c_l,_k＝S_la_l,k。

2.按权利要求1所述非负约束的分布式在线自适应扩散组合系数优化方法，其特征在于，所述步长因子ν_l,k

其中，||·||_∞代表向量的无穷范数，常数α∈(0,1)，常数ε＞0，g_l,k表示组合系数的调整方向，其第j个分量表示为：