CN110954153B - 一种分布式自适应组合系数优化方法 - Google Patents

一种分布式自适应组合系数优化方法 Download PDF

Info

Publication number
CN110954153B
CN110954153B CN201911086448.9A CN201911086448A CN110954153B CN 110954153 B CN110954153 B CN 110954153B CN 201911086448 A CN201911086448 A CN 201911086448A CN 110954153 B CN110954153 B CN 110954153B
Authority
CN
China
Prior art keywords
node
adaptive
combination coefficient
coefficient
combination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911086448.9A
Other languages
English (en)
Other versions
CN110954153A (zh
Inventor
夏威
夏国庆
陈俊斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201911086448.9A priority Critical patent/CN110954153B/zh
Publication of CN110954153A publication Critical patent/CN110954153A/zh
Application granted granted Critical
Publication of CN110954153B publication Critical patent/CN110954153B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D21/00—Measuring or testing not otherwise provided for
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明属于分布式自适应滤波领域，主要涉及基于分布式的扩散自适应算法优化，具体为一种分布式自适应组合系数优化方法，适用于求解组合系数在非负约束条件下的自适应优化问题，进而改善各类分布式算法的稳态性和鲁棒性。本发明将有约束最小化均方偏差问题转化成无约束最优化问题，使得组合系数向量每一步迭代都满足算法约束条件；相比经典的固定组合系数方法，具有显著的稳态性能优势；同时，本发明能够达到与经典自适应组合系数相同的收敛速度、且稳态性能更好，能够达到与最优自适应组合系数相同的稳态性能、且收敛速度更快；另外，本发明能够通过选择不同的正定对角矩阵，针对不同应用场景进行具体配置，具有很好的灵活性。

Description

一种分布式自适应组合系数优化方法
技术领域
本发明属于分布式自适应滤波领域，主要涉及基于分布式的扩散自适应算法优化，具体为一种分布式自适应组合系数优化方法。
背景技术
基于分布式网络的算法日渐流行，已发展成为一种节能、高效的信号处理技术；它仅利用各节点所能直接获取到的局部信息进行网络内的协作，由此进一步解决整个网络的问题。相比于集中式的算法而言，有着更节省资源、更高稳健性等特点，且提高了网络的可扩展性，因此被广泛运用于环境监测、参数估计等各类领域中。
基于分布式的参数估计算法在各类环境下均有所适用，具有高鲁棒性、可扩展性、需求能耗较低等优势。目前，已经有许多学者研究提出了数种分布式在线参数估计算法，包括增量LMS算法、增量RLS算法、扩散卡尔曼滤波算法、扩散LMS算法等。
下面给出基于自适应和结合(ATC)结构的扩散LMS算法：
考虑一个包含N个节点的网络，记节点k在t时刻的量测信号为dk(t)，
Figure BDA0002265556750000011
为节点k上在t时刻的回归向量，
Figure BDA0002265556750000012
为复数集；假设网络内各节点的待估最优权向量为wo，且满足估计模型如下：
Figure BDA0002265556750000013
其中，{·}H表示对矩阵或向量求共轭转置，vk(t)为一零均值随机高斯白噪声、其方差为
Figure BDA0002265556750000014
对任意k与t，vk(t)与uk(t)相互独立，且对任意k≠l或i≠j，vl(j)与vk(i)独立；
记节点k的邻域节点及其自身所组成的集合为
Figure BDA0002265556750000015
rk代表集合
Figure BDA0002265556750000016
的节点个数，节点k在t时刻的权向量估计为wk(t)；给出ATC结构的扩散LMS算法如下：
Figure BDA0002265556750000017
其中，k＝1,2,...,N，μk＞0为节点k的自适应迭代步长；ψk(t)代表节点k的中间权向量估计；组合系数al,k为组合矩阵A的第(l,k)个元素，表示了在节点k自适应迭代过程时，邻域节点l的中间权向量估计所占有的权重。
如何选择合适的加权组合系数往往对分布式的算法的性能有着相当的影响。数年前，Ali H.Sayed在其文章“Diffusion least-mean-squares over adaptive networks:Formulation and performance analysis”中提出了均匀组合系数(uniform组合准则)；后来人们又相继提出了中心组合系数(metropolis组合准则)与最大度组合系数(maximum-degree组合准则)等数种不同的组合准则；这些准则分别适用于不同的环境，但它们都属于固定组合准则，其组合系数仅仅取决于既定的网络拓扑结构，一旦网络拓扑结构确定下来，各节点之间的组合权重也随之确定，因此无法根据节点所接收到的实际信号的情况而进行自适应的调整。
为了解决这个问题，后来的学者们提出了使组合系数在线自适应迭代优化的方法；这种方法能使组合系数利用实时所接收到的信号的统计特性进行自适应的调整，以此在某种意义下达到最佳组合的处理目的。2010年，Ali H.Sayed在文章“Diffusion Least-Mean Squares with Adaptive combiners:Formulation and Performance Analysis”中，提出了一种将正交投影和最陡下降法相结合的自适应组合系数的策略，以下简称此方法为“经典自适应组合系数方法”；2011年，Ali H.Sayed又在文章“Optimal Combination Rulesfor Adaptation and Learning over Networks”中提出了一种自适应的组合系数策略，首先对节点的噪声方差进行自适应估计，再利用自适应估计的方差计算相应的组合系数，以此达到自适应优化组合系数的目的，以下简称此方法为“最优自适应组合系数方法”；基于此，本发明提供一种新的分布式自适应组合系数优化方法。
发明内容
本发明的目的在于提供一种分布式自适应组合系数优化方法，适用于求解组合系数在非负约束条件下的自适应优化问题，进而改善各类分布式算法的稳态性和鲁棒性。
为实现上述目的，本发明采用的技术方案如下：
一种分布式自适应组合系数优化方法，包括以下步骤：
步骤1：针对节点k，实时获取其t时刻的回归向量uk(t)及量测信号dk(t)；
步骤2：一步迭代更新节点k的中间权向量估计ψk(t)：
Figure BDA0002265556750000021
其中，wk(t-1)为t-1时刻的权向量估计值，μk为节点k的迭代步长；
步骤3：获取各邻域节点的中间权向量估计ψl(t)，
Figure BDA0002265556750000031
Figure BDA0002265556750000032
为节点k的邻域节点及其自身所组成的集合；
步骤4：令ψk(t)＝[ψ1(t),…,ψN(t)]Pk，其中，
Figure BDA0002265556750000033
N为网络节点总数；迭代计算ψk(t)的二阶矩的近似值
Figure BDA0002265556750000034
Figure BDA0002265556750000035
其中，λ为遗忘因子：λ∈(0,1)，Δψk(t)＝ψk(t)-ψk(t-1)；
步骤5：计算增量
Figure BDA0002265556750000036
Figure BDA0002265556750000037
其中，
Figure BDA0002265556750000038
Figure BDA0002265556750000039
为实数集；
Figure BDA00022655567500000310
为rk阶全1矩阵，
Figure BDA00022655567500000311
为rk阶单位矩阵，rk为集合
Figure BDA00022655567500000312
的节点个数；bk(t-1)为节点k在t-1时刻的组合系数；
Figure BDA00022655567500000313
为一正定对角矩阵，其第i个对角元为fi(bk(t-1))，是一个关于bk(t-1)任意正函数；{·}T表示对矩阵或向量求转置；diag{·}表示以向量中的元素为对角元，构造一个对角矩阵；
步骤6：计算步长ηk(t)：
Figure BDA00022655567500000314
其中，α为步长因子：α∈(0,1)，小常数ε>0、以保证组合系数的非负性；min(·)表示取向量中最小的元素，||·||∞表示求向量的无穷范数；
步骤7：计算组合系数
Figure BDA00022655567500000315
bk(t)＝bk(t-1)-ηk(t)gk(t)
步骤8：将上步骤所得的rk维组合系数向量
Figure BDA00022655567500000316
转换为所需的N维组合系数向量
Figure BDA0002265556750000041
ak(t)＝Pkbk(t)；
进行LMS算法中的后续组合步骤：
Figure BDA0002265556750000042
本发明的有益效果在于：提供一种分布式自适应组合系数优化方法，具有如下优点：
1.本发明能够将有约束最小化均方偏差问题转化成无约束最优化问题，使得组合系数向量每一步迭代都满足算法约束条件；
2.相比经典的固定组合系数方法，本发明能够实时更新自适应组合系数，使得算法每一步迭代都沿着最优的方向进行，因此具有显著的稳态性能优势；
3.本发明能够达到与经典自适应组合系数相同的收敛速度，且本发明的稳态性能更好；
4.本发明能够达到与最优自适应组合系数相同的稳态性能，且本发明的收敛速度更快；
5.本发明能够通过选择不同的正定对角矩阵
Figure BDA0002265556750000043
针对不同应用场景进行具体配置，具有很好的适用性和灵活性。
附图说明
图1为经典扩散LMS算法的实施步骤流程图。
图2为本发明方法进行自适应组合系数优化的核心步骤流程图；
图3、4为本发明实施例中节点网络拓扑图a、拓扑图b。
图5为本发明实施例中各节点的回归矢量功率水平分布图。
图6为本发明实施例中各节点的量测噪声方差水平分布图。
图7、8为本发明实施例中本发明方法和其他组合系数算法的均方偏差学习曲线对比图。
具体实施方式
下面结合附图和实施例对本发明做进一步详细说明。
本发明提出一种分布式自适应组合系数优化方法，基于如图1所示的经典扩散LMS算法，给出本发明方法的具体流程图如图2所示；如图1所示的经典扩散LMS算法中的优化组合系数ak(t)步骤为本发明方法的核心内容，其详细流程如图2所示，在由N个节点组成的网络中，每一个节点k上的具体过程如下：
步骤1：初始化节点k的权向量估计值wk(0)＝0，中间估计量ψk(0)＝0，
Figure BDA0002265556750000044
Figure BDA0002265556750000051
是rk维全零矩阵，组合系数bk(0)＝0、ak(0)＝0、0代表相应维度的零向量；
步骤2：实时获得节点k的回归向量uk(t)及量测信号dk(t)；
步骤3：进行一步自适应迭代更新节点k的中间权向量估计ψk(t)：
Figure BDA0002265556750000052
其中，wk(t-1)为t-1时刻的权向量估计值，μk为节点k的迭代步长；
步骤4：获取各邻域节点的中间权向量估计ψl(t)，
Figure BDA0002265556750000053
Figure BDA0002265556750000054
为节点k的邻域节点及其自身所组成的集合；
步骤5：令ψk(t)＝[ψ1(t),…,ψN(t)]Pk，其中，
Figure BDA0002265556750000055
迭代计算ψk(t)的二阶矩的近似值
Figure BDA0002265556750000056
Figure BDA0002265556750000057
其中，遗忘因子λ∈(0,1)，Δψk(t)＝ψk(t)-ψk(t-1)；
步骤6：计算增量
Figure BDA0002265556750000058
Figure BDA0002265556750000059
其中，
Figure BDA00022655567500000510
Figure BDA00022655567500000511
为rk阶单位矩阵；
Figure BDA00022655567500000512
为一正定对角矩阵，其第i个对角元为fi(bk(t-1))，是一个关于bk(t-1)任意正函数值函数；diag{·}表示以向量中的元素为对角元，构造一个对角矩阵；
步骤7：计算步长ηk(t)：
Figure BDA00022655567500000513
其中，α∈(0,1)，小常数ε>0，以保证组合系数的非负性，min(·)表示取向量中最小的元素，||·||∞表示求向量的无穷范数；
步骤8：计算组合系数
Figure BDA00022655567500000514
bk(t)＝bk(t-1)-ηk(t)gk(t)
步骤9：将上步骤所得的rk维组合系数向量
Figure BDA0002265556750000061
转换为所需的N维组合系数向量
Figure BDA0002265556750000062
ak(t)＝Pkbk(t)；
进行LMS算法中的后续组合步骤：
Figure BDA0002265556750000063
步骤10：转回步骤2，执行下一时刻的迭代。
仿真测试：
仿真1：15个节点互连的网络，每个节点独立获取回归矢量uk(t)和量测信号dk(t)，待估参数权向量长度M＝5，网络拓扑图如图3所示，各节点回归矢量和量测噪声的方差分布如图5、6所示，ATC算法各节点步长分别为μk＝0.01,k＝1,2,..,N，本发明自适应组合系数算法步长因子α＝0.5，遗忘因子λ＝0.9，正定对角阵
Figure BDA0002265556750000064
的对角元选取为
Figure BDA0002265556750000065
经典自适应组合系数方法中的步长因子α＝0.8，二者步长公式中分母上的小常数均为ε＝0.5e-3，迭代次数1000，执行100次独立重复实验，均方误差如图7所示。
如图7所示，和经典的固定式均匀组合系数(uniform准则)及中心组合系数(metropol is准则)相比，本发明方法有着显著的稳态性能优势；从仿真结果上看，本发明方法在达到与经典自适应组合系数方法一致的收敛速度时，拥有着更好的稳态性能；在达到与最优自适应组合系数方法相同的稳态性能的条件下，本发明方法能够更快地收敛至稳态。
仿真2：15个节点互连的网络，每个节点独立获取回归矢量和量测信号，待估参数权向量长度M＝5，网络拓扑图如图4所示，各节点回归矢量和量测噪声的方差分布如图5、6所示，ATC算法各节点步长分别为μk＝0.01,k＝1,2,..,N，本发明自适应组合系数算法步长因子α＝0.3，遗忘因子λ＝0.7，正定对角阵
Figure BDA0002265556750000066
的对角元选取为
Figure BDA0002265556750000067
经典自适应组合系数方法的步长因子α＝0.15，二者步长公式中分母上的小常数均为ε＝0.5e-3，迭代次数1000，100次独立重复实验，均方误差如图8所示。
和仿真1相比，本仿真采用更稀疏的网络，如图8所示，和经典的固定式均匀组合系数(uniform准则)及中心组合系数(metropolis准则)相比，本发明方法仍然有着显著的稳态性能优势；同样地，从仿真结果上看，本发明方法在达到与经典自适应组合系数方法一致的收敛速度时，拥有着更好的稳态性能；在达到与最优自适应组合系数方法相同的稳态性能的条件下，本发明方法能够更快地收敛至稳态。
以上所述，仅为本发明的具体实施方式，本说明书中所公开的任一特征，除非特别叙述，均可被其他等效或具有类似目的的替代特征加以替换；所公开的所有特征、或所有方法或过程中的步骤，除了互相排斥的特征和/或步骤以外，均可以任何方式组合。

Claims (1)

1.一种分布式自适应组合系数优化方法，包括以下步骤：
步骤1：针对节点k，实时获取其t时刻的回归向量uk(t)及量测信号dk(t)；
步骤2：一步迭代更新节点k的中间权向量估计ψk(t)：
Figure FDA0003147608050000011
其中，wk(t-1)为t-1时刻的权向量估计值，μk为节点k的迭代步长；
步骤3：获取各邻域节点的中间权向量估计ψl(t)，
Figure FDA0003147608050000012
Figure FDA0003147608050000013
为节点k的邻域节点及其自身所组成的集合；
步骤4：令ψk(t)＝[ψ1(t),…,ψN(t)]Pk，其中，
Figure FDA0003147608050000014
迭代计算ψk(t)的二阶矩的近似值
Figure FDA0003147608050000015
Figure FDA0003147608050000016
其中，λ为遗忘因子：λ∈(0,1)，Δψk(t)＝ψk(t)-ψk(t-1)；
步骤5：计算增量gk(t)：
Figure FDA0003147608050000017
其中，
Figure FDA0003147608050000018
bk(t-1)为节点k在t-1时刻的组合系数；
Figure FDA0003147608050000019
为一正定对角矩阵，其第i个对角元fi(bk(t-1))为一个关于bk(t-1)任意正函数；
Figure FDA00031476080500000110
为rk阶全1矩阵，
Figure FDA00031476080500000111
为rk阶单位矩阵，rk为集合
Figure FDA00031476080500000112
的节点个数；
步骤6：计算步长ηk(t)：
Figure FDA00031476080500000113
其中，a为步长因子：α∈(0,1)，小常数ε>0；
步骤7：计算组合系数
Figure FDA00031476080500000114
bk(t)＝bk(t-1)-ηk(t)gk(t)
步骤8：将上步骤所得的rk维组合系数向量
Figure FDA0003147608050000021
转换为所需的N维组合系数向量
Figure FDA0003147608050000022
ak(t)＝Pkbk(t)。
CN201911086448.9A 2019-11-08 2019-11-08 一种分布式自适应组合系数优化方法 Active CN110954153B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911086448.9A CN110954153B (zh) 2019-11-08 2019-11-08 一种分布式自适应组合系数优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911086448.9A CN110954153B (zh) 2019-11-08 2019-11-08 一种分布式自适应组合系数优化方法

Publications (2)

Publication Number Publication Date
CN110954153A CN110954153A (zh) 2020-04-03
CN110954153B true CN110954153B (zh) 2021-09-24

Family

ID=69976950

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911086448.9A Active CN110954153B (zh) 2019-11-08 2019-11-08 一种分布式自适应组合系数优化方法

Country Status (1)

Country Link
CN (1) CN110954153B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109710978A (zh) * 2018-11-30 2019-05-03 电子科技大学 一种分布式异构自适应粒子滤波直接跟踪方法
CN110121184A (zh) * 2019-04-26 2019-08-13 电子科技大学 一种非负约束的分布式在线自适应扩散组合系数优化方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8462892B2 (en) * 2010-11-29 2013-06-11 King Fahd University Of Petroleum And Minerals Noise-constrained diffusion least mean square method for estimation in adaptive networks
CN105740203B (zh) * 2016-03-23 2018-02-23 中国电子科技集团公司第十研究所 多传感器无源协同测向定位方法
US10885467B2 (en) * 2016-04-28 2021-01-05 Qualcomm Incorporated Differentially private iteratively reweighted least squares
CN105933044B (zh) * 2016-05-11 2018-11-06 中山大学 一种大规模多天线系统低复杂度预编码方法
WO2018086025A1 (en) * 2016-11-10 2018-05-17 Nokia Technologies Oy Node identification in distributed adaptive networks
CN107947761B (zh) * 2017-12-18 2021-09-10 西安理工大学 基于最小均方四阶的变阈值比例更新自适应滤波方法
CN108563914B (zh) * 2018-06-08 2022-05-17 中国人民解放军63789部队 基于夏式最小二乘的轨道控制推力拟合系数计算方法
CN109039720B (zh) * 2018-07-19 2021-03-05 杭州电子科技大学 一种针对二值传感器网络的参数估计方法
CN109902570A (zh) * 2019-01-23 2019-06-18 东南大学 一种基于对数矩的时间差检测方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109710978A (zh) * 2018-11-30 2019-05-03 电子科技大学 一种分布式异构自适应粒子滤波直接跟踪方法
CN110121184A (zh) * 2019-04-26 2019-08-13 电子科技大学 一种非负约束的分布式在线自适应扩散组合系数优化方法

Also Published As

Publication number Publication date
CN110954153A (zh) 2020-04-03

Similar Documents

Publication Publication Date Title
Bhotto et al. Robust shrinkage affine-projection sign adaptive-filtering algorithms for impulsive noise environments
CN108390705A (zh) 基于bp算法构建的深度神经网络大规模mimo系统检测方法
CN112311706B (zh) 基于贝叶斯神经网络信道预测的频分双工下行传输方法
WO2020253691A1 (zh) 一种基于共轭梯度下降法的深度学习信号检测方法
CN107947761B (zh) 基于最小均方四阶的变阈值比例更新自适应滤波方法
CN111884625B (zh) 一种变步长稀疏增广复数自适应滤波器
CN110121184B (zh) 一种非负约束的分布式在线自适应扩散组合系数优化方法
CN109687845B (zh) 一种鲁棒的簇稀疏正则化多任务自适应滤波器网络
CN104158512B (zh) 一种基于独立活性因子的抗冲击干扰的自适应稀疏系统辨识方法
Widrow et al. Statistical efficiency of adaptive algorithms
CN110954153B (zh) 一种分布式自适应组合系数优化方法
CN113722653B (zh) 一种多智能体系统分布式优化控制方法及存储介质
Sowjanya et al. Distributed incremental leaky LMS
CN112505628B (zh) 一种基于图卷积神经网络的自适应波束形成方法
CN109274352A (zh) 基于最大相关熵的多凸组合自适应滤波方法
CN113381731A (zh) 一种针对非高斯噪声的扩散式变步长自适应参数估计方法
CN110266363B (zh) 一种基于张量的分布式扩散自适应抗干扰方法
CN110190832A (zh) 变正则化参数多任务自适应滤波器网络
CN111865489B (zh) 基于图神经网络的多输入多输出检测方法
CN110336600B (zh) 一种针对多线性系统的分布式自适应系统辨识方法
Wang et al. A sparsity-aware proportionate normalized maximum correntropy criterion algorithm for sparse system identification in non-gaussian environment
CN106209674B (zh) 基于分布式无线网络的网络控制系统最优线性控制方法
Ng et al. A variable step size algorithm using evolution strategies for adaptive filtering
CN111274536B (zh) 一种扩展目标的分布式跟踪自适应组合系数
CN108279564A (zh) 一种鲁棒的稀疏多任务自适应系统及迭代方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant