CN108279564B - 一种鲁棒的稀疏多任务自适应系统及迭代方法 - Google Patents
一种鲁棒的稀疏多任务自适应系统及迭代方法 Download PDFInfo
- Publication number
- CN108279564B CN108279564B CN201810088023.0A CN201810088023A CN108279564B CN 108279564 B CN108279564 B CN 108279564B CN 201810088023 A CN201810088023 A CN 201810088023A CN 108279564 B CN108279564 B CN 108279564B
- Authority
- CN
- China
- Prior art keywords
- vector
- node
- parameter
- adaptive system
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
- G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
- G05B13/0205—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric not using a model or a simulator of the controlled system
- G05B13/024—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric not using a model or a simulator of the controlled system in which a parameter or coefficient is automatically adjusted to optimise the performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/12—Discovery or management of network topologies
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Automation & Control Theory (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Computer Hardware Design (AREA)
- Health & Medical Sciences (AREA)
- Algebra (AREA)
- Geometry (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Soundproofing, Sound Blocking, And Sound Damping (AREA)
Abstract
本发明公开了一种鲁棒的稀疏多任务自适应系统,包括:节点邻域子集选取模块,用于选取自适应系统中每个节点进行参数向量更新时需要用到的节点邻域子集;抗脉冲噪声干扰模块,用于对自适应系统节点的数据进行符号运算;l0范数和簇相似性约束模块,用于加快自适应系统估计未知参数向量时的收敛速度;参数向量估计模块,用于更新参数向量的估计值。采用多任务的拓扑结构、抗脉冲噪声干扰、l0范数和簇相似性约束和参数向量估计来更新自适应系统的各个节点权值系数向量,既能提高估计稀疏参数向量时的收敛速度,又能在处理多任务时保持较低的稳态失调。
Description
技术领域
本发明涉及自适应系统设计技术领域,具体地涉及一种鲁棒的稀疏多任务自适应系统及迭代方法。
背景技术
扩散式最小均方(DLMS)[Cattivelli F S,Sayed A H.Diffusion LMSstrategies for distributed estimation.IEEE Transactions on Signal Processing,2010,58(3):1035-1048]和扩散式仿射投影(DAPA)[Li Lei-lei, Lopes C G.Distributedestimation over an adaptive incremental network based on the affineprojection algorithm.IEEE Transactions on Signal Processing,2010,58(1):151-164]自适应系统在无线传感器网络等领域具有广泛应用。
稳态失调和收敛速度是评价自适应系统性能的两个主要性能指标。稳态失调决定了逼近未知系统所能达到的精度,而收敛速度决定了自适应系统逼近未知系统需要的时间。影响自适应系统的稳态失调的因素包括受到脉冲噪声干扰、多任务拓扑环境等。当自适应系统的输入端受脉冲噪声干扰时, DLMS和DAPA自适应系统的稳态失调会增大,甚至发散。采用取符号运算的扩散式仿射投影符号(DAPSA)自适应系统[倪锦根,马兰申.抗脉冲干扰的分布式仿射投影符号算法.电子学报,2016,7(44):1555-1560],能够大大减少脉冲噪声对自适应系统的干扰,既保持了较快的收敛速度,又能获得较低的稳态失调。上述网络主要适用于所有节点估计相同参数向量的单任务网络,当网络需要估计多个参数向量时(即多任务网络),使用上述网络会产生较大偏差和非常大的稳态失调。为了获得更低的稳态失调,需要设计一种适用于多任务参数向量估计且具有抗脉冲干扰能力的自适应系统。在自适应系统文献中,网络的抗脉冲干扰能力也称之为网络是鲁棒的。此外,影响自适应系统的收敛速度的原因之一是未知系统向量的稀疏度。一个未知系统,其接近或等于0的系数越多,则其稀疏度越高;反之,其稀疏度越低。当未知系统稀疏度很高时,传统的DLMS和DAPSA的收敛速度十分缓慢。
发明内容
为了解决现有技术存在的问题,本发明目的是:提供一种鲁棒的稀疏多任务自适应系统,采用多任务的拓扑结构、抗脉冲噪声干扰、l0范数和簇相似性约束和参数向量估计来更新自适应系统的各个节点权值系数向量,既能提高估计稀疏参数向量时的收敛速度,又能在处理多任务时保持较低的稳态失调。
本发明的技术方案是:
一种鲁棒的稀疏多任务自适应系统,包括:
一节点邻域子集选取模块,根据网络拓扑结构的节点n的邻域Nn和该节点所在的簇Cn,得到交集Nn∩Cn和差集Nn\Cn,计算自适应参数cl,n和联合参数al,n;
一抗脉冲噪声干扰模块,计算抗脉冲噪声向量;
一l0范数和簇相似性约束模块,估算l0范数和簇相似性约束;
一参数向量估计模块,计算节点n的中间估计向量,根据中间估计向量更新参数向量。
优选的技术方案中,所述抗脉冲噪声干扰模块通过节点l处的输入矩阵 Ul(k)和期望向量dl(k)计算误差向量的值其中, n∈{1,2,…,N},l∈{1,2,…,N},wn(k-1)为节点n在k-1时刻对未知参数向量的估计值,Ul(k)=[ul(k),ul(k-1),…,ul(k-P+1)]为节点l在k时刻的输入矩阵,P为输入向量的数据重用阶数,ul(k)=[ul(k),ul(k-1),…,ul(k-M+1)]T为节点l在k时刻的输入信号向量,该向量由节点l的输入信号ul(k)的最近M个样值构成,M 为整数,dl(k)=[dl(k),dl(k-1),…,dl(k-P+1)]T为节点l在k时刻的期望向量,该向量由节点l的期望响应dl(k)的最近P个样值构成;
根据f(wn(k-1))=[f(wn,0(k-1)),f(wn,1(k-1)),…,f(wn,M-1(k-1))]T形成零吸引子强度向量f(wn(k-1)),其中,β为零吸引子作用域控制参数,n∈{1,2,…,N}, m∈{1,2,…,M}。
优选的的技术方案中,所述中间估计向量
本发明还公开了一种鲁棒的稀疏多任务自适应迭代方法,包含如下步骤:
1)根据节点n的邻域Nn和该节点所处的簇Cn,计算它们的交集Nn∩Cn和差集Nn\Cn,并计算自适应参数cl,n和联合参数al,n的值;
2)计算抗脉冲噪声向量;
3)估算l0范数和簇相似性约束;
4)计算节点n的中间估计向量,根据中间估计向量更新参数向量。
优选的技术方案中,所述步骤2)包括,
通过节点l处的输入矩阵Ul(k)和期望向量dl(k)计算误差向量的值其中,n∈{1,2,…,N},l∈{1,2,…,N},wn(k-1)为节点n在k-1时刻对未知参数向量的估计值,Ul(k)=[ul(k),ul(k-1),…,ul(k-P+1)] 为节点l在k时刻的输入矩阵,P为输入向量的数据重用阶数, ul(k)=[ul(k),ul(k-1),…,ul(k-M+1)]T为节点l在k时刻的输入信号向量,该向量由节点l的输入信号ul(k)的最近M个样值构成,M为整数, dl(k)=[dl(k),dl(k-1),…,dl(k-P+1)]T为节点l在k时刻的期望向量,该向量由节点l的期望响应dl(k)的最近P个样值构成;
根据f(wn(k-1))=[f(wn,0(k-1)),f(wn,1(k-1)),…,f(wn,M-1(k-1))]T形成零吸引子强度向量f(wn(k-1)),其中,β为零吸引子作用域控制参数,n∈{1,2,…,N}, m∈{1,2,…,M}。
优选的技术方案中,所述中间估计向量
与现有技术相比,本发明的优点是:
该自适应系统主要采用多任务拓扑的理论和符号运算的方法使得其在包含脉冲噪声的多任务环境下保持较高的稳定性,并进一步使用l0范数约束的方法使得其在估计稀疏系统时获得更好的收敛性能。利用多任务拓扑的方法可以同时处理多个不同的任务,符号运算的方法可以减少脉冲噪声对未知参数向量估计的影响,而l0范数约束的方法可以加快对稀疏未知参数向量的估计速度。本发明公开的鲁棒多任务自适应系统可用于传感器网络、高光谱图像处理系统等领域。
附图说明
下面结合附图及实施例对本发明作进一步描述:
图1为鲁棒多任务自适应系统结构框图;
图2为包含20个节点、分成4个节点簇的多任务网络拓扑结构图;
图3为在实施例所述条件下DAPA、非协作APSA和SMD-APSA的均方偏差曲线比较图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明了,下面结合具体实施方式并参照附图,对本发明进一步详细说明。应该理解,这些描述只是示例性的,而并非要限制本发明的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本发明的概念。
如图1所示,一种鲁棒的稀疏多任务自适应系统,简记为SMD-APSA,采用多任务的拓扑结构、抗脉冲噪声干扰、l0范数和簇相似性约束和参数向量估计来更新自适应系统的各个节点权值系数向量,从而提高自适应系统的性能。
包含如下步骤:
1)计算节点邻域子集,其包含根据节点n的邻域Nn和该节点所处的簇Cn,计算它们的交集Nn∩Cn和差集Nn\Cn,并在满足和的前提下,计算自适应参数cl,n和联合参数al,n的值,其中,n∈{1,2,…,N};
2)首先,通过节点l处的输入矩阵Ul(k)和期望向量dl(k)来计算误差向量的值其中,wn(k-1)为节点n在k-1时刻对未知参数向量的估计值,Ul(k)=[ul(k),ul(k-1),…,ul(k-P+1)]为节点l在k时刻的输入矩阵,P为输入向量的数据重用阶数,ul(k)=[ul(k),ul(k-1),…,ul(k-M+1)]Τ为节点l在k时刻的输入信号向量,该向量由节点l的输入信号ul(k)的最近M个样值构成,M为整数,上标Τ表示转置运算,dl(k)=[dl(k),dl(k-1),…,dl(k-P+1)]Τ为节点l在k时刻的期望向量,该向量由节点l的期望响应dl(k)的最近P个样值构成,n∈{1,2,…,N},l∈{1,2,…,N};其次,根据计算抗脉冲噪声向量,其中,n∈{1,2,…,N},sgn(·)表示对向量的每个元素进行符号运算,其运算方式为:当元素大于0时,其运算结果为1;当元素小于0时,其运算结果为-1;当元素为0时,其运算结果为0;
计算作用于wn(k-1)中第m个元素wn,m(k-1)的零吸引子强度值 f(wn,m(k-1));最后,根据f(wn(k-1))=[f(wn,0(k-1)),f(wn,1(k-1)),…,f(wn,M-1(k-1))]T形成零吸引子强度向量f(wn(k-1)),其中,β为零吸引子作用域控制参数,n∈{1,2,…,N},m∈{1,2,…,M};
4)参数向量估计,其包含:首先计算节点n的中间估计向量ψn(k),
具体的实施例如下:
A.实验条件
输入信号un为有色噪声,其方差为测量噪声z(n)由高斯白噪声 vn和脉冲噪声ηn合成,其中vn的方差为脉冲噪声ηn由伯努利过程和高斯过程ρn相乘获得,即伯努利序列的概率分布满足信号干扰比SIR取为-30dB。输入信号的信噪比SNR取为30dB。未知多任务稀疏系统选取20个权值系数,其中4个非零。网络节点簇划分如图2所示。各个簇内的各节点的未知参数向量取值为:
B.实验步骤
1.初始化
w0=0,μn=0.01,P=3,M=20,L=3000,β=50,N=20,τn=0.001,γn=0.01。
2.在k≥1时刻,对任意节点n∈{1,2,…,N},按下列各表达式更新权值向量 wn:
1、计算邻域子集:交集Nn∩Cn和差集Nn\Cn;
2、计算自适应参数cl,n和联合参数al,n;
6、f(wn(k-1))=[f(wn,0(k-1)),f(wn,1(k-1)),…,f(wn,M-1(k-1))]T;
C.实验结果
采用随迭代次数变化的均方偏差(MSD)作为性能指标,其表达式为单位为分贝(dB)。所有的MSD曲线为 100次独立试验取平均的结果。如图3所示,对脉冲环境下的多任务稀疏系统的权值向量进行估计,本实施例的SMD-APSA自适应系统比传统的DAPA 自适应系统和单任务DAPSA自适应系统具有更快的收敛速度和更低的稳态失调。
应当理解的是,本发明的上述具体实施方式仅仅用于示例性说明或解释本发明的原理,而不构成对本发明的限制。因此,在不偏离本发明的精神和范围的情况下所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。此外,本发明所附权利要求旨在涵盖落入所附权利要求范围和边界、或者这种范围和边界的等同形式内的全部变化和修改例。
Claims (6)
1.一种鲁棒的稀疏多任务自适应系统,其特征在于,包括:
节点邻域子集选取模块,用于选取所述自适应系统中每个节点进行参数向量更新时需要用到的节点邻域子集;根据网络拓扑结构的节点n的邻域Nn和该节点所在的簇Cn,得到交集Nn∩Cn和差集Nn\Cn,根据和计算自适应参数cl,n和联合参数al,n;
抗脉冲噪声干扰模块,用于对所述自适应系统节点的数据进行符号运算;通过节点l处的输入矩阵Ul(k)和期望向量dl(k)计算误差向量的值其中,n∈{1,2,…,N},l∈{1,2,…,N},wn(k-1)为节点n在k-1时刻对未知参数向量的估计值,Ul(k)=[ul(k),ul(k-1),…,ul(k-P+1)]为节点l在k时刻的输入矩阵,P为输入向量的数据重用阶数,ul(k)=[ul(k),ul(k-1),…,ul(k-M+1)]T为节点l在k时刻的输入信号向量,该向量由节点l的输入信号ul(k)的最近M个样值构成,M为整数,dl(k)=[dl(k),dl(k-1),…,dl(k-P+1)]T为节点l在k时刻的期望向量,该向量由节点l的期望响应dl(k)的最近P个样值构成;
l0范数和簇相似性约束模块,用于加快所述自适应系统估计未知参数向量时的收敛速度;
参数向量估计模块,用于更新参数向量的估计值。
4.一种鲁棒的稀疏多任务自适应迭代方法,其特征在于:包含如下步骤:
2)计算抗脉冲噪声向量,包括:
通过节点l处的输入矩阵Ul(k)和期望向量dl(k)计算误差向量的值其中,n∈{1,2,…,N},l∈{1,2,…,N},wn(k-1)为节点n在k-1时刻对未知参数向量的估计值,Ul(k)=[ul(k),ul(k-1),…,ul(k-P+1)]为节点l在k时刻的输入矩阵,P为输入向量的数据重用阶数,ul(k)=[ul(k),ul(k-1),…,ul(k-M+1)]T为节点l在k时刻的输入信号向量,该向量由节点l的输入信号ul(k)的最近M个样值构成,M为整数,dl(k)=[dl(k),dl(k-1),…,dl(k-P+1)]T为节点l在k时刻的期望向量,该向量由节点l的期望响应dl(k)的最近P个样值构成;
3)估算l0范数和簇相似性约束;
4)计算节点n的中间估计向量,根据中间估计向量更新参数向量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810088023.0A CN108279564B (zh) | 2018-01-30 | 2018-01-30 | 一种鲁棒的稀疏多任务自适应系统及迭代方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810088023.0A CN108279564B (zh) | 2018-01-30 | 2018-01-30 | 一种鲁棒的稀疏多任务自适应系统及迭代方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108279564A CN108279564A (zh) | 2018-07-13 |
CN108279564B true CN108279564B (zh) | 2020-11-03 |
Family
ID=62805735
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810088023.0A Active CN108279564B (zh) | 2018-01-30 | 2018-01-30 | 一种鲁棒的稀疏多任务自适应系统及迭代方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108279564B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109687845B (zh) * | 2018-12-25 | 2022-12-23 | 苏州大学 | 一种鲁棒的簇稀疏正则化多任务自适应滤波器网络 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03116301A (ja) * | 1989-09-29 | 1991-05-17 | Canon Inc | 適応装置 |
CN103607181A (zh) * | 2013-11-07 | 2014-02-26 | 哈尔滨工程大学 | 一种空间分布式变阶数自适应系统辨识方法 |
CN105871762A (zh) * | 2016-05-23 | 2016-08-17 | 苏州大学 | 一种用于稀疏参数向量估计的自适应网络 |
CN106788337A (zh) * | 2016-10-11 | 2017-05-31 | 沈阳工业大学 | 稳健的仿射投影符号自适应滤波算法 |
CN107592096A (zh) * | 2017-09-29 | 2018-01-16 | 苏州大学 | 一种鲁棒偏差补偿自适应滤波器及其滤波方法 |
-
2018
- 2018-01-30 CN CN201810088023.0A patent/CN108279564B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03116301A (ja) * | 1989-09-29 | 1991-05-17 | Canon Inc | 適応装置 |
CN103607181A (zh) * | 2013-11-07 | 2014-02-26 | 哈尔滨工程大学 | 一种空间分布式变阶数自适应系统辨识方法 |
CN105871762A (zh) * | 2016-05-23 | 2016-08-17 | 苏州大学 | 一种用于稀疏参数向量估计的自适应网络 |
CN106788337A (zh) * | 2016-10-11 | 2017-05-31 | 沈阳工业大学 | 稳健的仿射投影符号自适应滤波算法 |
CN107592096A (zh) * | 2017-09-29 | 2018-01-16 | 苏州大学 | 一种鲁棒偏差补偿自适应滤波器及其滤波方法 |
Non-Patent Citations (2)
Title |
---|
MULTITASK DIFFUSION ADAPTATION OVER NETWORKS;Jie Chen等;《IEEE Transactions on Signal Processing》;20140815;第62卷(第16期);第4129-4144页 * |
抗脉冲干扰的分布式仿射投影符号算法;倪锦根等;《电子学报》;20160731;第44卷(第7期);第1555-1560页 * |
Also Published As
Publication number | Publication date |
---|---|
CN108279564A (zh) | 2018-07-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Shi et al. | Noise-free maximum correntropy criterion algorithm in non-Gaussian environment | |
Chen et al. | NARX-based nonlinear system identification using orthogonal least squares basis hunting | |
US20130046721A1 (en) | Change point detection in causal modeling | |
Slavakis et al. | Adaptive algorithm for sparse system identification using projections onto weighted ℓ 1 balls | |
CN109039720B (zh) | 一种针对二值传感器网络的参数估计方法 | |
CN109687845B (zh) | 一种鲁棒的簇稀疏正则化多任务自适应滤波器网络 | |
CN114362859A (zh) | 增强条件生成对抗网络的自适应信道建模方法及系统 | |
Hajek et al. | Community recovery in a preferential attachment graph | |
CN108279564B (zh) | 一种鲁棒的稀疏多任务自适应系统及迭代方法 | |
CN110190832B (zh) | 变正则化参数多任务自适应滤波器网络 | |
CN112054973B (zh) | 一种最小均方误差稀疏水声信道估计方法 | |
CN106295688B (zh) | 一种基于稀疏均值的模糊聚类方法 | |
Gao et al. | Optimization methods for large-scale machine learning | |
Banerjee et al. | Boosting exploration in actor-critic algorithms by incentivizing plausible novel states | |
Cai et al. | Diffusion quantized recursive mixture minimum error entropy algorithm | |
CN111194048B (zh) | 一种基于em的1比特参数估计方法 | |
CN108834043B (zh) | 基于先验知识的压缩感知多目标无源定位方法 | |
Sun et al. | Deep learning-based transmit power control for device activity detection and channel estimation in massive access | |
CN112583723B (zh) | 一种基于fcm的大规模路由网络表达方法 | |
Hajek et al. | Recovering a hidden community in a preferential attachment graph | |
CN113112092A (zh) | 一种短期概率密度负荷预测方法、装置、设备和存储介质 | |
Bai et al. | Variational Bayesian inference for robust identification of PWARX systems with time-varying time-delays | |
Paternain et al. | Learning policies for markov decision processes in continuous spaces | |
CN116878885B (zh) | 一种基于自适应联合域适应网络的轴承故障诊断方法 | |
CN114580578B (zh) | 具有约束的分布式随机优化模型训练方法、装置及终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |