CN103188184A - 基于npca的自适应变步长盲源分离方法 - Google Patents

Abstract

本发明请求保护基于梯度的自适应变步长NPCA算法和最优变步长NPCA算法两种自适应变步长盲源分离处理方法，属于信号处理领域。针对固定步长NPCA不能同时兼顾收敛速度和收敛精度的情形，本发明通过使算法的迭代步长自适应变化，在保证收敛精度的条件下加快收敛速度。其中，基于梯度的自适应变步长NPCA方法使迭代步长与代价函数相关联，使迭代步长自适应变化，从而加快算法的收敛速度。最优变步长NPCA方法通过对代价函数进行一阶线性近似表示，从而计算出当前时刻的最优迭代步长，并且该方法不需要人工设置任何参数。

Description

基于NPCA的自适应变步长盲源分离方法

技术领域

本发明涉及信号处理领域，是一种盲源分离方法

背景技术

盲源分离是信号处理领域近三十年发展起来的研究热点，它是指在源信号和混合系统未知的情况下，仅仅根据观测信号以及源信号之间的独立性，实现混合系统的估计以及源信号的恢复的过程。现已广泛应用于语音信号提取和增强、通信抗干扰和机械故障诊断等。

非线性主成分分析(nonlinear principal component analysis，NPCA)(参考文献：[1]Oja E.The nonlinear PCA learning rule in independent component analysis[J]，Neuraocomputing，1997，17(1)：25-45.)由于实现简单，复杂度低，已经广泛用于处理盲源分离问题。

考虑式(1)所示线性瞬时混合情形

x(t)＝As(t)+n(t)，1≤t≤T    (1)

其中，x(t)＝[x₁(t)，…，x_M(t)]^T表示观测信号矢量，s(t)＝[s₁(t)，…，s_N(t)]^T表示源信号矢量，源信号之间相互统计独立，且最多只有一个服从高斯分布，

表示混合矩阵，n(t)＝[n₁(t)，…，n_M(t)]^T表示混合过程中混入的零均值高斯白噪声，T表示信号持续的时间，(·)^T表示转置运算。除此之外，为了分析问题的方便，假设源信号个数和观测信号个数相等，即M＝N，适定混合情形，且信号为实信号。然而本发明并不局限于此，也可以很方便推广到超定的情况，即M＞N。

在适定混合条件下，只要估计出混合矩阵A或分离矩阵W，根据式(2)即可恢复源信号。

y(t)＝Wx(t)(2)

其中，y(t)表示通过分离恢复的源信号。理想情况下，当WA＝PD时(P为置换阵，D为对角阵)，分离信号y(t)是源信号s(t)在广义置换意义下的完全恢复。

非线性主成分分析(NPCA)通过求解分离矩阵的代价函数来实现分离矩阵的估计，进而实现观测信号分离，得到恢复的源信号。它的基本思想是当源信号不服从高斯分布时，利用非线性函数引入高阶统计量，对观测信号进行主成分分析使信号之间统计独立，从而实现信号分离。根据NPCA的原理，建立如式(4)所示盲分离的代价函数

其中，E{·}表示期望运算，W表示分离矩阵，

表示非线性函数，非线性函数的选择取决于源信号的统计分布，对于累积量小于零的亚高斯源信号，一般取

而对于累积量大于零的超高斯分布，则令其中γ＞2。

计算代价函数式(4)关于分离矩阵W的最小值即可获得分离矩阵的估计值。利用梯度下降算法，可以得到分离矩阵W的更新公式如式(5)所示

W(t+1)＝W(t)-ηJ_W(W(t))(5)

＝W(t)+ηz(t)[x^T(t)-z^T(t)W(t)]

其中，

η为迭代步长。

现有NPCA算法通常采用固定步长(Fixed step-size NPCA，F-NPCA)的梯度下降法估计分离矩阵，此时，算法的收敛速度和估计精度受到迭代步长的限制。迭代步长越大，收敛速度会加快，但是估计精度也会下降；反之，迭代步长越小，估计精度会提高，但收敛速度会减慢。

发明内容

本发明要解决的技术问题是，通过提出基于NPCA的自适应变步长盲源分离方法，克服固定步长NPCA算法收敛性能受到迭代步长限制的缺陷。在信号处理过程中，在保证算法收敛精度的条件下，提高算法的收敛速度。

本发明解决上述技术问题的技术方案是，提出基于梯度的自适应变步长NPCA算法(Variable step-size NPCA，V-NPCA)和最优变步长NPCA算法(Optimal step-size NPCA，O-NPCA)两种自适应变步长算法，解决固定步长NPCA算法不能兼顾收敛速度和收敛精度的情况。在自适应变步长NPCA算法中，通过建立算法的迭代步长与代价函数或代价函数的一阶导数之间的联系，使迭代步长自适应变化，从而提高算法的收敛性能。

一种用于通信信号的基于梯度的自适应变步长NPCA盲源分离方法，其特征在于，N个源通信信号s(t)＝[s₁(t)，…，s_N(t)]^T经过信道混合矩阵A的传输后得到M个观测信号x(t)＝[x₁(t)，…，x_M(t)]^T，利用NPCA准则建立代价函数

其中，E{.}表示期望运算，(.)^T表示转置运算，W表示分离矩阵，

表示某一个非线性函数。最小化代价函数得到分离矩阵的迭代估计

其中，

为一个非线性函数，η为迭代步长，所述迭代步长为变量，所述迭代步长按照

进行自适应迭代更新，其中，ρ是一个小的常数。根据分离矩阵W(t)、迭代步长η(t)、输出的恢复信号y(t)以及由y(t)定义的非线性函数

调用公式W(t+1)＝W(t)+η(t)z(t)[x^T(t)-z^T(t)W(t)]得到下一时刻的分离矩阵W(t+1)，对所有观测信号逐点更新分离矩阵，将全部观测信号通过最终的分离矩阵，根据公式y(t)＝Wx(t)得到通信信号s(t)的估计信号。

前文所述的基于梯度的自适应变步长NPCA盲源分离方法，其特征在于，其中非线性函数的选择取决于源信号的统计分布，对于累积量小于零的亚高斯源信号，取而对于累积量大于零的超高斯分布，则令其中γ＞2。

一种用于通信信号的最优变步长NPCA盲源分离方法，其特征在于，N个源通信信号s(t)＝[s₁(t)，…，s_N(t)]^T经过信道混合矩阵A的传输后得到M个观测信号x(t)＝[x₁(t)，…，x_M(t)]^T，利用NPCA准则建立代价函数

其中，E{.}表示期望运算，(.)^T表示转置运算，W表示分离矩阵，

表示某一个非线性函数。最小化代价函数得到分离矩阵的迭代估计W(t+1)＝W(t)+ηz(t)[x^T(t)-z^T(t)W(t)]，其中，

为一个非线性函数，η为迭代步长，所述迭代步长为变量，通过对代价函数进行一阶线性近似从而计算当前时刻的最优迭代步长 ${\mathrm{\&eta;}}_{\mathrm{opt}}\left(t\right)=J\left(W\left(t\right)\right)/<{\&dtri;}_{W}J\left(W\left(t\right)\right),{\&dtri;}_{W}J\left(W\left(t\right)\right)>=J\left(W\left(t\right)\right)/{\left|\right|{\&dtri;}_{W}J\left(W\left(t\right)\right)\left|\right|}^2.$ 根据分离矩阵W(t)、当前最优迭代步长η_opt(t)、输出的恢复信号y(t)以及由y(t)定义的非线性函数

调用公式W(t+1)＝W(t)+η_opt(t)z(t)[x^T(t)-z^T(t)W(t)]得到下一时刻的分离矩阵W(t+1)，对所有观测信号逐点更新分离矩阵，将全部观测信号通过最终的分离矩阵，根据公式y(t)＝Wx(t)得到通信信号s(t)的估计信号。

附图说明

[0010]图1为本发明自适应变步长盲源分离方法处理框图

图2为基于梯度的自适应变步长NPCA算法的流程示意图

图3为最优变步长NPCA算法的流程示意图

图4为源信号、观测信号和恢复信号的部分波形

图5为F-NPCA、V-NPCA和O-NPCA算法迭代步长的变化曲线

图6为F-NPCA、V-NPCA和O-NPCA算法在时不变环境中的收敛性能

图7为F-NPCA、V-NPCA和O-NPCA算法迭代步长的变化曲线

图8为F-NPCA、V-NPCA和O-NPCA算法在时变环境中的跟踪误差曲线

具体实施方式

下面结合附图，对本发明的实施和性能做进一步详细说明。本发明提出基于梯度的自适应变步长NPCA算法和最优变步长NPCA算法来改善固定NPCA算法的收敛性能，处理过程如图1所示。其中基于梯度的自适应变步长NPCA算法的处理流程如图2所示，最优变步长NPCA算法的处理流程如图3所示。

在基于梯度的自适应变步长算法中，迭代步长的迭代更新公式如式(6)所示

$\mathrm{\&eta;}\left(t\right)=\mathrm{\&eta;}(t-1)-\mathrm{\&rho;}{\&dtri;}_{\mathrm{\&eta;}}J\left(t\right){|}_{\mathrm{\&eta;}=\mathrm{\&eta;}(t-1)}---\left(6\right)$

其中，ρ是一非常小的数。为了完成式(6)的求解，引入两个矩阵的内积，定义如式(7)所示

<C，D>＝tr(C^TD)    (7)

其中，<·)表示矩阵的内积运算，tr(·)表示矩阵的迹运算，

的任意矩阵。利用式(7)，式(6)中右边第二项可以改写为

${\&dtri;}_{\mathrm{\&eta;}}J\left(t\right){|}_{\mathrm{\&eta;}=\mathrm{\&eta;}(t-1)}=<\&PartialD;J\left(t\right)/\&PartialD;W\left(t\right),\&PartialD;W\left(t\right)/\&PartialD;\mathrm{\&eta;}(t-1)>$ (8)

$=\mathrm{tr}(\&PartialD;J\left(t\right)/\&PartialD;W{\left(t\right)}^T\&times;\&PartialD;W\left(t\right)/\&PartialD;\mathrm{\&eta;}(t-1))$

其中

$\&PartialD;J\left(t\right)/\&PartialD;W\left(t\right)=-z\left(t\right)[x^T\left(t\right)-z^T\left(t\right)W\left(t\right)]---\left(9\right)$

表示代价函数关于分离矩阵W(t)的瞬时梯度。另外，根据式(5)，可以得到

$\&PartialD;W\left(t\right)/\&PartialD;\mathrm{\&eta;}(t-1)=z(t-1)[x^T(t-1)-z^T(t-1)W(t-1)]---\left(10\right)$

将式(9)、式(10)代入式(8)，即可实现迭代步长的自适应更新，使迭代步长随着代价函数的变化而变化。

可以发现，式(6)所示的基于梯度的自适应变步长NPCA算法需要人工设置一个初始参数η(0)和常数ρ，实际上，为了获得较好的初始参数，往往需要通过经验数据进行训练，这会降低算法的效率。另外，迭代步长正比于代价函数J(W)关于W的梯度，即代价函数J(W)变化越剧烈，迭代步长越大，因而可能导致算法的不稳定。因此，为了克服基于梯度的自适应变步长NPCA算法(6)的上述不足，我们又提出提出一种最优变步长NPCA方法，该方法通过代价函数的一阶线性近似表示，在此基础上，计算出当前时刻的最优迭代步长，用以改善算法的收敛性能。根据多元函数的泰勒(Taylor)展式，代价函数J(W)可以近似表示为

其中，о(·)表示高阶无穷小。理想情况下，期望J(W(t+1))＝0，因此，我们可以得到算法(5)的最优迭代步长η_opt可以通过求解式(12)得到

$J\left(W\left(t\right)\right)+<\&dtri;J_W\left(W\left(t\right)\right),W-W\left(t\right)>=0---\left(12\right)$

将式(5)带入式(12)，得到最优迭代步长η_opt为

${\mathrm{\&eta;}}_{\mathrm{opt}}\left(t\right)=\frac{J\left(W\left(t\right)\right)}{<{\&dtri;}_{W}J\left(W\left(t\right)\right),{\&dtri;}_{W}J\left(W\left(t\right)\right)>}=\frac{J\left(W\left(t\right)\right)}{{\left|\right|{\&dtri;}_{W}J\left(W\left(t\right)\right)\left|\right|}_F^2}---\left(13\right)$

其中，

表示矩阵的Frobenius范数的平方。可以看出，式(13)所示的最优自适应变步长算法不再需要设置任何参数，且在代价函数一阶线性近似的条件下是最优的。进一步分析得到，此时迭代步长正比于代价函数J(W)且反比于代价函数J(W)关于W的梯度，因而增强了算法的稳定性。

首先，通过盲源分离技术实现通信信号与干扰信号相混合的实验，表明盲源分离技术可以实现扰信分离；其次，仿真分析基于梯度的自适应变步长NPCA算法、最优变步长NPCA算法与固定步长NPCA算法在时不变环境中的收敛性能，验证自适应变步长NPCA算法相较于固定步长NPCA算法具有更好的收敛性能；最后，仿真分析基于梯度的自适应变步长NPCA算法、最优变步长NPCA算法与固定步长NPCA算法在时变环境中的跟踪性能，验证自适应变步长NPCA算法相较于固定步长NPCA算法具有更好的跟踪性能。

仿真的硬件环境为：Intel(R)Core(TM)i3CPU，4G内存，2.93G主频，仿真的软件为Matlab2008b。首先，仿真NPCA算法实现盲源分离的可行性。源信号由1路经过成形滤波和载波调制的BPSK信号和1路多音干扰组成，其中BPSK信号的采样频率f_s＝76.8kHz，载波频率f_c＝9.6kHz，符号速率f_d＝2.4kb/s，成形滤波器采用升余弦滤波器，滚降因子α＝0.5，成形滤波器的上采样率为n_samp＝4，符号个数num＝1000；多音干扰的频率组合为f_I＝8.4kHz，9.6kHz，10.6kHz。为了简化过程，不考虑对观测信号白化的影响，混合矩阵为按式(14)产生的正交矩阵

$A=\left[\begin{array}{cc}\sin \mathrm{\&theta;}& -\cos \mathrm{\&theta;}\\ \cos \mathrm{\&theta;}& \sin \mathrm{\&theta;}\end{array}\right]---\left(14\right)$

其中，θ＝π/4。利用F-NPCA算法对观测信号进行分离，分离矩阵的初始值W(0)均为单位阵，固定步长NPCA算法的迭代步长η＝0.0025，非线性函数

图4显示了源信号、观测信号和恢复信号的部分波形。

可以看出，恢复的BPSK信号与多音干扰的波形与源信号的波形基本接近，因此，NPCA算法能够有效实现通信信号与干扰信号的分离。

其次，为了比较本文提出的V-NPCA、O-NPCA算法与F-NPCA算法的分离性能，定义如下性能指数(performance index，PI)：

$\mathrm{PI}=\frac{1}{2}[\underset{i}{\mathrm{\&Sigma;}}(\underset{j}{\mathrm{\&Sigma;}}\frac{{\left|S_{\mathrm{ij}}\right|}^2}{{\max }_l{\left|S_{\mathrm{il}}\right|}^2}-1)+\underset{j}{\mathrm{\&Sigma;}}(\underset{i}{\mathrm{\&Sigma;}}\frac{{\left|S_{\mathrm{ij}}\right|}^2}{{\max }_l{\left|S_{\mathrm{lj}}\right|}^2}-1)]---\left(15\right)$

其中，S＝WA。可以看出，当且仅当WA＝PD时，其中，P为置换阵，D为对角阵，PI＝0，此时算法实现完全分离；此外，性能指数PI越大，表示分离得越不充分。因此，该性能指数能够很好的反映盲分离算法的分离性能。固定步长NPCA算法的迭代步长η和基于梯度的自适应变步长NPCA算法的初始迭代步长η(0)均为0.0025，参数ρ＝10^-5，其余仿真条件如上文所述。进行50次独立Monte-Carlo仿真实验，得到三种NPCA算法在时不变环境中的迭代步长的变化曲线和性能指数的收敛曲线分别如图5、6所示。

从图5中可以看出，O-NPCA算法的迭代开始时，迭代步长的取值较大，随着算法的收敛，迭代步长迅速减少，因而具有最快的收敛速度，且保证了算法的精度；其次，V-NPCA算法的迭代步长先变大后减少，这是因为开始算法未收敛，因而算法的迭代步长变大，加快算法的收敛速度，而后随着算法的收敛，迭代步长减少，保证算法的估计精度。因此，当混合系统时不变时，在前文所述仿真条件下，从图6可以看出，在F-NPCA、V-NPCA和O-NPCA算法收敛后性能指数基本相同的条件下，其中，F-NPCA算法的收敛速度最慢，V-NPCA算法次之，O-NPCA算法的收敛速度最快，体现了自适应变步长NPCA算法的优越性。

此外，我们还对算法在混合系统时变的情形的分离性能进行了仿真分析。此时，混合矩阵仍按式(14)产生，但是参数θ＝θ₀+βε，其中θ₀和β是参数，ε是方差为1的高斯随机变量。仿真中θ₀＝π/4，β＝0.05，其它参数与时不变环境中的仿真参数相同。得到三种NPCA算法在时变环境中的迭代步长的变化曲线和跟踪误差的收敛曲线分别如图7、8所示。

可以看出，F-NPCA、V-NPCA和O-NPCA算法在时变环境中的性能与时不变混合系统中的情况类似，从图7中可以看出，当混合系统随时间变化时，在F-NPCA、V-NPCA和O-NPCA算法收敛后性能跟踪误差基本相同的条件下，其中，F-NPCA算法的跟踪速度最慢，V-NPCA算法次之，O-NPCA算法的跟踪速度最快，因此，自适应变步长NPCA算法在时变环境中相较于已有NPCA算法具有更好的跟踪性能。

Claims (3)

1.一种用于通信信号的基于梯度的自适应变步长NPCA盲源分离方法，其特征在于，N个源通信信号s(t)＝[s₁(t)，…，s_N(t)]^T经过信道混合矩阵A的传输后得到M个观测信号x(t)＝[x₁(t)，…，x_M(t)]^T，利用NPCA准则建立代价函数

其中，E{.}表示期望运算，(.)^T表示转置运算，W表示分离矩阵，

表示某一个非线性函数。最小化代价函数得到分离矩阵的迭代估计W(t+1)＝W(t)+ηz(t)[x^T(t)-z^T(t)W(t)]，其中，

为一个非线性函数，η为迭代步长，所述迭代步长为变量，所述迭代步长按照

进行自适应迭代更新，其中，ρ是一个小的常数，根据分离矩阵W(t)、迭代步长η(t)、输出的恢复信号y(t)以及由y(t)定义的非线性函数调用公式W(t+1)＝W(t)+η(t)z(t)[x^T(t)-z^T(t)W(t)]得到下一时刻的分离矩阵W(t+1)，对所有观测信号逐点更新分离矩阵，将全部观测信号通过最终的分离矩阵，根据公式y(t)＝Wx(t)得到通信信号s(t)的估计信号。

2.根据权利要求1所述的基于梯度的自适应变步长NPCA盲源分离方法，其特征在于，其中非线性函数的选择取决于源信号的统计分布，对于累积量小于零的亚高斯源信号，取

而对于累积量大于零的超高斯分布，则令

其中γ＞2。

3.一种用于通信信号的最优变步长NPCA盲源分离方法，其特征在于，N个源通信信号s(t)＝[s₁(t)，…，s_N(t)]^T经过信道混合矩阵A的传输后得到M个观测信号x(t)＝[x₁(t)，…，x_M(t)]^T，利用NPCA准则建立代价函数

其中，E{.}表示期望运算，(.)^T表示转置运算，W表示分离矩阵，

表示某一个非线性函数。最小化代价函数得到分离矩阵的迭代估计W(t+1)＝W(t)+ηz(t)[x^T(t)-z^T(t)W(t)]，其中，

为一个非线性函数，η为迭代步长，所述迭代步长为变量，通过对代价函数进行一阶线性近似

从而计算当前时刻的最优迭代步长 ${\mathrm{\&eta;}}_{\mathrm{opt}}\left(t\right)=J\left(W\left(t\right)\right)/<{\&dtri;}_{W}J\left(W\left(t\right)\right),{\&dtri;}_{W}J\left(W\left(t\right)\right)>=J\left(W\left(t\right)\right)/{\left|\right|{\&dtri;}_{W}J\left(W\left(t\right)\right)\left|\right|}^2,$ 根据分离矩阵W(t)、迭代步长η_opt(t)、输出的恢复信号y(t)以及由y(t)定义的非线性函数调用公式W(t+1)＝W(t)+η_opt(t)z(t)[x^T(t)-z^T(t)W(t)]得到下一时刻的分离矩阵W(t+1)，对所有观测信号逐点更新分离矩阵，将全部观测信号通过最终的分离矩阵，根据公式y(t)＝Wx(t)得到通信信号s(t)的估计信号。

Images