CN102546128A - 用于多通道盲反卷积级联神经网络的方法 - Google Patents

Abstract

本发明提供一种多通道盲反卷积级联神经网络的方法，方法包括：(1)由均衡子网络和压缩子网络组成模块神经网络；(2)均衡子网络神经突触{w_1j，p}由恒定模型算法更新；(3)构成了Hebbian和逆Hebbian学习规则；(4)压缩处理后，输入到下一个模块网络的均衡子网络本发明方法是新而简单、单行之有效的扩展，它可以从未知交错的混合信号中有效在线提取多重源信号。即用级联神经网络，它的每一模块是由均衡子网络和压缩子网络组成。此法可适用于任何盲均衡算法(信号信道均衡的拓延)，它也可以应用于源信号数目预先未知的情况。本发明容易实现，在无线通信、阵列处理和生物医学信号处理等方面有广泛应用。

Description

用于多通道盲反卷积级联神经网络的方法

技术领域

本发明涉及信号处理的技术领域，特别涉及一种用于多通道盲反卷积级联神经网络的方法。

背景技术

近年来，盲信号处理技术获得了飞速发展。盲信号处理技术大致可以分为盲源分离和盲反卷积两大类。盲信号处理技术在语音信号处理、生物医学信号处理、通信信号处理以及图像信号处理等信号处理领域都获得了比较广泛的应用。

盲反卷积是图像处理、语音信号处理、通信、系统辨识和声学等许多研究和应用的基本问题，具有重要的理论与应用价值。

目前国际上常用的各种针对MIMO(Multiple-Input-Multiple-Output)系统的盲反卷积算法，并针对源信号为非平稳信号的MIMO系统盲反卷积算法中的频域算法以及矩阵束算法进行了具体研究，主要工作包括：(1)总结分析了国际上常用的各种MIMO系统盲反卷积算法：包括常模量盲反卷积算法、频域盲反卷积算法、高阶累计量盲反卷积算法、线性预测盲反卷积算法、最大似然盲反卷积算法以及子空间盲反卷积算法。(2)研究了一种噪声环境下输入源信号为非平稳信号的MIMO系统盲反卷积频域算法。首先分析该算法原理并进行仿真；然后分析一种针对语音信号的去噪算法并给出了仿真；最后结合上述两种算法对噪声环境下的语音混叠信号进行盲反卷积。主要工作在于两种算法的仿真以及在噪声环境下使得两种算法可以协调工作。(3)研究了一种噪声环境下输入源信号为非平稳有色信号的MIMO系统盲反卷积矩阵束算法。首先分析该算法原理并进行仿真；然后通过子空间方法以及维纳滤波法去除噪声的影响；最后提出一种基于原算法的分组算法。主要工作在于矩阵束算法以及子空间消除噪声算法的仿真；维纳滤波器的设计；分组算法的提出及仿真。(4)对于非线性盲源分离，ICAH.H.Yang用一个两层的感知器结构来逼近非线性函数逆，从信息论的角度提出了两个非线性盲源分离算法：非线性最大熵算法(ME)和非线性最小互信息算法(MMI)。MMI算法的一个问题是利用了Gram-Charliar展开式来估计边缘熵，而Gram-Charliar展开对强非线性函数估计较差。

发明内容

本发明的目的在于克服现有技术的缺点与不足，提供一种多通道盲反卷积级联神经网络的方法，它是新而简单、单行之有效的扩展，可以从未知交错的混合信号中提取多重源信号。

本发明的目的通过下述技术方案实现：

本发明一种用于多通道盲反卷积级联神经网络的方法，包括下述步骤：

(1)由均衡子网络和压缩子网络组成模块神经网络，所述均衡子网络为提取信号源的处理单元，所述压缩子网络为消除已从混合信号提取了信号后其它多余信息的处理单元；

(2)均衡子网络神经突触{w_1j，p}由CM(恒定模型)算法更新，其更新的公

式如下： $w_{1j,p}(k+1)=w_{1j,p}\left(k\right)+{\mathrm{\η}}_{k}f\left[y_i\left(k\right)\right]x_j^{*}(k-p)$

其中，η_k表示步长，

是x_j的复共轭复数，f[y_i(k)]是匹配函数；

设定第一次提取信号y₁(k)对应第一个源信号S₁(k)，即y₁(k)＝λ₁s₁(k-d₁)；能量函数的极小化得到压缩子网络神经突触{u_i1，，p}，其计算公式如下：

$p=\frac{1}{2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{\left|x_i^{\left(1\right)}\left(k\right)\right|}^2$

其中， $x_i^{\left(1\right)}=x_i-\underset{p}{\mathrm{\Σ}}{u}_{i1,p}\left(k\right)y_1(k-p)u_{i1,p}$

采用随机梯度下降，其中，压缩子网络神经突触{u_i1，p}更新规则是：

$u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$

其中神经突触{w_1j，p}类似一个权值，w_1j，p(k+1)表示w_1j，p的第k+1次迭代权值。

(3)在步骤(2)的基础上，构成了Hebbian和逆Hebbian学习规则； $u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$ 表明学习算法消除首次从观测信号x(k)提取的信号y₁(k)以外的其它信息，并得出 $u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$ 模型平均稳定点；

(4)压缩处理后，输入到下一个模块网络的均衡子网络，x_i ⁽¹⁾(k)如下：

$x_i^{\left(1\right)}\left(k\right)=x_i\left(k\right)-\underset{p}{\mathrm{\Σ}}\frac{h_{i1,p+d_1}}{{\mathrm{\λ}}_1}{\mathrm{\λ}}_1{s}_1(k-p{-d}_1)$

$=x_i\left(k\right)-\underset{q}{\mathrm{\Σ}}{h}_{i1,q}{s}_1(k-q),i=1,\mathrm{\Λ},m.$

优选的，步骤(4)中，所述压缩算法去除了来自混合和卷积信号{x_i(k)}的首次源信号S₁(k)以外的其它信息，压缩混合信号{x_i ⁽¹⁾(k)}送入下一个模块网络，然后提取第二个源信号，及产生出第二次提取信号时要去除多余的混合信息，再提取第三个源信号，去除多余信号，依次重复，直到将多余信号去掉。

优选的，步骤(3)中，模型平衡稳定点u_i1，p满足下述公式：

$u_{i1,p}=\frac{E\left\{x_i\left(k\right)y_1^{*}(k-p)\right\}}{E\left\{{\left|y_1(k-p)\right|}^2\right\}},i=1\mathrm{\Λm}$

其中，E{*}表示能量函数。

优选的，y₁(k)是首次提取源信号的情况，

u_i1，p变为： $u_{i1,p}=\frac{h_{i1,p+d}}{{\mathrm{\λ}}_1},i=1,...,m.$

本发明相对于现有技术具有如下的优点及效果：

1、本发明方法简单实用，级联神经网络，它的每一模块是由均衡子网络和压缩子网络组成，可以方便快捷从未知交错的混合信号中提取多重源信号。

2、本发明可适用于任何盲均衡算法(信号信道均衡的拓延)，它也可以应用于源信号数目预先未知的情况。

附图说明

图1是本发明的流程图；

图2是本发明模块神经网络的结构图；

图3是本发明实施例模块神经网络y₁(k)的输出图；

图4是本发明实施例模块神经网络y₂(k)的输出图；

图5是本发明实施例模块神经网络y₃(k)的输出图；

图6是本发明实施例模块神经网络y₄(k)的输出图。

具体实施方式

下面结合实施例及附图对本发明作进一步详细的描述，但本发明的实施方式不限于此。

实施例

本实施例一种用于多通道盲反卷积级联神经网络的方法，如图1所述，包括下述步骤：

(1)由均衡子网络和压缩子网络组成模块神经网络，所述均衡子网络为提取信号源的处理单元，所述压缩子网络为消除已从混合信号提取了信号后其它多余信息的处理单元；如图2所示，是本实施例模块神经网络，由均衡子网络和和压缩子网络组成，在此模块神经网络的基础上，再运用本实施例级联神经网络的方法，可以从未知交错的信号中提取多重源信号。

(2)均衡子网络神经突触{w_1j，p}由恒定模型算法更新，其更新的公式如下：

$w_{1j,p}(k+1)=w_{1j,p}\left(k\right)+{\mathrm{\η}}_{k}f\left[y_i\left(k\right)\right]x_j^{*}(k-p)$

其中，η_k表示步长，

是x_j的复共轭复数，f[y_i(k)]是匹配函数；

设定第一次提取信号y₁(k)对应第一个源信号S₁(k)，即y₁(k)＝λ₁s₁(k-d₁)；能量函数的极小化得到压缩子网络神经突触{u_i1，，p}，其计算公式如下：

$p=\frac{1}{2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{\left|x_i^{\left(1\right)}\left(k\right)\right|}^2$

其中， $x_i^{\left(1\right)}=x_i-\underset{p}{\mathrm{\Σ}}{u}_{i1,p}\left(k\right)y_1(k-p)u_{i1,p}$

采用随机梯度下降，其中，压缩子网络神经突触{u_i1，p}更新规则是：

$u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$

其中，神经突触{w_1j，p}可以看成一个权值，w_1j，p(k+1)表示w_1j，p的第k+1次迭代权值。

(3)在步骤(2)的基础上，构成了Hebbian和逆Hebbian学习规则； $u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$ 表明学习算法消除首次从观测信号x(k)提取的信号y1(k)以外的其它信息，并得出 $u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$ 模型平均稳定点。

(4)压缩处理后，输入到下一个模块网络的均衡子网络，x_i ⁽¹⁾(k)如下：

$x_i^{\left(1\right)}\left(k\right)=x_i\left(k\right)-\underset{p}{\mathrm{\Σ}}\frac{h_{i1,p+d_1}}{{\mathrm{\λ}}_1}{\mathrm{\λ}}_1{s}_1(k-p-d_1)$

$=x_i\left(k\right)-\underset{q}{\mathrm{\Σ}}{h}_{i1,q}{s}_1(k-q),i=1,\mathrm{\Λ},m.$

步骤(4)中，所述压缩算法去除了来自混合和卷积信号{x_i(k)}的首次源信号S₁(k)以外的其它信息，压缩混合信号{x_i ⁽¹⁾(k)}送入下一个模块网络，然后提取第二个源信号，及产生出第二次提取信号时要去除多余的混合信息，再提取第三个源信号，去除多余信号，依次重复，直到将多余信号去掉。

步骤(3)中，模型平衡稳定点u_i1，p满足下述公式：

$u_{i1,p}=\frac{E\left\{x_i\left(k\right)y_1^{*}(k-p)\right\}}{E\left\{{\left|y_1(k-p)\right|}^2\right\}},i=1\mathrm{\Λm}$

其中，E{*}表示能量函数。

y1(k)是首次提取源信号的情况时，

u_i1，p进行下述变换，即： $u_{i1,p}=\frac{h_{i1,p+d}}{{\mathrm{\λ}}_1},i=1,...,m$

下面根据上述方法进行仿真，本实施例中仅仅提出典型模拟结果，即选择三种不同源信号，s(k)为二进制冲幅度调制(PAM)信号。五个传感器输出信号由以下式得到：

$x\left(k\right)=\underset{p=0}{\overset{7}{\mathrm{\Σ}}}{H}_p(k-p)$

每个Hp取[-1，1]间的随机数，源信号数目、通道传送函数及阶和假定源信号完全是未知的。均衡子网络(长度为L+1＝11)和压缩子网络(长度2L+1＝21)的学习速率选择为恒定值η_k＝0.0005；每个模块网络的输出其仿真值。

如图3、图4、图5可看到三种源信号得到较好的提取，如图6所示第四个输出信号收敛是非常小的值接近于零，它意味着仅三个源信号是被混合和卷积。因此，提取处理可停留在第四个模块网络。当用有限阶FIR均衡器时，为避免压缩处理单元的非因果关系，第二个模块网络延迟L个样点，第三个模块网络延迟2L个样点，如此等等。另一方面，所有模块网络是以非导师方式来训练的。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (4)

1.一种用于多通道盲反卷积级联神经网络的方法，其特征在于，包括下述步骤：

(1)由均衡子网络和压缩子网络组成模块神经网络，所述均衡子网络为提取信号源的处理单元，所述压缩子网络为消除已从混合信号提取了信号后其它多余信息的处理单元；

(2)均衡子网络神经突触{w_1j，p}由恒定模型算法更新，其更新的公式如下：

$w_{1j,p}(k+1)=w_{1j,p}\left(k\right)+{\mathrm{\η}}_{k}f\left[y_i\left(k\right)\right]x_j^{*}(k-p)$

其中，η_k表示步长，

是x_j的复共轭复数，f[y_i(k)]是匹配函数；

设定第一次提取信号y₁(k)对应第一个源信号S₁(k)，即y₁(k)＝λ₁s₁(k-d₁)；能量函数的极小化得到压缩子网络神经突触{u_i1，，p}，其计算公式如下：

$p=\frac{1}{2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{\left|x_i^{\left(1\right)}\left(k\right)\right|}^2$

其中， $x_i^{\left(1\right)}=x_i-\underset{p}{\mathrm{\Σ}}{u}_{i1,p}\left(k\right)y_1(k-p)u_{i1,p}$

采用随机梯度下降，其中，压缩子网络神经突触{u_i1，p}更新规则是：

$u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$

神经突触{w_1j，p}可以看成一个权值，w_1j，p(k+1)表示w_1j，p的第k+1次迭代权值；

(3)在步骤(2)的基础上，构成了Hebbian和逆Hebbian学习规则； $u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$ 表明学习算法消除首次从观测信号x(k)提取的信号y₁(k)以外的其它信息，并得出 $u_{i1,p}(k+1)=w_{i1,p}-{\mathrm{\η}}_k{x}_i^{\left(1\right)}{y}_1^{*}(k-p)$ 模型平均稳定点；

(4)压缩处理后，输入到下一个模块网络的均衡子网络，x_i ⁽¹⁾(k)如下：

$x_i^{\left(1\right)}\left(k\right)=x_i\left(k\right)-\underset{p}{\mathrm{\Σ}}\frac{h_{i1,p+d_1}}{{\mathrm{\λ}}_1}{\mathrm{\λ}}_1{s}_1(k-p-d_1)$

$=x_i\left(k\right)-\underset{q}{\mathrm{\Σ}}{h}_{i1,q}{s}_1(k-q),i=1,\mathrm{\Λ},m.$

2.根据权利要求1所述的用于多通道盲反卷积级联神经网络的方法，其特征在于，步骤(4)中，所述压缩算法去除了来自混合和卷积信号{x_i(k)}的首次源信号S₁(k)以外的其它信息，压缩混合信号{x_i ⁽¹⁾(k)}送入下一个模块网络，然后提取第二个源信号，及产生出第二次提取信号时要去除多余的混合信息，再提取第三个源信号，去除多余信号，依次重复，直到将多余信号去掉。

3.根据权利要求1所述的用于多通道盲反卷积级联神经网络的方法，其特征在于，步骤(3)中，模型平衡稳定点u_i1，p满足下述公式：

$u_{i1,p}=\frac{E\left\{x_i\left(k\right)y_1^{*}(k-p)\right\}}{E\left\{{\left|y_1(k-p)\right|}^2\right\}},i=1\mathrm{\Λm}$

其中，E{*}表示能量函数。

4.根据权利要求1所述的用于多通道盲反卷积级联神经网络的方法，其特征在于，y₁(k)是首次提取源信号的情况，

u_i1，p进行下述变换，即： $u_{i1,p}=\frac{h_{i1,p+d}}{{\mathrm{\λ}}_1},i=1,...,m.$

Images