CN106953820A - 基于双Sigmoid复数连续神经网络的信号盲检测方法 - Google Patents

Abstract

本发明提供了基于双Sigmoid复数连续神经网络的信号盲检测方法，所述方法设计了新的激活函数以减弱在0点周围对网络输入值的敏感度；利用新激活函数，在不影响收敛时间的前提下，误码率下降，改善了抗噪声能力；为了提高系统收敛速度，在复数连续Hopfield型神经网络的基础上引入双Sigmoid结构，构建本发明双Sigmoid复数连续Hopfield型神经网，在相同的信噪比条件下，以状态向量和平衡点之间的距离范数为指标，本发明双Sigmoid复数连续Hopfield型神经网络算法比传统双Sigmoid神经网络收敛速率更快，优化了HNN神经网络性能。

Description

基于双Sigmoid复数连续神经网络的信号盲检测方法

技术领域

本发明属于无线通信信号处理及神经网络技术领域，尤其是涉及基于双Sigmoid复数连续神经网络的信号盲检测方法。

背景技术

数据通信和无线传感网技术的迅猛发展，对通信信号的盲检测(BlindDetection)提出了更高的要求。所谓盲检测就是仅利用接受信号本身便能够检测出发送信号，从而消除符号间干扰(ISI)以提高信息传输速率和可靠性。

为解决传统自适应均衡技术容易引起的信道带宽利用率低等问题，许多文献开始使用Hopfield神经网络对信号盲检测问题进行研究。Hopfield神经网络(Hopfield NeuralNetworks,HNN)盲检测算法不受信道是否含公零点的限制且所需发送数据更短，与二阶统计量盲算法和高阶统计量盲算法相比，更能满足现代通信系统高速且可靠的传输要求。文献[张昀，现代通信系统与通信信号处理[PhD],博士学位论文(南京：南京邮电大学),2012.]基于HNN的盲检测算法研究已有初步成效，证明了网络趋向稳定平衡的充要条件。文献[孙明.基于小波和迟滞的混沌神经网络及其应用[PhD],博士学位论文(哈尔滨：哈尔滨工程大学),2010.]指出由于单纯采用梯度下降的动力学特性进行寻优，Hopfield神经网络易收敛到优化问题的局部极小解，甚至有时会收敛不到优化问题的最优解或者近似最优解。文献[M Martín-Valdivia,A Ruiz-Sepúlveda,F Triguero-Ruiz,Improving localminima of Hopfield networks with augmented Lagrange multipliers for largescaleTSPs[J].NeuralNetworks,2000,13(3):283-285]为解决局部极小点问题，在算法流程中，需在判断算法陷入局部极小值后，另行选择不同的起点，以得到全局最优点。文献文献[Luonan Chen,Kazuyuki Aihara,Chaotic simulated annealing by a neuralnetwork model with transient chaos[J].Neural Networks,1995，8(6):915–930]指出,混沌神经网络(Transiently Chaotic Hopfield Neural Network,TCHNN)可以避免陷入局部最优。然而，TCHNN具有负的自耦合，会导致能量函数的收敛速度变慢。

发明内容

为了克服现有技术抗干扰能力和收敛速度低的缺陷，本发明提供基于双Sigmoid复数连续神经网络的信号盲检测方法。本发明方法是在传统Hopfield神经网络模型的基础上设计新的激活函数，它与传统激活函数变化趋势相像，但通过参数调节减弱激活函数在0点周围对网络输入值的敏感度，同时双Sigmoid结构的引入加快了网络的收敛速度，进而能提高抗噪声性能。该网络旨在为无线通信网信号盲检测提供一种避免陷于局部最优且搜索精度高的算法，为无线通信网提供准确且快速的信号盲检测方法。

为解决上述技术问题，本发明所采用的技术方案是：

基于双Sigmoid复数连续神经网络的信号盲检测方法，包括如下步骤：

步骤A，构造接收数据矩阵：

接收端接收单个用户发送信号，经过过采样，获得离散时间信道的接收方程：

X_N＝SΓ^T

式中，X_N是接收数据阵，S是发送信号阵，Γ是由信道冲激响应h_pp构成的块Toeplitz矩阵；(·)^T表示矩阵转置；

其中，

M为信道阶数，L为均衡器阶数，N为所需数据长度；

s_L+M(k)＝[s(k),…,s(k-L-M)]^T；其中，s∈{±1}，时刻k为自然数；

h_pp＝[h₀,…,h_M]_q×(M+1)，pp＝0,1,…,M，q是过采样因子，取值为正整数；

X_N＝[x_L(k),…,x_L(k+N-1)]^T是N×(L+1)q接收数据阵，其中x_L(k)＝Γ·s_L+M(k)；

步骤B，接收数据矩阵奇异值分解：

式中，

(·)^H是Hermitian转置；

U是奇异值分解中的N×(L+M+1)酉基阵；

0是(N-(L+M+1))×(L+1)q零矩阵；

V是(L+1)q×(L+1)q酉基阵；

U_c是N×(N-(L+M+1))酉基阵；

D是(L+M+1)×(L+1)q奇异值阵；

步骤C，设置权矩阵W＝I_N-Q，其中I_N是N×N维的单位阵，

步骤D，首先设计新的激活函数应用于复数连续Hopfield型神经网络，证明新激活函数的可行性；然后为了提高系统收敛速度，在复数连续Hopfield型神经网络的基础上引入双Sigmoid结构，构建新型双Sigmoid复数连续Hopfield型神经网，将新激活函数设计为第一个Sigmoid函数，第二个Sigmoid函数采用传统激活函数；

所述双Sigmoid复数连续Hopfield型神经网络动态方程为：

对该方程进行迭代运算，然后把每次迭代的结果代入双Sigmoid复数连续Hopfield型神经网络的能量函数E(t)中，当该能量函数E(t)达到最小值，即s_i(t)＝x_i(t)时，双Sigmoid复数连续Hopfield型神经网络达到平衡，迭代结束；

其中s_i(t)，x_i(t)分别为S和X_N第i个分量在t时刻的状态，f_1i(.)为第一个Sigmoid函数，f_2i(.)为第二个Sigmoid函数，ω_ip是从第p个分量s_p到第i个分量s_i之间的权值大小；i＝1,...,N；

设计新的激活函数为f(x)，具体如下式：

f(x)＝f_R(x)+j·f_I(x)

其中，A是映射因子，它控制f(x)的映射区间，所述映射区间[-1,1]；B为放大因子，它决定着函数的斜度，B越小，f(x)函数的斜度越小；x₀是网络的门限值，只有当网络输入的模值比x₀的模值大时，f(x)的曲线图才会变陡；ε(x)表示阶跃函数，ε(-x)和ε(x)关于y轴对称，x表示函数输入信号；R,I分别表示激活函数的实部与虚部，j是虚数单位；

双Sigmoid复数连续Hopfield型神经网络的能量函数E(t)为：

其中：

N表示该Hopfield型神经网络的神经元个数；

E(t)为该Hopfield型神经网络的能量函数；

矩阵W为Hopfield神经网络的权矩阵，且W＝W^H，矩阵W的对角元ω_ii＞0；

s(t)为接收信号,s^H(t)为s(t)的共轭转置，s_Ri、s_Ii分别是信号的实部与虚部分量；

为第i个神经元的Sigmoid函数f_i(τ)的反函数。

本发明的有益效果是：本发明提供了基于双Sigmoid复数连续神经网络的信号盲检测方法，所述方法设计了新的激活函数以减弱在0点周围对网络输入值的敏感度；利用新激活函数，在不影响收敛时间的前提下，误码率下降，改善了抗噪声能力；为了提高系统收敛速度，在复数连续Hopfield型神经网络的基础上引入双Sigmoid结构，构建新型双Sigmoid复数连续Hopfield型神经网，在相同的信噪比条件下，以状态向量和平衡点之间的距离范数为指标，新型双Sigmoid复数连续Hopfield型神经网络算法比传统双Sigmoid神经网络收敛速率更快，大大优化了HNN神经网络性能。

附图说明

图1本发明双Sigmoid复数连续Hopfield型神经网络结构图。

图2本发明新设计的激活函数f(x)取不同参数值与经典激活函数tanh(x)的对比图。

图3随机信道，HNN与CSHNN误码率比较。图中HNN(Hopfield Neural Network)算法为传统Hopfield型神经网络盲检测算法，CSHNN(Complex-System Hopfield NeuralNetwork)算法为具有新型激活函数的复数连续Hopfield型神经网络盲检测算法。

图4随机信道下，传统HNN、具有新型激活函数的CSHNN以及CS-DSHNN算法的距离范数比较。图中CS-DSHNN(Complex-System Double Sigmoid Hopfield Neural Network)算法为双Sigmoid复数连续Hopfield型神经网络盲检测算法，DSHNN(Double SigmoidHopfield Neural Network)算法为传统Hopfield型神经网络盲检测算法。

具体实施方式

下面结合附图，对本发明基于双Sigmoid复数连续神经网络的信号盲检测方法进行详细说明：

基于双Sigmoid复数连续神经网络的信号盲检测方法，其实施过程如下：

忽略噪声时，离散时间信道的接收方程定义如下

X_N＝SΓ^T (1)

式中，X_N是接收数据阵，S是发送信号阵，Γ是由信道冲激响应h_pp构成的块Toeplitz矩阵；(·)^T表示矩阵转置；

其中，发送信号阵：

S＝[s_L+M(k),…,s_L+M(k+N-1)]^T＝[s_N(k),…,s_N(k-M-L)]_N×(L+M+1)，

M为信道阶数，L为均衡器阶数，N为所需数据长度；

s_L+M(k)＝[s(k),L,s(k-L-M)]^T[0,1]；其中，s∈{±1}，时刻k为自然数；

h_pp＝[h₀,…,h_M]_q×(M+1)，pp＝0,1,…,M；

q是过采样因子，取值为正整数；

X_N＝[x_L(k),…,x_L(k+N-1)]^T是N×(L+1)q接收数据阵，

其中x_L(k)＝Γ·s_L+M(k)；

对于式(1)，Γ满列秩时，一定有满足Qs_N(k-d)＝0，U_c是N×(N-(L+M+1))酉基阵，由奇异值分解中得到；

其中：

(·)^H是Hermitian转置；

U是奇异值分解中的N×(L+M+1)酉基阵；

0是(N-(L+M+1))×(L+1)q零矩阵；

V是(L+1)q×(L+1)q酉基阵；

U_c是N×(N-(L+M+1))酉基阵；

D是(L+M+1)×(L+1)q奇异值阵；

据此构造性能函数及优化问题

其中，s∈{±1}^N是N维向量，所属字符集{±1}，表示信号的估计值。arg min()表示使目标函数取最小值时的变量值，d为延时因子，d＝0,…,M+L。如此，盲检测问题就成为了式(3)的全局最优解问题。

图1是本发明双Sigmoid复数连续Hopfield型神经网络系统结构图，包含权矩阵模块、两个激活函数、积分器。

a.)该系统的动态方程为：

其中s_i(t)，x_i(t)分别为S和X_N第i个分量在t时刻的状态，f_1i(.)为第一个Sigmoid函数，f_2i(.)为第二个Sigmoid函数，ω_ip是从第p个分量s_p到第i个分量s_i之间的权值大小；该神经网络达到最后平衡时，可近似认为每个神经元的s_i(t)＝x_i(t)，s_i(t)即为求取的发送信号；

本文把双Sigmoid复数连续Hopfield型神经网络的第一个激活函数设计为：

f₁(x)＝f_R(x)+j·f_I(x) (7)

第二个激活函数采用传统激活函数：

f₂(x)＝sign(x) (8)

f₂(x)＝arctan(x) (9)

其中A是映射因子，它控制f(x)的映射区间，本设计映射区间[-1,1]；B为放大因子，它决定着函数的斜度，B越小，f(x)函数的斜度越小；x₀是网络的门限值，只有当网络输入的模值比x₀的模值大时，f(x)的曲线图才会变陡；ε(x)表示阶跃函数，ε(-x)和ε(x)关于y轴对称，x表示函数输入信号；R,I表示激活函数的实部虚部，j是虚数单位；(7)式为激活函数复数表达式。(8)(9)是两个传统激活函数表达式。新型双Sigmoid复试连续Hopfield神经网络两个Sigmoid函数都采用新设计的激活函数。

b.)能量函数

在图1所示的采用式(4)、式(5)描述的双Sigmoid复数连续Hopfield型神经网络中，若该网络由N个神经元构成，W＝W^H，矩阵W的对角元ω_ii＞0，Sigmoid函数f₁(.)和f₂(.)的导数都分别大于零，那么该神经网络的能量函数表述为：

其中：s(t)为接收信号,s^H(t)为s(t)的共轭转置，s_Ri，s_Ii分别是信号实部与虚部分量，为第i个神经元的Sigmoid函数f_i(τ)的反函数。

综上所述，该网络每次循环都先进入复数连续Hopfield型神经网络结构跳出了局部极小点之后再进入第二个激活函数，复数连续Hopfield型神经网络和第二个激活函数就构成了一个双Sigmoid复数连续Hopfield型神经网络，既保证了网络可以避免局部极小点又使得网络的收敛速度加快，最后达到网络的平衡。

为利用双Sigmoid复数连续Hopfield型神经网络实现信号盲检测，求解式(2)、(3)的信号盲检测问题，要使能量函数的最小值点对应于盲检测性能函数的最小值点。由于欧拉公式可以使连续时间和离散时间之间进行相互转换，在网络达到稳定时，可近似认为s_i(t)＝x_i(t)，比较能量函数式(9)的第一部分与性能函数式(2)，则可看出相差一个负号，所以可考虑设计双Sigmoid复数连续Hopfield型神经网络的权矩阵为投影算子形式W＝I_N-Q，其中I_N是N×N维的单位阵，这样就使能量函数E(t)的最小值点对应于盲检测性能函数(2)的最小值点，从而能够用双Sigmoid复数连续Hopfield型神经网络络实现信号盲检测。

图2是本发明设计的新激活函在固定A＝1,B＝50，x₀数取不同参数与经典激活函数tanh的对比图。从图中可以看出，f(x)与经典的Sigmoid型激活函数相比，f(x)在形式上表现得极为相像，即随着x的变化，f(x)具有相同的变化趋势。同时可以观察到，随着参数x₀的变化，f(x)虽然都具有类似的变化趋势，但是在原点周围对网络输入值的敏感度不同，通过选取合适的x₀值可以减弱激活函数在0点周围对网络输入值的敏感度，进而能够提高抗噪声能力。而且，在神经元输入值的模值较大时，也能保证其快速收敛。

图3是随机信道下，HNN与CSHNN误码率比较图。本发明是在固定QPSK信号长度为200。Hopfield神经网络HNN和基于复数系统的CSHNN网络的误码率比较噪声为高斯白噪声，所有仿真结果都经过100次蒙特卡洛实验而得。

通过图3可知，QPSK发送信号下，在随机合成信道中，应用新提出的激活函数的CSHNN神经网络的平均误码率在信噪比为12dB时降为0，而传统HNN盲检测网络在信噪比为14dB时平均误码率降为0，CSHNN神经网络大幅度地降低了网络的误码率。即新激活函数的应用，改善了传统HNN网络的抗噪声能力。

图4是信噪比为20dB的情况下，在延时度以及权值均变化的随机信道下，比较HNN算法、复数连续的CSHNN算法、以sign、arctan构成的经典DSHNN算法以及本文提出的双Sigmoid复数连续Hopfield型CS-DSHNN盲检测算法的收敛速度。其中，CS-DSHNN的参数选择为：A＝1，B＝50且仿真以状态向量与平衡点之间的距离范数为性能指标，以迭代次数为横坐标来体现算法的收敛速度，实验仿真结果如图4所示。

距离范数指的是两个向量间的模值。向量的范数定义为：向量的范数是一个函数||x||，满足非负性，即||x||≥0；齐次性，||cx||＝|c|||x||以及三角不等式，||x+y||≤||x||+||y||。文本的距离范数利用的是L2范数，即||x||为x向量各个元素平方和的1/2次方。

通过图4可知，DSHNN比HNN收敛速度快，CS-DSHNN比CSHNN收敛速度快，说明双Sigmoid结构的引入加快了网络的收敛速度，而从图4的局部放大图则可以明显看出CS-DSHNN网络在快收敛时刻较之其他四个网络具有更快的收敛趋势。可见新型CS-DSHNN算法的应用大大加快了Hopfield神经网络的收敛速率，使得网络获得更好的性能。

Claims (1)

1.基于双Sigmoid复数连续神经网络的信号盲检测方法，其特征在于，包括如下步骤：

步骤A，构造接收数据矩阵：

接收端接收单个用户发送信号，经过过采样，获得离散时间信道的接收方程：

X_N＝SΓ^T

式中，X_N是接收数据阵，S是发送信号阵，Γ是由信道冲激响应h_pp构成的块Toeplitz矩阵；(·)^T表示矩阵转置；

其中，

$S={\[s_{L+M}\left(k\right),...,s_{L+M}(k+N-1)\]}_{N\×(L+M+1)}^T,$

M为信道阶数，L为均衡器阶数，N为所需数据长度；

s_L+M(k)＝[s(k),…,s(k-L-M)]^T；其中，s∈{±1}，时刻k为自然数；

h_pp＝[h₀,…,h_M]_q×(M+1)，pp＝0,1,…,M；

q是过采样因子，取值为正整数；

X_N＝[x_L(k),…,x_L(k+N-1)]^T是N×(L+1)q接收数据阵，其中x_L(k)＝Γ·s_L+M(k)；

步骤B，接收数据矩阵奇异值分解：

$X_N=\[U,U_c\]\·\left[\begin{array}{c}D\\ 0\end{array}\right]\·V^H$

式中，

(·)^H是Hermitian转置；

U是奇异值分解中的N×(L+M+1)酉基阵；

0是(N-(L+M+1))×(L+1)q零矩阵；

V是(L+1)q×(L+1)q酉基阵；

U_c是N×(N-(L+M+1))酉基阵；

D是(L+M+1)×(L+1)q奇异值阵；

步骤C，设置权矩阵W＝I_N-Q，其中I_N是N×N维的单位阵，

步骤D，首先设计新的激活函数应用于复数连续Hopfield型神经网络，证明新激活函数的可行性；然后为了提高系统收敛速度，在复数连续Hopfield型神经网络的基础上引入双Sigmoid结构，构建新型双Sigmoid复数连续Hopfield型神经网，将新激活函数设计为第一个Sigmoid函数，第二个Sigmoid函数采用传统激活函数；

所述双Sigmoid复数连续Hopfield型神经网络动态方程为：

$\frac{{\mathrm{ds}}_i\left(t\right)}{dt}=f_{2i}\left(f_{1i}\right(x_i\left(t\right)\left)\right)$

$x_i\left(t\right)=\underset{p=1}{\overset{N}{\Σ}}{\mathrm{\ω}}_{ip}{s}_p\left(t\right)$

对该方程进行迭代运算，然后把每次迭代的结果代入双Sigmoid复数连续Hopfield型神经网络的能量函数E(t)中，当该能量函数E(t)达到最小值，即s_i(t)＝x_i(t)时，双Sigmoid复数连续Hopfield型神经网络达到平衡，迭代结束；

其中s_i(t)，x_i(t)分别为S和X_N第i个分量在t时刻的状态，f_1i(.)为第一个Sigmoid函数，f_2i(.)为第二个Sigmoid函数，ω_ip是从第p个分量s_p到第i个分量s_i之间的权值大小；i＝1,...,N；

所述新设计的激活函数为f(x)，具体如下式：

$\begin{array}{c}{f}_R\left(x\right)=f_I\left(x\right)=A\[\frac{\arctan \left({\mathrm{Bx}}_0\right)+0.5\left(1+\arctan \left(Bx-x_0\right)\right)}{1+\arctan \left({\mathrm{Bx}}_0\right)}\mathrm{\ϵ}\left(x\right)\\ +\frac{0.5\left(1+\arctan \left(Bx+x_0\right)\right)}{1+\arctan \left({\mathrm{Bx}}_0\right)}\mathrm{\ϵ}\left(-x\right)\]\end{array}$

f(x)＝f_R(x)+j·f_I(x)

其中，A是映射因子，它控制f(x)的映射区间，所述映射区间[-1,1]；B为放大因子，它决定着函数的斜度，B越小，f(x)函数的斜度越小；x₀是网络的门限值，只有当网络输入的模值比x₀的模值大时，f(x)的曲线图才会变陡；ε(x)表示阶跃函数，ε(-x)和ε(x)关于y轴对称，x表示函数输入信号；R,I分别表示激活函数的实部与虚部，j是虚数单位；

双Sigmoid复数连续Hopfield型神经网络的能量函数E(t)为：

$E\left(t\right)=-\frac{1}{2}{s}^H\left(t\right)Ws\left(t\right)+\underset{i=1}{\overset{N}{\Σ}}\left(\underset{0}{\overset{s_{Ri}\left(t\right)}{\∫}}{f}^{-1}\right(x)dx+\underset{0}{\overset{s_{Ii}\left(t\right)}{\∫}}{f}^{-1}(x\left)dx\right)$

其中：

N表示该Hopfield型神经网络的神经元个数；

E(t)为该Hopfield型神经网络的能量函数；

矩阵W为Hopfield神经网络的权矩阵，且W＝W^H，矩阵W的对角元ω_ii＞0；

s(t)为接收信号,s^H(t)为s(t)的共轭转置，s_Ri、s_Ii分别是信号的实部与虚部分量；

f_i ^-1(τ)为第i个神经元的Sigmoid函数f_i(τ)的反函数。