CN103888391A - 基于双Sigmoid混沌神经网络的信号盲检测方法 - Google Patents

Abstract

本发明提出了基于双Sigmoid混沌神经网络的信号盲检测方法，所述方法利用混沌神经网络和第二个激活函数构成了一个双Sigmoid混沌神经网络；每次迭代时，首先进入混沌神经网络，然后再进入第二个激活函数。本发明方法由于混沌神经网络具有可以避免陷于局部最小的优点，提高了盲检测性能，提高了网络运营速度抗噪性能优于传统的Hopfield信号盲检测算法。

Description

基于双Sigmoid混沌神经网络的信号盲检测方法

技术领域

本发明属于无线通信信号处理及神经网络技术领域，尤其是涉及基于双Sigmoid混沌神经网络的信号盲检测方法。

背景技术

数据通信和无线传感网技术的迅猛发展，对通信信号的盲检测（BlindDetection）提出了更高的要求。所谓盲检测仅利用接受信号本身便能够检测出发送信号，从而消除符号间干扰（ISI）以提高信息传输速率和可靠性。

为解决遗传、蚁群、免疫、微粒群等多种智能算法引起的容易陷入局部极小值且收敛速度慢的问题，许多文献开始使用Hopfield神经网络对信号盲检测问题进行研究。Hopfield神经网络（Hopfield Neural Networks,HNN）盲检测算法不受信道是否含公零点的限制且所需发送数据更短，与二阶统计量盲算法和高阶统计量盲算法相比，更能满足现代通信系统中高速数据传输的要求。文献[张昀，现代通信系统与通信信号处理[PhD],博士学位论文（南京：南京邮电大学）,2012.]基于HNN的盲检测算法研究已有初步成效，证明了网络趋向稳定平衡的充要条件。文献[Yang S,Lee C M,HBP:improvement in BP algorithm for an adaptive MLPdecision feedback equalizer[J].IEEE Transactions on Circuits and System,2006,53(3):240-244]指出HNN算法往往会陷入局部极小点。文献[M Martín-Valdivia,ARuiz-Sepúlveda,F Triguero-Ruiz,Improving local minima of Hopfield networks withaugmented Lagrange multipliers for large scale TSPs[J].Neural Networks,2000,13(3):283-285]为解决局部极小点问题,在算法流程中，需在判断算法陷入局部极小值后,另行选择不同的起点,以得到全局最优点。文献[Luonan Chen,Kazuyuki Aihara,Chaotic simulated annealing by a neural network model with transient chaos[J].Neural Networks,1995，8(6):915–930]指出,混沌神经网络（Transiently ChaoticHopfield Neural Network,TCHNN）可以避免陷入局部最优。然而，TCHNN具有负的自耦合，会导致能量函数的收敛速度变慢。针对这一问题，本发明提出了一种基于双Sigmoid混沌神经网络的信号盲检测方法，在混沌神经网络的基础上加上双Sigmoid激活函数，该网络既继承了混沌神经网络的所有优点且其收敛速度更快。

发明内容

本发明所要解决的技术问题是为了克服现有技术的缺陷和不足，提供基于双Sigmoid混沌神经网络的信号盲检测方法。本发明方法在混沌神经网络的基础上加上双Sigmoid激活函数，既继承了混沌神经网络的所有优点且其收敛速度更快。该网络旨在为无线通信网的全反馈网络的信号盲检测提供一种避免了陷于局部最优解的算法且收敛速度极快，为无线通信网提供了准确且快速的信号盲检测方法。

为解决上述技术问题，本发明所采用的技术方案是：

基于双Sigmoid混沌神经网络的信号盲检测方法，所述方法包括如下步骤：

步骤A，构造接收数据矩阵：

接收端接收单个用户发送信号，经过过采样，获得离散时间信道的接收方程：

X_N=SΓ^T

式中，X_N是接收数据阵，S是发送信号阵，Γ是由信道冲激响h_jj构成的块Toeplitz矩阵；(·)^T表示矩阵转置；

其中，发送信号阵：

S=[s_L+M(k),…,s_L+M(k+N-1)]^T=[s_N(k),…,s_N(k-M-L)]_N×(L+M+1)，

M为信道阶数，L为均衡器阶数，N为所需数据长度；

s_L+M(k)=[s(k),…,s(k-L-M)]^T;其中，s∈{±1}，时刻k为自然数；

h_jj=[h₀,…,h_M]_q×(M+1)，jj=0,1,…,M；

q是过采样因子，取值为正整数；

X_N=[x_L(k),…,x_L(k+N-1)]^T是N×(L+1)q接收数据阵，

其中x_L(k)=Γ·s_L+M(k);

步骤B，接收数据矩阵奇异值分解：

$X_N=[U,U_c]\·\left[\begin{array}{c}D\\ 0\end{array}\right]\·V^H$

式中，

(·)^H是Hermitian转置；

U是奇异值分解中的N×(L+M+1)酉基阵；

0是(N-(L+M+1))×(L+1)q零矩阵；

V是(L+1)q×(L+1)q酉基阵；

U_c是N×(N-(L+M+1))酉基阵；

D是(L+M+1)×(L+1)q奇异值阵；

步骤C，设置权矩阵W=I_N-Q，其中I_N是N×N维的单位阵，

步骤D，选择双Sigmoid混沌神经网络的激活函数，进行双Sigmoid混沌神经网络迭代运算；

双Sigmoid混沌神经网络动态方程为：

$\frac{d\left(s\left(t\right)\right)}{\mathrm{dt}}=f(\mathrm{ks}\left(t\right)+\mathrm{\α}(\mathrm{Wy}\left(t\right)-z\left(t\right)y\left(t\right))$

$\frac{\mathrm{dz}\left(t\right)}{\mathrm{dt}}=-\mathrm{\β}$

y(t)=σ(s(t))

对该方程进行迭代运算，然后把每次迭代的结果代入双Sigmoid混沌神经网络的能量函数E(t)中，当该能量函数E(t)达到最小值，即y(t)=y(t-1)时，该双Sigmoid混沌神经网络达到平衡，迭代结束；

其中，

s(t)为双Sigmoid混沌神经网络N个神经元构成的向量，且s_i(t)为发送数据阵的列向量，i代表第i个神经元，0≤i≤N；t为网络迭代过程中运行的时间，该网络中的连续时间t和离散时间k通过欧拉公式实现转换；

σ(.)为神经元的第一个Sigmoid函数，f(.)为神经元的第二个Sigmoid函数；

k为该网络的衰减因子，W为双Sigmoid混沌神经网络的网络权矩阵，α为该网络的尺度参数；

z(t)为随着网络的迭代循环而逐渐变小的变量，β为z(t)的下降导数；

y(t)为N个神经元的输出y_i(t)构成的向量，该网络达到最后平衡时，可近似的认为每个神经元的y_i(t)=s_i(t)，y(t)即为求取的发送信号；

步骤D中，所述双Sigmoid混沌神经网络的激活函数为：

σ(x)=tanh(x)

f(x)=sin(x)

其中，x为神经网络的输入，f(x)的导数远小于σ(x)的导数；

所述双Sigmoid混沌神经网络的能量函数为：

$E\left(t\right)=-\frac{\mathrm{\α}}{2}{\mathrm{\σ}}^T\left(t\right)\mathrm{W\σ}\left(t\right)-k\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{\∫}_0^{y_1\left(t\right)}{{\mathrm{\σ}}_i}^{-1}\left(\mathrm{\τ}\right)\mathrm{d\τ}+\frac{1}{2}\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{z}_i\left(t\right){{\mathrm{\σ}}_i}^2\left(t\right)$

其中：

该混沌神经网络由N个神经元构成；

E(t)为该混沌神经网络的能量函数；

α为该网络的尺度参数；

矩阵W为混沌神经网络的权矩阵，且W=W^H，矩阵W的对角元ω_ii>0；

k为该网络的衰减因子；

y_i(t)为t时刻第i个神经元的输出；

σ(t)=σ(s(t))，σ^T(t)为该网络激活函数σ(t)的转置，σ_i ^-1(τ)为第i个神经元的Sigmoid函数σ_i(τ)的反函数，σ′(t)、f′(t)分别为Sigmoid函数σ(x)和f(x)对时间的导数，且σ′(t)>0、f′(t)>0，z_i(t)为随着该网络的迭代循环而逐渐变小的变量。

本发明的有益效果是：本发明提出了基于双Sigmoid混沌神经网络的信号盲检测方法，所述方法利用混沌神经网络和第二个激活函数构成了一个双Sigmoid混沌神经网络；每次迭代时，首先进入混沌神经网络，然后再进入第二个激活函数。本发明方法由于混沌神经网络具有可以避免陷于局部最小的优点，提高了盲检测性能，提高了网络运营速度抗噪性能优于传统的Hopfield信号盲检测算法。

附图说明

图1本发明双Sigmoid混沌神经网络系统结构图。

图2本发明基于双Sigmoid混沌神经网络盲检测算法与混沌神经网络盲检测算法能量函数随时间变化曲线图。TCHNN（Transiently Chaotic Hopfield NeuralNetwork）算法为混沌神经网络算法，DS-TCHNN（Double Sigmoid TransientlyChaotic Hopfield Neural Network）算法为双Sigmoid混沌神经网络算法。

图3本发明基于双Sigmoid混沌神经网络盲检测算法与混沌神经网络算法及Hopfield神经网络算法的误码率的比较图。图中HNN(Hopfield Neural Network)算法为Hopfield神经网络算法。

具体实施方式

下面结合附图，对本发明提出的基于双Sigmoid混沌神经网络的信号盲检测方法进行详细说明：

基于双Sigmoid混沌神经网络的信号盲检测方法，其实施过程如下：

忽略噪声时，离散时间信道的接收方程定义如下

X_N=SΓ^T   (1)

式中，X_N是接收数据阵，S是发送信号阵，Γ是由信道冲激响h_jj构成的块Toeplitz矩阵；(·)^T表示矩阵转置；

其中，发送信号阵：

S=[s_L+M(k),…,s_L+M(k+N-1)]^T=[s_N(k),…,s_N(k-M-L)]_N×(L+M+1)，

M为信道阶数，L为均衡器阶数，N为所需数据长度；

s_L+M(k)=[s(k),…,s(k-L-M)]^T;其中，s∈{±1}，时刻k为自然数；

h_jj=[h₀,…,h_M]_q×(M+1)，jj=0,1,…,M；

q是过采样因子，取值为正整数；

X_N=[x_L(k),…,x_L(k+N-1)]^T是N×(L+1)q接收数据阵，

其中x_L(k)=Γ·s_L+M(k);

对于式(1)，Γ满列秩时，一定有

满足Qs_N(k-d)=0，U_c是N×(N-(L+M+1))酉基阵，由奇异值分解 $X_N=[U,U_c]\·\left[\begin{array}{c}D\\ 0\end{array}\right]\·V^H$ 中得到；

其中：

(·)^H是Hermitian转置；

U是奇异值分解中的N×(L+M+1)酉基阵；

0是(N-(L+M+1))×(L+1)q零矩阵；

V是(L+1)q×(L+1)q酉基阵；

U_c是N×(N-(L+M+1))酉基阵；

D是(L+M+1)×(L+1)q奇异值阵；

据此构造性能函数及优化问题

$J_0=s_N^H(k-d){\mathrm{Qs}}_N(k-d)=s^H\mathrm{Qs}---\left(2\right)$

$\hat{s}=\underset{\hat{s}\∈{\{\±1\}}^N}{\arg \min }\left\{J_0\right\}---\left(3\right)$

其中，s∈{±1}^N是N维向量，所属字符集{±1}，

表示信号的估计值。argmin()表示使目标函数取最小值时的变量值，d为延时因子，d=0,…,M+L。如此，盲检测问题就成为了式(3)的全局最优解问题。

图1是本发明双Sigmoid混沌神经网络系统结构图。包含权矩阵模块、两个激活函数、积分器、衰减因子和尺度参数。

a.)该系统的动态方程为：

$\frac{d\left(s\left(t\right)\right)}{\mathrm{dt}}=f(\mathrm{ks}\left(t\right)+\mathrm{\α}(\mathrm{Wy}\left(t\right)-z\left(t\right)y\left(t\right))---\left(4\right)$

$\frac{\mathrm{dz}\left(t\right)}{\mathrm{dt}}=-\mathrm{\β}---\left(5\right)$

y(t)=σ(s(t))   (6)

其中，t为网络迭代过程中运行的时间，该网络中的连续时间t和离散时间k之间可以通过欧拉公式互相转换，s(t)为双Sigmoid混沌神经网络N个神经元构成的向量，且s_i(t)为发送数据阵的列向量(i代表第i个神经元且为任意0≤i≤N的一个整数)；σ(.)为神经元的第一个Sigmoid函数，f(.)为神经元的第二个Sigmoid函数，k为该网络的衰减因子，W为双Sigmoid混沌神经网络的网络权矩阵，α为该网络的尺度参数，z(t)为随着网络的迭代循环而逐渐变小的变量，β为z(t)的下降导数。y(t)为N个神经元的输出构成的向量，该网络达到最后平衡时，可近似的认为每个神经元的y_i(t)=s_i(t)，其中，i代表第i个神经元且为任意0≤i≤N的一个整数，y(t)即为求取的发送信号。

本文把双Sigmoid混沌神经网络的两个激活函数设计为：

σ(x)=tanh(x)   (7)

f(x)=sin(x)   (8)

其中，x为神经网络的输入，f(x)的导数远小于σ(x)的导数。

b.)能量函数

在图1所示的采用式(4)、式(5)、式(6)描述的双Sigmoid混沌神经网络中，若该网络由N个神经元构成，权矩阵W=W^H,矩阵W的对角元ω_ii>0,该网络衰减系数β>0,sigmoid函数σ(t)和f(t)的导数都分别大于零，那么该神经网络的能量函数表述为：

$E\left(t\right)=-\frac{\mathrm{\α}}{2}{\mathrm{\σ}}^T\left(t\right)\mathrm{W\σ}\left(t\right)-k\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{\∫}_0^{y_1\left(t\right)}{{\mathrm{\σ}}_i}^{-1}\left(\mathrm{\τ}\right)\mathrm{d\τ}+\frac{1}{2}\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{z}_i\left(t\right){{\mathrm{\σ}}_i}^2\left(t\right)---\left(9\right)$

其中：E为该网络的能量函数，该能量函数是一个与迭代时间有关系的变量，α为该网络的尺度参数，k为该网络的衰减因子，y_i(t)为t时刻第i个神经元的输出，σ(t)=σ(s(t))，σ^T(t)为该网络激活函数σ(t)的转置，σ_i ^-1(τ)为第i个神经元的Sigmoid函数σ_i(τ)的反函数，z_i(t)为随着该网络的迭代循环而逐渐变小的变量。

综上所述，该网络每次循环都先进入混沌神经网络结构跳出了局部极小点之后再进入第二个激活函数，混沌神经网络和第二个激活函数就构成了一个双Sigmoid混沌神经网络，既保证了网络可以避免局部极小点又使得网络的收敛速度加快，最后达到网络的平衡。

为利用双Sigmoid混沌神经网络实现信号盲检测，求解式(2)、(3)的信号盲检测问题，要使能量函数的最小值点对应于盲检测性能函数的最小值点。由于欧拉公式可以使连续时间和离散时间之间进行相互转换，在网络达到稳定时，可近似认为σ(t)=s(k)，比较能量函数式(9)的第一部分与性能函数式(2)，则可看出相差一个负号，所以可考虑设计双Sigmoid混沌神经网络的权矩阵为投影算子形式W=I_N-Q，其中I_N是N×N维的单位阵，

这样就使能量函数E(t)的最小值点对应于盲检测性能函数(2)的最小值点，从而能够用双Sigmoid混沌神经网络实现信号盲检测。

图2和图3分别是本发明基于双Sigmoid混沌神经网络的信号盲检测方法的仿真实验图。这里的仿真采用不含公零点的经典文献信道，发送信号为二进制相移键控信号，固定数据长度N=100，噪声为高斯白噪声，所有仿真结果都经过100次蒙特卡洛实验而得。

图2是在条件相同的情况下，本发明算法与混沌神经网络盲检测算法能量函数随时间变化曲线。图3是本发明算法与传统Hopfield信号盲检测算法和混沌神经网络盲检测算法比较的误码率曲线图。图中HNN(Hopfield Neural Network)算法为Hopfield神经网络算法，TCHNN（Transiently Chaotic Hopfield NeuralNetwork，TCHNN）算法为混沌神经网络算法，DS-TCHNN（Double SigmoidTransiently Chaotic Hopfield Neural Network）算法为双Sigmoid混沌神经网络算法。仿真图表明：DS-TCHNN算法能量函数收敛速度明显快于TCHNN算法，并且在信噪比较低的情况下,DS-TCHNN算法的误码性都优于TCHNN算法和HNN算法。

Claims (3)

1.基于双Sigmoid混沌神经网络的信号盲检测方法，其特征在于，包括如下步骤：

步骤A，构造接收数据矩阵：

接收端接收单个用户发送信号，经过过采样，获得离散时间信道的接收方程：

X_N=SΓ^T

式中，X_N是接收数据阵，S是发送信号阵，Γ是由信道冲激响h_jj构成的块Toeplitz矩阵；(·)^T表示矩阵转置；

其中，发送信号阵：

S=[s_L+M(k),…,s_L+M(k+N-1)]^T=[s_N(k),…,s_N(k-M-L)]_N×(L+M+1)，

M为信道阶数，L为均衡器阶数，N为所需数据长度；

s_L+M(k)=[s(k),…,s(k-L-M)]^T;其中，s∈{±1}，时刻k为自然数；

h_jj=[h₀,…,h_M]_q×(M+1)，jj=0,1,…,M；

q是过采样因子，取值为正整数；

X_N=[x_L(k),…,x_L(k+N-1)]^T是N×(L+1)q接收数据阵，

其中x_L(k)=Γ·s_L+M(k);

步骤B，接收数据矩阵奇异值分解：

$X_N=[U,U_c]\·\left[\begin{array}{c}D\\ 0\end{array}\right]\·V^H$

式中，

(·)^H是Hermitian转置；

U是奇异值分解中的N×(L+M+1)酉基阵；

0是(N-(L+M+1))×(L+1)q零矩阵；

V是(L+1)q×(L+1)q酉基阵；

U_c是N×(N-(L+M+1))酉基阵；

D是(L+M+1)×(L+1)q奇异值阵；

步骤C，设置权矩阵W=I_N-Q，其中I_N是N×N维的单位阵，

步骤D，选择双Sigmoid混沌神经网络的激活函数，进行双Sigmoid混沌神经网络迭代运算；

双Sigmoid混沌神经网络动态方程为：

$\frac{d\left(s\left(t\right)\right)}{\mathrm{dt}}=f(\mathrm{ks}\left(t\right)+\mathrm{\α}(\mathrm{Wy}\left(t\right)-z\left(t\right)y\left(t\right))$

$\frac{\mathrm{dz}\left(t\right)}{\mathrm{dt}}=-\mathrm{\β}$

y(t)=σ(s(t))

对该方程进行迭代运算，然后把每次迭代的结果代入双Sigmoid混沌神经网络的能量函数E(t)中，当该能量函数E(t)达到最小值，即y(t)=y(t-1)时，该双Sigmoid混沌神经网络达到平衡，迭代结束；

其中，

s(t)为双Sigmoid混沌神经网络N个神经元构成的向量，且s_i(t)为发送数据阵的列向量，i代表第i个神经元，0≤i≤N；t为网络迭代过程中运行的时间，该网络中的连续时间t和离散时间k通过欧拉公式实现转换；

σ(.)为神经元的第一个Sigmoid函数，f(.)为神经元的第二个Sigmoid函数；

k为该网络的衰减因子，W为双Sigmoid混沌神经网络的网络权矩阵，α为该网络的尺度参数；

z(t)为随着网络的迭代循环而逐渐变小的变量，β为z(t)的下降导数；

y(t)为N个神经元的输出yi(t)构成的向量，该网络达到最后平衡时，可近似的认为每个神经元的y_i(t)=s_i(t)，y(t)即为求取的发送信号。

2.权利要求1所述的基于双Sigmoid混沌神经网络的信号盲检测方法，其特征在于，步骤D中，所述双Sigmoid混沌神经网络的激活函数分别为：

σ(x)=tanh(x)

f(x)=sin(x)

其中，x为神经网络的输入，f(x)的导数远小于σ(x)的导数。

3.权利要求1所述的基于双Sigmoid混沌神经网络的信号盲检测方法，其特征在于，步骤D中，所述双Sigmoid混沌神经网络的能量函数为：

$E\left(t\right)=-\frac{\mathrm{\α}}{2}{\mathrm{\σ}}^T\left(t\right)\mathrm{W\σ}\left(t\right)-k\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{\∫}_0^{y_1\left(t\right)}{{\mathrm{\σ}}_i}^{-1}\left(\mathrm{\τ}\right)\mathrm{d\τ}+\frac{1}{2}\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{z}_i\left(t\right){{\mathrm{\σ}}_i}^2\left(t\right)$

其中：

该混沌神经网络由N个神经元构成；

E(t)为该混沌神经网络的能量函数；

α为该网络的尺度参数；

矩阵W为混沌神经网络的权矩阵，且W=W^H，矩阵W的对角元ω_ii>0；

k为该网络的衰减因子；

y_i(t)为t时刻第i个神经元的输出；

σ(t)=σ(s(t))，σ^T(t)为该网络激活函数σ(t)的转置，σ_i ^-1(τ)为第i个神经元的Sigmoid函数σ_i(τ)的反函数，σ′(t)、f′(t)分别为Sigmoid函数σ(x)和f(x)对时间的导数，且σ′(t)>0、f′(t)>0，z_i(t)为随着该网络的迭代循环而逐渐变小的变量。

Images