CN104486271A - 基于激活函数可调的复值bp神经网络盲均衡方法 - Google Patents

Abstract

基于激活函数可调的复值BP神经网络盲均衡方法，包括如下步骤：第一步：消息序列{ s (n)}，经正交调制、复值信道传输和噪声叠加后，到达接收端，均衡器收到信号序列 x (n)；第二步：初始化后的复值BP神经网络盲均衡器均衡输出均衡信号 y (n)；第三步，基于输出信号统计特征计算均衡器残余误差或平均平方误差；第四步，根据Hebb学习率进行误差反传，修正神经网络权值和激活函数可调节参数。本发明的优点是:该方法充分利用了神经网络结构简单，规律性强，收敛速度快，残差误差小的特点，添加激活函数可调节性质，结合均衡器输入信号统计特性和复变函数理论，对正交调制信号进行自适应均衡；基于激活函数可调的复值BP神经网络盲均衡算法克服了传统算法的不足，增加了自适应调节参数类型和个数，从而显著加快了收敛速度，降低了残差误差大小。

Description

基于激活函数可调的复值BP神经网络盲均衡方法

技术领域

本发明涉及一种复值BP神经网络盲均衡方法，尤其涉及一种基于激活函数可调的复值BP神经网络盲均衡方法。

背景技术

神经网络已经广泛应用于解决人们在探索和改造自然过程中遇到的各种各样的问题，比如模型优化、预测、分类识别、自动控制和信号处理等，并已经成功应用于降低信号传输过程中的码间串扰；神经网络以其强大的非线性逼近能力能够以较高的收敛速度、较低的误码率对接收信号进行自适应均衡，得到了学者们的广泛关注；为进一步提升基于神经网络的盲均衡算法性能，提出了许多改进算法，如各种变步长算法、自适应动量项算法以及模糊神经网络、自适应调整神经元神经网络、递归神经网络等；这些神经网络改进算法在一定程度上提升了算法适应性和泛化能力；但是应用于盲均衡器设计时，阈值参数的自适应调节对算法性能无明显影响，而且由于激活函数是事先确定的，不可调节，因此模型较为简单，性能指标受到极大的限制；1996年，吴佑寿等提出了一种激活函数可调的神经元模型－TAF模型，引起了广泛关注；大量研究结果表明，基于激活函数可调的神经网络更易于解决实际问题，收敛速度更快、泛化能力更强，而且网络容量更大。

综上所述，到目前为此，相较为传统的神经网络算法，基于激活函数可调的神经网络算法性能更加优异，可更快速、准确地对正交调制信号进行均衡处理。

发明内容

本发明要解决的技术问题是针对现有传统的神经网络算法技术存在的不足，提出一种基于激活函数可调的复值BP神经网络盲均衡方法；

本发明包括如下步骤：

第一步：消息序列{s(n)}（n为时间序列，下同），经正交调制（如QAM等）、复值信道传输和噪声叠加后，到达接收端，均衡器收到信号序列x(n)（如图1所示）；

第二步：初始化后的复值BP神经网络盲均衡器均衡输出均衡信号y(n)；

1）复值神经网络采用复数权值、复值激活函数和复数计算方法，其中神经元模型（如图2所示）采用复数激活函数，实部和虚部独立运算，计算方法为

（1）

式（1）中k为复数因子，

  （2）

至少包含一个可变参数a等；

2）以式（2）中具有两个可变参数a、b和三层BP神经网络为例（如图3所示），设输入层-隐层权值矩阵W，隐层-输出层权值向量V；

对于输入信号序列x(n)，网络输入层满足线性关系：

 (3)

其中c为均衡器抽头系数个数；

隐层输入、输出为：

(4)

(5)

(6)

其中p为隐层神经元个数，可采用

(7)

进行计算；式(7)中β为一整数，一般β∈[2,10]，表示对实数x取整；

输出层输入、输出满足：

(8)

(9)

(10)

第三步，基于输出信号统计特征计算均衡器残余误差或平均平方误差；

(11)

其中，E表示求均值，

        (12)

第四步，根据Hebb学习率进行误差反传，修正神经网络权值和激活函数可调节参数；

1）权值矩阵W和向权值向量V，以及激活函数参数a、b均为复数，诸参数对误差J(n)的偏微分采用如下公式计算：

(13)

(14)

2）根据Hebb学习率计算误差反向传递过程：

对于隐层激活函数可变参数和隐层-输出层权值向量V，有：

(15)

(16)

(17)

(18)

(19)

(20)

对于输入层-隐层权值矩阵W和隐层激活函数变参数a _j , b _j  (j=1,2,…, p)，有：

(21)

(22)

(23)

(24)

(25)

(26)

3）诸参数修正：

(27)

(28)

本发明的优点是:该方法充分利用了神经网络结构简单，规律性强，收敛速度快，残差误差小的特点，添加激活函数可调节性质，结合均衡器输入信号统计特性和复变函数理论，对正交调制信号进行自适应均衡；基于激活函数可调的复值BP神经网络盲均衡算法克服了传统算法的不足，增加了自适应调节参数类型和个数，从而显著加快了收敛速度，降低了残差误差大小。

附图说明

附图1为典型数字基带传输系统；

附图2为可调激活函数参数的神经元模型；

附图3为典型BP神经网络拓扑结构；

附图4为平均最小误差与迭代次数关系曲线（局部）；

附图5为不同信噪比条件下的误码率变化曲线。

具体实施方式

本发明包括如下步骤：

第一步：消息序列{s(n)}（n为时间序列，下同），经正交调制（如QAM等）、复值信道传输和噪声叠加后，到达接收端，均衡器收到信号序列x(n)（如图1所示）；

第二步：初始化后的复值BP神经网络盲均衡器均衡输出均衡信号y(n)；

1）复值神经网络采用复数权值、复值激活函数和复数计算方法，其中神经元模型（如图2所示）采用复数激活函数，实部和虚部独立运算，计算方法为

（1）

式（1）中k为复数因子，

  （2）

至少包含一个可变参数a等；

2）以式（2）中具有两个可变参数a、b和三层BP神经网络为例（如图3所示），设输入层-隐层权值矩阵W，隐层-输出层权值向量V；

对于输入信号序列x(n)，网络输入层满足线性关系：

 (3)

其中c为均衡器抽头系数个数；

隐层输入、输出为：

(4)

(5)

(6)

其中p为隐层神经元个数，可采用

(7)

进行计算；式(7)中β为一整数，一般β∈[2,10]，表示对实数x取整；

输出层输入、输出满足：

(8)

(9)

(10)

第三步，基于输出信号统计特征计算均衡器残余误差或平均平方误差；

(11)

其中，E表示求均值，

        (12)

第四步，根据Hebb学习率进行误差反传，修正神经网络权值和激活函数可调节参数；

1）权值矩阵W和向权值向量V，以及激活函数参数a、b均为复数，诸参数对误差J(n)的偏微分采用如下公式计算：

(13)

(14)

2）根据Hebb学习率计算误差反向传递过程：

对于隐层激活函数可变参数和隐层-输出层权值向量V，有：

(15)

(16)

(17)

(18)

(19)

(20)

对于输入层-隐层权值矩阵W和隐层激活函数变参数a _j , b _j  (j=1,2,…, p)，有：

(21)

(22)

(23)

(24)

(25)

(26)

3）诸参数修正：

(27)

(28)

实施实例：

为验证基于激活函数可调的复值BP神经网络盲均衡算法性能，采用数字基带传输系统进行仿真验证分析，并将其结果与传统的复值BP神经网络盲均衡算法进行比较；

复值信道响应为h={0.0410+0.0109k, 0.0495+0.0123k, 0.0672+0017k, 0.0919+0.0235k, 07920+0.1281k, 0.396+0.0871k, 0.2715+0.048k, 0.2291+0.0415k, 0.1287+0.0154k, 0.1032+0.0119k}，采用变步长算法

（29）

以增加神经网络稳定性，步长初始值设定为0.0004，信号为4QAM调制信号，迭代运算L＝10,000次，采用最小平均误差MSE和误码率BER的N＝10次蒙特卡洛仿真均值作为均衡器性能评估指标参数；

含两个变参数的激活函数：

（30）

考虑到激活函数非线性和增益性质等，取定两类参数均大于0，即满足

   （31）

以对角线值为1的对角矩阵和对角向量初始化权值矩阵W和权值向量V，并根据式（31）初始化各激活函数参数为a _j ＝1.0, b _j ＝0.3（ j=1,2,…, p+1）；

仿真结果如图4、图5所示，可见：相较于传统的复值BP神经网络盲均衡器，基于激活函数可调的复值BP神经网络盲均衡算法具有更快的收敛速度，更低的残余误差或平均平方误差，并且可同样在信噪比SNR>15dB的条件下有效降低码间串扰，提高正确判决率。

Claims (1)

1.基于激活函数可调的复值BP神经网络盲均衡方法，其特征在于包括如下步骤：

第一步：消息序列{s(n)}，经正交调制、复值信道传输和噪声叠加后，到达接收端，均衡器收到信号序列x(n)；其中n为时间序列,下同；

第二步：初始化后的复值BP神经网络盲均衡器均衡输出均衡信号y(n)；

1）复值神经网络采用复数权值、复值激活函数和复数计算方法，其中神经元模型采用复数激活函数，实部和虚部独立运算，计算方法为

（1）

式（1）中k为复数因子，

         （2）

至少包含一个可变参数a；

2）以式（2）中具有两个可变参数a、b和三层BP神经网络为例，设输入层-隐层权值矩阵W，隐层-输出层权值向量V；

对于输入信号序列x(n)，网络输入层满足线性关系：

（3）

其中c为均衡器抽头系数个数；

隐层输入、输出为：

（4）

（5）

（6）

其中p为隐层神经元个数，可采用

（7）

进行计算；式（7）中β为一整数，β∈[2,10]，表示对实数x取整；

输出层输入、输出满足：

    （8）

（9）

                            （10）

第三步，基于输出信号统计特征计算均衡器残余误差或平均平方误差；

       （11）

其中，E表示取均值，

                          （12）

第四步，根据Hebb学习率进行误差反传，修正神经网络权值和激活函数可调节参数；

1）权值矩阵W和向权值向量V，以及激活函数参数a、b均为复数，诸参数对误差J(n)的偏微分采用如下公式计算：

      （13）

    （14）

2）根据Hebb学习率计算误差反向传递过程：

对于隐层激活函数可变参数和隐层-输出层权值向量V，有：

              （15）

              （16）

              （17）

        （18）

            （19）

          （20）

对于输入层-隐层权值矩阵W和隐层激活函数变参数a _j , b _j  (j=1,2,…, p)，有：

（21）

（22）

（23）

（24）

（25）

（26）

3）诸参数修正：

  （27）

（28） 。