CN108900446B - 基于门控循环单元神经网络的坐标变换常模盲均衡方法 - Google Patents

Abstract

本发明公开一种基于门控循环单元神经网络的坐标变换常模盲均衡方法，包括如下步骤：步骤1，输入信号y(k)经过信道h(k)后得到信道的输出序列s(k)，对该输出序列s(k)加入高斯白噪声n(k)，得到的序列x(k)作为门控循环单元神经网络的输入；步骤2，利用坐标变换方法更新门控循环单元神经网络门控权向量，将更新后的神经网络作为均衡器，对输入序列x(k)进行盲均衡运算，得到输出信号序列

此种方法可有效降低通信系统接收端误码率，是一种适用于不同恶劣环境中的盲均衡方法。

Description

基于门控循环单元神经网络的坐标变换常模盲均衡方法

技术领域

本发明属于盲均衡技术领域，特别涉及一种基于门控循环单元神经网络的坐标变换常模盲均衡方法。

背景技术

在现代数字通讯技术中，信道多径效应和环境噪声产生的码间串扰(ISI,Inter-Symbol Interference)导致通信系统判决器产生高误码率，降低了通讯质量。抑制码间串扰的有效方法是不需训练序列的盲均衡技术。盲均衡技术本质是通过性能优异的方法来实时调整均衡器参数，降低通信系统误码率。

传统的神经网络结构中相邻层全连接，但每层中各个单元并不连接，样本输入在各个时刻相互独立，使其在长序列处理上不够灵活。循环神经网络(RNN，Recurrent NeuralNetwork)虽隐藏层单元有信息内循环，但结构简单，对输入序列特征仅识别利用一次，不能充分提取序列特征，对时间跨度长的持续输入不能准确捕捉序列特征。门控循环单元神经网络(GRUNN，Gated Recurrent Unit Neural Network)将循环结构与门控结构结合起来，门控结构使GRUNN比RNN对长时间跨度序列特征感知能力更强。隐藏层中的每一个网络单元不仅接收当前时刻输入层的输入信息，还接收前一时刻隐藏层单元自身的输出信息，每一个隐藏层单元中都设置一个重置门与一个更新门，序列特征信息保存在门控参数中，具有良好的自适应和容错能力。采用GRUNN的盲均衡方法，收敛速度快，对信道变化追踪能力强，但仍存在相位偏转的缺陷。坐标变换方法(CT-CMA，Coordinate Transformation-basedCMA)实现了非常模信号星座与统计模值的匹配，纠正了相位偏转，并且具有一定的信号调制类型识别能力。因此，GRUNN与CT-CMA相结合应用于盲均衡技术中，将是有意义的尝试。

发明内容

本发明的目的，在于提供一种基于门控循环单元神经网络的坐标变换常模盲均衡方法，其可有效降低通信系统接收端误码率，是一种适用于不同恶劣环境中的盲均衡方法。

为了达成上述目的，本发明的解决方案是：

一种基于门控循环单元神经网络的坐标变换常模盲均衡方法，包括如下步骤：

步骤1，输入信号y(k)经过信道h(k)后得到信道的输出序列s(k)，对该输出序列s(k)加入高斯白噪声n(k)，得到的序列x(k)作为门控循环单元神经网络的输入；

步骤2，利用坐标变换方法更新门控循环单元神经网络门控权向量，将更新后的神经网络作为均衡器，对输入序列x(k)进行盲均衡运算，得到输出信号序列

采用上述方案后，本发明具有如下有益效果：

(1)本发明在循环神经网络基础上加入门控结构，使循环神经网络中只利用一次的信号序列通过门控结构其特征被多次识别提取，从而网络对长时间跨度信息的感知能力更强、记忆力更持久；

(2)将门控循环单元神经网络与坐标变换方法相结合，用坐标变换方法的代价函数替换原神经网络的代价函数，网络权重通过新代价函数迭代更新，进一步降低了剩余误差、纠正了相位偏转，有效抑制了数字通讯中的码间串扰；

(3)坐标变换方法的加入使本发明具备了信号调制类型识别能力，提高了通讯系统的工作效率，对MQAM与MPSK信号的通讯有良好的均衡效果，因此本发明在通讯技术领域有很强的实用价值。

附图说明

图1是本发明的流程原理图；

图2是门控循环单元神经网络隐藏层单元内部结构图；

图3a是本发明实验1的原始图像；

图3b是本发明实验1的带噪模糊图像；

图3c是本发明实验1的复原图像；

图3d是本发明实验1四种方法的均方误差仿真对比图；

图4a是本发明实验2的原始图像；

图4b是本发明实验2的带噪模糊图像；

图4c是本发明实验2的复原图像；

图4d是本发明实验2四种方法的均方误差仿真对比图；

图5a是本发明实验3的原始图像；

图5b是本发明实验3的带噪模糊图像；

图5c是本发明实验3的复原图像；

图5d是本发明实验3四种方法的均方误差仿真对比图。

具体实施方式

以下将结合附图，对本发明的技术方案及有益效果进行详细说明。

如图1所示，本发明提供一种基于门控循环单元神经网络的坐标变换常模盲均衡方法，包括门控循环单元神经网络和坐标变换方法，信号经过信道加入噪声之后，输入门控循环单元神经网络，网络权向量通过坐标变换方法迭代更新，网络输出通过判决器判决后作为均衡器输出。

所述方法包括如下步骤：

步骤1，输入信号y(k)经过信道h(k)后得到信道的输出序列s(k)，对该输出序列s(k)加入高斯白噪声n(k)，得到的序列x(k)作为门控循环单元神经网络的输入；

步骤2，利用坐标变换方法更新门控循环单元神经网络门控权向量，将更新后的神经网络作为均衡器，对输入序列x(k)进行盲均衡运算，得到输出信号序列

上述步骤2中，还采用判决器纠正输出信号序列

的相移φ。

在本实施例中，通信系统判决器的接收信号

是前馈神经网络均衡器恢复的输出信号序列：

其中x(k)＝s(k)+n(k)，s(k)＝y(k)*h(k)，y(k)是输入端接收到的未知信号序列，h(k)是信道的冲激响应序列，s(k)是信道的输出序列，n(k)是高斯白噪声，x(k)是前馈神经网络均衡器的输入序列，w(k)为神经网络均衡器等价的卷积权向量，

是前馈神经网络均衡器恢复的输出信号序列。本发明目的是最大程度地恢复出发送信号序列x(k)，

可以直接从神经网络均衡器x(k)中求得，且满足：

其中D为恒定延迟，φ为恒定相移，发送信号序列不会被延迟D影响，相移φ可以被判决器纠正。

所述步骤2中，门控循环单元神经网络结合坐标变换方法对序列x(k)进行处理的过程是：

步骤a1，将经过信道干扰与噪声混杂的x(k)作为门控循环单元神经网络的输入，x_t(k)表示t时刻隐藏层单元的输入，h_t-1(k)表示t-1时刻的隐藏层单元激活值，有：

r_t(k)＝sigmoid(W_rx(k)·x_t(k)+W_rh(k)·h_t-1(k))

z_t(k)＝sigmoid(W_zx(k)·x_t(k)+W_zh(k)·h_t-1(k))

其中，W_rx(k)为重置门输入值权向量，W_rh(k)为重置门激活值权向量，r_t(k)表示t时刻隐藏层单元重置门值。其中W_zx(k)为更新门输入值权向量，W_zh(k)为更新门激活值权向量，z_t(k)表示t时刻隐藏层单元更新门值。W_hx(k)为更新门激活值输入权向量，W_hh(k)为更新门激活值激活权向量。

表示t时刻隐藏层单元更新门激活值，h_t(k)表示t时刻隐藏层单元输出值。整个网络在t时刻的输出为：

y_t(k)＝f(W_y(k)·h_t(k))

其中，W_y(k)为隐藏层与输出层的连接权向量，h_t(k)为隐藏层输出。门控循环单元神经网络最后的传递函数为：

导数为：

为了保证传递函数的单调性，传递函数导数值必须大于零。因此，β取大于零的值，β值的选取取决于信号振幅大小。

步骤a2，在前述门控循环单元神经网络代价函数中引入坐标变换方法，将信号星座图坐标的实部与虚部分开，得：

Y＝[X_r-2sign(X_r)]+j[X_i-2sign(X_i)-sign[X_i-2sign(X_i)]]

其中X_r、X_i分别为原信号的实部和虚部,变换后信号星座图的统计模值R_c＝1。重构网络代价函数得：

其中，

分别为网络输出的实部与虚部。

根据瞬时梯度下降方法，有：

其中w代表权向量，μ为迭代步长，得输出权向量更新值，即：

则输出权向量更新公式为：

其中，W_y(k)为输出权向量，μ为迭代步长。

步骤a3，用步骤a2中的代价函数更新隐藏层单元内的门控权向量，定义H(k)为：

式中，Z(k-1)为更新门权向量W_zx(k)与W_zh(k)前一次迭代的偏导数更新量，P(k-1)为权向量W_hx(k)与W_hh(k)前一次迭代的偏导数更新量，R(k-1)为重置门权向量W_rx(k)与W_rh(k)前一次迭代的偏导数更新量。r(k-1)与z(k-1)分别为前一次迭代重置门值与更新门值。

得更新门权向量的更新公式为：

W_zx(k+1)＝W_zx(k)-μ·x(k)·Z(k)

W_zh(k+1)＝W_zh(k)-μ·h(k-1)·Z(k)

更新门激活值

权向量更新公式为：

W_hh(k+1)＝W_hh(k)-μ·r(k)·h(k-1)·P(k)

W_hx(k+1)＝W_hx(k)-μ·x(k)·P(k)

重置门权向量更新公式为：

W_rx(k+1)＝W_rx(k)-μ·x(k)·R(k)

W_rh(k+1)＝W_rh(k)-μ·h(k-1)·R(k)

所述步骤2中，神经网络均衡器等价的卷积权向量w(k)获取步骤如下：

步骤b1，初始化网络结构，迭代次数，信道类型，信号调制类型，信噪比SNR。

步骤b2，经过信道干扰与噪声混杂的衰减信号输入门控循环单元神经网络，信号调制类型决定均衡器抽头系数大小。门控循环单元神经网络中的循环结构使前一时刻隐藏层输出作为当前时刻隐藏层输入之一，每个隐藏层单元中的重置门控制前一时刻隐藏层单元信息进入当前时刻隐藏层单元比例，当前输入与前一时刻隐藏层单元的输入经过更新门产生当前时刻隐藏层单元的输出，sigmoid函数将重置门向量的元素控制在0到1之间，当元素值接近1时，前一时刻时刻隐藏层节点激活值充分保留，反之则丢弃，同时充分保留新输入隐藏层单元的当前时刻时刻输入值。重置门与更新门的门权向量通过当前时刻网络输入与前一时刻隐藏层输出迭代更新。

步骤b3，重构门控循环单元神经网络的代价函数，使用坐标变换方法代价函数更新网络权重，将MQAM和MPAM信号的星座图坐标实部与虚部分开，即

Y_r＝X_r-2sign(X_r)

Y_i＝X_i-2sign(X_i)-sign[X_i-2sign(X_i)]

式中,Y_r+j·Y_i为新坐标,X_r、X_i分别为原信号的实部和虚部,sign(·)表示取符号操作.经过坐标变换后,各星座点均变换至半径为1的圆周上,变换后得新坐标{±1±0i}＝{±1}，通过上述坐标变换方式可以将非常模信号变换为常模信号,信号星座图的统计模值R_c＝1。设门控循环单元神经网络输出的实部与虚部分别为

与

则定义新的代价函数为

步骤b4，将步骤b3所述的新代价函数更新门控循环单元神经网络门控权向量。

步骤b5，将步骤b4中迭代更新后网络作为均衡器，对输入信号进行盲均衡运算，得到均衡后信号。

如图2所示，h_t-1(k)表示t-1时刻的隐藏层单元激活值，x_t(k)表示t时刻隐藏层单元的输入，r_t(k)表示t时刻隐藏层单元重置门值，z_t(k)表示t时刻隐藏层单元更新门值，

表示t时刻隐藏层单元更新门激活值，h_t(k)表示t时刻隐藏层单元输出值。sigmoid函数将重置门向量r_t(k)的元素控制在0到1之间，当r_t(k)的元素值接近1时，t-1时刻隐藏层节点激活值充分保留，反之则丢弃，同时充分保留新输入隐藏层单元的t时刻输入值x_t(k)。同理，更新门z_t(k)通过控制h_t-1(k)与

两个量来更新t时刻的单元状态值h_t(k)。

如图3a至图3d所示，在实验1中，当发射信号为16QAM调制信号时，常模盲均衡器(CMA)抽头个数为11，迭代步长μ_CMA＝0.00001；多模盲均衡器(MMA)抽头个数为11，迭代步长μ_MMA＝0.00002；延迟单元递归神经网络(BRNN)的网络结构为(15,10,1)，网络激活函数幅值β_BRNN＝4，延迟单元为1，迭代步长μ_BRNN＝0.0000002；本发明方法的网络结构为(3,40,1)，隐藏层权向量W_h、W_rh与W_zh的维度为40*40，W_x、W_rx和W_zx的维度为3*40，W_y的维度为40*1，网络激活函数幅值β_GRUNN-CT-CMA＝12，迭代步长μ_GRUNN-CT-CMA＝0.000003。可以看出，在稳态误差上，本发明方法比BRNN减少了大约3dB,比MMA减少了大约4dB，比CMA减少了大约4.5dB。且输出星座图紧凑、清晰。

如图4a至图4d所示，在实验2中，当发射信号为32QAM调制信号时，常模盲均衡器抽头个数为15，迭代步长μ_CMA＝0.00005；多模盲均衡器抽头个数为15，迭代步长μ_MMA＝0.00005；延迟单元递归神经网络的网络结构为(25,20,1)，网络激活函数幅值β_BRNN＝6，延迟单元为1，迭代步长μ_BRNN＝0.0000001；本发明方法的网络结构为(3,50,1)，隐藏层权向量W_h、W_rh与W_zh的维度为50*50，W_x、W_rx和W_zx的维度为3*50，W_y的维度为50*1，网络激活函数幅值β_GRUNN-CT-CMA＝12，迭代步长μ_GRUNN-CT-CMA＝0.0000016。可以看出，在稳态误差上，本发明方法比BRNN减少了大约2dB,比MMA减少了大约5.5dB，比CMA减少了大约6dB。且输出星座图紧凑、清晰。

如图5a至图5d所示，在实验3中，当发射信号为64QAM调制信号时，常模盲均衡器抽头个数为17，迭代步长μ_CMA＝0.0000008；多模盲均衡器抽头个数为17，迭代步长μ_MMA＝0.000001；本发明方法的网络结构为(3,60,1)，隐藏层权向量W_h、W_rh与W_zh的维度为60*60，W_x、W_rx和W_zx的维度为3*60，W_y的维度为60*1，网络激活函数幅值β_GRUNN-CT-CMA＝16，迭代步长μ_GRUNN-CT-CMA＝0.000015。可以看出，在稳态误差上，本发明方法比MMA减少了大约3dB，比CMA减少了大约3.5dB。且输出星座图紧凑。

以上实施例仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明保护范围之内。

Claims (3)

1.一种基于门控循环单元神经网络的坐标变换常模盲均衡方法，其特征在于包括如下步骤：

步骤1，输入信号y(k)经过信道h(k)后得到信道的输出序列s(k)，对该输出序列s(k)加入高斯白噪声n(k)，得到的序列x(k)作为门控循环单元神经网络的输入；

步骤2，利用坐标变换方法更新门控循环单元神经网络门控权向量，将更新后的神经网络作为均衡器，对输入序列x(k)进行盲均衡运算，得到输出信号序列

其中，前馈神经网络均衡器恢复的输出信号序列为

w(k)为神经网络均衡器等价的卷积权向量，

是前馈神经网络均衡器恢复的输出信号序列；

门控循环单元神经网络结合坐标变换方法对序列x(k)进行处理的过程是：

步骤a1，将经过信道干扰与噪声混杂的x(k)作为门控循环单元神经网络的输入，x_t(k)表示t时刻隐藏层单元的输入，h_t-1(k)表示t-1时刻的隐藏层单元激活值，有：

r_t(k)＝sigmoid(W_rx(k)·x_t(k)+W_rh(k)·h_t-1(k))

z_t(k)＝sigmoid(W_zx(k)·x_t(k)+W_zh(k)·h_t-1(k))

其中，W_rx(k)为重置门输入值权向量，W_rh(k)为重置门激活值权向量，r_t(k)表示t时刻隐藏层单元重置门值；W_zx(k)为更新门输入值权向量，W_zh(k)为更新门激活值权向量，z_t(k)表示t时刻隐藏层单元更新门值；W_hx(k)为更新门激活值输入权向量，W_hh(k)为更新门激活值激活权向量；

表示t时刻隐藏层单元更新门激活值，h_t(k)表示t时刻隐藏层单元输出值；整个网络在t时刻的输出为：

y_t(k)＝f(W_y(k)·h_t(k))

其中，W_y(k)为隐藏层与输出层的连接权向量，h_t(k)为隐藏层输出；门控循环单元神经网络最后的传递函数为：

导数为：

β取大于零的值；

步骤a2，利用坐标变换方法更新门控循环单元神经网络门控权向量时，首先将信号星座图坐标的实部与虚部分开，得：

Y＝[X_r-2sign(X_r)]+j[X_i-2sign(X_i)-sign[X_i-2sign(X_i)]]

其中，X_r、X_i分别为原信号的实部和虚部，变换后信号星座图的统计模值R_c＝1；重构网络代价函数得：

其中，

分别为网络输出的实部与虚部；

根据瞬时梯度下降方法，有：

其中μ为迭代步长，得输出权向量更新值，即：

则输出权向量更新公式为：

步骤a3，用步骤a2中的代价函数更新隐藏层单元内的门控权向量，定义H(k)为：

式中，Z(k-1)为更新门输入值权向量W_zx(k)与更新门激活值权向量W_zh(k)前一次迭代的偏导数更新量，P(k-1)为更新门激活值输入权向量W_hx(k)与更新门激活值激活权向量W_hh(k)前一次迭代的偏导数更新量，R(k-1)为重置门输入值权向量W_rx(k)与重置门激活值权向量W_rh(k)前一次迭代的偏导数更新量；r(k-1)与z(k-1)分别为前一次迭代重置门值与更新门值；

得更新门权向量的更新公式为：

W_zx(k+1)＝W_zx(k)-μ·x(k)·Z(k)

W_zh(k+1)＝W_zh(k)-μ·h(k-1)·Z(k)

更新门激活值

权向量更新公式为：

W_hh(k+1)＝W_hh(k)-μ·r(k)·h(k-1)·P(k)

W_hx(k+1)＝W_hx(k)-μ·x(k)·P(k)

重置门权向量更新公式为：

W_rx(k+1)＝W_rx(k)-μ·x(k)·R(k)

W_rh(k+1)＝W_rh(k)-μ·h(k-1)·R(k)。

2.如权利要求1所述的基于门控循环单元神经网络的坐标变换常模盲均衡方法，其特征在于：所述步骤2中，卷积权向量w(k)获取步骤如下：

步骤b1，初始化网络结构，迭代次数，信道类型，信号调制类型，信噪比SNR；

步骤b2，经过信道干扰与噪声混杂的衰减信号输入门控循环单元神经网络，信号调制类型决定均衡器抽头系数大小；门控循环单元神经网络中的循环结构使前一时刻隐藏层输出作为当前时刻隐藏层输入之一，每个隐藏层单元中的重置门控制前一时刻隐藏层单元信息进入当前时刻隐藏层单元比例，当前输入与前一时刻隐藏层单元的输入经过更新门产生当前时刻隐藏层单元的输出，sigmoid函数将重置门向量的元素控制在0到1之间，当元素值接近1时，前一时刻隐藏层节点激活值充分保留，反之则丢弃，同时保留新输入隐藏层单元的当前时刻输入值；重置门与更新门的门权向量通过当前时刻网络输入与前一时刻隐藏层输出迭代更新；

步骤b3，重构门控循环单元神经网络的代价函数，使用坐标变换方法代价函数更新网络权重，将MQAM和MPAM信号的星座图坐标实部与虚部分开，即

Y_r＝X_r-2sign(X_r)

Y_i＝X_i-2sign(X_i)-sign[X_i-2sign(X_i)]

式中,Y_r+j·Y_i为新坐标,X_r、X_i分别为原信号的实部和虚部,sign(·)表示取符号操作.经过坐标变换后,各星座点均变换至半径为1的圆周上,变换后得新坐标{±1±0i}＝{±1}，通过上述坐标变换方式可以将非常模信号变换为常模信号,信号星座图的统计模值R_c＝1；设门控循环单元神经网络输出的实部与虚部分别为

与

则定义新的代价函数为：

步骤b4，将步骤b3所述的新代价函数更新门控循环单元神经网络门控权向量；

步骤b5，将步骤b4中迭代更新后网络作为均衡器，对输入信号进行盲均衡运算，得到均衡后信号。

3.如权利要求1所述的基于门控循环单元神经网络的坐标变换常模盲均衡方法，其特征在于：所述步骤2中，还采用判决器纠正输出信号序列

的相移φ。

Images