CN110445581B - 基于卷积神经网络降低信道译码误码率的方法 - Google Patents

Abstract

本发明公开了一种在相关性性环境下基于卷积神经网络利用相关信息降低信道译码误码率的方法。该方法利用在快衰落信道下的无线通信系统获取训练集，利用该训练集训练了两个基于多层一维度卷积神经网络的估计器。利用估计器获得的信道增益和信道噪声值，依次进行接收信号去噪，残余噪声分布统计，重构对数似然比，最后利用重构的对数似然比作为BP译码器的输入进行低密度奇偶校验码的信道译码，其结果在各个实验相关性下都获得了相较于未进行上述处理就直接进行信道译码更低的误码率。这说明，通过本发明获得李准确的信道估计值和噪声估计值，同时信号去噪的方法获得了积极的性能增益。

Description

基于卷积神经网络降低信道译码误码率的方法

技术领域

本发明涉及无线通信技术领域，特别涉及快衰落信道下低密度奇偶校验码的信道译码的问题。

背景技术

现代无线通信由于对通信性能更高的要求，在快衰落信道下，需要我们实时获取信道增益以提升通信系统的性能。对于被广泛利用于信道编码的低密度奇偶校验码(LowDensity Parity Check，LDPC)而言，获取实时准确的信道估计尤为重要。置信传播(BeliefPropagation，BP)算法作为LDPC码的译码算法被广泛采用，在衰落信道中的BP译码算法要求获取准确的信道估计值。现代无线通信为了提高通信各项性能，广泛采用多天线技术，由于天线彼此靠近，很容易产生衰落相关。这一相关特性的存在，使得利用诸如神经网络的人工智能方法解决信道估计问题成为可能。同时噪声的相关性由于接收机的采样和内部耦合问题，普遍存在，利用卷积神经网络去估计信道噪声同样可行。

发明内容

本发明所要解决的技术问题是在快衰落信道中相关性环境下对LDPC的译码性能提升的问题，为无线通信相关衰落信道提供了一种广泛适用的提升译码性能的方法。

本发明为解决上述技术问题采用以下技术方案：一种基于深度一维卷积网络的信道增益估计和噪声估计的方法，其内容包括：

1.发明应用场景构建

利用单系数指数相关矩阵建模信道相关性，利用瑞利分布建模衰落信道，利用高斯分布建模噪声分布，通过低密度奇偶检验码对信息进行编码，利用二进制相移键控进行信号调制，在所述的通信系统基础上，采集通信数据，构建接收信号同真实信道增益的训练数据集。利用这种方法构建的数据集去训练神经网络，可以获得一个理论上的普遍适用的信道和噪声估计器。

2.信道估计器的构建和训练

构建一维卷积神经网络结构，该神经网络由四层一维卷积层构成，前三层采用ReLU激活函数对结果进行激活，输出层采用线性激活函数输出。利用反向传播和小批量随机梯度下降方法对神经网络进行训练，利用卷积神经网络信道估计器得到估计估计信道增益。如果实际通信系统中的码字更长，需要酌情尝试更深的神经网络结构，利用实际通信系统获得的数据，在模拟系统训练获得的训练权重之上，继续训练，将系统拟合到最适合于目前的系统。信道增益估计器和噪声估计器的结构类似。

3.译码前数据预处理

利用估计噪声，对接收信号进行去噪处理，获得去噪信号。计算剩余噪声，对剩余噪声进行分布统计，获得剩余噪声分布。通过对数似然比推导公式，利用获得的估计信道增益值，同去噪噪声和剩余噪声分布一同计算出对数似然比，利用该对数似然比，对低密度奇偶检验码进行译码，验证新构建的信道译码器性能。可以反复重复2，3步骤，在保证神经网络未过拟合的情况下，对神经网络进行改造，可以采用Dropout技术改善过拟合情况，可以通过 skip-connection技术加深神经网络的深度。本发明只给出了最简单的版本。

本发明采用以上技术方案与现有技术相比，具有以下技术效果：

提出了基于一维卷积神经网络的信道和噪声估计器，提供了一种端到端的估计值获取方式，通过实际系统获取大量训练数据，利用深度学习相关技术训练神经网络信道估计器，无需对信号加入诸如导频一类的其他处理，神经网络采用全卷积层设计，避免使用全连接层，使得训练参数保持在较小规模上，无论是在训练还是在推理步骤上，都拥有较高的效率。在各相关程度下，均可以获得相对于传统BP译码器更加优秀的译码性能。

本发明附加的方面和优点将在下面的描述中部分给出，这些将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

图1是系统结构图；

图2是卷积神经网络结构图。

具体实施方式

下面结合附图和具体实施例，进一步阐明本发明，应理解这些实施例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。

本发明为一种基于深度一维卷积网络的信道译码性能提升方法包括：构建相关信道环境通信系统，采集数据集，构建一维卷积神经网络信道估计器，和一维卷积神经网络噪声估计器，训练一维卷积神经网络信道估计器，训练一维卷积神经网络噪声估计器，接收信号预处理，重新计算对数似然比，进行信道译码验证，具体过程如图1所示。

作为一种实施例，所述方法包括：考虑环境相关性，利用梯度下降算法和反向传播机制，更新神经网络信道估计器参数，利用卷积神经网络提取蕴藏在接收信号中的相关特征，最终利用相关特征估计出信道增益和噪声。

第一步：从信源到接收机

首先，我们简要介绍信号的编码。在信道编码器处，k个信息比特的输入消息u，被编码为n比特码字x＝[x₀,x₁,…,x_n-1]通过某些特定的编码规则。编码公式如下：x＝uG其中G是生成矩阵，码字x表示为消息矢量u和G在二进制字段GF(2)上的内积。然后，码字x被BPSK调制为信号s，由公式s＝1-2x给出。符号矢量s＝[s₀,s₁,…,s_n-1]由发射机通过无线信道发送到接收器。最后，在接收器处接收信号矢量y＝[y₀,y₁,…,y_n-1]。信号矢量y可以表示为y＝s⊙h+n。其中，在无线通信过程中生成相关信道增益 h＝[h₀,h₁,…,h_n-1]。s和h执行hadamard乘积运算，并且在接收过程中产生噪声 n＝[n₀,n₁,…,n_n-1]。

第二步：神经网络的训练

为了使CNN有效运行，需要依次执行以下三项任务。(1)获取训练数据集。(2)构建合适的神经网络结构。(3)设置超参数并训练神经网络。

任务(1)是获取训练数据集。对于卷积神经网络，通过通信模拟程序获得接收信号y，信道增益数据h,信道噪声数据n。[y,h]数据对用于训练信道增益估计器，[y,n]用于训练信道噪声估计器。在本发明中，我们将信道建模为快速衰落信道，其遵循复高斯分布。信道增益服从瑞利分布。我们将信道噪声建模成高斯分布。信道增益矢量 g＝[g₀,g₁,…,g_n-1]给出为g＝a+jb，其中a和b是独立且相同分布的高斯随机向量，具有零均值和单位方差。因此，信道增益的幅度|g|遵循瑞利分布的是

其中 K是比例因子。为了确保信道增益的平均p功率等于1，通过计算K等于1/2。我们将信道相关性建模为n×n单系数指数相关矩阵Θ_f：

相关信道增益h可以定义如下：

另外，相关噪声n由下式给出：

我们保持噪声向量z遵循正态分布，零均值和方差σ²。噪声相关性矩阵和信道相关性矩阵相同。由于噪声相关矩阵不改变噪声分布及其功率的事实，因此相关噪声n的分布与z相同。

所有数据集都以不同的信噪比(SNR)生成：{0,2,4,5,6,7,8}dB，并且在每个SNR处生成50,000帧数据。每个SNR的比例相同，这确保了神经网络对每个噪声功率的泛化能力。

任务(2)是构建一维卷积神经网络。神经网络具体结构由一下表格给出。

层数	层1	层2	层3	层4	层5
						层类型	输入	一维卷积	一维卷积	一维卷积	输出
卷积核参数	9	3	3	15	/
						感受野参数	64	32	16	1	/
激活函数	ReLU	ReLU	ReLU	Linear	/

任务(3)设置超参数并训练神经网络。为了保持每层的相同尺寸，采用相同的填充操作，其中在对每层执行卷积运算之后，对下一层的边缘进行零填充。卷积层不采用pooling操作，防止位置信息丢失。神经网络的训练包括前向传播和反向传播过程，在前向传播过程中，卷积核沿着信号矢量逐个向下滑动，和相应位置上的数字进行卷积操作。修改线性单元(Rectified ed Linear Unit,ReLU)，也称为修改线性单元，是一种常用于人工神经网络的激活函数。ReLU可以减少消失梯度的问题，可以表示为f(x)＝max(0，x)。通过大量实验，我们确定了适合神经网络训练的超参数。具体的超参数见下表：

超参数类型	差参数设置
		学习率	0.001
训练周期	1000
		批次训练数据	700
初始化方法	Xavier
		优化器	Adam
损失函数	MSE

Adam是一种优化算法，可以取代传统的随机梯度下降过程。它可以基于训练数据迭代地更新神经网络权重。神经网络的训练过程通过一次前向传播和一次后向传播来实现。反向传播中的梯度下降方法由Adam代替。均方误差(MSE)是一种常用的损失函数，表示为:

信道估计器和噪声估计器共用一套神经网络超参数，但是在各自的训练集下独立训练出其神经网络参数。

第三步：估计器的使用

利用训练完成得到的卷积神经网络信道估计器和噪声估计器，输入接收信号，得到估计信道增益值和噪声估计值。

第四步：接收信号预处理

使用预测噪声

进行去噪处理，得到去噪信号y′：

其中我们将定义为n′残余噪声。理论上，当通过BP解码对去噪信号y′进行解码时，误码率(BER)将显着降低。此时我们给出计算对数似然比的公式：

在快衰落信道下可以表示为：

但我们注意到原始对数似然比公式给出的过程将不能用于计算剩余噪声的对数似然比，因为其不再遵循正态分布，这意味着我们需要重新计算剩余噪声的概率分布。通过直方图统计，我们得到n′的经验概率分布函数(EPDF)。定义为F(·)。

其中

的第i个归一化信道增益，将LLR输入置信传播译码器，进行译码。

本发明提出的基于一维卷积神经网络的信道译码器，其由一个卷积神经网络信道估计器，一个卷积神经网络噪声估计器，还有一个BP译码器，通过一系列的计算级联在一起。对于相关环境下的信道译码具有广泛的适用性，在构建完成的卷积神经网络，通过通信系统获得的训练数据，通过简单的训练就可以达到良好的提升信道译码性能的能力，且预测过程速度快，占用资源少。该方法可以有效克服诸如置信传播这一类基于独立性假设的译码方法在相关性环境下性能劣化的问题。

Claims (1)

1.一种基于卷积神经网络降低信道译码误码率的方法，其特征在于：利用一维卷积神经网络1对接收信号进行信道估计，利用一维卷积神经网络2对接收信号进行噪声估计，充分利用信道相关性的特点，一维卷积神经网络从接收信号中挖掘相关性特征，将信道增益和信道噪声从接收信号中提取出来；

通过通信系统获取训练数据，利用最小均方误差构建损失函数，通过梯度下降方法进行权重更新，直到损失函数收敛，获取最终权重，构建出神经网络信道估计器，对于获得的估计信道增益，和信道噪声，通过信号降噪处理，再通过统计残余噪声分布，并同估计信道增益一同构建出重新定义的对数似然比；

利用一维卷积神经网络构建信道和噪声估计器，神经网络的各层均有一维卷积神经网络构成，卷积层的卷积核根据其稀疏连接和权重共享的特效，逐层抽取特征信息，最终从接收信号中分离出信道增益，一维卷积神经网络可以极大的缩减训练参数量，同时可以兼顾良好的特征提取性能。

Images