CN111464465A - 一种基于集成神经网络模型的信道估计方法 - Google Patents

Abstract

本发明请求保护一种基于集成神经网络模型的信道估计方法，属于无线通信领域，该方法主要包含以下内容，首先对接收信号进行处理，提取其中的导频信号，然后结合自助采样方法获取多个训练子集，利用改进后的神经网络来提取带噪导频信号与原始导频信号之间的非线性信道模型，得到多个个体神经网络模型，再根据其整体差异度判断集成模型是否满足标准，在满足差异度标准的前提下结合算数平均法进行集成，得到性能稳定的集成神经网络模型，最后利用该模型来对数据信号进行补偿恢复。本发明实现了在导频开销较低的情况下，显著降低了误码率，提高了通信有效性和可靠性，并且对神经网络采用的是并行训练方式，可有效缩短计算时间，易于在实际中应用。

Description

一种基于集成神经网络模型的信道估计方法

技术领域

本发明属于通信领域，尤其涉及一种基于集成神经网络模型的信道估计方法。

背景技术

近年来，随着通信行业的快速发展，通信速率的需求越来越大，对于通信的有效性和准确性的要求也越来越高，为了获得好的通信质量，MIMO-OFDM 技术受到越来越多的关注，而在MIMO-OFDM通信系统中信道估计的结果和复杂度对整个通信过程有着很大的影响，这需要更强有力的方法来实现信道估计，提取接收信号与发送信号之间的非线性关系，并准确恢复出原始信号，为此大量学者提出了各种各样的信道估计算法，但通常来说，性能优越的算法往往具有复杂度较高、难以实现、响应时间长、导频序列占用资源多等缺点；所以，研究性能优越且导频占用资源较少的信道估计方法具有重要的意义，只有在接收端使用更少的导频序列得到更加精确的信道估计结果，才能有效的提升通信系统的可靠性和有效性。

传统的信道估计方式包括：最小二乘(Least Squares,LS)估计准则和最小均方误差(Minimum Mean Square Error,MMSE)估计准则，这两种方式都是基于在发送信号中插入的导频信号来实现，导频插入有两种常见方式：梳状插入和块状插入，接收端根据导频信号来完成信道估计，但导频会占据频带资源，降低通信有效性。此外，对于盲估计和半盲估计的研究也有较多，盲信道估计算法的核心思想则是利用发射和接收信号的统计特性对信道进行估计，通过大量的计算得到信道的相关信息，由于不需要导频，所以其通信的有效性较高，但其可靠性也有所下降；相比而言，半盲信道估计算法并不完全依赖信号的统计特性，因此频谱利用率相比于盲估计算法则有所下降。但是半盲信道估计可以在一定程度上降低信号的误码率。

但是由于信道的不确定性，以及信号在传输过程中受噪声影响等因素，往往会导致信号严重失真，以致于使用传统方式无法获取准确的信道估计结果；近年来，随着技术的迅速发展，大量学者不断探索新的方法来获取更准确的信道估计，提高通信系统的性能，但是这些传统方法其根本原理通常是利用矩阵变换以及梳理统计的知识将信道以数学公式的方式规范的表示出来，忽略了在实际情况下信道往往更像是一个“黑匣子”，我们无法知晓其具体的内部结构。但随着深度学习的迅速发展，这种类似“黑匣子”的数学关系仍然可以提取出来形成相应的模型，其中深度学习中的神经网络在这方面就具有优良的性能。

综上所述，通信系统的信道估计主要面临以下挑战：首先信号在传输过程中受到不确定性噪声的影响，以及信号可能会有不同程度的衰落，造成接收信号与发送信号之间的非线性关系更加复杂，以至于难以恢复；其次，常用的信道估计算法是利用导频序列来实现的，而在MIMO系统中导频开销过大，很大程度占用了有效的通信资源，如何利用更少的导频序列来完成信道估计步骤也是当前面临的一大挑战。

发明内容

本发明旨在解决现有技术中的问题。提出了一种在MIMO-OFDM通信系统场景下，致力于对信道估计方法的改进，将深度学习中的神经网络与其相结合，利用神经网络高效的数据处理能力，来提高通信系统的可靠性和有效性的基于集成神经网络模型的信道估计方法。本发明的技术方案如下：

一种基于集成神经网络模型的信道估计方法，其包括以下步骤：

步骤1：获取接收信号并对接收信号进行移除循环和傅里叶变换处理，得到由实部和虚部组成的接收信号；

步骤2：采用BP神经网络作为个体学习器，确定BP神经网络内部参数，并对BP神经网络进行相应改进，在调整权值和阈值时加上一个附加动量来避免训练过程陷入局部极小，并采用自适应学习速率的方法来加速神经网络的训练过程，缩短响应时间，使BP神经网络能够适用于MIMO-OFDM通信系统的信道估计；

步骤3：从接收信号中提取信道估计所需的导频信号，将导频信号作为训练数据，将训练数据与目标数据一一对应并作为初始数据集，并对初始数据集进行Boostrap采样，每次采样得到N个数据组成一个训练子集，重复M次共得到 M个训练子集；

步骤4：利用这M个训练子集，对M个BP神经网络进行并行训练，提取接收导频与原始导频之间的非线性模型即信道模型，得到M个个体神经网络模型；

步骤5：计算神经网络模型之间的整体差异度，若差异度值大于0.5则增加神经网络个数，重复上述过程，在满足差异度要求的前提下结合算数平均法对其集成得到集成神经网络模型；

步骤6：利用集成神经网络模型对除导频之外的数据信号进行补偿恢复，完成信道估计过程。

进一步的，所述步骤1：获取接收信号并对接收信号进行移除循环前缀和傅里叶变换处理，即将其中用作抑制符号间干扰的循环前缀信号移除，并对余下的数据信号和导频信号进行傅里叶变换处理，可根据傅里叶变换公式计算结果，得到由实部和虚部组成的接收信号，在软件处理的过程中可直接通过FFT命令来完成；

进一步的，所述步骤2中对BP神经网络进行相应改进，使BP神经网络能够适用于MIMO-OFDM通信系统的信道估计，具体包括：首先导频信号是由实部和虚部共同组成，而神经网络无法处理虚部，需要将其实部与虚部分开作为两个输入，对应神经网络的输入层和输出层均包含2个神经元，激励函数采用 tanh函数，损失函数采用二次型误差准则函数，学习算法为梯度下降算法。

进一步的，所述的步骤2中针对个体学习器损失函数的局部极小对最终结果可能产生的影响，利用附加动量的思路来改进权值和阈值的修正过程，附加动量的主要内容就是在权值和阈值的的变化量上增加一个调节因子，具体为：在权值和阈值的变换量上增加一个正比于前一次变化量的附加动量，利用附加动量项项来限制权值和阈值的变化量，当学习算法接近局部极小时，有了该附加动量的作用，可以帮助学习算法跳出局部极小，进而达到全局最小，得到最优的神经网络模型。

进一步的，所述的步骤2采用自适应学习速率调整的方法，在神经网络训练过程中将本来固定不变的学习速率，根据误差准则函数的变化做相应的调节，具体做法是：对自适应学习速率在每次训练完成后做出调整，使得学习速率在训练的过程中不再是固定不变的，而是不断变化以适应当前训练过程的，其值是该增大还是减小，判断标准是在当前学习速率下损失函数得出的误差值是否真正降低了，具体调整如下：

η(k+1)表示下一次训练过程中学习速率的值，其中E(k)为第w步误差，k为当前训练次数，然后再重复前向传播过程，使得修改后的网络的输出能更加接近期望值，当E(k)的值达到设置的目标值时或者达到最大迭代次数后，训练过程完成。

进一步的，所述步骤5计算神经网络模型之间的整体差异度具体包括：神经网络之间的两两差异度根据训练过程中的均方误差来计算，即：

式中V_i,j代表第i个子神经网络和第j个子神经网络的两两差异度，y_i-mse和y_j-mse分别为第i和j个神经网络在训练数据上的均方误差；

V_j代表第j个神经网络的整体差异度；

可根据公式

计算出整体差异度，V代表集成神经网络内部的整体差异度。

进一步的，所述步骤6利用集成神经网络模型对除导频之外的数据信号进行补偿恢复，具体包括：

结合算数平均法对每个神经网络的输出结果进行处理，得出集成神经网络最终的信道估计结果：

其中M是神经网络的个数，

是第i个神经网络的估计结果。

本发明的优点及有益效果如下：

1.本发明针对MIMO-OFDM通信系统的可靠性和有效性受信道估计影响的问题，将深度学习中的神经网络模型英语于信道估计步骤上，提出了一种基于集成神经网络模型的信道估计方法，提高了通信系统的可靠性和有效性。

2.本发明在步骤二中将BP神经网络作为集成模型内部的个体学习器，因为 BP神经网络结构简单，具有反馈调节能力，并且具有强的非线性关系提取能力，适用于信号预测过程，而信道估计的目的就是提取接收导频与原始导频之间的非线性关系，然后对数据信号进行补偿恢复，其实质就是信号预测过程；其中较为关键的一点是神经网络无法处理虚数，需将信号的实部与虚部分开作为两个输入进行处理。

3.本发明在步骤2中对神经网络内部做了相应改进，在调整权值和阈值时加上一个附加动量来避免训练过程陷入局部极小，并采用自适应学习速率的方法来加速神经网络的训练过程，缩短响应时间，使神经网络更好更快的提取非线性信道关系模型。

4.本发明在步骤3中将接收导频与原始导频作为初始数据集，然后通过有放回采样的方式获取多个训练子集，这样可以有效讲题导频开销，提高通信系统的有效性，然后并行训练多个个体神经网络，这样其时间复杂度与单个神经网络相差无几，易于在实际中应用。

5.本发明在步骤5中结合个体神经网络输出结果的误差值计算整体差异度值，若差异度值大于0.5则增加神经网络个数重新训练，以此来确定集成模型内部神经网络的个数，避免因为个数太少导致集成模型的性能不稳定，可有效降低误码率，提高通信可靠性。

附图说明

图1是集成神经网络结构；

图2是本发明所述方法流程示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、详细地描述。所描述的实施例仅仅是本发明的一部分实施例。

本发明解决上述技术问题的技术方案是：

图1是集成神经网络模型的内部结构，如图所示，集成模型内部由多个神经网络组成，这些神经网络又被成为个体学习器，个体学习器的选取与结构设计对于集成后的性能影响较大，针对不同的问题，个体学习器可采用不同模型，本发明针对MIMO-OFDM通信系统的信道估计问题其实质是一个信号预测过程，所以采用具有误差反馈调节能力的BP神经网络，为了更好的提取接收导频与原始导频信号之间的非线性关系模型，其内部结构需结合信道估计特性做相应改进。

其基本结构包括三层：输入层、隐藏层和输出层，在训练数据过程中采用误差逆传播算法来训练该网络，神经网络输入层和输出层分别具有有两个神经元，隐藏层神经元的个数视具体情况选择，激励函数采用Sigmoid函数。因为 OFDM信号由实部和虚部共同组成，但是神经网络只能处理实部信号，为了能够更好的适用于OFDM通信系统，所以每个信号被分为实部和虚部两部分，作为两个输入，输出信号也由两部分组成，分别为信道补偿后的实部和虚部，在训练过程中将接收端收到的导频序列作为输入数据，初始导频序列作为目标数据，通过将输出数据与目标数据进行对比，当误差小于等于设定的目标误差或者达到最大迭代次数时，训练完成。

在BP神经网络的训练过程中主要包括两个内容，工作信号的前向传播和误差信号的反向传播。

1)前向传播过程；

其中前向传播过程是为了计算神经网络的实际输出，按从输入到输出的方向进行，其中隐藏层第i个节点的输入net_i是输入层每个输入值与相应权值乘积的和，即

X_i是第i个输入数据，w_ij是输入层到隐藏层第i个节点的权值，θ_i是隐藏层第i个节点的初始阈值；隐藏层输出o_i需结合Sigmoid激励函数计算得到：

对于输出层而言，第k节点的输入net_k根据隐藏层的输出计算得到，即：

输出o_k结为：

其中a_k是输出层第k个节点的初始阈值，w_ki是隐藏层第i个节点到输出层第k个节点的权值，所以神经网络一次前向储波过程输出的结果可归结为：

将实际输出与目标输出做比较，计算误差，若无法满足期望，则转入误差的反向传播过程。

2)反向传播过程；

反向传播过程是为了实现权值和阈值的修正，在反向传播的过程中误差信号沿原来的链接通路返回，该过程是根据误差准则函数E：

T_k是输出层第k个节点的期望输出，L是输出层的节点数目，结合梯度下降算法计算权值和阈值的调整量，可得出输出层权值的修正量Δw_ki，输出层阈值的修正量Δa_k，隐含层权值的修正量Δw_ij，隐含层阈值的修正量Δθ_i：

其中η是学习速率取值在0到1之间。

3)附加动量下的权值和阈值

为避免在提取非线性信道关系的过程中，学习算法陷入局部极小的问题，在权值和阈值的变换量上增加一个正比于前一次变化量的附加动量，利用该项来限制其变化量的值，当学习算法接近局部极小时，有了该附加动量的作用，可以帮助学习算法跳出局部极小，进而达到全局最小，即：

Δw_ij(k+1)＝(1-mc)ηδ_ip_j+mcΔw_ij(k)；

Δb_i(k+1)＝(1-mc)ηδ_ip_j+mcΔb_i(k)；

其中k为训练次数，mc为动量因子，其取值需动态的进行调整，主要是根据当前取值能否有效降低误差值，即：

E(k)为第k步误差；

附加动量法可有效帮助神经网络在训练过程中跳出局部极小点，达到全局最优，该方法在用于信号预测方面非常有效，使得神经网络能够更好的完成训练过程。

4)自适应学习速率改进

学习速率对每次权值更新时改变多少有很大影响，如果学习速率太小，那么则需要花费大量时间来达到最优，而且容易使算法陷入局部最优，无法获得全局最优的结果，若学习速率太大，虽训练速率更快，但是容易使得训练结果停留在错误曲面上，导致算法发散，结果溢出也无法达到最优，所以过快或者过慢都会对结果造成影响；为取得更好的信道估计结果，降低信道估计的延迟，本发明中对学习速率采取自适应调节方法，调节的准则是判断当前学习速率下的误差函数是否真正降低了，具体调整如下：

其中E(k)为第w步误差，然后再重复前向传播过程，使得修改后的网络的输出能更加接近期望值，当E(k)的值达到设置的目标值时或者达到最大迭代次数后，训练过程完成，本发明中目标值为10^-4，最大迭代次数为200，得到训练好的神经网络便可用来进行信道估计。结合自适应学习速率的改进，可以让单个学习器更快收敛，缩短信道估计时间，至此集成神经网络内部单个学习器的训练过程完成，每个个体学习器在并行训练时都遵循以上流程。

图2是本发明所述方法的流程图

本发明在确保单个学习器能够适用于信道估计过程后，为使得其能够在集成模型中正常工作，并且能够稳定其性能，使其能够提高通信系统的可靠性和有效性，需要对其采用以下步骤：

1)训练数据的获取；

该模型训练过程中，由于神经网络相当于是提取输入与输出之间的非线性关系，每个神经网络的训练数据不同最终训练的结果也不同，本发明是针对 MIMO-OFDM通信系统的信道估计过程，其训练数据是仅有的导频信号，导频开销会占用一定的频带资源，尤其是在MIMO系统中，导频开销更是增长很快，若根据一般深度学习过程，以大量数据集去训练一个神经网络，最终使其达到稳定性能，则需要的导频信号将会大量增加，严重影响通信的有效性，为使其能够在导频较少的情况下仍能保持较好性能，本发明提出了一种基于集成神经网络模型的信道估计方法，集成神经网络中各子神经网络的训练数据是基于自主采样法来获得的，其主要步骤是将接收端收到的仅有的导频信号作为初始数据集，在该数据集下，我们先随机取出一个样本放入采样集中，再把该样本放回初始数据集，使得下次采样时该样本仍有可能被选中，这样经过n次随机采样操作，就可以得到一个含n个样本的采样集，将上述过程重复M次可得到M 个采样集，然后便可利用这些采样集分别训练M个神经网络。

2)差异度计算；

由于训练自己是通过有放回的随机采样获得的，进而使得单个神经网络之间是有所差异的，这也使得集成模型具有一定的泛化性能，本发明对差异度进行计算并确保其值在一定范围，以此来稳定集成神经网络模型的性能，并通过差异度的引入使得其减小单个神经网络误差的影响，提高整体性能，其中神经网络之间的两两差异度可根据训练过程中的均方误差来计算，即：

式中V_i,j代表第i个子神经网络和第j个子神经网络的两两差异度，y_i-mse和y_j-mse分别为第i和j个神经网络在训练数据上的均方误差。

进一步得到：

V_j代表第j个神经网络的整体差异度。

进一步的可根据公式

计算出整体差异度，V代表集成神经网络内部的整体差异度。由式可知V_j取值越大，差异性越强，集成效果越好；V取值越小表示该集成神经网络越稳定，自适应性越强；且当整体差异度达到0.5以下时，得到的集成神经网络结果较为准确，此时课利用该模型对导频之外的数据信号进行补偿恢复。

3)数据信号的补偿恢复

得到稳定的集成神经网络模型后，该模型就相当于是信道的“黑匣子”，其内部特性就相当于是信道特性，将导频之外的数据信号输入该模型，每个神经网络的输出结果就是接收端对信号进行补偿恢复后的结果，由于该过程属于信号预测过程，本发明结合算数平均法对每个神经网络的输出结果进行处理，得出集成神经网络最终的信道估计结果：

其中M是神经网络的个数，

是第i个神经网络的估计结果。

综上所述，本发明提出了一种基于集成神经网络模型的信道估计方法，综合分析，采用Bagging+差异度的集成方式再实际应用中更有优势，该方法先对导频信号进行有放回的随机采样得到多个数据子集用作训练数据，再并行训练多个神经网络得到具有一定差异的单个学习器，最后计算其差异度并对神经网络个数进行适当调整，直至满足预设条件后对各个输出取算数平均值，得到集成神经网络模型，利用该模型可对除导频之外的数据信号进行补偿恢复。仿真实验证明，与传统方法相比，该方法在达到相同误码率的条件下所需导频数量更少，在相同信噪比下误码率更低，并且弱化了单个神经网络可能出现的过拟合与欠拟合现象对系统性能的影响。此外，由于该集成方式是并行集成，其时间复杂度相比于单个神经网络只多出采样时间和求均值的时间，而这两步时间复杂度很小，所以几乎接近于单个神经网络的复杂度，其过程不涉及像MMSE 算法中的大量矩阵求逆计算而且也不需要信道的先验信息，所以相比之下复杂度较低、响应时间更短。

以上这些实施例应理解为仅用于说明本发明而不用于限制本发明的保护范围。在阅读了本发明的记载的内容之后，技术人员可以对本发明作各种改动或修改，这些等效变化和修饰同样落入本发明权利要求所限定的范围。

Claims (7)

1.一种基于集成神经网络模型的信道估计方法，其特征在于，包括以下步骤：

步骤1：获取接收信号并对接收信号进行移除循环和傅里叶变换处理，得到由实部和虚部组成的接收信号；

步骤2：采用BP神经网络作为个体学习器，确定BP神经网络内部参数，并对BP神经网络进行相应改进，在调整权值和阈值时加上一个附加动量来避免训练过程陷入局部极小，并采用自适应学习速率的方法来加速神经网络的训练过程，缩短响应时间，使BP神经网络能够适用于MIMO-OFDM通信系统的信道估计；

步骤3：从接收信号中提取信道估计所需的导频信号，将导频信号作为训练数据，将原始导频信号作为目标数据，训练数据与目标数据一一对应并作为初始数据集，并对初始数据集进行有放回的采样，每次采样得到N个数据组成一个训练子集，重复M次共得到M个训练子集；

步骤4：利用这M个训练子集，对M个BP神经网络进行并行训练，提取接收导频与原始导频之间的非线性模型即信道模型，得到M个个体神经网络模型；

步骤5：计算神经网络模型之间的整体差异度，若差异度值大于0.5则增加神经网络个数，重复上述过程，在满足差异度要求的前提下结合算数平均法对其集成得到集成神经网络模型；

步骤6：利用集成神经网络模型对除导频之外的数据信号进行补偿恢复，完成信道估计过程。

2.根据权利要求1所述的一种基于集成神经网络模型的信道估计方法，其特征在于，所述步骤1：获取接收信号并对接收信号进行移除循环前缀操作，即将其中用作抑制符号间干扰的循环前缀信号移除，并对余下的数据信号和导频信号进行傅里叶变换处理，可根据傅里叶变换公式计算结果，得到由实部和虚部组成的接收信号，在软件处理的过程中可直接通过FFT命令来完成。

3.根据权利要求1所述的一种基于集成神经网络模型的信道估计方法，其特征在于，所述步骤2中对BP神经网络进行相应改进，使BP神经网络能够适用于MIMO-OFDM通信系统的信道估计，具体包括：首先导频信号是由实部和虚部共同组成，而神经网络无法处理虚部，需要将其实部与虚部分开作为两个输入，对应神经网络的输入层和输出层均包含2个神经元，激励函数采用tanh函数，损失函数采用二次型误差准则函数，学习算法为梯度下降算法。

4.根据权利要求3所述的一种基于集成神经网络模型的信道估计方法，其特征在于，所述的步骤2中针对个体学习器损失函数的局部极小对最终结果可能产生的影响，利用附加动量的思路来改进权值和阈值的修正过程，附加动量的主要内容就是在权值和阈值的的变化量上增加一个调节因子，具体为：在权值和阈值的变换量上增加一个正比于前一次变化量的附加动量，利用附加动量项来限制权值和阈值的变化量，当学习算法接近局部极小时，有了该附加动量的作用，可以帮助学习算法跳出局部极小，进而达到全局最小，得到最优的神经网络模型。

5.根据权利要求4所述的一种基于集成神经网络模型的信道估计方法，其特征在于，所述的步骤2采用自适应学习速率调整的方法，在神经网络训练过程中将本来固定不变的学习速率，根据误差准则函数的变化做相应的调节，具体做法是：对自适应学习速率在每次训练完成后做出调整，使得学习速率在训练的过程中不再是固定不变的，而是不断变化以适应当前训练过程的，其值是该增大还是减小，判断标准是在当前学习速率下损失函数得出的误差值是否真正降低了，具体调整如下：

η(k+1)表示下一次训练过程中学习速率的值，其中E(k)为第w步误差，k为当前训练次数，然后再重复前向传播过程，使得修改后的网络的输出能更加接近期望值，当E(k)的值达到设置的目标值时或者达到最大迭代次数后，训练过程完成。

6.根据权利要求4所述的一种基于集成神经网络模型的信道估计方法，其特征在于，所述步骤5计算神经网络模型之间的整体差异度具体包括：神经网络之间的两两差异度根据训练过程中的均方误差来计算，即：

式中V_i,j代表第i个子神经网络和第j个子神经网络的两两差异度，y_i-mse和y_j-mse分别为第i和j个神经网络在训练数据上的均方误差；

V_j代表第j个神经网络的整体差异度；

可根据公式

计算出整体差异度，V代表集成神经网络内部的整体差异度。

7.根据权利要求6所述的一种基于集成神经网络模型的信道估计方法，其特征在于，所述步骤6利用集成神经网络模型对除导频之外的数据信号进行补偿恢复，具体包括：

结合算数平均法对每个神经网络的输出结果进行处理，得出集成神经网络最终的信道估计结果：

其中M是神经网络的个数，

是第i个神经网络的估计结果。

Images