CN110336594A - 一种基于共轭梯度下降法的深度学习信号检测方法 - Google Patents

Abstract

本发明提供了一种基于共轭梯度下降法的深度学习信号检测方法，主要面向大规模MIMO系统。该方法包括如下步骤：(1)基于共轭梯度下降法构造了模型驱动的深度学习网络LcgNet，将每次迭代的步进标量转化成需要学习的网络参数，并提升了该参数的维度；(2)对信道环境建模，根据MIMO系统模型生成大量具有不同信噪比的训练数据；(3)运用大量训练数据对网络进行线下训练；(4)根据接收信号以及假设完美已知的信道状态信息进行在线实时的信号检测。本发明借助深度学习的力量，能够提升信号检测的精度，并且进一步降低了计算复杂度。此外，该深度学习网络由于所需优化参数数量有限，易于训练，在训练阶段对时间和硬件的要求较低。

Description

一种基于共轭梯度下降法的深度学习信号检测方法

技术领域

本发明属于无线通信领域，涉及一种基于共轭梯度下降法的深度学习信号检测方法。

背景技术

随着物联网的兴起和移动互联网业务种类的日渐丰富，人们对蜂窝移动通信数据传输速率以及服务质量提出了更高的要求。由于能够充分挖掘空间维的自由度，在提高频谱效率的同时获得较好的功率利用率，大规模MIMO系统引起了国内外的广泛关注。大规模MIMO系统配置的大规模天线阵列在带来性能增益的同时也带来了急剧增加的系统硬件复杂度和计算复杂度。因此，复杂度较低且检测误码率性能较好的检测器对于MIMO接收机的设计来说至关重要。

最大似然检测器被视作最佳检测器，能够搜索发射信号的所有符号组合，但是其计算复杂度随着MIMO规模的增长指数上升。随着MIMO规模的增大，信道矩阵逐渐展现出信道硬化现象。在MIMO规模足够大时，线性检测器，如迫零检测器和最小均方误差检测器，都能达到接近最佳检测器的性能。然而，在MIMO规模很大时，线性检测器内的所包含的大型矩阵求逆运算依然会消耗较大的运算资源。基于截断纽曼级数展开的最小均方误差检测器和基于共轭梯度下降法的最小均方误差检测器常用来进一步降低最小均方误差检测器的计算复杂度，其中基于共轭梯度下降法的最小均方误差检测器展现出了更好的信号检测性能和更低的计算复杂度。

另外，由于深度学习方法已经成功应用于其他很多领域，比如说图像处理，自然语言处理等，它作为一种有潜力的技术也开始应用于无线通信领域中，比如信号检测，信道估计等。主流的深度学习方法分为两种，一是模型驱动深度学习方法，此方法根据已知的知识和机制构建网络；二是数据驱动深度学习方法，此方法将网络看做黑盒并依赖大量数据训练该网络，常见的全连接网络以及深度卷积网络都属于此种方法。本发明将共轭梯度下降法的迭代过程展开成网络，将每次迭代的步进标量转化成需要学习的网络参数，并将此标量参数升维至向量参数。由于该网络所需要训练的参数非常有限，因此该网络十分易于训练，同时训练所需时长少。一旦完成训练，网络参数被固定下来用于在线实时信号检测。本发明提出的基于共轭梯度下降的信号检测方法相比于其他信号检测方法，不仅提高了信号检测的精度，也降低了计算复杂度。

发明内容

本发明的目的是针对在大规模MIMO系统中，传统信号检测算法的计算复杂度很高，难以在硬件上实现，提出了一种基于共轭梯度下降法的深度学习信号检测方法。为达到上述目的，本发明采用了如下的技术方案：

该方法具体包括以下步骤：

1.基于共轭梯度下降法构建模型驱动的深度学习网络，将迭代的步进标量升维后转化成网络参数，所述网络参数为向量参数；

2.根据信道模型产生已知的信道矩阵，并根据MIMO系统模型获得具有不同信噪比的训练数据；

3.运用步骤3所述的训练数据对深度学习网络进行线下训练，得到训练后的网络参数；

4.在接收机固定训练后的网络参数，根据接收机信道估计模块得到的信道矩阵以及接收信号进行在线实时的信号检测。

进一步的，所述步骤1具体为：

基于共轭梯度下降法构建模型驱动的深度学习网络，所述深度学习网络由T层构成并且每层具有相同的网络结构，以迭代的形式求解最小均方误差检测器，最小均方误差检测器表示为：

其中，是由接收机信道估计模块得到的信道矩阵，是N_t×N_t的单位矩阵，是噪声方差，y是接收信号，为Hermitian正定矩阵，b＝H^Hy为匹配滤波器输出向量；

将共轭梯度下降法的第i次迭代表示为深度学习网络的第i层，第i次迭代所包含的两个步进标量αⁱ和βⁱ被第i层升维后的向量参数α⁽ⁱ⁾和β⁽ⁱ⁾替代，深度学习网络第i层的信号检测过程表示为：

r⁽ⁱ⁺¹⁾＝r⁽ⁱ⁾-α⁽ⁱ⁾⊙A d⁽ⁱ⁾

d⁽ⁱ⁺¹⁾＝r⁽ⁱ⁾+β⁽ⁱ⁾⊙d⁽ⁱ⁾

其中符号⊙表示两个向量的哈达马积，为恢复的发射信号，α⁽ⁱ⁾为第i层的向量参数，d⁽ⁱ⁾为随网络传递的中间变量，表示共轭梯度；

选择L2范数作为代价函数，具体损失函数表示为：

其中Θ^(l)表示第l层的学习参数，Θ^(l)＝{α^(l),β^(l)}，M为训练数据的数量，s_rm为第m个发射信号，y_rm为接收信号。

进一步的，步骤2所述根据MIMO系统模型获得具有不同信噪比的训练数据，具体为：

根据MIMO系统模型获得接收信号y_m＝H_ms_m+n_m，通过调节噪声的方差来改变训练数据的信噪比，接收信号向量和对应的发射信号向量构成不同信噪比的训练数据其中M是训练数据的数量，H_m是根据信道模型产生的已知的信道矩阵，h_m是H_m向量化后的信道矩阵，n_m为高斯噪声。

进一步的，所述步骤3具体为：

采用逐层训练的方式，训练数据由高信噪比依次向低信噪比递减，每一轮训练中，信噪比固定；当训练深度学习网络的第l层时，首先用学习率λ单独训练第l层的向量参数{α^(l),β^(l)}，前l-1层的向量参数保持不变，再采用递减的学习率λ′对前l层的向量参数进行调优，其中递减的学习率λ′初始值为0.1×λ，递减率为0.5，当归一化均方误差不再下降时训练终止，得到训练后的网络参数。

本发明的有益效果：本发明充分利用了模型驱动的深度学习方法的优势，将共轭梯度下降法的迭代过程展开成深度学习网络。此网络继承了共轭梯度下降法收敛快的特性，收敛速度快，所需层数小于共轭梯度下降法所需迭代次数。本发明提供的方法可以获得优于最小均方误差检测器的性能，提供了超过1dB的检测性能增益。同时本发明大大降低了检测的计算复杂度，缩短了线上实时检测过程所需的时间。同时，由于网络结构简单，所需学习参数有限，相比起其他深度学习网络，该网络非常易于训练，训练过程对于训练时间和硬件平台的要求较低。

附图说明

图1是基于共轭梯度下降法的模型驱动深度网络的单层结构框图；

图2是基于共轭梯度下降法的深度学习信号检测方法在不同MIMO规模下的归一化均方误差性能曲线；

图3是基于共轭梯度下降法的深度学习信号检测方法在不同信道模型下的归一化均方误差性能曲线。

具体实施方式

为了使本发明的技术方案和优点变得更加清晰，接下来将结合附图对技术方案的具体实施方式作更加详细地说明。

在所考虑的大规模MIMO系统中，采用垂直分层空时结构，接收端有64根天线，发射端有32根天线，根据运用场景对信道进行建模。针对该系统所提出的一种基于共轭梯度下降法的深度学习信号检测方法包括如下步骤：

步骤一、构建深度学习网络LcgNetV。本发明将共轭梯度下降法的迭代过程展开成网络，将每次迭代的步进标量转化成需要学习的网络参数，并将这些标量参数升维至向量参数。

共轭梯度下降法以迭代的形式求解最小均方误差检测器，最小均方误差检测器可以表示为：

其中，是假设完美已知的信道矩阵，是N_t×N_t的单位矩阵，是噪声方差，y是接收信号，为Hermitian正定矩阵，b＝H^Hy为匹配滤波器输出向量。

共轭梯度下降算法的每一次迭代都看作是该子网络的一层，第i次迭代所包含的两个步进参数αⁱ和βⁱ都被基于该层的升维后的可学习参数α⁽ⁱ⁾和β⁽ⁱ⁾替代。单层网络结构如图1所示，和是每层所存储网络参数的实数表达形式，和表示流经网络的数据流。对于该深度学习网络LcgNetV的第i层而言，信号检测过程可以表示为：

为了方便在tensorflow上进行训练，这里所有的向量都是实数化的结果。选择L2范数作为代价函数进行学习，具体损失函数可以表示为：

其中Θ^(l)表示第l层的学习参数Θ^(l)＝{α^(l),β^(l)}。

步骤二、收集训练数据集。在本方法中运用监督学习优化网络中的未知参数，因此需要收集大量带有标签的训练数据。根据所处通信环境对信道进行建模，获得一系列假设完美已知的信道矩阵多天线用户以不同的信噪比向基站发送信号s_m，根据系统模型获得接收信号y_m＝H_ms_m+n_m。接收信号向量和对应的发射信号向量构成了所需的数据标签组共收集了20000组训练数据。

步骤三、线下训练LcgNetV。所有训练过程都在线下完成，当归一化均方误差不再下降时该步训练终止。每一轮训练中，信噪比固定，训练数据由高信噪比依次向低信噪比递减，依次为[30,25,20,15,10,5,0]dB。在具体的每一轮训练过程中，采用逐层训练的方式。当训练第l层时，具体做法为：首先用较高的学习率0.001单独训练第l层参数{α^(l),β^(l)}，前l-1层的参数保持不变，再采用递减的学习率对前l层参数进行调优，初始学习率为0.0001，递减率为0.5，得到训练后的网络参数。

步骤四、线上检测。一旦训练结束，网络中的参数被存储下来以用于在线实时的信号检测。将接收信号与估计出来的信道矩阵直接送入训练好的深度网络中，经过一次前向运算，直接输出所检测的发送信号。

图2表示了在瑞利信道环境下，不同MIMO规模对检测性能的影响程度，此处考虑了收发天线数为32×32、32×64以及32×128三种规模不同的大型MIMO系统。由不同信噪比下的检测误码率来衡量。LcgNetV表示本发明提出的信号检测方法，ZF、MMSE、CG和SDR是三个对比算法。由图中可以看出，随着MIMO规模的增加，所有信号检测算法都获得性能的增益，本发明提出的算法在所有MIMO系统中都获得了最优的性能。

图3表示在不同信噪比条件下，不同信道检测算法在瑞利信道和相关信道下的检测性能，由误比特率来衡量。LcgNetV表示本发明提出的信号检测方法，ZF、MMSE、CG和SDR是三个对比算法。从图中可以看出本发明提出了信号检测方法在两种信道模型下都获得了最好的估计精度。

本发明是一种应用于大规模MIMO系统，基于共轭梯度下降法的深度学习信号检测方法。针对基于共轭梯度下降法的深度学习信号检测方法，我们要求将作为发明进行保护。以上所述仅为特定应用场合的具体实施方式，但本发明的真实精神和范围不局限于此，任何熟悉本领域的技术人员可以修改、等同替换、改进等，实现不同应用场合的信号检测方法。本发明由权利要求书及其等效技术方案来限定。

Claims (4)

1.一种基于共轭梯度下降法的深度学习信号检测方法，其特征在于包括以下步骤：

(1)基于共轭梯度下降法构建模型驱动的深度学习网络，将迭代的步进标量升维后转化成网络参数，所述网络参数为向量参数；

(2)根据信道模型产生已知的信道矩阵，并根据MIMO系统模型获得具有不同信噪比的训练数据；

(3)运用步骤(2)所述的训练数据对深度学习网络进行线下训练，得到训练后的网络参数；

(4)在接收机固定训练后的网络参数，根据接收机信道估计模块得到的信道矩阵以及接收信号进行在线实时的信号检测。

2.如权利要求1所述的基于共轭梯度下降法的深度学习信号检测方法，其特征在于所述步骤(1)具体为：

基于共轭梯度下降法构建模型驱动的深度学习网络，所述深度学习网络由T层构成并且每层具有相同的网络结构，以迭代的形式求解最小均方误差检测器，最小均方误差检测器表示为：

其中，是由接收机信道估计模块得到的信道矩阵，是N_t×N_t的单位矩阵，是噪声方差，y是接收信号，为Hermitian正定矩阵，b＝H^Hy为匹配滤波器输出向量；

将共轭梯度下降法的第i次迭代表示为深度学习网络的第i层，第i次迭代所包含的两个步进标量αⁱ和βⁱ被第i层升维后的向量参数α⁽ⁱ⁾和β⁽ⁱ⁾替代，深度学习网络第i层的信号检测过程表示为：

r⁽ⁱ⁺¹⁾＝r⁽ⁱ⁾-α⁽ⁱ⁾⊙Ad⁽ⁱ⁾

d⁽ⁱ⁺¹⁾＝r⁽ⁱ⁾+β⁽ⁱ⁾⊙d⁽ⁱ⁾

其中符号⊙表示两个向量的哈达马积，为恢复的发射信号，α⁽ⁱ⁾为第i层的向量参数，d⁽ⁱ⁾为随网络传递的中间变量，表示共轭梯度；

选择L2范数作为代价函数，具体损失函数表示为：

其中Θ^(l)表示第l层的学习参数，Θ^(l)＝{α^(l),β^(l)}，M为训练数据的数量，s_rm为第m个发射信号，y_rm为接收信号。

3.如权利要求1所述的基于共轭梯度下降法的深度学习信号检测方法，其特征在于步骤(2)所述根据MIMO系统模型获得具有不同信噪比的训练数据，具体为：

根据MIMO系统模型获得接收信号y_m＝H_ms_m+n_m，通过调节噪声的方差来改变训练数据的信噪比，接收信号向量和对应的发射信号向量构成不同信噪比的训练数据其中M是训练数据的数量，H_m是根据信道模型产生的已知的信道矩阵，h_m是H_m向量化后的信道矩阵，n_m为高斯噪声。

4.如权利要求1所述的基于共轭梯度下降法的深度学习信号检测方法，其特征在于所述步骤(3)具体为：

采用逐层训练的方式，训练数据由高信噪比依次向低信噪比递减，每一轮训练中，信噪比固定；当训练深度学习网络的第l层时，首先用学习率λ单独训练第l层的向量参数{α^(l),β^(l)}，前l-1层的向量参数保持不变，再采用递减的学习率λ′对前l层的向量参数进行调优，其中递减的学习率λ′初始值为0.1×λ，递减率为0.5，当归一化均方误差不再下降时训练终止，得到训练后的网络参数。