CN116505982A - 高阶调制的大规模mimo系统下的深度学习信号检测方法 - Google Patents

Abstract

本发明公开了一种高阶调制的大规模MIMO系统下的深度学习信号检测方法，是一种在高阶调制下大规模多输入多输出mMIMO系统中，信道状态信息CSI未知的情况下，基于深度学习DL技术的低复杂度的性能近似最优的信号检测方案，在DeepSIC方案的基础上，一方面引入残差网络ResNet以提高深层网络信号检测的性能，另一方面简化网络结构以降低计算复杂度，进而实现提升性能并降低复杂度的目的。由于不发送导频信号，避免传统方法中CSI必须已知的条件，且不需要假设特定的信道模型，实现CSI未知下的高精度的信号检测，同时在提高性能的基础上，降低信号检测方案的计算复杂度。

Description

高阶调制的大规模MIMO系统下的深度学习信号检测方法

技术领域

本发明涉及通信信号检测技术领域，尤其涉及一种高阶调制的大规模MIMO系统下的深度学习信号检测方法(ResLigh-DeepSIC)。

背景技术

人工智能特别是深度学习在各个领域获得了巨大成功，无线通信领域的研究者期望将其应用于系统的各个层面，进而产生真正的智能通信系统。智能通信的基本思想是将人工智能引入无线通信系统的各个层面，实现无线通信与人工智能技术有机融合，大幅度提升无线通信系统效能的愿景。目前，该方向的研究正在向物理层推进，已经出现无线传输与深度学习等结合的趋势，然而各项研究目前还处于初步探索阶段。

大规模多输入多输出(Massive Multiple-input Multiple-output，mMIMO)系统中，为了满足mMIMO系统在高性能的要求，接收机通常配备多个天线，并同时与多个发射机进行通信，这增加了接收方的复杂性。不同的数据流从不同的天线传输，在接收端造成流间干扰，因此对接收天线中多个发送符号进行信号检测成为实现MIMO前景的关键。5G无线系统考虑的mMIMO提供的空间自由度使其能够同时支持多个用户，且对高数据速率的需求导致其使用更高的调制阶数。多用户和较高的数据速率的多重组合导致搜索空间呈指数复杂度，使得传统信号检测器难以在实际中应用。

目前mMIMO系统主流的传统信号检测方法，需要信道状态信息(Channel StateInformation，CSI)精确已知的条件，一旦信道模型未知或信道是非线性的，或是CSI未知，这些方案会失效。此外，无线通信系统中非盲的信道估计方法需要导频信号，这必然占用一定的有效带宽，从而使系统的传输效率降低。

当CSI未知时，虽然盲检测也能进行信道估计，但需要先由CSI进行信道估计得到信道矩阵，再根据信道矩阵和接收信号进行信号检测得到发送信号的估计值。此方法针对特定分布的信道，精度往往很低，这导致信号检测结果的正确率也很低，性能极差，且计算复杂度高。

现有基于深度学习(Deep Learning，DL)的信号检测方案，利用DL的神经网络将无线通信系统的多个或一个功能块看作一个未知的黑盒子，用神经网络取而代之，然后依赖大量训练数据完成输入到输出的训练；而不利用已有的通信知识。这种方式下，信号检测方案的性能往往都很差。同时随着网络加深，训练参数过多，会产生计算复杂很高和离线训练成本高的问题。

为了解决上述问题，基于已有的信号检测算法，不展开已有的迭代算法，而是用深度神经网络替换了每次迭代中某部分的计算，以避免迭代算法中信道状态信息必须已知的前提。典型应用方案有基于生成对抗网络GAN的维特比网络(ViterbiNet)的非平凡变体(GAN-ViterbiNet)和基于迭代软干扰消除SIC算法展开的检测器(DeepSIC)。GAN-ViterbiNet中，GAN直接从接收机的观测结果中学习信道转移概率，这是维特比算法(Viterbi)中唯一依赖于信道的部分。然而GAN-ViterbiNet适用于小规模MIMO系统，并且需要对不同的信噪比训练不同的GAN网络，不适合在实际应用中部署。而DeepSIC，不需要信道是线性的也不需要知道其参数，可以在非线性信道中准确地检测符号，但其仍旧适用于小规模MIMO系统，并且DeepSIC中可训练的参数随着MIMO系统规模的增加呈线性增长，在实际应用中DeepSIC网络模型的维护需要较大的有效数据集。在高阶调制下，大规模MIMO系统中，需要更高计算复杂度来维持可靠的检测性能。

综上所述，现有绝大多数方案在mMIMO系统中的实际应用中，首先存在CSI需要精确已知的问题；其次，即使有的方案能够解决CSI未知时的信号检测，但这些方案只适用于小规模MIMO系统，在高阶调制下的大规模MIMO系统中，仍存在性能差和计算复杂度高的问题。因此，需要设计在高阶调制下、大规模MIMO系统中、复杂度更低、性能近似最优的信号检测方案。

发明内容

本发明针对现有技术的问题，提出一种高阶调制的大规模MIMO系统下的深度学习信号检测方法，不发送导频信号，避免传统方法中CSI必须已知的条件，且不需要假设特定的信道模型，实现CSI未知下的高精度的信号检测，同时在提高性能的基础上，降低信号检测方案的计算复杂度。

为了实现上述目的，本发明提供如下技术方案：

本发明提供一种高阶调制的大规模MIMO系统下的深度学习信号检测方法，在迭代软干扰消除SIC算法展开的神经网络DeepSIC的基础上引入残差网络构建ResLight-DeepSIC信号检测器，并包括以下步骤：

S1、利用ResLight-DeepSIC信号检测器生成条件分布的初始估计其中，/>是长度为Q的矢量，q为Q的索引值，即q＝1,2,...,Q，Q为等效实信号星座的星座点数；m为M的索引值，即m＝1,2,...,M，M为等效实发送信号向量s的符号个数；/>为第m个符号的条件分布向量的初始估计，/>等价表示为/>m＝1,2,...,M；代表的含义是：将s中所有的符号s_m(m＝1,2,...,M)的条件分布向量/>初始化为长度为Q的矢量，其中该矢量为等概向量，意味着最初符号s_m的取值是服从均匀分布的；

以QPSK为例说明，QPSK的星座图有四种取值可能{±1±1j}，转为等效实信号星座后有两种取值{1,-1}，所以此时Q＝2，所以初始化代表着符号s_m取1的概率为1/2，取-1的概率为1/2；

S2、基于概率向量计算得到对应符号{s_k}_k≠m的软符号/>和方差/>将/>输入第一个线性层，其中，/>是一个长度为2的矢量；s、y分别表示M×1维等效实发送信号和N×1维等效实接收信号，l为L的索引值，即l＝1,2,...,L，其中L为检测器的总层数；

S3、对于用户将/>和前一层概率向量/>输入至ResLight-DeepSIC信号检测器的第(l,m)个Res分类器，估计条件分布下的概率向量/>

S4、循环迭代直至收敛，由硬解码得到估计信号/>

进一步地，步骤S2中，基于概率向量计算得到对应的{s_k}_k≠m的软符号和方差/>的公式如下：

其中，代表此概率向量中第q个元素值，α代表对应第k个符号s_k的在星座图上的Q种可能取值。以QPSK为例，α有2种取值{1,-1}。/>是由网络估计得到的，即检测器流程图中每个分类器的输出；如/>代表第l次迭代时，第k个分类器的输出。

进一步地，对于第(l,m)个分类器，分类器的最大后验概率部分为Linear1:((N+2·(M-1)),60),Linear2:(60,30),Linear3:(30,Q)。

进一步地，接收信号向量y由实信号模型表示如下：

y＝Hs+n

s、y、n和H分别表示M×1维等效实发送信号、N×1维等效实接收信号、N×1维等效实AWGN噪声信号和N×M维等效实信道矩阵，且M＝2N_t、N＝2N_r，其中：

和/>分别表示复向量或矩阵的实部和虚部。

进一步地，对第(l,m)个分类器，保留上一次迭代得到的概率向量仅学习上一次概率向量/>和本次概率向量/>的残差/>概率信息表示为以下的函数形式：

其中，为前一层得到的概率信息，/>为/>与/>的残差，Relu为DL常用的激活函数，函数公式为f(x)＝max(0,x)。

进一步地，ResLight-DeepSIC信号检测器网络训练的损失函数优化为两部分，第一部分用每一层输出的概率向量计算对应的交叉熵损失函数值，并给更靠后的层赋予更高的权重，然后对所有层的带权重的损失函数值求平均；第二部分计算每层输出的概率向量对应的软符号的方差值，并给更靠后的层赋予更高的权重，然后对所有层的带权重的方差值求平均。

进一步地，ResLight-DeepSIC信号检测器网络训练的损失函数表示为：

其中，为第一部分损失函数，利用了每层输出的概率向量/>同时在不同层计算的交叉熵损失值前乘以权重log(l)；/>为第二部分损失函数，是由每层输出的概率值计算得到的软符号的方差/>β为/>引入的一个常数参数，0＜β＜1；θ为一个矢量，代表此网络模型所有的需要被训练和更新的参数集，B_sum代表训练此网络的数据集的数量。

与现有技术相比，本发明的有益效果为：

(1)首先，本发明设计低计算复杂度的神经网络模型：针对原DeepSIC方案中的每个分类器做改进，具体来说，为了降低网络计算复杂度，对于每个分类器输入的概率向量，在送入神经网络之前，将概率向量替换为由该概率向量计算得到的对应符号的软符号值和方差值，即一个长度为2的矢量；现有的概率向量大小与发送信号星座点数目有关，并随调制阶数的增加而增加，是长度大于等于2的矢量；而优化后的网络，输入神经元数变少，因此可以降低方案的计算复杂度。

(2)其次，在每个分类器中，本发明引入ResNet的思想：保留上一次迭代得到的概率信息，仅学习上一次概率信息和本次概率信息的残差。这个简单的加法，不会给网络增加额外的参数和计算量，同时却可以大大增加模型的训练速度、提高训练效果，并当模型的层数加深时，解决网络退化问题；因此可以提高方案的性能。

(3)最后，优化loss函数：本发明的loss函数分为两部分。第一部分用每一层输出的概率向量计算对应的交叉熵损失函数值，并给更靠后的层赋予更高的权重，然后对所有层的带权重的损失函数值求平均。第二部分计算每层输出的概率向量对应的软符号的方差值，同样给更靠后的层赋予更高的权重，然后对所有层的带权重的方差值求平均；物理意义是方差越小，概率向量越接近独热向量；新的loss函数能加速网络的收敛。

综上，本发明提出的高阶调制的大规模MIMO系统下的深度学习信号检测方法，是一种在高阶调制下大规模多输入多输出mMIMO系统中，信道状态信息CSI未知的情况下，基于深度学习DL技术的低复杂度的性能近似最优的信号检测方案，在DeepSIC方案的基础上，一方面引入残差网络ResNet以提高深层网络信号检测的性能，另一方面简化网络结构以降低计算复杂度，进而实现提升性能并降低复杂度的目的。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图。

图1为信号检测的系统框图，图中(a)为CSI已知时，信号检测的系统框图，(b)为CSI未知时，信号检测的系统框图。

图2为本发明提供的ResLighth-DeepSIC信号检测方法流程图。

图3为DNN分类器与Res分类器对比图。

具体实施方式

为了更好地理解本技术方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整的描述。显然，所描述的实例仅仅是本发明实施例一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员基于本申请所获得的所有其他实施例，都属于本发明保护的范围。

本实施例提出的高阶调制的大规模MIMO系统下的深度学习信号检测方法，在DeepSIC的基础上，引入ResNet的残差思想，以轻量级网络实现性能更好、且复杂度更低的、适用于高阶调制下mMIMO系统的信号检测方案，称作ResLight-DeepSIC检测器，具体介绍如下。

1、系统模型：

考虑一个多用户MIMO系统的上行链路，基站配备N_r个接收天线，一个用户配备一个发送天线，共有N_t个用户。接收信号向量由下式给出：

其中发送信号向量i＝1,2,...,N_t，其中P_i是发送符号/>的平均功率。发送符号/>由具有/>点的复数星座/>独立随机生成。设所有可能的传输向量构成的集合为/>它是由/>种向量组成的N_t维复数集合，即/>在公式(1)中，是独立且同分布的加性高斯白噪声(AWGN)样本的向量，/>信道矩阵/>是由构成的大小N_r×N_t的矩阵，其中/>表示第j个发送天线和第i个接收天线之间的复信道增益。信道矩阵/>采样自i.i.d复高斯正态分布或者由典型5G通信信道模拟生成。

多数现有方案都有一个前提，信道矩阵是基于完美CSI获得的。然而实际链路的由信道估计得到，它不是准确的，所以在本发明的建模中，采用带误差的信道矩阵/>

其中代表误差矩阵，它是由/>构成的大小N_r×N_t的矩阵，/>

设s、y、n和H分别表示M×1维等效实发送信号、N×1维等效实接收信号、N×1维等效实AWGN噪声信号和N×M维等效实信道矩阵，且M＝2N_t、N＝2N_r，其中：

这里，和/>分别表示复向量或矩阵的实部和虚部。所以，公式(1)的复信号模型可以被转换成等效的实信号模型如下：

y＝Hs+n (4)

设所有可能的传输向量构成的集合为它是由Q^M种向量组成的M维实数集合，即/>其中/>是实值符号集。所以设定集合/>中共有/>个元素。在本发明中，采用等效的实值信号模型公式(4)代替公式(1)，更加便于计算。

信号检测方案的系统框图如图1所示。其中(a)是假设CSI已知时，经由信道估计模块得到带误差的信道矩阵H，信号检测的目标是从接收到的信号矢量y，估计发送信号矢量s。传统检测方法，如ML、MAP、ZF和SIC都是在图中(a)的系统下进行。而图中(b)是假设CSI未知，所以直接由接收信号矢量y，估计发送信号矢量s，该模块代替了传统通信中信道估计和信号检测的功能，所以称为联合信道估计和信号检测。基于DL的方法，如DeepSIC和本方案ResLight-DeepSIC，都是在图中(b)的系统下进行。

本发明提出的高阶调制的大规模MIMO系统下的深度学习信号检测方法(ResLight-DeepSIC)，如图2所示，发明点主要体现在以下三个方面：(1)设计低计算复杂度的网络模型；(2)引入残差网络ResNet的思想来提升网络性能；(3)优化网络训练的损失函数。

(1)设计低计算复杂度的网络模型；

本发明结合DeepSIC信号检测方案和ResNet网络的核心思想，在DeepSIC整体框架的基础上，为了减小网络的计算复杂度，对第(l,m)个Res分类器，输入数据在输入第一个线性层之前，先做一步简单的计算：基于/>计算得到/>的软符号和方差/>公式如下：

其中，代表此概率向量中第q个元素值，α代表对应第k个符号s_k的在星座图上的Q种可能取值。以QPSK为例，α有2种取值{1,^-1}。/>是由网络估计得到的，即检测器流程图中每个分类器的输出；如/>代表第l次迭代时，第k个分类器的输出。

第一个线性层的实际输入为所以相应的分类器由Linear1:((N+Q·(M-1)),60)调整为Linear1:((N+2·(M-1)),60)。现有DeepSIC方案中DNN分类器第一个线性层的输入为/>大小与调制阶数有关，而本发明Res分类器第一个线性层的输入为/>永远是长度为2的矢量，因此Res分类器第一个线性层的神经元数更少，计算复杂度比DNN分类器的更低；且调制阶数越高，复杂度降低得越多，同时还能适应不同调制阶数的信号。所以在16QAM和64QAM时，输入节点数分别减少了2·(M-1)和6·(M-1)，计算复杂度更低。

所以分类器的最大后验概率MLP部分修改为(如图3所示)：Linear1:((N+2·(M-1)),60),Linear2:(60,30),Linear3:(30,Q)。

(2)引入残差网络ResNet的思想来提升网络性能；

本发明在ResLight-DeepSIC方案中，对第(l,m)个Res分类器，如图3所示，表示为以下的函数形式：

利用残差思想，能够对第(l,m)个Res分类器保留前一层得到的概率信息只学习/>与本层分类器输出的/>的残差/>这个简单的加法，不会给网络增加额外的参数和计算量，同时却可以大大增加模型的训练速度、提高训练效果，并当模型的层数加深时，解决网络退化问题。因此能够提升方案的性能。DNN分类器的输入是/>而Res分类器的输入是/>和/>这是本发明的Res分类器与DeepSIC方案的DNN分类器不同的地方。

(3)优化网络训练的损失函数：

本发明优化了网络训练的损失函数：新的loss函数分为两部分。第一部分用每一层输出的概率向量计算对应的交叉熵损失函数值，并给更靠后的层赋予更高的权重log(l)，然后对所有层的带权重log(l)的loss值求平均。第二部分计算每层输出的概率向量对应的软符号的方差值，同样给更靠后的层赋予更高的权重log(l)，然后对所有层的带权重log(l)的方差值求平均。损失函数如下：

其中新损失函数由两部分组成，利用了每层输出的概率值，同时在不同层计算的交叉熵损失值前乘以权重log(l)，代表的含义是：随着层数的增加，对概率值的估计越来越准确，所以乘以权重，放大后面层输出的概率值对应的loss，以加速网络训练以及收敛。/>中的是由概率值计算得到的方差/>代表的含义是：在迭代软干扰消除算法中，概率越集中于其中某一个元素，方差越小，当概率向量中其中一个元素值为1其余值为0时，方差为0；所以/>使得概率向量以特定的方向朝着独热向量移动，可以显著缩小路径数，即网络层数。因此，/>的作用主要是提高网络的收敛速度，/>才是决定loss精度的关键，所以引入了一个常数参数0＜β＜1，一般取β＝0.5。优化后的损失函数能够加速网络训练以及收敛，提升方案的性能。

本发明的算法整理如下：

以上所述仅是对本发明的优选实施例及原理进行了详细说明，并非用于限定本发明的保护范围。对本领域的普通技术人员而言，依据本发明提供的思想，凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均应视为本发明的保护范围。

Claims (7)

1.一种高阶调制的大规模MIMO系统下的深度学习信号检测方法，其特征在于，在迭代软干扰消除SIC算法展开的神经网络DeepSIC的基础上引入残差网络构建ResLight-DeepSIC信号检测器，并包括以下步骤：

S1、利用ResLight-DeepSIC信号检测器生成条件分布的初始估计其中，是长度为Q的矢量，q为Q的索引值，即q＝1,2,...,Q，Q为等效实信号星座的星座点数；m为M的索引值，即m＝1,2,...,M，M为等效实发送信号向量s的符号个数；/>为第m个符号的条件分布向量的初始估计，/>等价表示为/>代表的含义是：将s中所有的符号s_m(m＝1,2,...,M)的条件分布向量/>初始化为长度为Q的矢量，其中该矢量为等概向量；

S2、基于概率向量计算得到对应符号{s_k}_k≠m的软符号/>和方差/>将输入第一个线性层，其中，/>是一个长度为2的矢量；s、y分别表示M×1维等效实发送信号和N×1维等效实接收信号，l为L的索引值，即l＝1,2,...,L，其中L为检测器的总层数；

S3、对于用户将/>和前一层概率向量/>输入至ResLight-DeepSIC信号检测器的第(l,m)个Res分类器，估计条件分布下的概率向量/>

S4、循环迭代直至收敛，由硬解码得到估计信号/>

2.根据权利要求1所述的高阶调制的大规模MIMO系统下的深度学习信号检测方法，其特征在于，基于概率向量计算得到对应的{s_k}_k≠m的软符号/>和方差/>的公式如下：

其中，代表此概率向量中第q个元素值，α代表对应第k个符号s_k的在星座图上的Q种可能取值。

3.根据权利要求1所述的高阶调制的大规模MIMO系统下的深度学习信号检测方法，其特征在于，对于第(l,m)个分类器，分类器的最大后验概率部分为Linear1:((N+2·(M-1)),60),Linear2:(60,30),Linear3:(30,Q)。

4.根据权利要求1所述的高阶调制的大规模MIMO系统下的深度学习信号检测方法，其特征在于，步骤S2中，接收信号向量y由实信号模型表示如下：

y＝Hs+n

s、y、n和H分别表示M×1维等效实发送信号、N×1维等效实接收信号、N×1维等效实AWGN噪声信号和N×M维等效实信道矩阵，且M＝2N_t、N＝2N_r，其中：

和/>分别表示复向量或矩阵的实部和虚部。

5.根据权利要求1所述的高阶调制的大规模MIMO系统下的深度学习信号检测方法，其特征在于，对第(l,m)个分类器，保留上一次迭代得到的概率向量仅学习上一次概率向量/>和本次概率向量/>的残差/>概率信息表示为以下的函数形式：

其中，为前一层得到的概率信息，/>为/>与/>的残差，Relu为DL常用的激活函数，函数公式为f(x)＝max(0,x)。

6.根据权利要求1所述的高阶调制的大规模MIMO系统下的深度学习信号检测方法，其特征在于，ResLight-DeepSIC信号检测器网络训练的损失函数优化为两部分，第一部分用每一层输出的概率向量计算对应的交叉熵损失函数值，并给更靠后的层赋予更高的权重，然后对所有层的带权重的损失函数值求平均；第二部分计算每层输出的概率向量对应的软符号的方差值，并给更靠后的层赋予更高的权重，然后对所有层的带权重的方差值求平均。

7.根据权利要求6所述的高阶调制的大规模MIMO系统下的深度学习信号检测方法，其特征在于，ResLight-DeepSIC信号检测器网络训练的损失函数表示为：

其中，为第一部分损失函数，利用了每层输出的概率向量/>同时在不同层计算的交叉熵损失值前乘以权重log(l)；/>为第二部分损失函数，是由每层输出的概率值计算得到的软符号的方差/>β为/>引入的一个常数参数，0＜β＜1；θ为一个矢量，代表此网络模型所有的需要被训练和更新的参数集，B_sum代表训练此网络的数据集的数量。