CN114499601A - 一种基于深度学习的大规模mimo信号检测方法 - Google Patents

Abstract

本发明公开了一种基于深度学习的大规模MIMO信号检测方法，改善了现有技术中的别最后。该发明含有以下步骤：1、基站端获得信道衰弱信息和信道噪声，接收用户端发送的信号，得到适用的SAMP算法；2、为SAMP算法设计阈值网络以及添加合适的训练参数，3、将添加训练系数和阈值网络的SAMP算法展开成为SAMP‑FCNet神经网络：4、获得样本数据，设计训练所需的超参数，训练SAMP‑FCNet，得到适用于大规模MIMO系统检测的最优近似消息传递神经网络，适用于上线神经网络进行信号检测。该技术结合SAMP算法提出深度学习的大规模MIMO信号检测方法，实现了以较低的复杂度获得了较高的检测性能。

Description

一种基于深度学习的大规模MIMO信号检测方法

技术领域

本发明涉及通信技术领域，特别是涉及一种基于深度学习的大规模MIMO信号检测方法。

背景技术

大规模多输入多输出(multiple input multiple output,MIMO)系统在现代通信中具有重要意义。然而,随着用户和基站(Base Station,BS)天线数量的增加和接收信号复杂度的提高,在BS处对信号的有效检测变得越来越困难。因此,如何实现低误码率和低计算复杂度的信号检测成为人们关注的焦点。针对大规模MIMO系统来说，通过判断是否使用深度学习技术，分为传统的检测算法与基于深度学习的检测算法。

目前传统信号检测算法分为线性检测算法和非线性检测算法。线性检测算法思想是通过滤波矩阵消除信道和噪声影响，根据滤波矩阵的不同可以分为匹配滤波检测、迫零检测以及最小均方误差检测，匹配滤波检测在大规模MIMO系统中受用户间干扰严重，迫零检测和最小均方误差检测需要对信道矩阵求逆，计算复杂度较高，检测性能也较差。非线性检测算法分为局部搜索算法，干扰消除算法及其衍生算法，基于因子图的置信传播算法等。局部搜索算法主要包括上升似然搜索算法和动态禁忌搜索算法，上升似然搜索算法的主要思想是基于一个初始解，在初始解附近进行搜索得到全局最优解，其检测性能非常接近最大似然估计(Maximum posteriori probability，ML)检测结果，但是容易陷入局部最优解。干扰消除算法的主要思想是通过多级滤波器过滤掉已检测信号的影响，消除天线干扰从而提高检测性能，但是存在错误传播现象，已检测的符号正确与否会影响之后的检测结果。

置信传播算法基于因子图模型，通过传递因子和变量之间的消息获得后验概率估计值，置信传播算法能够获得较为精确的后验概率估计，但消息传递过程中涉及大量的迭代运算，算法复杂度较高。最近基于感知压缩领域中的近似消息传递算法(Approximatemessage passing，AMP)算法又提出了应用于信号检测的简化近似消息传递算法(Simplified approximate message passing，SAMP)，SAMP算法通过构建类似信噪比的形式确定算法中的软阈值，该阈值决定了算法精度以及收敛速度，SAMP算法能够较好的平衡检测性能和计算复杂度之前的关系，但是由于在阈值计算中进行了近似估计，其性能与MMSE算法性能差距较大，需要进行多次迭代。

深度学习目前已经广泛应用于各个领域，其中深层网络由许多线性层或非线性层堆叠而来，每一层非线性层都可以视为是一个非线性函数，因此整个神经网络可以视为一个复合的非线性多元函数，训练的目的是使得非线性函数很好的完成输入到输出之间的映射。结合深度学习和检测算法的二者的特点，将深度学习与通信系统相结合，通过神经网络解决信号检测问题也是目前研究方向之一。

专利申请号为202010107381.9的“基于深度神经网络的近似消息传递大规模MIMO信号检测算法”被提出。该方法通过在有效噪声方差项以及Onsager修正项前添加训练参数来对阈值函数误差进行补偿，同时通过神经网络实现对发送信号功率的估计从而提升检测性能。但是SAMP算法中阈值函数误差主要来源于阈值函数中对其他天线干扰的近似估计，由于SAMP算法本身就具有较好的性能，冗余的训练参数往往会使得神经网络的损失函数陷入局部极小值，降低网络检测性能。因此，该方案的检测算法精度存在进一步的提升空间。

发明内容

本发明改善了现有技术中的不足，提供一种用于大规模MIMO系统中上行链路信号检测的基于深度学习的大规模MIMO信号检测方法。

本发明的技术解决方案是，提供一种具有以下步骤的基于深度学习的大规模MIMO信号检测方法：含有以下步骤：

步骤1、基站端获得信道衰弱信息和信道噪声，接收用户端发送的信号，得到适用的SAMP算法；

步骤2、为SAMP算法设计阈值网络以及添加合适的训练参数，含有以下分步骤：

步骤(2a)、为SAMP算法设计阈值网络用于替代算法中的阈值函数，阈值网络由全连接网络组成，其包含一个输入层与一个输出层；

步骤(2b)、为SAMP算法设计训练参数用于实现松弛迭代；

步骤3、将添加训练系数和阈值网络的SAMP算法展开成为SAMP-FCNet神经网络：

步骤4、获得样本数据，设计训练所需的超参数，训练SAMP-FCNet，得到适用于大规模MIMO系统检测的最优近似消息传递神经网络，适用于上线神经网络进行信号检测，含有以下分步骤：

步骤(4a)、利用Matlab软件仿真平台产生不同信噪比下由信道矩阵，噪声功率和发送接收信号组成的样本集；

步骤(4b)、选择合适的损失函数和优化器，设置合适的超参数以使网络能够快速正确收敛，训练SAMP-FCNet至收敛，用训练好的SAMP-FCNet作为检测器上线到基站端对接收信号进行检测。

优选地，所述步骤(2)的实现过程如下：

SAMP算法通过构建近似信噪比来构造阈值η，该阈值控制检测过程中估计信号收敛速度，其在构造过程中存在的误差和近似，使该算法的检测性能和收敛速率存在一定的损失，则考虑使用一个全连接网络作为阈值网络来拟合出最优的阈值函数；同时结合松弛迭代的思想，对于不同的迭代次数及不同发送天线信号选择不同的参数进一步优化算法性能，为算法中添加相应的优化参数，提升算法在多次迭代的情况下的性能。

优选地，所述步骤(2a)中阈值网络结构如下：阈值网络为一个小型全连接网络，阈值网络输入为噪声功率σ²和第t-1次迭代中阈值η^(t-1)，输出为下一次的迭代阈值，函数通过下式表示：

η^(t)＝f(σ²，η^(t-1))

用w^(t)，b^(t)表示分别表示第t次迭代的阈值网络的待训练的偏移和转置，阈值网络包含一个输出层和一个输入层；输入层由N个神经元组成，激活函数选用Relu函数，输出层是由M个神经元组成的全连接层，N，M为整数。

优选地，所述步骤(2b)训练参数添加如下：除η^(t)外算法迭代过程中传递的参数为估计信号

残差项r^(t)因此分别对其添加相应的训练系数μ^(t)，ν^(t)，其中μ^(t)为长度为发送天线数目的列向量，ν^(t)为长度为接收天线数目的列向量，μ^(t)和ν^(t)用于实现算法的松弛，采用反向传播训练获得合适系数，同一项只需保留一个可训练的系数，至此添加训练系数的SAMP算法如下：

η^(t)＝f(σ²，η^(t-1))，

其中y为基站端接收信号，H为信道矩阵。

优选地，所述步骤(3)将添加训练系数和阈值网络的SAMP算法展开成为SAMP-FCNet神经网络，其实现如下：

将SAMP算法通过神经网络表示，一层神经网络对应一次算法迭代过程，每层神经网络除待训练系数和阈值网络外其他均相同，多层神经网络以全连接的方式连接来表示算法迭代过程，得到SAMP-FCNet，使用反向传播算法训练阈值网络和各层参数。

优选地，所述所述步骤(4b)中的损失函数表示如下：针对SAMP-FCNet，损失函数选择MSE损失函数，即：

其中μ，ν，w，b表示需训练的参数，||·||₂是欧几里得范数。

现有技术相比，本发明基于深度学习的大规模MIMO信号检测方法具有以下优点：结合SAMP算法提出深度学习的大规模MIMO信号检测方法，实现了以较低的复杂度获得了较高的检测性能。

结合SAMP算法搭建一个用于信号检测的神经网络模型称为SAMP-FCNet，该模型是在SAMP算法的基础上通过神经网络表示阈值函数并添加训练参数，在此基础上展开为神经网络获得。该方法通过神经网络拟合出最优的阈值函数并添加训练参数，再将添加参数后的算法展开为神经网络进行训练，使得模型的输出与发送信号之间的误差最小化，通过优化参数对SAMP算法中进行松弛迭代并弥补近似误差，实现对发送信号的更优的恢复。

在SAMP算法中修改了阈值函数，并选择了合适的位置添加了训练系数并对训练系数进行了合并。SAMP算法中通过构造类似信噪比的形式设计软阈值η从而控制算法收敛速度，在软阈值构造过程中存在一定的近似和误差，实际算法较MMSE算法有较大差距，同时在该迭代算法中不同迭代次数中不同的发送天线的信号估计过程中可以选择不同的系数以获得更优的性能使用，并对可以多余的系数进行合并。

采用了一个小型神经网络替代阈值函数，同时设计了2组训练参数，提高了训练效果和算法性能。仿真结果表明，在基本保持原本算法复杂度的前提下，本发明相比于现有技术可以显著降低信号检测误码率。

附图说明

图1为本发明的实现流程框图；

图2为本发明在大规模MIMO系统中检测过程图；

图3为本发明中的SAMP-FCNet的第t层网络结构图；

图4为本发明中的SAMP-FCNet神经网络连接图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

下面结合附图和具体实施方式对本发明基于深度学习的大规模MIMO信号检测方法作进一步说明：参照图1，本实例的具体实现步骤如下：本实例大规模MIMO通信系统使用V-BLAST结构，且信道模型为瑞利衰弱信道，用户端有N_T根发送天线，基站端有用N_t根接收天线，系统采用QPSK调制方式。

步骤1，基站端得到来自用户端的接收信号，并已知信道衰弱信息和信道噪声，并得到适用于该条件下的SAMP算法；

(1a)系统上行链路可以用下式来表示：

y＝Hs+n (1)

其中H为信道矩阵，表示信道衰落，其中元素服从

n为N_R×1维的加性复高斯白噪声，

s为发送信号，y为基站端接收信号。基站端已知信道H、噪声功率σ²和信号功率

基于上述条件，利用SAMP估计发送信号矢量可以表示为

α^(t)＝σ²+βη^(t-1)α^(t-1) (5)

其中t为当前迭代次数，β＝N_T/N_R，

r⁽⁰⁾均初始化为零向量，α⁽⁰⁾初始化为

算法总迭代次数用T表示。

步骤2，为SAMP算法设计阈值网络并添加合适的训练参数；

(2a)为SAMP算法设计阈值网络。SAMP算法通过构建近似信噪比来构造阈值η，该阈值控制检测过程中估计信号收敛速度，但其在构造过程中存在的误差和近似，使得该算法的检测性能和收敛速率存在一定的损失，因此可以考虑适用一个全连接网络作为阈值网络来拟合出最优的阈值函数。具体如下：

步骤1中的(3)(4)两式是阈值函数的构造函数，其中输入为σ²和上次迭代中阈值η^(t-1)，因此可以通过一个DNN神经网络拟合最优的阈值函数，称为阈值网络，该函数通过下式表示：

η^(t)＝f(σ²，η^(t-1)) (6)

用w^(t)，b^(t)表示分别表示第t次迭代的阈值网络的待训练的偏移和转置。阈值网络包含一个输出层和一个输入层；输入层由N个神经元组成，激活函数选用Relu函数，输出层是由M个神经元组成的全连接层，N，M为整数；

(2b)为SAMP算法添加合适的训练参数。结合松弛迭代的思想，对于不同的迭代次数及不同发送天线信号选择不同的参数可以进一步优化算法性能，因此可以为算法中添加相应的优化参数，提升算法在多次迭代的情况下的性能。

除η^(t)外算法迭代过程中传递的参数为

r^(t)，因此分别对其添加相应的训练系数μ^(t)，ν^(t)，其中μ^(t)为长度为N_T的列向量，ν^(t)为长度为N_R的列向量，μ^(t)和ν^(t)用于实现算法的松弛，因为采用神经网络训练获得合适系数，因此上式中同一项的只需保留一个可训练的系数，系数β可以舍去，至此添加训练系数的SAMP算法如下：

η^(t)＝f(σ²，η^(t-1)) (9)

上式中⊙表示Hadamard乘积。

步骤3，将添加训练系数和阈值网络的SAMP算法展开成为SAMP-FCNet神经网络；

将式(7)—(9)表示的算法通过神经网络表示，第t次迭代神经网络如图3所示。一层神经网络对应一次算法迭代过程，每层神经网络除待训练系数和阈值网络外其他均相同，多层神经网络以全连接的方式连接来表示算法迭代过程，得到SAMP-FCNet，SAMP-FCNet连接如图4所示。使用反向传播算法训练阈值网络和各层参数。

训练数据和测试数据在给定的系统的条件且不同信噪比下生成，将接收信号y和噪声功率σ²作为SAMP-FCNet的输入，发送信号的估计值

作为该网络的输出。通过损失函数来衡量发送信号和神经网络输出之间的差距，针对SAMP-FCNet，损失函数选择MSE损失函数，即

其中μ，ν，w，b表示需训练的参数。训练的目的是通过反向传播优化训练参数，使得损失函数最小，优化器选择Adam。

步骤4，获得样本数据，设计训练所需的超参数，训练SAMP-FCNet，将训练好的神经网络上线大规模MIMO系统以进行信号检测；

(4a)利用Matlab软件仿真平台产生由信道矩阵，噪声功率和发送接收信号组成的训练集和测试集。在信噪比为0-15dB，调制方式为QPSK的条件下，每间隔3dB随机产生10000组训练数据，1000组测试数据。在Pytorch平台建立SAMP-FCNet网络并进行训练和测试，训练集的batch size设置为2000，Adam优化器学习率设置为0.001，μ初始化为元素为1的列向量，ν初始化为元素N_T/N_R的列向量。选择合适的层数，训练至网络收敛，上线训练好的SAMP-FCNet检测器用于大规模MIMO信号检测。

以下结合仿真实验，对本发明的技术效果进行说明：本发明的仿真实验是GPU为GTX1650，运行系统为64位Windows操作系统硬件平台进行，训练集和测试集由MATLAB生成，在Pytorch平台完成神经网络训练以及测试。本发明与现有技术的仿真采用瑞利衰弱信道，基站端使用64根接收天线，用户端使用32根发送天线，阈值网络输入层和输出层均含有100个神经元，调制方式选择QPSK，0-15dB条件下每隔3dB随机生成10000组训练数据以及1000组测试数据，对于现有技术中参数设置均是其发明的默认参数。

仿真内容:在不同迭代次数下，应用本发明SAMP-FCnet和现有技术AMP-DNN对发送信号进行估计，对信噪比为15dB的估计结果的误码率进行仿真对比，结果如表1。

表1本发明与现有技术不同迭代次数下的误码率对比

表1中SAMP-FCNet为本发明采用的模型，AMP-DNN模型为现有技术采用的模型，其中迭代次数表示算法迭代次数，同时也是神经网络层数。从表1可见，在给定条件和迭代次数的下，本发明的误码率均低于现有技术，在迭代次数较少时，有3.2dB增益，迭代次数增加后仍有约1.8dB增益，因此本发明能显著的提升检测器的检测性能。

SAMP算法中阈值函数的计算存在近似，因此本发明中设计了一个阈值网络替代算法中的阈值函数。同时基于松弛迭代的思想，在算法中的传递项前添加了训练系数，使得不同迭代次数中能够具有不同的迭代系数，从而使得该迭代算法能具有更优的性能。

借助深度学习的思想，可以将修改后的SAMP算法展开为神经网络，多层神经网络进行全连接，构建SAMP-FCNet，通过反向传播对训练参数进行优化。SAMP-FCNet中每层均具有相同的网络结构并且对应算法一次迭代过程，通过训练每层可以得到不同的系数值和阈值网络，从而实现算法松弛以及误差补偿。

深度学习中通过损失函数来衡量神经网络输出与发送信号之间的差距。针对该模型，损失函数选择最小均方误差函数，反向传播过程的优化器选择Adam。在指定的系统条件下随机生成大量发送信号和接收信号及其对应的噪声功率作为训练集和测试集，并且通过选择合适的训练集的batch size大小，获得准确的梯度下降方向，在完成网络训练后即可于基站端上线进行信号检测。

本发明未详细说明部分属于本领域技术人员公知常识。以上描述仅是本发明的一个具体实例，显然对于本领域的专业人员来说，在了解了本发明内容和原理后，都可能在不背离本发明原理、结构的情况下，进行形式和细节上的各种修正和改变，但是这些基于本发明思想的修正和改变仍在本发明的权利要求保护范围之内。

Claims (6)

1.一种基于深度学习的大规模MIMO信号检测方法，其特征在于：含有以下步骤：

步骤1、基站端获得信道衰弱信息和信道噪声，接收用户端发送的信号，得到适用的SAMP算法；

步骤2、为SAMP算法设计阈值网络以及添加合适的训练参数，含有以下分步骤：

步骤(2a)、为SAMP算法设计阈值网络用于替代算法中的阈值函数，阈值网络由全连接网络组成，其包含一个输入层与一个输出层；

步骤(2b)、为SAMP算法设计训练参数用于实现松弛迭代；

步骤3、将添加训练系数和阈值网络的SAMP算法展开成为SAMP-FCNet神经网络：

步骤4、获得样本数据，设计训练所需的超参数，训练SAMP-FCNet，得到适用于大规模MIMO系统检测的最优近似消息传递神经网络，适用于上线神经网络进行信号检测，含有以下分步骤：

步骤(4a)、利用Matlab软件仿真平台产生不同信噪比下由信道矩阵，噪声功率和发送接收信号组成的样本集；

步骤(4b)、选择合适的损失函数和优化器，设置合适的超参数以使网络能够快速正确收敛，训练SAMP-FCNet至收敛，用训练好的SAMP-FCNet作为检测器上线到基站端对接收信号进行检测。

2.根据权利要求1所述的基于深度学习的大规模MIMO信号检测方法，其特征在于：所述步骤(2)的实现过程如下：SAMP算法通过构建近似信噪比来构造阈值η，该阈值控制检测过程中估计信号收敛速度，其在构造过程中存在的误差和近似，使该算法的检测性能和收敛速率存在一定的损失，则考虑使用一个全连接网络作为阈值网络来拟合出最优的阈值函数；同时结合松弛迭代的思想，对于不同的迭代次数及不同发送天线信号选择不同的参数进一步优化算法性能，为算法中添加相应的优化参数，提升算法在多次迭代的情况下的性能。

3.根据权利要求1所述的基于深度学习的大规模MIMO信号检测方法，其特征在于：所述步骤(2a)中阈值网络结构如下：阈值网络为一个小型全连接网络，阈值网络输入为噪声功率σ²和第t-1次迭代中阈值η^(t-1)，输出为下一次的迭代阈值，函数通过下式表示：

η^(t)＝f(σ²，η^(t-1))

用w^(t)，b^(t)表示分别表示第t次迭代的阈值网络的待训练的偏移和转置，阈值网络包含一个输出层和一个输入层；输入层由N个神经元组成，激活函数选用Relu函数，输出层是由M个神经元组成的全连接层，N，M为整数。

4.根据权利要求1所述的基于深度学习的大规模MIMO信号检测方法，其特征在于：所述步骤(2b)训练参数添加如下：除η^(t)外算法迭代过程中传递的参数为估计信号

残差项r(t)因此分别对其添加相应的训练系数μ^(t)，v^(t)，其中μ^(t)为长度为发送天线数目的列向量，v^(t)为长度为接收天线数目的列向量，μ^(t)和v^(t)用于实现算法的松弛，采用反向传播训练获得合适系数，同一项只需保留一个可训练的系数，至此添加训练系数的SAMP算法如下：

η^(t)＝f(σ²，η^(t-1))，

其中y为基站端接收信号，H为信道矩阵。

5.根据权利要求1所述的基于深度学习的大规模MIMO信号检测方法，其特征在于：所述步骤(3)将添加训练系数和阈值网络的SAMP算法展开成为SAMP-FCNet神经网络，其实现如下：将SAMP算法通过神经网络表示，一层神经网络对应一次算法迭代过程，每层神经网络除待训练系数和阈值网络外其他均相同，多层神经网络以全连接的方式连接来表示算法迭代过程，得到SAMP-FCNet，使用反向传播算法训练阈值网络和各层参数。

6.根据权利要求1所述的基于深度学习的大规模MIMO信号检测方法，其特征在于：所述所述步骤(4b)中的损失函数表示如下：针对SAMP-FCNet，损失函数选择MSE损失函数，即：

其中μ，ν，w，b表示需训练的参数，||·||₂是欧几里得范数。

Images