CN114337745A

CN114337745A - 一种模型驱动深度学习的大规模mimo信号检测方法

Info

Publication number: CN114337745A
Application number: CN202210021952.6A
Authority: CN
Inventors: 申滨; 曾相誌; 阳建
Original assignee: Chongqing University of Post and Telecommunications
Current assignee: Chongqing University of Post and Telecommunications
Priority date: 2022-01-10
Filing date: 2022-01-10
Publication date: 2022-04-12

Abstract

本发明涉及一种模型驱动深度学习的大规模MIMO信号检测方法，属于无线通信领域。该方法为：根据系统模型，获得系统接收信号

信道矩阵

和用户端传输的调制信号

结合最陡梯度下降算法获得改进的Richardson迭代检测算法；展开所诉改进的Richardson迭代检测算法，修改网络结构并设置可学习参数，获得深度学习检测网络；设置所述深度学习检测网络的损失函数；利用所述

所述

和所述

对所述深度学习检测网络设置训练计划，获得训练好的检测网络。由于训练好的检测网络可以获得最优的可训练参数值，补偿传统算法的松弛参数的计算误差，因此，训练好的检测网络能够有效提升原Richardson算法的检测性能和鲁棒性。

Description

一种模型驱动深度学习的大规模MIMO信号检测方法

技术领域

本发明属于无线通信领域，尤其涉及一种模型驱动深度学习的大规模MIMO信号检测方法。

背景技术

与传统MIMO技术相比，大规模MIMO技术能够实现更高的传输速率和频率效率，是目前无线通信系统的关键技术之一。然而由于大规模MIMO技术的主要是在发送端和接收端配备大量的天线，这也为信号检测器带来了极大的计算压力，因此设计出具有低计算复杂度和高检测精度的检测算法具有极大的意义。

最大似然(ML)检测算法理论上能够达到最高的检测精度，然而由于ML检测器在检测的过程中需要穷举搜索所有可能的发送信号的组合，其计算复杂度随调制模式以及发送天线数呈指数式增加，因此并不适用于大规模MIMO系统。对于次优的检测算法，如球解码算法(SD)，该算法在一个固定半径的超球面内进行搜索，降低了ML检测的计算复杂度，然而在大规模MIMO系统中计算复杂度仍然极高。在大规模MIMO系统中由于信道硬化现象的存在，简单的线性检测算法，如MMSE线性检测算法能够达到接近最优的检测性能，但算法中仍然存在计算复杂度较高的矩阵求逆操作。为进一步降低计算复杂度，现有的大规模MIMO检测技术多以迭代检测的方式来避免对高维矩阵进行直接求逆的操作。Richardson算法为迭代检测算法之一，由于信道硬化线性的存在，该算法在大规模MIMO系统中能够获得次优的检测性能。但由于该算法中松弛因子的值确定，且近似计算会造成精度丢失。

近年来，深度学习技术作为一种流行的人工智能技术，在计算机视觉，自然语言处理等多个领域都取得了极大的成就，也被广泛应用于解决通信领域的问题。在信号检测方面，基于深度学习信号检测技术的思想通常分为两大类：数据驱动和模型驱动。在数据驱动的深度学习检测网络中，检测器通常被视为一个黑盒，很难理解它们的运行机制，同时此类网络通常具有大量的参数，需要足够多的训练数据和较长的训练时间，因此限制了其在大规模MIMO系统中的应用。模型驱动技术又称为深度展开技术，该技术通过将传统的迭代检测算法与深度学习技术相结合，能够有效的平衡MIMO检测算法的检测性能和计算复杂度。与数据驱动的检测算法相比，模型驱动的神经网络由于是在传统的检测算法的基础上改进的，因此与基于数据驱动的方法相比，模型驱动展开的网络通常是可解释的，而且往往具有更少的参数，因此可以更快的训练。

针对大规模MIMO系统中Richardson检测算法存在的问题，本发明在Richardson算法的基础上对其进行改进，并结合深度学习技术，提出一种大规模MIMO信号检测算法，通过训练，找到网络的最优参数，可以补偿Richardson算法因松弛因子计算误差带来的精度丢失。因此，在网络训练完成后，能够有效提升原Richardson算法的检测性能和鲁棒性并降低计算复杂度。

发明内容

针对现有技术存在的问题，本发明提供了一种模型驱动深度学习的大规模MIMO信号检测算法，能够有效提升原Richardson算法的检测性能和鲁棒性并降低计算复杂度。

第一方面，提供一种基于深度学习的大规模MIMO信号检测方法，所述方法包括：根据系统模型，获得接收信号

信道矩阵

和用户端传输的调制信号

结合最陡梯度下降检测算法，获得改进的Richardson迭代检测算法；展开所诉改进的Richardson迭代检测算法，修改网络结构并设置可学习参数，获得深度学习检测网络；设置所述深度学习检测网络的损失函数；利用所述

所述

和所述

对所述深度学习检测网络设置训练计划，获得训练好的检测网络。

进一步地，结合最陡梯度下降检测算法，获得改进的Richardson迭代检测算法，包括：将最陡梯度下降检测算法用于检测获得中间检测结果

将上诉中间结果

带入Richardson算法中，作为Richardson算法的输入，得到改进的Richardson算法。。

进一步的，展开所诉改进的Richardson迭代检测算法并设置可学习参数，获得深度学习检测网络包括：展开所诉改进Richardson迭代检测算法的迭代检测过程，将其一次迭代看作为深度神经网络的一层，并修改网络结构，使其考虑前层检测网络的影响；移除所诉展开的算法中步长参数μ_i的计算公式，将μ_i替换为可训练参数

和

进一步地，在利用所述

所述

和所述

对所述深度学习检测网络进行训练之前，包括：将所诉信号通过预处理层，在预处理层中：首先所诉信号进行等价的实数域转换操作，得到所诉信号的等价实数域信号y、H和x；然后生成迭代检测网络的第一层的输入信号

在训练过程中，所述训练参数Θ为

进一步地，所述方法还包括：获得接收信号

和信道矩阵

首先将

和

通过预处理层，得到所诉检测的输入信号，然后将所诉输入信号输入到训练好的检测网络中，得到用户端发送信号的检测结果。

第二方面，提供一种基于深度学习的大规模MIMO信号检测装置，包括：

获得单元，用于根据系统模型，获得接收信号

信道矩阵

和用户端传输的调制信号

设置单元，用于改进Richardson迭代检测算法；

获得单元，还用于利用所诉改进的Richardson迭代检测算法，获得学习检测网络；

设置单元，还用于设置所述深度学习检测网络的损失函数；

获得单元，还用于利用所述

所述

和所述

对所述深度学习检测网络进行训练，获得训练好的检测网络。

第三方面，本申请提供一种电子设备，该电子设备包括：处理器和存储器，所述存储器与所述处理器耦合，所述存储器用于存储计算机程序代码，所述计算机程序代码包括计算机指令，当所述处理器从所述存储器中读取所述计算机指令，以使得所述电子设备执行如第一方面所述的大规模MIMO信号检测方法。

第四方面，本申请提供一种计算机存储介质，包括计算机指令，当所述计算机指令在终端上运行时，使得所述终端执行如第一方面所述的大规模MIMO信号检测方法。

第五方面，本申请提供一种计算机程序产品，当所述计算机程序产品在计算上运行时，使得所述计算机执行如第一方面所述的大规模MIMO信号检测方法。

通过上述技术方案，将Richardson迭代检测算法进行改进，并设置为深度学习检测网络，在所诉检测网络的离线过程中，可训练参数通过反向传播进行更新，得到步长参数最优值。这样可以使最陡梯度下降检测算法更精确的弥补Richardson算法松弛参数的计算误差，进而在检测网络训练完成后，能够有效提升原Richardson算法的检测性能和鲁棒性。

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作优选的详细描述，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例应用的通信场景图；

图2为本申请实施例提供的一种大规模MIMO系统的信号检测方法的流程图；

图3为所提出的检测网络标准的一层网络结构；

图4为所提出的检测网络的一次训练过程；

图5为所提出的检测网络在大规模MIMO中的具体检测流程；

图6为实施例中所涉及的一种基于深度学习的大规模MIMO信号检测装置的结构示意图；

图7为本申请实例的一种电子设备的结构示意图；

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，如图1所示，本发明的应用场景可以为N_t个单天线用户和配置有N_r根天线的基站。

还需要说明的是，本申请考虑的是大规模MIMO系统的上行链路，本申请提供的信号检测方法应用于基站侧。

图2为本申请一个实施例提供的一种基于深度学习的大规模MIMO信号检测方法的流程图，如图2所示，该方法为：

S201：根据系统模型，获得接收信号

信道矩阵

和用户端传输的调制信号

需要说明的是，所诉系统模型公式如下：

其中，

为基站端的接收信号，

为用户端传输的调制信号，

为服从高斯分布

的加性高斯白噪声，

是通过信道估计器获得的信道矩阵，

为独立同分布的信道矩阵且服从高斯分布

为

的第i列：

其中，

表示第j个用户到基站的第i根天线之间的信道增益。

S202：结合最陡梯度下降算法，获得改进的Richardson迭代检测算法。

需要说明的是，结合最陡梯度下降算法，获得改进的Richardson迭代检测算法，包括：

S301：将最陡梯度下降检测算法用于检测获得中间检测结果

最陡梯度下降检测算法的一次迭代检测过程如下：

其中

为SDNSR检测器第i-1次迭代的检测值,

为第i次迭代的残余误差向量，

b＝H^Ty。μ_i为步长参数，计算公式如下:

p_i＝Ar_i

S302：将所诉中间结果

带入Richardson算法中，作为Richardson算法的输入，得到改进的Richardson算法。

所诉中间结果

带入Richardson算法后，所得的改进Richardson算法的迭代检测公式如下：

S203：展开所诉改进的Richardson迭代检测算法，修改网络结构并设置可学习参数，获得深度学习检测网络。

需要说明的是，如图3所示，展开所诉改进的Richardson迭代检测算法，修改网络结构并设置可学习参数，获得深度学习检测网络，包括：

S401：展开所诉改进Richardson迭代检测算法的迭代检测过程，将其一次迭代看作为深度神经网络的一层，并修改网络结构，使其考虑前层检测网络的影响。

需要说明的是，所诉的改进Richardson迭代检测算法为一种有效的大规模MIMO信号检测算法。该算法中Richardson算法中的由于计算误差带来的精度丢失被最陡梯度下降算法补偿，从而在大规模MIMO系统中能够达到次优的检测性能。所诉改进Richardson迭代检测算法的第i次迭代过程如下:

上式中

为主要的残余误差向量，主要包含r_i和p_i两部分。实际上

的检测值不仅与r_i，p_i有关，还与迭代中前层的r_i-1，r_i-2，...，r₀以及p_i-1，p_i-2，...，p₀有关。因此在当前层的r_i和p_i的计算中考虑加入迭代中前面各层的影响:：

其中α_i；α_i-1；...；α₀和β_i；β_i-1；...；β₀是可以通过深度学习进行优化的可训练参数。由于相邻层的残差向量造成的影响最大，因此为了简化网络，只考虑相邻层的影响，同时引入阻尼机制，进一步增加网络的收敛性能，简化后的公式如下:

p_i＝(1-β_i)Ar_i+β_ip_i-1

其中α_i和β_i是可训练的参数。

S402：移除所诉展开的算法中步长参数μ_i的计算公式，将μ_i替换为可训练参数

和

所诉最陡梯度下降算法中计算步长参数μ_i的表达式中涉及到两次高阶向量之间的乘法以及一次除法操作。由于每一次迭代中都需要进行一次计算，因此这在大规模的MIMO系统的检测算法中是一个较大的计算开销。在所诉基于模型驱动深度学习的检测网络中将所诉步长参数μ_i设置为可学习参数，并通过标准的深度学习技术去训练网络从而得到最优的步长参数，从而完成检测任务，如下所示：

其中

和

为替代步长μ_i的可学习参数。为了增加网络的学习能力，对r_i和p_i不使用相同的步长参数。

S204：设置所述深度学习检测网络的损失函数。

需要说明的是，由于在所诉基于深度学习的接检测网络中越靠后的层的输出值越接近真实的检测结果，因此在损失函数为各层的输出值加上权重log(i)，i为网络中各层的下标。在越靠后的层可以获得更大的权重：

其中Θ为网络中可学习的参数集，如下所示:

S205：利用所述

所述

和所述

S501：在利用所述

所述

和所述

对所述深度学习检测网络进行训练之前，将所诉信号通过预处理层，得到所诉检测网络的训练数据。

需要说明的是，在预处理层中为了方便计算和加快深度学习处理速度，一般不直接处理所诉的复数域信号

而是使用等价的实数域信号。实数域信号是由所诉复数域信号的实部和虚部拼接而成，如下所示:

其中

和

分别表示复数域信号的实部和虚部。

还需要说明的是，所诉预处理层还负责初始化r₀；p₀；

的值。r₀；p₀都初始化为零向量。

的值初始化为以下形式：

还需要说明的是，如图4所示，为所诉深度学习检测网络的一次训练过程。所述深度学习检测网络中的可训练参数为

其中L为所述网络的层数。在所述网络的训练过程，由于其需要工作在不同的信噪比环境中，因此通过大规模MIMO系统生成批量大小的训练数据

的信噪比SNR是随机从均匀分布u(SNR_min；SNR_max)中选取的。在生成好训练数据之后，再将训练数据输入所诉网络进行训练。在训练过程中所诉网络采用Adam优化器来最小化损失函数，学习率μ设置0.001，并且该学习率在每经过1000次训练后，变为之前的0.9倍。还应当注意在所诉网络中采用的是增量学习的训练方式，即开始训练单层的网络，然后逐层添加网络层数进行训练，直到整个L层的网络训练完成。

如图5所示，在获得到训练好的检测网络后，所述方法还包括：

S206：获得接收信号

和信道矩阵

需要说明的是，所诉接收信号

为用户端的发送信号

经过MIMO信道和噪声

干扰后在基站端接收到的信号。所诉信道矩阵

为在基站端使用信道估计器获得的信道状态信息。

S207：将

和

输入到训练好的检测网络中，得到用户端发送信号的检测结果。

由于使用深度学习技术，通过离线训练获得所诉检测网络可训练参数的具体值。通过训练而得的步长参数值比中通过传统最陡梯度下降算法中计算的步长参数值更加准确，因此能更好地补偿Richardson算法中由于近似计算松弛因子带来的误差，从而达到更好的检测性能。

在采用集成的单元的情况下，图6示出了上述实施例中所涉及的一种基于深度学习的大规模MIMO信号检测装置的结构示意图。该装置包括：获得单元601、设置单元602。

获得单元601，用于根据系统模型，获得接收信号

信道矩阵

和用户端传输的调制信号

设置单元602，用于改进Richardson迭代检测算法；

获得单元601，还用于利用所诉改进的Richardson迭代检测算法，获得学习检测网络；

设置单元602，还用于设置所述深度学习检测网络的损失函数；

获得单元601，还用于利用所述

所述

和所述

还需要说明的是，为描述的方便和简洁，上述描述的大规模MIMO信号检测装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

图7为本申请实施例提供的一种电子设备的结构示意图，如图7所示，该装置可以包括处理器701和存储器702，所述存储器702与所述处理器701耦合，所述存储器用于存储计算机程序代码，所述计算机程序代码包括计算机指令，当所述处理器从所述存储器中读取所述计算机指令，以使得所述电子设备执行实施例一所提供的大规模MIMO信号检测方法。

本申请实施例还提供一种计算机可读存储介质，该计算机可读存储介质可以包括计算机程序或指令，当该计算机程序或指令在计算机上运行时，使得该计算机执行上述实施例所述的大规模MIMO信号检测方法。

本申请实施例提供一种计算机程序产品，包括计算机程序或指令，当该计算机程序或指令在计算机上运行时，使得该计算机执行上述实施例所述的大规模MIMO信号检测方法。

上述实施例可以全部或部分通过软件、硬件、固件或者任意组合实现。当使用软件程序实现时，上述实施例可以全部或部分地以计算机程序产品的形式出现，计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时，全部或部分地产生按照本申请实施例的流程或功能。

应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。