CN112583458B - 基于深度学习和无线变换网络的mimo端到端传输系统 - Google Patents

Abstract

本发明公开了基于深度学习和无线变换网络的MIMO端到端传输系统，属于MIMO传输技术领域，要解决的技术问题为如何利用深度学习抑制MIMO系统的流间干扰、加快收敛速度、降低误码率。系统包括：编码器网络由多个全连接的神经网络层组成，输入为转换为one‑hot向量后的符号向量集，输出为尚未添加功率约束的初始发送符号；预编码网络为一个全连接的神经网络层，输入为信道矩阵，输出为预编码器，上述预编码器与信道矩阵配合用于对初始发送符号进行信道广播，输出接收符号；无线变换网络为全连接的神经网络层，输入为接收符号，输出校正符号；解码器网络输入为校正符号，输出恢复后的发送符号向量。

Description

基于深度学习和无线变换网络的MIMO端到端传输系统

技术领域

本发明涉及MIMO传输技术领域，具体地说是基于深度学习和无线变换网络的MIMO端到端传输系统。

背景技术

多输入多输出(Multiple Input Multiple Output，MIMO)技术能够利用空间多路复用提高吞吐量和扩大覆盖范围，因而被广泛用于现代无线通信系统。在空间复用MIMO系统中，多个并行传输的数据流相互干扰导致传输性能的下降。为了抑制MIMO系统中的流间干扰，需要在发送器端对发送的信号进行预编码，并在接收器端对接收的信号进行后处理。目前，在MIMO传输中已经存在多种经典的空间复用方法，例如迫零(Zero-Forcing，ZF)预编码、信号与干扰噪声比(Signal-to-Interference-and-Noise Ratio,SINR)最大化预编码、干扰泄漏最小化预编码和均方误差最小化(Minimizing Mean-Square-Error， MMSE)预编码等。

深度学习(Deep Learning，DL)能够表示数学模型无法描述的复杂通信系统，近年来受到无线通信领域的广泛关注。DL已经应用至无线通信系统中的多个方面，例如信号分类，信道估计和性能优化等。其中，最为经典的是单输入单输(Single input singleoutput,SISO)通信系统中基于自编码器的端到端编解码优化系统。相关研究结果表明，基于DL的传输方法有可能接近甚至超过传统方法的性能。但是，基于自编码器的端到端通信系统是数据驱动的，其通信系统可被视为黑盒子。相应地，在不考虑诸如信道状态信息(Channel State Information，CSI)之类的专家知识的情况下收发器的优化性能受到局限。为了整合专家知识以提高性能，无线变换网络(Radio Transformer Networks, RTN)被引入。RTN最初用于调制识别，最近已被用于接收机设计中。RTN被视为模型驱动的DL网络，能够增强信号处理能力并加速收敛。现有研究结果表明， SISO无线通信系统在收敛速度和误码率(Bit Error Rate，BER)性能方面也受益于RTN结构。

与传统单天线通信系统相同，DL与MIMO系统的结合也有改善性能的巨大潜力。目前，国际上已经有研究者在DL与MIMO的结合上做出了开创性的研究工作，包括基于自编码器的DL端到端MIMO系统。但是这些已有研究未充分利用CSI去优化MIMO系统的收发机，从而导致通信系统的性能仍有进一步的提升空间。

基于上述背景，如何利用深度学习技术抑制MIMO系统的流间干扰、加快收敛速度、降低误码率以进一步提升性能是需要解决的技术问题。

发明内容

本发明的技术任务是针对以上不足，提供基于深度学习和无线变换网络的 MIMO端到端传输系统，来解决如何利用深度学习技术抑制MIMO系统的流间干扰、加快收敛速度、降低误码率等技术问题。

第一方面，本发明提供一种基于深度学习和无线变换网络的MIMO端到端传输系统，包括发送器和接收器，发送器包括编码器网络和预编码网络，接收器包括无线变换网络和解码器网络；

所述编码器网络由多个全连接的神经网络层组成，输入为转换为 one-hot向量后的符号向量集，输出为尚未添加功率约束的初始发送符号；

所述预编码网络为一个全连接的神经网络层，输入为信道矩阵，输出为预编码器，所述信道矩阵模拟瑞利衰落信道，所述预编码器对初始发送信号进行乘法操作、输出满足功率约束的发送符号，上述预编码器与信道矩阵配合用于对初始发送符号进行信道广播，输出接收符号；

所述无线变换网络为全连接的神经网络层，输入为接收符号，用于对接收符号产生的相位偏移和旋转进行校正，输出校正符号；

所述解码器网络由多个全连接的神经网络层组成，输入为校正符号，用于通过对校正符号进行乘法、加法和激活运算进行恢复，输出恢复后的发送符号向量。

作为优选，所述符号向量集中符号向量为从离散星座集合中提取的，为QPSK调制、16-QAM调制或64-QAM调制。

作为优选，所述接收符号表示为：

其中，

表示预编码处理后的发送符号，x表示初始发送符号，V表示预编码器，H表示信道矩阵，n表示高斯噪声，ρ表示归一化功率。

作为优选，所述编码器网络由四个全连接的神经网络层组成，每个神经网络层包括：

输入层，所述输入层的维度由输入数据的长度决定，用于传输输入的符号向量集；

隐含层，所述隐含层共三层，上述三层隐含层依次连接并连接于输入层的输出端，每层使用的激活函数均为ReLU，每一层隐含层的神经元通过不同方式转换输入的数据以对符号向量进行编码；

输出层，所述输出层为线性全连接层，连接于隐含层的输出端，输出层的神经元对输入的数据进行转换，输出尚未添加功率约束的发送符号。

作为优选，所述预编码网络使用的激活函数为ReLU。

作为优选，所述无线变换网络由四个全连接的神经网络层组成，每个神经网络层包括：

输入层，所述输入层共一层，用于传输输入的接收符号；

隐含层，所述隐含层共两层，两层隐含层依次连接并连接于输入层的输出端，每层隐含层的神经元对输入的数据进行乘法、加法和激活运算，上述两层隐含层使用的激活函数分别为tanh和ReLU；

输出层，所述输出层共一层，连接于隐含层的输出端，输出层使用的激活函数为tanh，输出层的输出为估计参数，估计参数与接收符号相乘得到校正符号。

作为优选，所述解码器网络由五层全连接神经网络层组成，每层神经网络层包括：

输入层，所述输入层用于传输输入的数据；

隐含层，所述隐含层共三层，每层隐含层使用的激活函数依次为tanh、ReLU和ReLU，上述隐含层的神经元对输入的数据进行乘法、加法和激活运算以恢复校正符号；

输出层，所述输出层使用的激活函数为tanh，输出层的神经元对输入的数据进行乘法、加法和激活运算以输出恢复后的发送符号向量。

第二方面，本发明提供一种基于深度学习和无线变换网络的MIMO端到端传输系统构建方法，包括如下步骤：

构建初始MIMO系统，所述初始MIMO系统为如权利要求1-7任一项所述的基于深度学习的MIMO系统；

获取传输数据流，所述传输数据流为由符号向量组成的一组序列，所述符号向量为从一个离散星座集合提取的，所述离散星座集合支持QPSK调制、16-QAM调制或64-QAM调制；

将符号向量转换为one-hot向量作为训练数据集；

将上述训练数据集输入初始MIMO系统，得到恢复后的发送符号向量；构建损失函数，所述损失函数计算公式为：

其中，s_i表示符号向量，

表示恢复后的发送符号向量，N表示训练数据集中样本数量；

通过损失函数计算恢复后的发送符号向量与发送的符号向量之间的误差值，计算误差值的导数和上述MIMO系统的权重，使用adam优化器对损失函数进行优化，得到优化后MIMO系统。

第三方面，本发明提供基于深度学习和无线变换网络的MIMO传输方法，包括如下步骤：

通过如权利要求8所述的基于深度学习的MIMO系统构建方法构建MIMO 系统，得到优化后MIMO系统；

获取待传输的数据流，所述数据流为由符号向量组成的一组序列，所述符号向量支持QPSK调制、16-QAM调制或64-QAM调制；

将符号向量转换为one-hot向量作为测试数据集；

将上述测试输入优化后MIMO系统，得到恢复后的发送符号向量。

本发明的基于深度学习和无线变换网络的MIMO端到端传输系统具有以下优点：发送器由两个顺序连接的神经网络组成，通过联合编码符号和信道状态信息以进行预编码，这种结构类似于传统的预编码模块，该模块能够有效地抑制流间干扰；在接收方，采用RTN结构进行解码增强，仿真结果表明，该MIMO系统优于经典MIMO收发机方案，可以有效抑制MIMO系统的流间干扰、加快收敛速度、降低误码率。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

下面结合附图对本发明进一步说明。

图1为实施例1基于深度学习和无线变换网络的MIMO端到端传输系统的结构框图；

图2为实施例3基于深度学习和无线变换网络的MIMO端到端传输系统中传统MIMO系统的的结构框图；

图3、图4和图5为实施例3基于深度学习和无线变换网络的MIMO传输方法中信噪比(SNR)和误码率(BER)的关系图；

图6、图7为实施例3为基于深度学习和无线变换网络的MIMO传输方法中在不同训练周期下的每个天线的信号星座。

具体实施方式

下面结合附图和具体实施例对本发明作进一步说明，以使本领域的技术人员可以更好地理解本发明并能予以实施，但所举实施例不作为对本发明的限定，在不冲突的情况下，本发明实施例以及实施例中的技术特征可以相互结合。

需要理解的是，在本发明实施例中的“多个”，是指两个或两个以上。

本发明实施例提供基于深度学习和无线变换网络的MIMO端到端传输系统，用于解决如何利用DL技术抑制MIMO系统的流间干扰、加快收敛速度、降低误码率的技术问题。

实施例1：

如图1所示，本发明的一种基于深度学习和无线变换网络的MIMO端到端传输系统，包括发送器和接收器，发送器包括编码器网络和预编码网络，接收器包括无线变换网络和解码器网络；编码器网络由多个全连接的神经网络层组成，输入为转换为one-hot向量后的符号向量集，输出为尚未添加功率约束的初始发送符号；预编码网络为一个全连接的神经网络层，输入为信道矩阵，输出为预编码器，信道矩阵模拟瑞利衰落信道，预编码器对初始发送信号进行乘法操作、输出满足功率约束的发送符号，上述预编码器与信道矩阵配合用于对初始发送符号进行信道广播，输出接收符号；无线变换网络为全连接的神经网络层，输入为接收符号，用于对接收符号产生的相位偏移和旋转进行校正，输出校正符号；解码器网络由多个全连接的神经网络层组成，输入为校正符号，用于通过对校正符号进行乘法、加法和激活运算进行恢复，输出恢复后的发送符号向量。

本实施例中，符号向量集中符号向量为从离散星座集合中提取的，为 QPSK调制、16-QAM调制或64-QAM调制。

编码器网络由四个全连接的神经网络层组成，每个神经网络层包括输入层、隐含层和输出层，输入层的维度由输入数据的长度决定，其中输入层只用来传递输入数据符号向量集，没有任何计算方法或准则。根据多次实验确定编码器网络的最优参数，隐含层的层数固定，层数为3；每层神经元的个数固定，神经元的个数分别为128、128、64，每层使用的激活函数都为ReLU，隐藏层的神经元(节点)通过不同方式转换输入数据，最后一个隐藏层把值传递给输出层；输出层为线性全连接层，神经元个数为 2×d，输出层的输出为尚未添加功率约束的初始发送符号x。

传统算法通过数学公式计算获得预编码器V，如：ZF算法、MMSE算法，本实施例将预编码模块建模为预编码神经网络。预编码网络由一个输入层、一个隐含层和一个输出层构成。输入数据为信道矩阵H，这里需要改变H的维度，假设H是一个2×2的矩阵，需要将H变为1×4的行向量作为预编码网络的输入数据。根据多次实验确定隐含层神经元个数为64，使用的激活函数为ReLU，输出层的输出同样也是1x4的行向量，再将其转换为矩阵形式，因此得到预编码器V，将编码器生成的初始发送符号x与预编码器V作乘法操作，得到满足功率约束的发送符号

上述预编码器与信道矩阵配合用于对初始发送符号进行信道广播，输出接收符号。接收符号表示为：

其中，V表示预编码器，H表示信道矩阵，n表示高斯噪声，ρ表示归一化功率。

经过信道广播后，接收符号产生相位偏移和旋转，偏移信号为：

其中，偏移量记为

无线变换网络用于对接收符号产生的相位偏移和旋转进行校正。无线变换网络由四个全连接的神经网络层组成，每个神经网络层包括输入层、隐含层和输出层。输入层共一层，用于传输输入的接收符号；隐含层共两层，两层隐含层依次连接并连接于输入层的输出端，隐含层的神经元个数分别为64、32，每层使用的激活函数分别为tanh、ReLU。输出层神经元数 2*N_r*2*N_r，激活函数为tanh，每层隐含层的神经元对输入的数据进行乘法、加法和激活运算；输出层共一层，连接于隐含层的输出端，输出层使用的激活函数为tanh，输出层的输出为估计参数

将接收符号y与估计参数

相乘，得到校正符号

解码器网络将校正符号恢复为符号向量，其结构由五层全连接的神经网络组成，每个神经网络层均包括输入层、隐含层、输出层。输入数据为无线变换网络输出的校正符号，输入层用于传输输入的数据；隐含层的层数为3，每层隐含层中神经元个数分别为128、128、64，每层使用的激活函数分别为tanh、ReLU、ReLU，上述隐含层的神经元对输入的数据进行乘法、加法和激活运算以恢复校正符号；输出层共一层，神经元数目为 M*d，使用的激活函数为tanh。当把校正信号输入到解码器神经网络的输入层时，它不执行任何运算，第二层神经完网络层接收第一层神经网络层的值，接着执行乘法、加法和激活函数运算，然后传递至下一层，后续的层重复相同过程，我们从最后一层神经网络层获得输出值，输出值为恢复后的发送符号向量

该系统信号从一个包含N_t个发射天线的基站传输到一个有N_r个接收天线的用户端，传输数据流是由符号向量s组成的一组序列，d表示数据流的个数。其中符号向量

是从一个离散星座集合M中提取的，该集合 M可以是正交相移键控(QPSK)、16-QAM或64-QAM。假设采用QPSK调制，那么集合M在星座图上观察是4个对称的点，因此集合M表示的是由4个星座点组成的集合，也就是说，s代表的符号向量有4种。

该MIMO系统工作原理为：

模拟瑞利衰落信道，生成信道矩阵

符号向量s通过预编码器V 处理后得到发送符号，发送符号可以表示为

且满足功率约束。通过信道广播，接收机的接受符号表示为：

其中，

表示预编码处理后的发送符号，V表示预编码器，H表示信道矩阵， n表示高斯噪声，ρ表示归一化功率。

经过信道广播后的接受符号产生相位偏移、旋转，则偏移信号为

偏移量记为

目标函数g_ω()用来估计偏移补偿参数

其可以表示为

目标函数t()为参数转换函数，对偏移补偿参数和接受符号作相乘计算，得到校正符号，表示为

接收机将校正符号

恢复为符号向量S。

本发明提供的MIMO系统，发送器由两个顺序连接的神经网络(NN)组成，通过联合编码符号和信道状态信息以进行预编码。这种结构类似于传统的预编码模块，该模块能够有效地抑制流间干扰。在接收方，采用RTN结构进行解码增强，该系统能够抑制MIMO系统的流间干扰、加快收敛速度、降低误码率。

实施例2：

本发明的基于深度学习和无线变换网络的MIMO端到端传输系统构建方法，其特征在于包括如下步骤：

S100、构建初始MIMO系统，该初始MIMO系统为实施例1公开的基于深度学习的MIMO系统；

S200、获取传输数据流，上述传输数据流为由符号向量组成的一组序列，上述符号向量为从一个离散星座集合提取的，上述离散星座集合支持 QPSK调制、16-QAM调制或64-QAM调制；

S300、将符号向量转换为one-hot向量作为训练数据集；

S400、将上述训练数据集输入初始MIMO系统，得到恢复后的发送符号向量；

S500、构建损失函数，损失函数计算公式为：

其中，s_i表示发送符号向量，

表示恢复后的发送符号向量，N表示训练数据集中样本数量；

S600、通过损失函数计算恢复后的发送符号向量与发送的符号向量之间的误差值，计算误差值的导数和上述MIMO系统的权重，使用adam优化器对损失函数进行优化，反向传播运用微分学中的链式法则，在其中本实施例首先计算最后一层中每个误差值的导数，调用这些导数、梯度，并使用这些梯度值计算倒数第二层的梯度，并重复这一过程直到获得梯度以及每个权重；接着从权重值中减去这一梯度值以降低误差。通过上述方式不断接近局部最小值(即最小损失)，最终得到优化后MIMO系统。

实施例3：

本发明的基于深度学习和无线变换网络的MIMO传输方法，包括如下步骤：

(1)通过如实施例2公开的基于深度学习的MIMO系统构建方法构建 MIMO系统，得到优化后MIMO系统；

(2)获取待传输的数据流，所述数据流为由符号向量组成的一组序列，所述符号向量支持QPSK调制、16-QAM调制或64-QAM调制；

(3)将符号向量转换为one-hot向量作为测试数据集；

(4)将上述测试输入优化后MIMO系统，得到恢复后的发送符号向量。

图3展示了N_t＝2、N_r＝2、d＝2的MIMO系统中，所提出的基于深度学习的传输方案所取得的误码率性能。可以看出，本实施例的性能优于传统方案。在所有方案中，基础的基于深度学习的MIMO系统性能最差。与如图2所示的基础系统相比，该方案在10^-3误码率时的信噪比增益约为10dB。

为了充分显示所提方案的性能，我们分别在图4和图5中绘制了一个2×4 MIMO系统和一个4×2MIMO系统的误码率性能曲线。由于天线数量的增加会带来分集增益，因此与2×2系统相比，所有方案的误码率性能都会得到改善。在这两种情况下，该方案在误码率性能方面仍优于其他方法。

在图6、图7中展示了在不同训练epoch的每个天线的信号星座，比如epoch ＝1和epoch＝100。实验中对原始信号进行QPSK调制，将MIMO系统设为N_t＝2、 N_r＝2、d＝2、SNR＝20dB。在图6中，绘制了单通道实现训练后的天线处信号的散点图，可以看出，这些信号相互交织在一起，这意味着没有足够的决策空间来区分信号。

然而，经过足够的训练(例如，epoch＝100)，天线处的信号会被散射，如图7所示。具体而言，在发射天线处，两个发射天线中数据流的调制方式均为 QPSK，构成一个大小为4×4＝16的星座。这些星座点是围绕椭圆的散射点。与此同时，在接收天线处，接收到的信号几乎均匀地围绕一个圆散射。因此，接收到的信号是彼此分开的。因此本实施例提出的预编码和无线变换网络的基于深度学习的MIMO系统能取得良好的误码率性能。

上文通过附图和优选实施例对本发明进行了详细展示和说明，然而本发明不限于这些已揭示的实施例，基与上述多个实施例本领域技术人员可以知晓，可以组合上述不同实施例中的手段得到本发明更多的实施例，这些实施例也在本发明的保护范围之内。

Claims (8)

1.基于深度学习和无线变换网络的MIMO端到端传输系统，包括发送器和接收器，其特征在于发送器包括编码器网络和预编码网络，接收器包括无线变换网络和解码器网络；

所述编码器网络由多个全连接的神经网络层组成，输入为转换为one-hot向量后的符号向量集，输出为尚未添加功率约束的初始发送符号；

所述预编码网络为一个全连接的神经网络层，由一个输入层、一个隐含层和一个输出层构成，输入为信道矩阵，输出为预编码器，所述信道矩阵模拟瑞利衰落信道，所述预编码器将初始发送符号x与预编码器V作乘法操作，得到满足功率约束的发送符号

上述预编码器与信道矩阵配合用于对初始发送符号进行信道广播，输出接收符号，接收符号表示为：

其中，V表示预编码器，H表示信道矩阵，n表示高斯噪声，ρ表示归一化功率；

经过信道广播后，接收符号产生相位偏移和旋转，偏移信号为：

其中，偏移量记为

所述无线变换网络为全连接的神经网络层，输入为接收符号，用于对接收符号产生的相位偏移和旋转进行校正，输出校正符号；

所述解码器网络由多个全连接的神经网络层组成，输入为校正符号，用于通过对校正符号进行乘法、加法和激活运算进行恢复，输出恢复后的发送符号向量。

2.根据权利要求1所述的基于深度学习和无线变换网络的MIMO端到端传输系统，其特征在于所述符号向量集中符号向量为从离散星座集合中提取的，为QPSK调制、16-QAM调制或64-QAM调制。

3.根据权利要求1所述的基于深度学习和无线变换网络的MIMO端到端传输系统，其特征在于所述编码器网络由四个全连接的神经网络层组成，每个神经网络层包括：

输入层，所述输入层的维度由输入数据的长度决定，用于传输输入的符号向量集；

隐含层，所述隐含层共三层，上述三层隐含层依次连接并连接于输入层的输出端，每层使用的激活函数均为ReLU，每一层隐含层的神经元通过不同方式转换输入的数据以对符号向量进行编码；

输出层，所述输出层为线性全连接层，连接于隐含层的输出端，输出层的神经元对输入的数据进行转换，输出尚未添加功率约束的发送符号。

4.根据权利要求1所述的基于深度学习和无线变换网络的MIMO端到端传输系统，其特征在于所述预编码网络使用的激活函数为ReLU。

5.根据权利要求1所述的基于深度学习和无线变换网络的MIMO端到端传输系统，其特征在于所述无线变换网络由四个全连接的神经网络层组成，每个神经网络层包括：

输入层，所述输入层共一层，用于传输输入的接收符号；

隐含层，所述隐含层共两层，两层隐含层依次连接并连接于输入层的输出端，每层隐含层的神经元对输入的数据进行乘法、加法和激活运算，上述两层隐含层使用的激活函数分别为tanh和ReLU；

输出层，所述输出层共一层，连接于隐含层的输出端，输出层使用的激活函数为tanh，输出层的输出为估计参数，估计参数与接收符号相乘得到校正符号。

6.根据权利要求1所述的基于深度学习和无线变换网络的MIMO端到端传输系统，其特征在于所述解码器网络由五层全连接神经网络层组成，每层神经网络层包括：

输入层，所述输入层用于传输输入的数据；

隐含层，所述隐含层共三层，每层隐含层使用的激活函数依次为tanh、ReLU和ReLU，上述隐含层的神经元对输入的数据进行乘法、加法和激活运算以恢复校正符号；

输出层，所述输出层使用的激活函数为tanh，输出层的神经元对输入的数据进行乘法、加法和激活运算以输出恢复后的发送符号向量。

7.基于深度学习和无线变换网络的MIMO端到端传输系统构建方法，其特征在于包括如下步骤：

构建初始MIMO系统，所述初始MIMO系统为如权利要求1-6任一项所述的基于深度学习和无线变换网络的MIMO端到端传输系统；

获取传输数据流，所述传输数据流为由符号向量组成的一组序列，所述符号向量为从一个离散星座集合提取的，所述离散星座集合支持QPSK调制、16-QAM调制或64-QAM调制；

将符号向量转换为one-hot向量作为训练数据集；

将上述训练数据集输入初始MIMO系统，得到恢复后的发送符号向量；

构建损失函数，所述损失函数计算公式为：

其中，s_i表示符号向量，

表示恢复后的发送符号向量，N表示训练数据集中样本数量；

通过损失函数计算恢复后的发送符号向量与发送的符号向量之间的误差值，计算误差值的导数和上述MIMO系统的权重，使用adam优化器对损失函数进行优化，得到优化后MIMO系统。

8.基于深度学习和无线变换网络的MIMO传输方法，其特征在于包括如下步骤：

通过如权利要求7所述的基于深度学习和无线变换网络的MIMO端到端传输系统构建方法，得到优化后MIMO系统；

获取待传输的数据流，所述数据流为由符号向量组成的一组序列，所述符号向量支持QPSK调制、16-QAM调制或64-QAM调制；

将符号向量转换为one-hot向量作为测试数据集；

将上述测试输入优化后MIMO系统，得到恢复后的发送符号向量。

Images