CN111327381A - 基于深度学习的无线通信物理层收发端的联合优化方法 - Google Patents

Abstract

本发明公开了一种基于深度学习的无线通信物理层收发端的联合优化方法，包括：随机生成独立同分布的比特序列；设计卷积自编码器，用于时域传输，同时完成调制、均衡和解调的功能，网络的软输出可以成为任意软解码器的输入，设计局部连接层替代上述卷积层，用于频域均衡，以对输入序列产生不同的衰落影响；实现基于深度学习的神经网络架构，用于联合优化无线通信物理层的发射端和接收端，根据通信需求完成各类信道的映射机制设计；在OFDM传输系统中测试上述网络结构，在后续引入LDPC编码方法，实现系统进一步优化。该方法就时间复杂度和衰落信道下的误比特率而言，具备良好的鲁棒性和适应性，可以和其他的编码方案相结合，进一步提升性能。

Description

基于深度学习的无线通信物理层收发端的联合优化方法

技术领域

本发明涉及通信技术领域，特别涉及一种基于深度学习的无线通信物理层收发端的联合优化方法。

背景技术

无线通信技术中的一个重要问题在于，从发射端到接收端有多少信息得到了可靠传输。在物理层OSI模型(Open System Interconnection Reference Model，开放式系统互联参考模型)的研究中，整个系统从分治法的角度进行优化，发射端通常包含信源编码，信道编码和调制单元，接收端则涵盖同步，信道解码和信源解码等功能。针对不同的信道环境和应用需求，大量优化研究针对各模块独立进行，而根据信息论中的数据处理理论，通信中子模块的局部优化不能保证整个系统的全局最优。

DL(Deep Learning，深度学习)是一类模式识别方法的统称，通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。得益于其强大的泛化能力，DL在CV(Computer Vision，计算机视觉)和NLP(Natural Language Processing，自然语言处理)中取得了广泛而成功的应用。

随着神经网络压缩技术的发展和专用硬件，如GPU(Graphics Processing Unit，图像处理单元)和FPGA(Field-programmable Gate Array，现场可编程门阵列)的革新，DL相关技巧的时间复杂度和计算资源开销被极大降低，使其在移动设备和天线上部署神经网络成为可能。在基于DL的通信系统中，通过一个AE(Auto-encoder，自编码器)代替人工引入的块机制，系统可以进行发射端和接收端的联合优化，

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本发明的目的在于提出一种基于深度学习的无线通信物理层收发端的联合优化方法，该方法就时间复杂度和衰落信道下的误比特率而言，具备良好的鲁棒性和适应性，可以和其他的编码方案相结合，进一步提升性能。

为达到上述目的，本发明一方面实施例提出了一种基于深度学习的无线通信物理层收发端的联合优化方法，包括：

S1，根据神经网络模型的参数规模生成多个独立同分布的比特序列；

S2，在所述神经网络模型中设计用于时域传输的卷积自编码器单元，根据所述多个独立同分布的比特序列对所述神经网络模型进行训练，完成调制、均衡和解调的功能，使得所述神经网络模型的输入为任意长度的比特序列；

S3，根据多径衰落信道的能量重分布需求，将所述卷积自编码器单元的卷积层用局部连接层替代用于频域均衡，以产生对输入序列局部不同的衰落影响；

S4，根据预设通信需求完成各类信道的映射机制设计，并确定所述神经网络模型的神经网络结构，以联合优化无线通信物理层的发射端和接收端；

S5，将所述神经网络模型应用于通信系统进行测试，并将所述神经网络模型的输出比特序列的损失反向传播，通过梯度下降方法进行优化和迭代收敛以获得最佳系统模型；

S6，对所述神经网络模型引入LDPC编码，所述神经网络模型的输出作为LDPC的输入。

本发明实施例的基于深度学习的无线通信物理层收发端的联合优化方法，能够对任何不具有先验数学模型和解析式的信道，利用神经网络的数据驱动特性，学习一种映射和解映射的方法，完成具有低时间复杂度的全局系统优化，实现低误比特率的可靠信息传输，提高通信系统的性能。就时间复杂度和衰落信道下的误比特率而言，比传统局部优化方法有极大优势，具备良好的鲁棒性和适应性，可以和其他的编码方案相结合，进一步提升性能。

另外，根据本发明上述实施例的基于深度学习的无线通信物理层收发端的联合优化方法还可以具有以下附加的技术特征：

在本发明的一个实施例中，在步骤S2中，

对所述神经网络模型进行训练为通过选择符合预设通信需求的信道，确定达到预设迭代次数后，达到预设误比特率。

在本发明的一个实施例中，所述S2中训练完的神经网络进一步包括：

发射端将输入比特流映射为一个串行复向量，经由时域传输，其中，第一层为卷积层，其后为卷积层和全连接层；

信道层将所述串行复向量归一化以满足功率限制，归一化的符号用于同信道矩阵进行操作；

接收端将经由信道层变形和噪声污染后的符号序列均衡和解映射，其中，接收端的网络结构同发射端对称，以恢复原始的比特流信息。

在本发明的一个实施例中，将所述卷积自编码器单元的卷积层用局部连接层替代后，卷积核的参数不再进行共享，以使输入比特序列产生不同的衰落影响。

在本发明的一个实施例中，在步骤S4中，所述根据预设通信需求完成各类信道的映射机制设计中的信道，包括：加性高斯白噪声信道，衰落信道和非高斯噪声信道。

在本发明的一个实施例中，在所述信道层的归一化中，对于加性高斯白噪声信道，加性高斯白噪声被添加到输入符号向量中，对于衰落信道，归一化的符号首先在时域和脉冲响应卷积，复数的卷积操作在神经网络中通过一个一维的卷积层和三维的张量卷积实现。

在本发明的一个实施例中，对所述神经网络模型的训练进一步包括：

将输入比特流的长度通过步长参数控制，其中，输入层进行压缩，后续卷积层进行扩充，以实现引入冗余再映射压缩数据的编码思路；

将所述神经网络模型的目标函数设定为最小化均方误差，其中，训练采用小批量样本的随机梯度下降法，以拓展模型的泛化能力；

将所述神经网络模型在预设信噪比下进行训练，并通过调整信噪比数值进行该模型的适应性测试；其中，测试包括：对信道变化进行鲁棒性测试。

在本发明的一个实施例中，信道变化的鲁棒性测试部分，通过模拟OFDM蜂窝系统的块间干扰，具有相关性信道中的雷达干扰，或者引入额外高斯噪声，以对极端信道条件下的系统性能测试。

在本发明的一个实施例中，所述S6还包括：

若所述神经网络模型同传统编码模块结合，则视所述神经网络模型的输出实数为概率，其中，输出序列是独立同分布的，并作为软输入传入任何软译码系统；

若所述神经网络模型同二级网络级联，则视第二个神经网络为第二解码器，以模拟迭代译码，并调整训练机制以联合优化，其中，通过改变输入序列为交织后的已编码序列构成训练集合。

本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为根据本发明一个实施例的基于深度学习的无线通信物理层收发端的联合优化方法流程图；

图2为根据本发明一个实施例的基于深度学习的无线通信物理层收发端的神经网络结构示意图；

图3为根据本发明一个实施例的瑞利衰落信道的频域变化图；

图4为根据本发明一个实施例的瑞利衰落信道的频域选择性衰落示意图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

下面参照附图描述根据本发明实施例提出的基于深度学习的无线通信物理层收发端的联合优化方法。

图1为根据本发明一个实施例的基于深度学习的无线通信物理层收发端的联合优化方法流程图。

如图1所示，该基于深度学习的无线通信物理层收发端的联合优化方法包括以下步骤：

步骤S1，根据神经网络模型参数规模选择生成充分数量的独立同分布的比特序列，依照需求比例划分为训练集、验证集和测试集。

根据通信需求选择合适的信道参数并固定，确定网络规模所需的训练样本数量，随机生成二值比特序列，以备后续使用。

在本发明的实施例中，对于任何不具有先验数学模型和解析式的信道，通过神经网络结构学习一种映射和解映射的方法。

也就是说，可以利用实际采集到的发射端序列和接收端数据，替代信道层的作用，并用于神经网络的后续训练，优选地，训练集中的样本数量同仿真模拟数据相等。

步骤S2，在神经网络模型中设计用于时域传输的卷积自编码器单元，根据多个独立同分布的比特序列对神经网络模型进行训练，完成调制、均衡和解调的功能，使得神经网络模型的输入为任意长度的比特序列。

可以理解的是，根据预设可处理任意长度输入比特序列的需求，设计卷积自编码器单元，用于时域传输，同时完成调制、均衡和解调的功能，并确定网络的软输出可以成为任意软解码器的输入。

需要说明的是，通常神经网络受输入尺寸的限制，即测试时使用的输入长度必须保持和训练过程中的一致。得益于卷积层的局部连接性，使用卷积自编码器单元，网络能够接受任意长度的输入序列，而免于重新训练，并通过训练短的比特序列，以获得对长比特测试数据的应用。

进一步地，在本发明的实施例中，根据神经网络的数据驱动特性以进行训练，对所传输信号实现完整的调制、均衡和解调操作，其中，训练为通过选择符合通信需求的某信道，确定足够的迭代次数后，达到符合预期的误比特率。

可以理解的是，神经网络的训练是在某时不变信道下进行，当信道环境发生较大变化时，网络需进一步优化或重新训练。

进一步地，在本发明的一个实施例中，对神经网络的细节实现包括：发射端将输入比特流映射为一个串行复向量，经由时域传输，其中，第一层为卷积层，其后为卷积层、全连接层；信道层将串行复向量归一化以满足功率限制，归一化的符号用于同信道矩阵进行操作；接收端将经由信道层变形、噪声污染后的符号序列均衡和解映射，其中，网络结构同发射端对称，以恢复原始的比特流信息。

简单来讲，全连接层中的每个神经元同前层相连，卷积层的神经元则只同局部感受野内的元素连接，同时对于每个神经元而言参数共享，其中，对于时间分布型的全连接层，每次只处理输入的每一个时序切片，而非其整体。

步骤S3，根据多径衰落信道的能量重分布需求，将卷积自编码器单元的卷积层用局部连接层替代用于频域均衡，以产生对输入序列局部不同的衰落影响。

具体地，根据多径衰落信道的能量重分布需求，将卷积自编码器单元用局部连接层替代用于频域均衡，以产生对输入序列局部不同的衰落影响，强能量的符号可携带更多的信息。

换言之，若独立的子载波上的衰落严重，在低信噪比(Signal-to-noiseratio，SNR)环境下恢复信号非常困难，这些携带信息的子载波或许会经历严重衰落而在传输中消失，造成不可恢复的信息损失。通过引入子载波间的关联性，信息可以通过临近的子载波携带，以使深度衰落造成的突发性错误可以减少。

简单来讲，承受严重衰落的符号需要传播其信息给临近的符号，而有强能量的符号则需要携带更多的信息。

可选地，在本发明的一个实施例中，若上述方法和结构被应用于频域传输，则用局部连接层替代发射端卷积层，其中，卷积核的参数不再共享，以使输入比特序列产生不同的衰落影响。

需要说明的是，局部连接的网络同卷积层的工作原理类似，但是参数并不共享，即不同的滤波器集合不用于不同类别的输入，以模拟信道对已编码的输入序列产生不同的衰落影响。

步骤S4，根据预设通信需求完成各类信道的映射机制设计，并确定神经网络模型的神经网络结构，以联合优化无线通信物理层的发射端和接收端。

其中，各类信道包括加性高斯白噪声信道，衰落信道和非高斯噪声信道。

进一步地，在本发明的实施例中，信道层的归一化部分，其中，对于AWGN(AdditiveWhite Gaussian Noise，加性高斯白噪声)信道，加性高斯白噪声被添加到输入符号向量中，对于衰落信道，归一化的符号首先在时域和脉冲响应卷积，复数的卷积操作在神经网络中通过一个一维的卷积层和三维的张量卷积实现。

需要说明的是，对于AWGN和衰落信道，分别独立训练网络。其中，衰落信道的延迟可调。

步骤S5，将神经网络模型应用于通信系统进行测试，并将神经网络模型的输出比特序列的损失反向传播，通过梯度下降方法进行优化和迭代收敛以获得最佳系统模型。

可选地，在本发明的一个实施例中，对神经网络的训练参数进一步包括：将输入流的长度通过步长参数控制，其中，输入层进行压缩，后续卷积层进行扩充，以实现引入冗余再映射压缩数据的编码思路；将网络的目标函数设定为最小化均方误差，其中，训练采用小批量样本的随机梯度下降法，以拓展模型的泛化能力；将模型在预设信噪比下进行训练，并通过调整信噪比数值进行该模型的适应性测试，其中，对信道变化进一步测试鲁棒性。

信道变化的鲁棒性测试部分，通过模拟OFDM(Orthogonal Frequency DivisionMultiplexing，正交频分复用)蜂窝系统的块间干扰，具有相关性信道中的雷达干扰，或者引入额外高斯噪声，以对极端信道条件下的系统性能测试。

简单来讲，考虑两类信道变化，其一为模拟OFDM蜂窝系统的块间干扰，具有相关性信道中的雷达干扰等，即使小部分噪声具有更高的方差系数；另一类设计考虑信道的不准确估计和时变性因素，引入额外的高斯噪声。通过鲁棒性检验，以对极端信道条件下的系统性能测试。

步骤S6，对神经网络模型引入LDPC编码，神经网络模型的输出作为LDPC的输入，以提升网络的误比特率性能。

神经网络的输出是0到1之间的一个实数，可以被视作是一个概率并作为软输入传入任何的软译码系统。只要输出的编码序列仍旧是独立同分布的，网络可以同任何编译码模块结合。

进一步地，在本发明的实施例中，还包括：若神经网络模型同传统编码模块结合，则视神经网络的输出实数为概率，其中，输出序列是独立同分布的，并作为软输入传入任何软译码系统；若神经网络模型同二级网络级联，则视第二个神经网络为第二解码器，以模拟迭代译码，并调整训练机制以联合优化，其中，通过改变输入序列为交织后的已编码序列构成训练集合。

下面将通过具体实施例的方式对基于深度学习的无线通信物理层收发端的联合优化方法进行进一步阐述。

在本发明的第一个具体实施例中，具体包括以下步骤：

S1，随机生成独立同分布的比特序列，按需求比例划分为训练集、验证集和测试集。

考虑如图2所示的网络规模，使用30000的训练样例和10000的测试数据，以训练该自编码器。

S2，设计卷积自编码器，用于时域传输，同时完成调制、均衡和解调的功能，网络的软输出可以成为任意软解码器的输入，设计局部连接层替代上述卷积层，用于频域均衡，以对输入序列产生不同的衰落影响。

假设系统正传输k×M比特信息，其中k代表了每个符号携带的比特数，M为符号的数目。发射端将输入比特流映射为一个串行复向量，经由时域传输。接收到的符号被均衡和解映射，恢复原始的比特流信息。

在第一个卷积层中，通过步长k将输入流的长度从k×M压缩为M。之后通过时分型全连接层和卷积层，反射端引入相关性和非线性。受到通信系统的传统实践中先编码引入冗余再映射压缩数据的启发，在第二个卷积层中增加了参数量来进一步提升网络的表达能力。传输符号此时是一个M×2维度的复向量。在信道层，输入符号首先被归一化以满足功率限制。对AWGN信道，只有加性白噪声被添加到符号向量中。对于衰落信道，归一化的符号首先在时域和脉冲响应卷积，如下式中复数的卷积操作实现：

在神经网络中，可通过一个一维的卷积层和三维的张量卷积完成。

S3，实现基于深度学习的神经网络架构，用于联合优化无线通信物理层的发射端和接收端，根据通信需求完成各类信道的映射机制设计，包括AWGN信道，衰落信道和非高斯噪声信道。

本发明实施例令k＝6，AWGN信道，64QAM+MMSE，另外取瑞利衰落信道如图3所示，其中，在x轴的整数为每根路径单位符号上的延迟，相位信息在图中被省略。为验证模型的可拓展性，测试k＝8，256QAM+MMSE在衰落信道下的表现。调制机制的选择基于整体吞吐量的公平性。卷积神经网络的性质使得不用修改网络参数即可处理不同长度的输入序列，不妨固定M＝400。

本发明实施例的学习率为0.001，块尺寸为32，使用均方误差(MSE)作为损失函数。训练周期为300轮。对于每个卷积层，卷积核的尺寸为12，激活函数为双曲正切函数。训练在特定的SNR下完成，在10-25dB的范围上测试。尽管输入比特的空间尺寸达到了2^k×M，模型实现了30000训练样本的泛化。

对于AWGN信道，当BER处于10^-1到10^-3范围时，本发明实施例可以带来1dB的增益。若在复平面中绘制40000调制符号，本系统学到了类似于APSK的星座图映射方法。其中，有限符号集并不是中心分布的，而是呈集群状。星座点的集群结构对天线带来更高的要求，但在低SNR下获得额外增益。本发明实施例学习到的星座点分布近似于高斯分布，根据信息论，对于最大似然估计的接收机是一种最优分布。

对于衰落信道，B信道相较于A信道具有更高的延时。传统的64QAM系统是基于AWGN优化设计的，对于衰落信道，本发明实施例可以在调制程序中预编码，发射机和接收机联合调整以适应信道，使得系统对衰落更有鲁棒性。同时，神经网络在信道B上的表现优于信道A，原因在于CNN结构更易于刻画长时关联。

对于非高斯噪声信道，首先测试突发性AWGN信道，即小部分噪声具有更高的方差系数，考虑到CNN相比于64QAM+MMSE，引入了长范围符号的关联性，系统符合预期地展示了更好的鲁棒性。进一步地，在固定的信道A下训练模型，测试时对A引入了标准差为的0.05的额外高斯噪声，MMSE检测时认为A仍旧保持不变，结果显示信道变化对64QAM+MMSE的影响比之神经网络更加严重。

S4，在OFDM传输系统中测试上述网络结构，在后续引入LDPC编码方法，实现系统进一步优化。

对于上述S3中的衰落信道，训练好的系统能够带来4dB的收益，但在高SNR的环境中低于64QAM+MMSE。需要指出的是，在高SNR范围内系统的衰减并不会影响本实施例的优势，正如在实际系统中系统可以简单地同任何编码模块结合。进一步地，对64QAM+MMSE和CNN同时加上一个码率为1/2的LDPC编码系统后，本实施例在整个SNR范围内都超过了传统方案的性能。

在本发明的第二个具体实施例中，具体包括以下步骤：

S1，随机生成独立同分布的比特序列，按需求比例划分为训练集、验证集和测试集。

考虑如图2所示的网络规模，使用30000的训练样例和10000的测试数据，以训练该自编码器。

S2，设计卷积自编码器，用于时域传输，同时完成调制、均衡和解调的功能，网络的软输出可以成为任意软解码器的输入，设计局部连接层替代上述卷积层，用于频域均衡，以对输入序列产生不同的衰落影响。

频域同时域的网络结构差异只在于卷积层的替代上。在本实施例中，使用更通用的局部连接层替代卷积层，信道对已编码的输入序列产生不同的衰落影响。直观来看，承受严重衰落的符号需要传播其信息给临近的符号，而有强能量的符号则需要携带更多的信息。如果仍采用卷积网络，那么每个符号被同等看到，能量重分布不可能实现。

S3，实现基于深度学习的神经网络架构，用于联合优化无线通信物理层的发射端和接收端，根据通信需求完成各类信道的映射机制设计，包括AWGN信道，衰落信道和非高斯噪声信道。

在OFDM系统，符号间的干扰可以通过引入不同子载波间的GI消除。在本实施例中，假定了完美的循环前缀作为GI，符号间干扰和信道间干扰均被消除。比特序列在频域中被调制和传输。考虑图3中信道B的频域变化，其频域的频率选择性衰落如图4所示。ZF被假定为已知准确的信道状态信息，但衰落线上的零点仍限制了大量子载波对接收机进行信息传输。

得益于卷积层引入的关联性，神经网络能够根据噪声的统计信息，分配不同的信息量给不同的子载波，上述系统的BER可低至10^-4。对比传统的64QAM+ZF系统，神经网络带来巨大收益。

根据本发明实施例提出的基于深度学习的无线通信物理层收发端的联合优化方法，能够对任何不具有先验数学模型和解析式的信道，利用神经网络的数据驱动特性，学习一种映射和解映射的方法，完成具有低时间复杂度的全局系统优化，实现低误比特率的可靠信息传输，提高通信系统的性能。就时间复杂度和衰落信道下的误比特率而言，比传统局部优化方法有极大优势，具备良好的鲁棒性和适应性，可以和其他的编码方案相结合，进一步提升性能。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (9)

1.一种基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，包括以下步骤：

S1，根据神经网络模型的参数规模生成多个独立同分布的比特序列；

S2，在所述神经网络模型中设计用于时域传输的卷积自编码器单元，根据所述多个独立同分布的比特序列对所述神经网络模型进行训练，完成调制、均衡和解调的功能，使得所述神经网络模型的输入为任意长度的比特序列；

S3，根据多径衰落信道的能量重分布需求，将所述卷积自编码器单元的卷积层用局部连接层替代用于频域均衡，以产生对输入序列局部不同的衰落影响；

S4，根据预设通信需求完成各类信道的映射机制设计，并确定所述神经网络模型的神经网络结构，以联合优化无线通信物理层的发射端和接收端；

S5，将所述神经网络模型应用于通信系统进行测试，并将所述神经网络模型的输出比特序列的损失反向传播，通过梯度下降方法进行优化和迭代收敛以获得最佳系统模型；

S6，对所述神经网络模型引入LDPC编码，所述神经网络模型的输出作为LDPC的输入。

2.根据权利要求1所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，在步骤S2中，对所述神经网络模型进行训练为通过选择符合预设通信需求的信道，确定达到预设迭代次数后，达到预设误比特率。

3.根据权利要求1所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，所述S2中训练完的神经网络进一步包括：

发射端将输入比特流映射为一个串行复向量，经由时域传输，其中，第一层为卷积层，其后为卷积层和全连接层；

信道层将所述串行复向量归一化以满足功率限制，归一化的符号用于同信道矩阵进行操作；

接收端将经由信道层变形和噪声污染后的符号序列均衡和解映射，其中，接收端的网络结构同发射端对称，以恢复原始的比特流信息。

4.根据权利要求1所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，将所述卷积自编码器单元的卷积层用局部连接层替代后，卷积核的参数不再进行共享，以使输入比特序列产生不同的衰落影响。

5.根据权利要求1所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，在步骤S4中，所述根据预设通信需求完成各类信道的映射机制设计中的信道，包括：加性高斯白噪声信道，衰落信道和非高斯噪声信道。

6.根据权利要求2或3所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，在所述信道层的归一化中，对于加性高斯白噪声信道，加性高斯白噪声被添加到输入符号向量中，对于衰落信道，归一化的符号首先在时域和脉冲响应卷积，复数的卷积操作在神经网络中通过一个一维的卷积层和三维的张量卷积实现。

7.根据权利要求2所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，对所述神经网络模型的训练进一步包括：

将输入比特流的长度通过步长参数控制，其中，输入层进行压缩，后续卷积层进行扩充，以实现引入冗余再映射压缩数据的编码思路；

将所述神经网络模型的目标函数设定为最小化均方误差，其中，训练采用小批量样本的随机梯度下降法，以拓展模型的泛化能力；

将所述神经网络模型在预设信噪比下进行训练，并通过调整信噪比数值进行该模型的适应性测试；其中，测试包括：对信道变化进行鲁棒性测试。

8.根据权利要求7所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，信道变化的鲁棒性测试部分，通过模拟OFDM蜂窝系统的块间干扰，具有相关性信道中的雷达干扰，或者引入额外高斯噪声，以对极端信道条件下的系统性能测试。

9.根据权利要求1所述的基于深度学习的无线通信物理层收发端的联合优化方法，其特征在于，所述S6还包括：

若所述神经网络模型同传统编码模块结合，则视所述神经网络模型的输出实数为概率，其中，输出序列是独立同分布的，并作为软输入传入任何软译码系统；

若所述神经网络模型同二级网络级联，则视第二个神经网络为第二解码器，以模拟迭代译码，并调整训练机制以联合优化，其中，通过改变输入序列为交织后的已编码序列构成训练集合。

Images