CN111130697B

CN111130697B - 一种降低基于自动编码器的通信物理层传输系统复杂度的方法

Info

Publication number: CN111130697B
Application number: CN201911350938.5A
Authority: CN
Inventors: 余翔; 陈侃; 段思睿; 向静怡
Original assignee: Chongqing University of Post and Telecommunications
Current assignee: Chongqing University of Post and Telecommunications
Priority date: 2019-12-24
Filing date: 2019-12-24
Publication date: 2022-04-19
Anticipated expiration: 2039-12-24
Also published as: CN111130697A

Abstract

本发明涉及一种降低基于自动编码器的通信物理层传输系统复杂度的方法，属于移动通信技术领域。该方法包括：生成一系列二进制比特流；对比特流按多元数字频带调制方式组合成比特对并将比特对转换成整数；在基本的自动编码器网络中引入嵌入层并构建物理层传输系统；利用转换后的整数索引训练自动编码器网络并实现物理层数据传输过程。本发明提出了一种低复杂度自动编码器网络结构来实现通信物理层传输系统，能够降低传输系统的复杂度和系统储存开销。

Description

一种降低基于自动编码器的通信物理层传输系统复杂度的方法

技术领域

本发明属于移动通信技术领域，涉及一种降低基于自动编码器的通信物理层传输系统复杂度的方法。

背景技术

移动通信系统中的物理层技术在十几年内已经取得了长足的进步。物理层中大多数信号处理算法在信息论和统计理论等数学理论中有着坚实的基础，并且对于大多数线性、平稳的数学模型而言通常是最佳的。但是在实际通信系统中，许多非线性的信道因素(如非线性功率放大器、有限分辨率量化等)使得传统数学模型只能逼近最优解。因此，深度学习对于非线性特征强大的抽象能力使得基于深度学习的通信系统能够取得相对于传统系统更好的表现。另一方面，传统的物理层传输系统是将信号处理过程分割成一系列独立的模块，每个模块实现不同的功能(如信源编码、信道编码、调制、信道均衡等)。尽管这种方式已经被实践证明是有效的和可控的，但是对每个独立模块的单独优化并不能确保端到端通信取得最优的表现。因此，对通信系统中各个功能模块联合优化是未来的必然趋势。运用传统的数学统计方法进行联合优化会使得系统的复杂度大大增加，而深度学习中的神经网络由于是一体化结构并且已经实现了在并发体系结构上的高度并行化数据处理，因此，基于深度学习的物理层传输系统将打破传统通信系统的限制并能够实现低能耗、高效率的信号处理过程。

英文文献“Deep Learning Based Communication Over the Air”(SCI索引号：WOS:000426010500011)中利用了软件无线电平台和深度学习库将基于自动编码器的通信物理层传输系统应用在实际信道环境中，提出了一种新的神经网络解决帧同步问题以及提出了一种基于迁移学习的方法来应对在实际信道中遇到的挑战。英文文献“Backpropagating Through the Air:Deep Learning at Physical Layer WithoutChannel Models”(SCI索引号： WOS:000449977700025)中引入了同步扰动随机逼近算法来模拟误差反向传播过程中信道层的梯度，解决了基于自动编码器的通信物理层传输系统在实际通信环境中应用时信道模型未知的问题。但是，使用上述方法，当输入符号比特位数增加时，深度学习中神经网络模型的复杂度会大大增加，训练数据的需求也会大大增加，接收端误比特率也会相应增加，大大的增加了传输系统的复杂度和开销。

发明内容

有鉴于此，本发明的目的在于提供一种基于自动编码器的低复杂度通信物理层传输系统，解决当输入符号中包含的比特数增加时，基于自动编码器的通信物理层传输系统复杂度过大的问题。即在尽量不影响接收端误比特率的条件下对网络结构进行了简化，使得系统能够以低复杂度、高存储效率地实现通信物理层传输过程。

为达到上述目的，本发明提供如下技术方案：

一种降低基于自动编码器的通信物理层传输系统复杂度的方法，主要包括：首先生成一系列二进制比特流；然后对比特流按多元数字频带调制方式组合成比特对并将比特对转换成整数；其次在基本的自动编码器网络中引入嵌入层并构建物理层传输系统；最后利用转换后的整数索引训练自动编码器网络并实现物理层数据传输过程。该方法具体包括以下步骤：

S1：生成二进制比特流；

S2：将二进制比特流按M元数字频带调制方式组合成比特对；

S3：将S2中的比特对转换为整数索引值；

S4：构建初步的基于自动编码器网络的通信物理层传输系统；

S5：对S4中的自动编码器网络结构进行调整，得到基于自动编码器网络的低复杂通信物理层传输系统；

S6：以S3中生成的数据作为训练样本训练S5中调整后的自动编码器网络；

S7：在发送端将一系列随机二进制比特流作为传输数据输入到S6中训练好的网络，并在接收端得到相应输出的二进制比特流。

进一步，所述步骤S5中，对S4中的自动编码器网络结构进行调整，包括：将初步构建的通信物理层传输系统的第一个全连接层替换为嵌入层，即基于自动编码器网络的低复杂通信物理层传输系统包括：一个嵌入层、n个全连接层和一个功率归一化层构成的编码模块，一个信道层以及由n+1个全连接层构成的解码模块。

进一步，所述嵌入层首先将输入的整数索引序列转换成对应的独热码矩阵s，再将独热码矩阵转换成稠密矩阵d，将独热码矩阵转换成稠密矩阵的公式为：

d_L×N＝s_L×Mt_M×N

其中，L为输入整数索引值序列的长度，N为整数索引值转换后对应数据向量的维数，其中N＜M；t为转换矩阵，其权重参数随着网络一起被训练。

进一步，所述步骤S5中，基于自动编码器网络的低复杂通信物理层传输系统的损失函数采用稀疏类别交叉熵函数，使得输入数据的标签为整数数据。

进一步，解码模块最后一个全连接层输出数据个数为M，激活函数为softmax函数，用来输出概率值，即输出数据分别为1,2,3...,M的概率。

进一步，所述步骤S7具体包括以下步骤：

S71：将随机二进制比特流按照步骤S2、S3所述方法转换成整数索引值构成的一维数据；

S72：将S71中的一维数据输入到步骤S4、S5、S6所述调整后的自动编码器网络中；

S73：在接收端依次按照步骤S3、S2的逆过程将自动编码器的输出整数索引转换成二进制比特流。

本发明的有益效果在于：

1)本发明考虑了基于深度学习的通信物理层传输系统；

2)本发明对基于自动编码器的通信物理层传输系统结构进行了改变，基本的网络结构中输入数据和对应标签为独热码数据，而调整后的网络中输入数据和对应标签为独热码对应的整数索引值，且经过嵌入层自适应编码后为稠密向量，降低了网络复杂度和系统开销。

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作优选的详细描述，其中：

图1为本发明所述方法的流程示意图；

图2为本发明中基于自动编码器的低复杂度通信物理层传输系统的网络结构示意图；

图3为本发明改进的传输系统与传统系统的性能仿真对比图。

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

请参阅图1～图2，图1为一种降低基于自动编码器的通信物理层传输系统复杂度的方法，具体步骤为：

S1：生成二进制比特流。

S2：将二进制比特流按多元数字频带调制方式组合成比特对，具体为：按M元数字频带调制方式组合，则一个比特对中含有log₂M个0、1比特。

S3：将比特对转换成整数索引值，具体为：一个比特对中比特序列为：

其中a_k为0、1比特，则这个比特对的整数索引值为：

S4：构建初步的基于自动编码器的通信物理层传输系统，具体为：初步的自动编码器网络包括由n个全连接层构成的编码模块(调制模块)，一个功率归一化层，一个信道层以及由n个全连接层构成的解码模块(解调模块)。功率归一化层限制输入到信道层中一个样本数据的能量为c，c为传输系统中使用的信道数；网络中解码模块最后一个全连接层的激活函数为softmax函数。

S5：对S4中的自动编码器网络进行调整，具体包括以下步骤：

S51：将S4中自动编码器网络的第一个全连接层替换成嵌入层；如图2所示，嵌入层作为自动编码器网络中的一部分，其参数跟模型一起被训练。

S52：将S4中自动编码器网络的损失函数替换成稀疏类别交叉熵函数；稀疏类别交叉熵函数可以使得输入数据对应的标签为整数索引值。

S6：训练调整后的自动编码器网络并进行测试。具体包括：输入数据为一维的整数索引值构成的数据，输入样本对应的标签跟输入样本一致。

S61：将随机二进制比特流按照步骤S2、S3所述方法转换成整数索引值构成的一维数据并输入到调整后的自动编码器中训练，得到训练好的自动编码器；

S62：生成一系列随机二进制比特流数据对上述系统性能进行测试，采用误块率作为性能指标。

下面结合仿真实验对本发明的效果作进一步的描述：

本实验中设定输入比特流符合16QAM调制的比特组合方式，即4位比特代表一个符号；选取信道数为7，信道层为加性高斯白噪声；网络在比特信噪比为7dB条件下进行训练，然后在-4dB到8dB下每隔0.5dB测试系统的误块率性能；网络迭代次数为500次，每次迭代中训练样本数为400。在传统的基于自动编码器的端对端通信系统中，训练输入样本数为400000 个，对每一个样本进行独热编码并且维数为16，每一个样本代表一个16QAM调制符号，测试样本及验证样本数分别为100000个，50000个。而在本发明提出的系统中，每一个样本为一个范围在[0,15]的整数索引值，代表一个16QAM调制符号，同样选取与传统系统相同的训练、测试、验证样本个数。实验结果如图3所示，本发明中改进的端对端通信系统表现与传统的系统性能相似，而很明显从输入端来看，传统系统需要独热码来表示一个调制符号，但是本发明提出的改进系统只需要一个整数索引值，因此，系统存储开销大大降低。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。

Claims

1.一种降低基于自动编码器的通信物理层传输系统复杂度的方法，其特征在于，该方法具体包括以下步骤：

S1：生成二进制比特流；

S2：将二进制比特流按M元数字频带调制方式组合成比特对；

S3：将S2中的比特对转换为整数索引值；

S7：在发送端将一系列随机二进制比特流作为传输数据输入到S6中训练好的网络，并在接收端得到相应输出的二进制比特流；

所述步骤S5中，对S4中的自动编码器网络结构进行调整，包括：将初步构建的通信物理层传输系统的第一个全连接层替换为嵌入层，即基于自动编码器网络的低复

杂通信物理层传输系统包括：一个嵌入层、n个全连接层和一个功率归一化层构成的编码模块，一个信道层以及由n+1个全连接层构成的解码模块；

所述嵌入层首先将输入的整数索引序列转换成对应的独热码矩阵s，再将独热码矩阵转换成稠密矩阵d，将独热码矩阵转换成稠密矩阵的公式为：

d_L×N=s_L×Mt_M×N

其中，L为输入整数索引值序列的长度，N为整数索引值转换后对应数据向量的维数，其中N<M；t为转换矩阵，其权重参数随着网络一起被训练。

2.根据权利要求1所述的一种降低基于自动编码器的通信物理层传输系统复杂度的方法，其特征在于，所述步骤S5中，基于自动编码器网络的低复杂通信物理层传输系统的损失函数采用稀疏类别交叉熵函数，使得输入数据的标签为整数数据。

3.根据权利要求1所述的一种降低基于自动编码器的通信物理层传输系统复杂度的方法，其特征在于，解码模块最后一个全连接层输出数据个数为M，激活函数为softmax函数，用来输出概率值，即输出数据分别为1,2,3...,M的概率。