CN115765876A - 一种基于改进lstm非线性均衡器的概率整形信号均衡方法 - Google Patents

Abstract

本发明涉及一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述方法包括以下步骤：在光纤传输系统中采样获得传输信号；对传输信号进行预处理；将处理后的传输信号输入以MSE作为损失函数训练好的改进LSTM非线性均衡器中进行非线性补偿，恢复出原始发送符号。与现有技术相比，本发明具有避免过拟合现象，提高模型的泛化能力，有效地补偿了光纤通信中的非线性损伤等优点。

Description

一种基于改进LSTM非线性均衡器的概率整形信号均衡方法

技术领域

本发明涉及光纤通信非线性补偿技术领域，尤其是涉及一种光纤通信系统概率整形信号均衡方法。

背景技术

随着信息时代的快速发展，云计算等互联网宽带数据业务发展迅速,随着5G技术的普及，4K/8K视频、VR、自动驾驶等各种要求高速率，低延迟，广连接的新业务和新应用不断涌现，使得数据流量急剧增长，但目前光纤通信网络的容量难以满足互联网流量的快速增长。所以对超大容量、超高速率、超远距离的光纤通信需求变得更加急迫。为提高光纤通信的传输容量，提高频谱效率，高阶PAM、高阶QAM调制格式成为广大研究人员的热门方向。然而，光纤通信过程中信号会受到不同程度的非线性损伤，这极大地影响了传输信号的速率与质量，阻碍了系统容量的进一步提升。这些非线性损伤主要来自系统中各种光/电器件，例如光电二极管(PD)的平方律检测，马赫-曾德尔调制器(MZM)的余弦特性，放大器和激光器的非线性效应等等；并且随着系统传输距离的增加，光纤也会引入严重的非线性损伤。

概率整形(Peobabilistic Shaping,PS)技术可以有效缓解光通道中信号的非线性影响，通过改变星座点的概率分布，改变信息的熵，可以灵活地实现不同的数据速率，提高系统容量，其中信号星座点通过利用分布匹配器(DM)满足Maxwell-Boltzmann分布。

神经网络由于其高度非线性，能够形成任意非线性决策边界，故其也可以应用于非线性效应补偿，基于LSTM的非线性均衡器(NNE)目前已被用在光纤系统的接收端以解调信号。现有的LSTM非线性均衡器以交叉熵作为损失函数，解调强度调制/直接检测(IM/DD)系统中的4阶脉冲幅度调制(PAM-4)信号，相比传统的Volterra等均衡算法，有更好的性能和更低的复杂度。然而事实上，经过PS后的M-QAM、M-PAM信号，星座点分布概率不同，其作为神经网络的输入样本是不均匀的，若使用交叉熵作为损失函数，会导致输出符号偏向出现概率大的点，产生过拟合现象，均衡效果变差，模型的泛化能力下降。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种光纤通信系统概率整形信号均衡方法。

本发明的目的可以通过以下技术方案来实现：

一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，所述方法包括以下步骤：

采样获得光纤传输系统中的概率整形信号；

对概率整形信号进行预处理；

将处理后的概率整形信号输入以MSE作为损失函数训练好的改进LSTM非线性均衡器中进行非线性补偿，恢复出原始发送符号。

作为优选技术方案，所述光纤传输系统包括直调直检光纤传输系统、相干光传输系统和光生毫米波系统。

作为优选技术方案，在所述直调直检光纤传输系统和相干光传输系统中，所述采样获得光纤传输系统中的概率整形信号为：

采用光电探测器将光纤传输的光信号转换为电信号，经过示波器进行采样得到概率整形信号。

作为优选技术方案，在所述光生毫米波系统中，采样获得光纤传输系统中的概率整形信号为：

在光生毫米波系统中，采用喇叭天线接收高频电信号，经过低噪声放大器与混频器，将高频信号下变频至中频，由示波器进行采样得到概率整形信号。

作为优选技术方案，所述预处理包括预收敛、频相偏估计和信号同步。

作为优选技术方案，所述预处理过程包括：

对概率整形信号进行重采样，利用CMA算法对重采样后的信号进行预收敛；

用维特比-维特比算法与BPS算法对预收敛后的数据进行频偏与相偏估计；

对频偏与相偏估计后的信号与发送端信号进行信号同步。

作为优选技术方案，所述改进LSTM非线性均衡器进行非线性补偿的过程为：

将N个所述概率整形信号的实部和虚部提取组成长度为2N的实数列向量，将实数列向量组成数据集输入改进的LSTM均衡器，通过LSTM网络与全连接层，从输出层输出恢复信号，所述输出层神经元数目为2K，K等于N，2K个所述输出层神经元分别代表N个概率整形信号的实部和虚部。

作为优选技术方案，所述改进LSTM非线性均衡器的训练过程为：

将采集到的概率整形信号输入改进LSTM非线性均衡器中，得到输出层恢复信号；

采用MSE作为损失函数，计算输出层恢复信号与理想信号的实部和虚部的损失函数；

利用梯度下降方法，以损失函数对神经网络中每个权值求偏导，确定各个权值参数修正的方向与大小，对神经网络中的权值进行修正。

作为优选技术方案，所述改进LSTM非线性均衡器的输入层神经元个数2N，LSTM层中神经元个数为4H和全连接层的神经元个数L，输出层的神经元数目2K，以LSTM均衡器的复杂度低为目标设置。

作为优选技术方案，所述LSTM均衡器的复杂度C的计算公式为：

C＝4H(2N+H)+HL+2KL(MACC)

式中，N为输入概率整形信号的数量，H为LSTM层中有各门控单元的神经元的数量，L为全连接层的神经元个数，K为输出层的神经元数目的一半，为MACC为乘加数。

与现有技术相比，本发明具有以下有益效果：

1)本发明提供了一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，在损失函数部分采用均方误差MSE取代交叉熵，从而将符号拟合改进为信号的幅值拟合，避免过拟合现象，提高模型的泛化能力。有效地补偿了光纤通信中的非线性损伤。

2)本发明提供的改进LSTM非线性均衡器的各项超参数，如隐藏层数量、神经元数目、学习率和训练次数等都可以根据具体情况具体选择，本发明还提供一种均衡器复杂度计算方法，以复杂度小为目标设置LSTM均衡器中各参数，使得系统运行性能更好。

附图说明

图1为本发明采用改进LSTM非线性均衡器进行信号均衡的流程示意图；

图2为本发明的LSTM均衡器训练过程示意图；

图3为LSTM均衡器中全连接层示意图；

图4为LSTM网络的结构示意图。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

本发明提供一种适用于不均匀分布的概率整形信号如PS-M-QAM、PS-M-PAM信号的改进LSTM非线性均衡算法，具体原理如下：

在损失函数部分采用均方误差(MSE)取代交叉熵，从而将符号拟合改进为信号的幅值拟合，以弥补交叉熵的不足，提高系统性能。改进的LSTM均衡器的隐藏层数量、神经元数量、训练次数等超参数皆可调整。

S1：采样获得光纤传输系统中的概率整形信号；

S2：对概率整形信号进行预处理；

S3：将处理后的概率整形信号输入以MSE作为损失函数训练好的改进LSTM非线性均衡器中进行非线性补偿，恢复出原始发送符号。

由于QAM信号是由两路正交的PAM信号组成的，且本发明的均衡方法是针对实数序列的，所以本实施例提供以如图2所示的改进LSTM均衡器对更复杂的PS-M-QAM信号进行均衡的方法步骤。

首先，本发明所应用的信号，需要在通信实验系统中采集得到，具体来说：由发送端发出PS信号。在直调直检光纤传输/相干光传输系统中，光电探测器将光纤传输的光信号转换为电信号，然后经过示波器进行采样得到PS信号；而在光生毫米波系统中，喇叭天线接收高频电信号后，经过低噪声放大器与混频器，将高频信号下变频至中频，然后由示波器进行采样得到PS信号。

经过采样后得到的信号，需要进行预处理。首先进行重采样，然后利用CMA算法进行预收敛，由于光纤通信系统与光生毫米波通信系统存在频率偏移与相位偏移，所以需要进一步用维特比-维特比算法与BPS算法进行频偏与相偏估计，从而完成二者的纠正，为了保证收发端数据量相同从而完成神经网络的训练与测试，需要对纠正过频偏与相偏的信号与发送端信号进行同步，从而完成预处理。

将采集到的信号按比例划分为训练集和测试集，训练集数量大于测试集数量。采用训练集对所述改进的LSTM均衡器应用于PS-M-QAM信号时的训练过程如下：

如图2所示，在一次训练过程中，将N个PS-M-QAM符号的实虚部提取为实数列向量，其长度为2N，作为LSTM均衡器的输入，接着通过拥有四个门控单元以处理、遗忘、选择性输出数据的LSTM层，神经元总数为4H，以及拥有L个神经元的全连接层，最终到达输出层。输出层与发送端理想的PS-M-QAM的实虚部数据进行幅值拟合，计算出MSE作为损失函数，由此完成了一次前向传播。此后，利用梯度下降方法，将损失函数对神经网络中每个权值求偏导以确定各个参数修正的方向与大小，从而对神经网络中的权值进行修正，从而完成一次后向传播。重复上述过程，直至完成训练。

改进的LSTM非线性均衡器的各项参数，如隐藏层数量，神经元数目，学习率，训练次数等等，都可以根据具体情况具体选择，由于神经网络较强的学习能力，为防止过拟合现象，应用于通信系统的LSTM网络层数一般较少，隐藏层的神经元数目也不宜过多，在保证提升系统性能的前提下，尽可能减小计算复杂度为目标对各参数进行设置。

所述改进的LSTM均衡器进行复杂度分析：

由于计算机离线DSP和算法芯片化实际落地不同，计算机端获得的每秒浮点操作数(FLOPS)参考价值有限。同时神经网络与传统基于Volterra级数均衡器的模型的主体计算结构都是矩阵/张量的乘法，这里使用输出每个符号对应的乘加数(MACC)/符号，一个MACC即对应一次乘法和一次累加，作为算法复杂度参考指标。

首先计算一个全连接层的计算复杂度，如图3所示，神经网络的全连接层所有输入都连接到所有输出。

y＝x·W+b

其x可以存储在1×I的矩阵中，权重W可以存储在I×J的矩阵中，b可以存储在1×J的矩阵中。

Add＝(I-1)×J+J＝I×J

Mul＝I×J

在输入batch＝1的情况下，全连接层的计算量为输入向量长度I×输出长度J。由于激活函数不进行点积，无法直接计算MACC，在大型网络中，激活函数的MACC可以忽略，故此处忽略。

然后再计算附图3所示的LSTM网络的复杂度：

LSTM里面三个门控z^f、zⁱ、z^o以及输入数据z，都是由x^t和h^t-1组成的拼接向量乘权重矩阵得来的，且它们的维度相同(皆设为H)，由于⊙与矩阵加法不改变向量维度，故h^t和c^t的维度也与四种状态相同，所以LSTM部分的计算复杂度为：

C＝(2N+H)×H×4(MACC)

综上，本发明提出的改进LSTM均衡器的复杂度为

C＝4H(2N+H)+HL+2KL(MACC)

采用测试集对本实施例提供的改进LSTM均衡器进行测试：

将测试集输入训练好的LSTM非线性均衡器，对测试数据集进行计算，最终在输出层得到均衡后的PS-M-QAM信号的实虚部，对其与发送端发送标准的PS-M-QAM符号进行判决，进行误码率计算。

以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思做出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (10)

1.一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述方法包括以下步骤：

采样获得光纤传输系统中的概率整形信号；

对概率整形信号进行预处理；

将处理后的概率整形信号输入以MSE作为损失函数训练好的改进LSTM非线性均衡器中进行非线性补偿，恢复出原始发送符号。

2.根据权利要求1所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述光纤传输系统包括直调直检光纤传输系统、相干光传输系统和光生毫米波系统。

3.根据权利要求2所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，在所述直调直检光纤传输系统和相干光传输系统中，所述采样获得光纤传输系统中的概率整形信号为：

采用光电探测器将光纤传输的光信号转换为电信号，经过示波器进行采样得到概率整形信号。

4.根据权利要求2所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，在所述光生毫米波系统中，采样获得光纤传输系统中的概率整形信号为：

在光生毫米波系统中，采用喇叭天线接收高频电信号，经过低噪声放大器与混频器，将高频信号下变频至中频，由示波器进行采样得到概率整形信号。

5.根据权利要求1所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述预处理包括预收敛、频相偏估计和信号同步。

6.根据权利要求5所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述预处理过程包括：

对概率整形信号进行重采样，利用CMA算法对重采样后的信号进行预收敛；

用维特比-维特比算法与BPS算法对预收敛后的数据进行频偏与相偏估计；

对频偏与相偏估计后的信号与发送端信号进行信号同步。

7.根据权利要求1所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述改进LSTM非线性均衡器进行非线性补偿的过程为：

将N个所述概率整形信号的实部和虚部提取组成长度为2N的实数列向量，将实数列向量组成数据集输入改进的LSTM均衡器，通过LSTM网络与全连接层，从输出层输出恢复信号，所述输出层神经元数目为2K，K等于N，2K个所述输出层神经元分别代表N个概率整形信号的实部和虚部。

8.根据权利要求1所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述改进LSTM非线性均衡器的训练过程为：

将采集到的概率整形信号输入改进LSTM非线性均衡器中，得到输出层恢复信号；

采用MSE作为损失函数，计算输出层恢复信号与理想信号的实部和虚部的损失函数；

利用梯度下降方法，以损失函数对神经网络中每个权值求偏导，确定各个权值参数修正的方向与大小，对神经网络中的权值进行修正。

9.根据权利要求1所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述改进LSTM非线性均衡器的输入层神经元个数2N，LSTM层中神经元个数为4H和全连接层的神经元个数L，输出层的神经元数目2K，以LSTM均衡器的复杂度低为目标设置。

10.根据权利要求9所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述LSTM均衡器的复杂度C的计算公式为：

C＝4H(2N+H)+HL+2KL(MACC)

式中，N为输入概率整形信号的数量，H为LSTM层中有各门控单元的神经元的数量，L为全连接层的神经元个数，K为输出层的神经元数目的一半，为MACC为乘加数。

Images