CN111431565A - 一种光通信mimo检测方法及系统 - Google Patents

Abstract

本发明公开了一种光通信MIMO检测方法及系统，所述检测方法包括以下步骤：获取光通信系统发送端的输入信号d(t)，信道矩阵H，接收端的端口输出R_x(t)；构建一个M层的全连接深度神经网络，表示为一个映射函数f(x₀；θ):R^D0→R^DM，经过M次迭代将输入向量x₀∈R^D0变换为输出向量x_M∈R^DM；采用不同CN数据对全连接深度神经网络进行训练，训练过程采用一阶优化算法基于成本函数的梯度计算，动态更新参数θ，最小化J(θ)的期望值，输入的信号d(t)∈B^N经过步骤S3训练得到全连接深度神经网络输出d’(t)∈B^N，完成检测MIMO信号。本发明采用一阶优化算法基于成本函数的梯度计算，实现对深度神经网络的训练，利用深度神经网络强大的非线性学习能力解决了多模光通信的非线性耦合问题。

Description

一种光通信MIMO检测方法及系统

技术领域

本发明涉及光通信技术领域，更具体的，涉及一种光通信MIMO检测方法及系统。

背景技术

传统的时分复用、波分复用和偏振复用等技术成功提高了光通信系统的信道利用率和传输效率。随着通信技术的发展，模分复用(Mode Division Multiplexing，MDM)技术进一步地提高了光通信的信道利用率，渐变型光信道的出现使得单个信道支持的模式数量日益升高，通过多输入多输出(Multiple Input Multiple Output，MIMO)技术能够有效地提升光通信系统的性能。多模传输虽然提高了光通信的效率和速度，但是在光传输过程中每个模式内和多个模式之间会发生非线性耦合的现象。传统的光通信系统采用信道均衡化技术，在发送端发送训练信号，在接收端计算传输产生的误差，然后根据这些误差结果搜索均衡器的最佳参数集。

现有技术1《基于自适应滤波算法的FIR MIMO系统均衡》，其公开了基于自适应滤波算法的自适应均衡方法，该算法将信道均衡模型建模成滤波模型，滤波模型使MIMO系统均衡问题中均衡器的设计问题转化为自适应滤波中最优滤波器的设计问题。该算法具备较好的自适应学习能力，并且对非线性MIMO系统也具备一定的拟合能力。

现有技术2《基于噪声预测的单载波MIMO系统的频域均衡》，其公开了将迫零均衡化(Zero Forcing，ZF)和最小均方误差(Minimum Mean Square Error，MMSE)结合设计了自适应的MIMO均衡化算法，该算法对于不同形式的MIMO均表现出较好的性能，并且也实现了较好的非线性均衡效果。

现有技术3《基于深度学习的MIMO系统联合优化》，其公开了将MIMO通信系统的发射端和接收端视为自编码器(Auto-Encoder)的编码和译码部分，利用交叉熵损失加权函数进行训练学习，从而解决MIMO的联合优化问题。

现有技术3将深度学习技术应用于MIMO系统中，与现有技术1和现有技术2相比，提高了MIMO的学习效果。然而现有技术3的算法较为复杂，实现困难，虽然将深度学习技术成功运用于MIMO检测系统中，但是所支持的模式输入数量和输出数量较少。MIMO系统的规模越大，对应的全连接深度神经网络规模随之扩大，而渐变型光信道现已支持较多的模式，需要建立大规模的神经网络才能较好地解决光通信MIMO检测问题。

发明内容

本发明针对光通信系统中多模式传输所引起的非线性耦合的问题，提出一种光通信MIMO检测方法及系统，其提出了光通信系统MIMO的全连接深度神经网络模型，利用全连接深度神经网络强大的非线性学习能力解决多模光通信的非线性耦合问题。

为实现上述本发明目的，采用的技术方案如下：一种光通信MIMO检测方法，所述检测方法包括以下步骤：

S1：获取光通信系统发送端的输入信号d(t)，信道矩阵H，接收端的端口输出R_x(t)＝[r_x1(t)，r_x2(t)，...，r_xN(t)]^T∈C^N；

S2：构建一个M层的全连接深度神经网络，表示为一个映射函数f(x₀；θ)：R^D0→R^DM，经过M次迭代将输入向量x₀∈R^D0变换为输出向量x_M∈R^DM，其中x₀＝[Re(r_x1(t))，Im(r_x1(t))，Re(r_x2(t))，Im(r_x2(t))，...，Re(r_xN(t))，Im(r_xN(t))]，迭代过程定义为：

x_m＝f_m(x_m-1；θ_m)

式中：x_m＝f_m(x_m-1；θ_m)表示R^Dm-1→R^Dm为第M层的映射函数，θ_m为神经网络的参数，x_m-1为前一层的输出向量；

S3：采用不同CN数据对全连接深度神经网络进行训练，训练过程采用一阶优化算法基于成本函数的梯度计算，动态更新参数θ，最小化J(θ)的期望值，训练的目标函数定义为：

式中，L(u，v)为每个样本的成本函数，x⁽ⁱ⁾为全连接深度神经网络的输入，y⁽ⁱ⁾为x⁽ⁱ⁾的期望输出；f(x⁽ⁱ⁾；θ)为全连接深度神经网络的输出；CN表示给定信道的相关属性，信道矩阵H的CN矩阵表示为20log₁₀(||H||||H^-1||)≥0(dB)，其中||.||表示求范数的运算；

S4：输入的信号d(t)∈B^N经过步骤S3训练得到全连接深度神经网络输出d’(t)∈B^N，完成检测MIMO信号，其数学式为：

d’(t)＝H^-1Hd(t)

式中：H∈C^N×N为信道矩阵，C表示复数集；H^-1表示全连接深度神经网络的输出。

基于以上所述的检测方法，本发明还提供一种光通信MIMO系统，包括发送端、接收端、连接发送端与接收端的多模光纤，

所述的发送端包括

设有N个正交相移键控调制器的副载波复用模块，所述的副载波复用模块用于接收输入信号，

设有马赫-曾德尔调制器和光学载波放大器的TX_i模块，通过正交相移键控调制器调制符号来控制马赫-曾德尔光调制器，实现光信号的强度的调节；

第一光纤耦合器，将马赫-曾德尔调制器的输出光信号进行耦合，通过多模光纤传输给接收端；

所述的接收端包括

第二光纤耦合器，将接收的光信号分为N个光束；

设有带通滤波器和低通滤波器的RX₃模块，所述的带通滤波器过滤来自第二光纤耦合器的直流信号，接着采用低通滤波器进行滤波；

神经网络模块，用于接收低通滤波器的输出信号，实现如上述所述的检测方法。

本发明的有益效果如下：

1.本发明采用一阶优化算法基于成本函数的梯度计算，实现对深度神经网络的训练，利用深度神经网络强大的非线性学习能力解决了多模光通信的非线性耦合问题。

2.本发明采用演化合成技术训练深度神经网络，将光通信系统MIMO的监督信息作为演化合成的先验信息，引导神经网络的演化，缩小神经网络的规模，提高网络的结构效率，避免在检测过程中花费过长的时间，有助于提高光通信的传输效率，提高了神经网络的效率，并且实现了较好的光通信MIMO检测效果。

附图说明

图1是实施例1所述检测方法的步骤流程图。

图2是实施例1所述全连接深度神经网络的结构图。

图3是实施例1所述基于演化合成的深度神经网络优化的示意图。

图4是实施例2所述的光通信MIMO系统的结构图。

图5是实验建立的光通信模型。

图6是完全连接神经网络的超参数实验数据图。

图7是神经网络的收敛曲线。

图8是4个检测算法在不同信道条件下的误码率值。

具体实施方式

下面结合附图和具体实施方式对本发明做详细描述。

实施例1

一种光通信MIMO检测方法，所述检测方法包括以下步骤：

S1：获取光通信系统发送端的输入信号d(t)，信道矩阵H，接收端的端口输出R_x(t)＝[r_x1(t)，r_x2(t)，...，r_xN(t)]^T∈C^N；

S2：构建一个M层的全连接深度神经网络，所述的全连接深度神经网络的结构如图2所示，表示为一个映射函数f(x₀；θ)：R^D0→R^DM，经过M次迭代将输入向量x₀∈R^D0变换为输出向量x_M∈R^DM，其中x₀＝[Re(r_x1(t))，Im(r_x1(t))，Re(r_x2(t))，Im(r_x2(t))，...，Re(r_xN(t))，Im(r_xN(t))]，迭代过程定义为：

x_m＝f_m(x_m-1；θ_m)

式中：x_m＝f_m(x_m-1；θ_m)表示R^Dm-1→R^Dm为第M层的映射函数，θ_m为神经网络的参数，x_m-1为前一层的输出向量；

S3：采用不同CN数据对全连接深度神经网络进行训练，训练过程采用一阶优化算法基于成本函数的梯度计算，动态更新参数θ，最小化J(θ)的期望值，训练的目标函数定义为：

式中，L(u，v)为每个样本的成本函数，x(i)为全连接深度神经网络的输入，y⁽ⁱ⁾为x⁽ⁱ⁾的期望输出；f(x⁽ⁱ⁾；θ)为全连接深度神经网络的输出；CN表示给定信道的相关属性，信道矩阵H的CN矩阵表示为20log₁₀(||H||||H^-1||)≥0(dB)，其中||.||表示求范数的运算；

S4：输入的信号d(t)∈B^N经过步骤S3训练得到全连接深度神经网络输出d’(t)∈B^N，完成检测MIMO信号，其数学式为：

d’(t)＝H^-1Hd(t)

式中：H∈C^N×N为信道矩阵，C表示复数集；H^-1表示全连接深度神经网络的输出。

在一个具体的实施例中，步骤S2，所述第M层的映射函数表示为：

f_m(x_m-1；θ_m)＝σ(W_mx_m-1+b_m)

式中，W_m∈R^Dm-1×Dm，b_m∈R^Dm，σ()为激活函数，第m层的参数集表示为θ_m＝{W_m，b_m}。激活函数对输入向量的每个元素进行处理，记为[σ(u)]_i＝σ(u_i)，第m层的参数集表示为θ_m＝{W_m，b_m}。

在一个具体的实施例中，步骤S3，对全连接深度神经网络的训练，将全连接深度神经网络的训练集表示为(x⁽ⁱ⁾，y⁽ⁱ⁾)，i＝1，...，S，其中y⁽ⁱ⁾为输入x⁽ⁱ⁾的期望输出，S为训练样本的总数量。将训练集经过光通信系统传输，接收不同信道条件下的R_x，设CN表示给定信道的相关属性，通过CN可观察出还原该信道MIMO信号的难度。信道矩阵H的CN矩阵表示为20log₁₀(||H||||H^-1||)≥0(dB)，其中||.||表示求范数的运算。CN越接近0(dB)，说明MIMO信道的质量越高。

信道矩阵H反映了光纤耦合器和多模光纤的特性，光纤的特性包括模式色散、模式相关效应和模式耦合串扰等因素。首先采用不同CN数据对神经网络进行训练，训练的目标函数定义为：

式中，L(u，v)为每个样本的成本函数，x⁽ⁱ⁾为全连接深度神经网络的输入，y⁽ⁱ⁾为x⁽ⁱ⁾的期望输出；f(x⁽ⁱ⁾；θ)为全连接深度神经网络的输出。

采用MSE作为成本函数，将成本函数的梯度计算改写为：

所述的一阶优化算法采用梯度一阶矩和二阶矩的估计来计算每个参数的自适应学习率。

在一个具体的实施例中，步骤S3，采用一阶优化算法Adam基于成本函数的梯度完成训练过程，Adam是一种自适应调节学习率的算法，能够动态地更新参数θ。成本函数J(θ)含有噪声，其目标是最小化J(θ)的期望值。其训练过程具体如下：

S301：首先随机初始化参数θ＝θ₀，一阶矩、二阶矩分别初始化为s＝0和β＝0；一阶矩的指数衰减率ρ₁初始化为缺省值0.9，二阶矩的指数衰减率ρ₂初始化为缺省值0.999，步长设为缺省值ε＝0.001；从训练集采样的mini-batch表示为{x⁽¹⁾，x⁽²⁾，...，x^(ζ)}，对应的期望输出为{y⁽¹⁾，y⁽²⁾，...，y^(ζ)}。

S302：成本函数的梯度计算式为：

式中：t为迭代次数；

S303：更新一阶矩的估计，其数学表达式如下：

s^new＝ρ₁s+(1-ρ₁)g

S304：更新二阶矩的估计，其数学表达式如下：

β^new＝ρ₂β+(1-ρ₂)g⊙g

式中：⊙为矩阵的点积运算；

S305：计算一阶矩的实际偏差，其数学表达式如下：

式中：ρ^t ₁为一阶矩在迭代t的衰减率

S306：计算二阶矩的实际偏差，其数学表达式如下：

式中：ρ^t ₂为二阶矩在迭代t的衰减率；

S307：更新参数θ，

θ^new＝θ+Δθ

S308：重复步骤S302～S307，直到参数θ＜j，达到收敛，其中j为实数；完成全连接深度神经网络的训练。此时获得的全连接深度神经网络可以用来检测MIMO信号。

在一个具体的实施例中，对于大规模的MIMO，全连接神经网络的规模也较大，导致检测的时间较长，影响光通信系统的传输效率。为了减少检测时间，本实施例采用演化合成技术对训练完成的全连接深度神经网络进行简化，如图3所示，具体如下：

A1：采用两个二值随机变量表示网络的神经元和权重，对训练得到的全连接深度神经网络的结构进行编码，变量取值1和0表示该神经元或者权重是否存在于网络中，将全连接神经网络表示为S，

是一个二值变量集，s^l，i表明第l层、第i个神经元是否存在；

A2：通过迭代的方式分析神经网络结构关于时间的最优概率分布，再通过一个演化的形式逐渐合成缩小的深度神经网络；每次迭代基于父代的神经网络随机合成子代网络，随机合成的概率P(S_g)定义为：

P(S_g)＝P(S_g|W_g-1)·F

式中，P(S_g|W_g-1)为合成的概率模型，F表示外部环境因素，W_g-1表示第g-1次迭代的网络训练合成强度集；

每次迭代训练子代网络，以神经网络的准确率为目标，以效率和网络结构的多样性为约束条件。将环境因子F作为演化过程的先验约束条件，用以缩小网络结构的搜索空间，寻找其中最佳的概率分布来建模最优的网络结构，将合成的概率模型P(S_g)作为神经网络的遗传编码。

遗传编码是合成神经网络结构的关键因素，将子代网络的遗传编码表示为P(S_g|W_g-1)，其中W_g-1表示第g-1次迭代的网络训练合成强度集，子代网络继承的特征应当和父代网络的合成强度高度相关。

的合成强度表示为

编码

表示不发生该合成操作，同时

A3：为了支持多层神经网络，将P(S_g|W_g-1)分解为多变量概率分布，最终合成子代深度神经网络，分解方法为：

式中：S_g是第g次迭代的合成子集。

通过并行计算方法(如GPU等)并行计算每个变量的概率分布，从而提高总体的计算效率。遗传编码P(S_g|W_g-1)决定了子代深度神经网络的结构，遗传编码高度依赖父代神经网络的合成强度，即W_g-1。

实施例2

如图4所示，一种光通信MIMO系统，包括发送端、接收端、连接发送端与接收端的多模光纤，

所述的发送端包括

设有N个正交相移键控调制器(Quadrature Phase Shift Keying，QPSK)的副载波复用模块，所述的副载波复用模块用于接收输入信号，所述的正交相移键控调制器的负载波频率设为f_c。

设有马赫-曾德尔调制器(Mach-Zehnder Modulator，MZM)和光学载波放大器的TX_i模块，通过正交相移键控调制器调制符号来控制马赫-曾德尔光调制器，实现光信号的强度的调节；

假设d_in为第i个信道的第n个输入比特。第i个QPSK调制器的输出为：

式中：f_c为负载波频率，q_i＝(d_i2n+jd_i2n+1)表示一个QPSK符号。

通过QPSK调制符号来控制光信号的强度，所有光载波的波长相等。

所述的马赫-曾德尔光调制器的输出为：

r_i(t)＝P_bias+P_iRe[a_i(t)] (2)

式中：P_bias表示偏压所产生的光功率，P_i为光载波放大器，Re[a_i(t)]表示a_i(t)的实部。

第一光纤耦合器，将马赫-曾德尔调制器的输出光信号进行耦合，通过多模光纤传输给接收端；

偏压控制通过调节MZM的工作点来维护电信号和调制光功率之间的线性关系，使用第一光纤耦合器将调制的光功率耦合成渐变型多模光纤的不同模式，所述第一光纤耦合器具备模分复用功能，其输出的所有光信号通过多模光纤传输，在传输过程中不同模式之间会发生耦合的现象。

所述的接收端包括

第二光纤耦合器，将接收的光信号分为N个光束；将所述第二光纤耦合器第i个输出端口的信号表示为：

式中：h_ij(t)表示信道矩阵H位置(i，j)的元素，h_ij(t)是一个复数。h_ij(t)的绝对值为耦合功率，h_ij(t)的相位表示负载波的时间偏差。

因为在传输过程中发生模式耦合的现象，所以上式中包含了TX_i发送的信号和其他信号。第i个光探测器输出的电流为：

该电流产生一个电压信号g_i(t)，信号的计算式为：

设有带通滤波器和低通滤波器的RX₃模块，所述的带通滤波器过滤来自第二光纤耦合器的直流信号，接着采用低通滤波器进行滤波；

由于式(2)中P_bias是一个直流值，因此接收端的带通滤波器将该直流信号过滤，所以(5)式中移除了该项。将该信号和负载波的频率f_c相乘，最终输出的信号k_i(t)变为：

采用低通滤波器处理第i个端口的信号，滤波后的信号变为：

式中：r_xi(t)为N个传输信号的总和。接收端的N个端口的总输出为R_x(t)＝[r_x1(t)，r_x2(t)，...，r_xN(t)]^T∈C^N。

神经网络模块，用于接收低通滤波器的输出信号，所述神经网络模块实现如实施例1所述的检测方法。

将本实施例所述的光通信MIMO为N-模分复用的光通信系统，表示为一个N×N的MIMO系统，所述的光通信MIMO系统的输入表示为d(t)＝[d₁(t)，d₂(t)，d₃(t)，d₄(t)，...，d_N(t)]^T∈B^N，对应的MIMO输出设为d’(t)∈B^N，其数学式为：

d’(t)＝H^-1Hd(t)

式中：H∈C^N×N为信道矩阵，C表示复数集，H¹表示深度神经模型的输出。实验测试

在实验室搭建了仿真实验的MDM光通信系统，图5所示是实验室的光通信系统模型图。神经网络的编程环境为Intel(R)Core(TM)i7-4790 CPU，3.6GHz，内存为16GB。

利用MATLAB软件生成随机数据，通过软件将数据转化为并行数据形式，将数据分为信道1和信道2。使用QPSK将信道调制为125(Mbaud/s)，两个信道的负载波频率为250MHz。使用马赫-曾德尔调制器进行光学调制，采用两个1.55(μm)的前馈激光器(DFB-LD)产生激光信号。发送端将两个光信号耦合，产生不均匀的激光模式，光纤是50(μm)芯径双包层的光纤。

接收端的光纤耦合器将信号分为两束，光探测器以2G个(样本/s)的速度检测光信号，然后经过模数转换器获得数字信号，解调后的信号包含两个信道信号。实验数据采集

采集两个数据集，分别为训练集和测试集。同步采集通信系统发送端数据集和接收端数据集，采集的数据集组织成元组形式(x，y)，x为输入数据，y为x对应的期望输出数据。

全连接深度神经网络训练实验

首先需确定隐藏层数量和神经元数量，通过一组实验观察不同超参数的检测性能。共设立11个信道条件，信道的信噪比分别为：3dB，5dB，7dB，8dB，10dB，12dB，14dB，16dB，18dB，19dB，19.5dB，使用ZF技术来计算信道矩阵。接收端将11个信道条件的数据保存为11个数据集，每个信道收集了2000000个符号，选择每个信道的200000个符号作为训练集。实验设备是2×2的MDM光通信系统，共有4个输入符号和4个输出符号。如果QPSK调制器1输出的符号为(+1-j1)，QPSK调制器2输出的符号为(-1+j1)，那么期望的接收符号为(+1-1+1-1)，该期望值也是DNN的期望输出值。

采用误码率(Bit Error Rate，BER)评估全连接深度神经网络实际输出值和期望输出值的误差，不同超参数对应的实验结果如图6所示。因为多模光纤具有高度非线性的特点，所以单元数量越多，误码率越低，单元数量达到20，误码率达到收敛。隐藏层的数量越高，误码率越低，而7层隐藏层的性能低于6层隐藏层，所以本发明的完全连接神经网络超参数设为6层隐藏层，每个隐藏层为20个神经元。

如图7所示，是6个隐层(20个单元)的收敛曲线，其中mini batch设为50。神经网络的收敛点为epoch数量＝12，将收敛的模型用于MIMO检测实验。

深度神经网络前向传播和后向传播的计算复杂度分别为O(n²m+m³(l-2))和O(I(n³m+m⁴(l-2)))，n为输入向量的长度，m为隐层的单元数量，l是深度神经网络的总层数，I为梯度下降的迭代次数。将收敛网络放入MDM光通信系统进行MIMO的检测实验。

神经网络的演化合成实验

对上文获得的完全连接神经网络进行演化合成处理，合成的化简神经网络结构为“4-7-12-5-18-7-7-4”，如表1所示。然后统计两个神经网络对测试集的平均符号检测速度，完全连接神经网络大约每秒检测24.5个符号，而合成神经网络大约每秒检测134.3个符号，有效地提高了神经网络的检测效率。提高MIMO的检测效率对光通信系统的传输速度也是一个极大的提升。

表1演化合成神经网络的结构

神经网络	网络结构	检测速度
			完全连接神经网络	4-20-20-20-20-20-20-4	24.5(个符号/s)
演化合成神经网络	4-7-12-5-18-7-7-4	134.3(个符号/s)

MIMO检测实验的结果

上文训练的完全连接DNN模型简称为FDNN(Full-connected Deep NeuralNetworks)，演化合成DNN模型简称为RDNN(Reduced Deep Neural Networks)，将两个网络分别集成到MDM光通信系统中进行MIMO检测的实验。此外选择经典的迫零检测器(ZF)和半正定松弛检测器(SDR)作为对比方法，SDR检测器的迭代次数设为10次。4个MIMO检测算法采用相同的输入数据集和期望接收数据集，图8所示是4个检测算法在不同信道条件下的误码率变化情况。在不同的信道条件下，ZF的误码率均最高，SDR的误码率明显低于ZF，本发明的两个神经网络检测模型则明显优于SDR。比较FDNN和RDNN两个检测器的误码率，虽然RDNN的检测性能有所衰减，但是其检测效率明显高于FDNN，而端到端传输时延是通信系统的关键指标。

质量参数Q-factor是另一个评价MIMO检测性能的指标，Q-factor的计算式为：

式中：erfc^-1为逆互补误差函数。

表2所示，为信噪比＝10dB，12dB，14dB，16dB，18dB，19dB信道条件下FDNN和RDNN的Q-factor数值结果。结果显示，当信噪比为19时，FDNN和RDNN的Q-factor分别为9.78(dB)和10.11(dB)，根据光通信系统的相关文献，该指标值也是较为理想的结果。

表2神经网络的Q-factor结果

信道信噪比	FDNN	RDNN
			10	15.11(dB)	15.32(dB)
12	13.62(dB)	14.02(dB)
			14	12.46(dB)	12.63(dB)
16	11.52(dB)	11.80(dB)
			18	10.74(dB)	10.98(dB)
19	9.78(dB)	10.11(dB)

上述的实验结果表明了本实施例所设计FDNN的有效性，FDNN提高了光通信MIMO检测的准确率。在本实施例的实验条件下，训练完全连接神经网络的时间大约为4分钟。另外本实施例设计了演化合成技术提高深度神经网络的结构效率，并通过实验验证了化简神经网络的有效性，化简神经网络牺牲了可忽略的少许检测准确率，但是检测速度得到了极大的提升，在通信系统中，端到端传输时延是一个极为重要的考量指标。

显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (6)

1.一种光通信MIMO检测方法，其特征在于：所述检测方法包括以下步骤：

S1：获取光通信系统发送端的输入信号d(t)，信道矩阵H，接收端的端口输出R_x(t)＝[r_x1(t),r_x2(t),...,r_xN(t)]^T∈C^N；

S2：构建一个M层的全连接深度神经网络，表示为一个映射函数f(x₀；θ):R^D0→R^DM，经过M次迭代将输入向量x₀∈R^D0变换为输出向量x_M∈R^DM，其中x₀＝[Re(r_x1(t)),Im(r_x1(t)),Re(r_x2(t)),Im(r_x2(t)),...,Re(r_xN(t)),Im(r_xN(t))]，迭代过程定义为：

x_m＝f_m(x_m-1；θ_m)

式中：x_m＝f_m(x_m-1；θ_m)表示R^Dm-1→R^Dm为第M层的映射函数，θ_m为神经网络的参数，x_m-1为前一层的输出向量；

S3：采用不同CN数据对全连接深度神经网络进行训练，训练过程采用一阶优化算法基于成本函数的梯度计算，动态更新参数θ，最小化J(θ)的期望值，训练的目标函数定义为：

式中，L(u,v)为每个样本的成本函数，x⁽ⁱ⁾为全连接深度神经网络的输入，y⁽ⁱ⁾为x⁽ⁱ⁾的期望输出；f(x⁽ⁱ⁾；θ)为全连接深度神经网络的输出；CN表示给定信道的相关属性，信道矩阵H的CN矩阵表示为20log₁₀(||H||||H^-1||)≥0(dB)，其中||.||表示求范数的运算；

S4：输入的信号d(t)∈B^N经过步骤S3训练得到全连接深度神经网络输出d’(t)∈B^N，完成检测MIMO信号，其数学式为：

d’(t)＝H^-1Hd(t)

式中：H∈C^N×N为信道矩阵，C表示复数集；H^-1表示全连接深度神经网络的输出。

2.根据权利要求1所述的光通信MIMO检测方法，其特征在于：步骤S2，所述第M层的映射函数表示为：

f_m(x_m-1；θ_m)＝σ(W_mx_m-1+b_m)

式中，W_m∈R^Dm-1×Dm，b_m∈R^Dm，σ()为激活函数，第m层的参数集表示为θ_m＝{W_m,b_m}。

3.根据权利要求2所述的光通信MIMO检测方法，其特征在于：步骤S3，对全连接深度神经网络的训练，所述的一阶优化算法采用梯度一阶矩和二阶矩的估计来计算每个参数的自适应学习率。

4.根据权利要求3所述的光通信MIMO检测方法，其特征在于：步骤S3的训练过程具体如下：

S301：首先随机初始化参数θ＝θ₀，一阶矩、二阶矩分别初始化为s＝0和β＝0；一阶矩的指数衰减率ρ₁初始化为缺省值0.9，二阶矩的指数衰减率ρ₂初始化为缺省值0.999，步长设为缺省值ε＝0.001；

S302：成本函数的梯度计算式为：

式中：t为迭代次数；

S303：更新一阶矩的估计，其数学表达式如下：

s^new＝ρ₁s+(1-ρ₁)g

S304：更新二阶矩的估计，其数学表达式如下：

β^new＝ρ₂β+(1-ρ₂)g⊙g

式中：⊙为矩阵的点积运算；

S305：计算一阶矩的实际偏差，其数学表达式如下：

式中：ρ^t ₁为一阶矩在迭代t的衰减率

S306：计算二阶矩的实际偏差，其数学表达式如下：

式中：ρ^t ₂为二阶矩在迭代t的衰减率；

S307：更新参数θ，

θ^new＝θ+Δθ

S308：重复步骤S302～S307，直到参数θ达到收敛，完成全连接深度神经网络的训练。

5.根据权利要求4所述的光通信MIMO检测方法，其特征在于：对于大规模的MIMO，为了减少检测时间，对训练完成的全连接深度神经网络进行简化，具体如下：

A1：采用两个二值随机变量表示网络的神经元和权重，对训练得到的全连接深度神经网络的结构进行编码，变量取值1和0表示该神经元或者权重是否存在于网络中，将全连接神经网络表示为S，

是一个二值变量集，s^l,i表明第l层、第i个神经元是否存在；

A2：通过迭代的方式分析神经网络结构关于时间的最优概率分布，再通过一个演化的形式逐渐合成缩小的深度神经网络；每次迭代基于父代的神经网络随机合成子代网络，随机合成的概率P(S_g)定义为：

P(S_g)＝P(S_g|W_g-1)·F

式中，P(S_g|W_g-1)为合成的概率模型，F表示外部环境因素，W_g-1表示第g-1次迭代的网络训练合成强度集；

A3：为了支持多层神经网络，将P(S_g|W_g-1)分解为多变量概率分布，最终合成子代深度神经网络，分解方法为：

式中：S_g是第g次迭代的合成子集。

6.一种光通信MIMO系统，包括发送端、接收端、连接发送端与接收端的多模光纤，其特征在于：

所述的发送端包括

设有N个正交相移键控调制器的副载波复用模块，所述的副载波复用模块用于接收输入信号，

设有马赫-曾德尔调制器和光学载波放大器的TX_i模块，通过正交相移键控调制器调制符号来控制马赫-曾德尔光调制器，实现光信号的强度的调节；

第一光纤耦合器，将马赫-曾德尔调制器的输出光信号进行耦合，通过多模光纤传输给接收端；

所述的接收端包括

第二光纤耦合器，将接收的光信号分为N个光束；

设有带通滤波器和低通滤波器的RX₃模块，所述的带通滤波器过滤来自第二光纤耦合器的直流信号，接着采用低通滤波器进行滤波；

神经网络模块，用于接收低通滤波器的输出信号，实现如权利要求1～5任一项所述的检测方法。

Images