CN103023839B - 基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法 - Google Patents

Abstract

本发明涉及一种基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法，本方法首先给出反馈电源偏置DTCS复RNN神经网络结构；然后为实现多值QAM盲均衡的DTCS反馈电压偏置复RNN型神经网络的动态方程配置；进而配置好反馈网络的权矩阵；最后获取到偏置因子ρ。通过引入反馈电压偏置即不脱离传统RNN神经网络模型又使得网络的物理实现更为简单，且能有效满足多值信号检测时所需的搜索空间变大的特殊要求。

Description

基于输出反馈偏置型复连续反馈神经网络结构的无线光通信 系统盲均衡方法

技术领域

本发明涉及无线光通信的信号处理技术领域，特别是无线激光通信发射与接收机之间的信道具有衰落特性情况下，采用基于输出反馈偏置型复连续反馈神经网络实现无线光通信系统电域盲均衡的方法。

背景技术

脉冲幅度调制(PAM，Pulse Amplitude Modulation)，特别是开关键控已经是光通信系统主要的调制方案，差分正交相移键控(DQPSK，Differential Quadrature PhaseShift)调制格式在光传输技术中获得良好的应用。近年来，备受关注的八进制差分正交相移键控(8DPSK)则是在DQPSK基础上的多进制调制，它在一个码元周期内可传输3比特信息，具有较DQPSK更低的码元速率和更高的频谱利用率，可以预计光通信系统中的调制格式密集化，如正交幅度调制(QAM，Quadrature Amplitude Modulation)将是未来的一个研究重点。

考虑到基于人工神经网络的QPSK盲均衡/检测方法并不少见。但是，目前基于人工神经网络(ANN，Artificial Neural Network)的信号盲处理方法，多是基于传统代价函数的方法，即首先选择一种ANN结构，利用或结合传统盲处理代价函数，然后根据代价函数确定权值的递推方程。其本质而言，依旧是传统均衡方法的代价函数在发挥效用。此类方法或无法减少算法对数据量的过多依赖，或运算负担相当沉重。反馈型神经网络(RNN，Recurrent Neural Network)，以其结构简单，动力学特性丰富，便于硬件电路实现等优点已有很多成功的应用，现在其应用领域还在不断地得到发展和拓宽。但是在通信特别是光通信信号盲处理领域的应用研究目前还刚刚起步。

发明内容

本发明的目的在于为了克服现有基于人工神经网络的信号盲处理方法或无法减少算法对数据量的过多依赖，或运算负担相当沉重的缺陷而公开了一种基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法。

为了实现上述目的，本发明公开了一种基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法，其特征包括如下步骤：

第一步：建立反馈电源偏置DTCS(Discrete Time Continuous State，离散时间连续状态)复RNN(Recurrent Neural Network，反馈型神经网络)神经网络结构

所述反馈电源偏置DTCS复RNN神经网络结构在t时刻第j个神经元输入输出的RNN神经网络，假设该网络具有N个突触输入，该结构中第j个突触输入s_j(t)与其权值w_ij进行乘法运算，和其它N-1个突触输入s_i(t)，i＝1，2，…，N，i≠j与它们各自的权值w_ji，i＝1，2，…，N，i≠j进行乘法运算后的值联合进行电流和作用后获得连接权值输出然后网络神经输出s_j(t+τ)经过时间τ延迟后作为反馈偏置电源与偏置因子ρ相乘之后再与上述连接权值输出相加获得激活函数输入该输入经过激活函数f(·)非线性映射后获得神经输出s_j(t+τ)；

忽略中间神经元传播时延τ，由基尔霍夫电流定理可写出第j个神经元的动态方程

$\left\{\begin{array}{c}{C}_j\frac{{\mathrm{du}}_j\left(t\right)}{dt}=-\frac{1}{R_j}{u}_j\left(t\right)+\underset{i=1}{\overset{N}{\Σ}}{w}_{ji}{s}_i\left(t\right)+{\mathrm{\ρ\θ}}_j\left(t\right)\\ s_i\left(t\right)=f\left(u_i\right(t\left)\right),i=1,\mathrm{...},N\end{array}\right.---\left(1\right)$

其中：R_j为漏泄阻抗，C_j为漏泄电容，w_ji为电导，u_j(t)表示第j个神经元激活函数输入电压，u_i(t)表示第i个神经元激活函数的输入电压，i＝1，…，N；s_i(t)表示电势，i＝1，…，N，θ_j(t)表示偏置，新模型中θ_j(t)＝s_j(t)，ρ为反馈电导，N表示网络神经元总数；

第二步为实现多值QAM系统盲均衡的DTCS反馈电压偏置复RNN型神经网络的动态方程配置

假设网络具有N个互连接节点，忽略中间神经元传播时间延迟，并作如下定义神经元输出向量激活函数算子矩阵上标T表示向量转置运算，连接权矩阵

且有W^H＝W，T_RC为主对角元素由τ_j＝C_j，j＝1，2，…，N组成的对角实矩阵，C表示复数域，得到如下反馈神经网络模型

$\left\{\begin{array}{c}{T}_{RC}\frac{du}{dt}=-u+Ws+\mathrm{\θ}\\ s=f\left(u\right)\end{array}\right.---\left(3\right)$

其中，u和s均为时间的函数；假设激活函数f(z)逆函数存在，记为f^-1(z)，则u＝f^-1(s)；

在网络平衡点处必有所以有u＝Ws+θ，将时间进行离散化，并用k代表第k时刻，上式可以用松弛法继续求解，松弛方程为f^-1(s(k+1))＝Ws(k)，则有

s(k+1)＝f(Ws(k)+θ) (4)

所述 W＝UU^H (5)

其中：U是X_N奇异值分解中的酉阵，ρ∈[0.08，0.28]。

本方法充分利用了神经网络神经元联合作用，通过多神经元集群非线性动力学作用，利用接收信号奇异值分解而得的酉基矩阵构造RNN网络的权值矩阵，从而仅依赖小数据量达到快速收敛；同时该方法通过多阈值非线性激活函数的作用，一方面起到了输出信号判决的作用，另一方面，非线性激活函数等效在系统中引入了动态噪声(Dynamic NoiseInject)，该动态噪声的引入使得系统在陷入局部极小点时可快速恢复到正常系统秩序，而且可使得系统从自身的错误中恢复回正常系统，这样使得方法的健壮性也得到了一定程度的加强。

下面结合附图进一步详细说明。

附图说明

图1本发明反馈电源偏置型RNN神经网络单个神经元输入输出示意图。

图2是本发明三神经元反馈神经网络(RNN)，在一种W情况下的相轨迹。

图3是本发明三神经元反馈神经网络(RNN)，在另一种W情况下的相轨迹。

图4是本发明N＝640，不同ρ值时的BER曲线。

具体实施方式

基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法，包括如下步骤：

第一步反馈电源偏置DTCS复RNN神经网络结构

不失一般性，考虑实RNN神经网络，在t时刻第j个神经元输入输出如图1所示的RNN神经网络，这里将其命名为反馈偏置型RNN神经网络(时间未离散化)。假设该网络具有N个突触输入，该结构中第j个突触输入s_j(t)与其权值w_jj进行乘法运算，和其它N-1个突触输入s_i(t)，i＝1，2，…，N，i≠j与它们各自的权值w_ji，i＝1，2，…，N，i≠j进行乘法运算后的值联合进行电流和(Current-summing)作用后获得连接权值输出然后网络神经输出经过s_j(t+τ)经过时间τ延迟后作为反馈偏置电源与偏置因子ρ相乘之后再与上述连接权值输出相加获得激活函数输入该激活函数输入经过激活函数f(·)非线性映射后获得神经输出s_j(t+τ)。

忽略中间神经元(Interneuron)传播时延τ，由基尔霍夫(Kirchoff)电流定理可写出第j个神经元的动态方程

$\left\{\begin{array}{c}{C}_j\frac{{\mathrm{du}}_j\left(t\right)}{dt}=-\frac{1}{R_j}{u}_j\left(t\right)+\underset{i=1}{\overset{N}{\Σ}}{w}_{ji}{s}_i\left(t\right)+{\mathrm{\ρ\θ}}_j\left(t\right)\\ s_i\left(t\right)=f\left(u_i\right(t\left)\right),i=1,\mathrm{...},N\end{array}\right.---\left(1\right)$

其中：R_j为漏泄阻抗，C_j为漏泄电容，w_ji为电导(Conductance)，u_j(t)表示第j个神经元激活函数输入电压，u_i(t)表示第i(i＝1，…，N)个神经元激活函数的输入电压，s_i(t)，i＝1，…，N表示电势(Potential)，θ_j(t)表示偏置，新模型中θ_j(t)＝s_j(t)，ρ为反馈电导，N表示网络神经元总数。图中电流和连接(Current-summing junction)起到对输入电流求和的作用。

该模型与传统反馈神经网络(如连续RNN网络)不同之处在于：传统反馈网络中，当θ_j不同时，一种方法是直接附加N个电源和相关电路实现电源偏置，另一种方法是仅需要同一电源，但需要通过不同的分流电路按需要将电流分流后得到偏置值，而如果电流偏置要求并无规律性，则分流电路很实现需要多样化，这两种方法在物理电子电路实现上繁琐而且会因为所需电流偏置不同而需动态实现，电子电路的固有特性使得电路设计完毕后电路参数等都无法再次更改。而新模型中，无需另外附加电源电路，仅需一个固定值的电导(可直接将网络神经元输出直接经过固定的阻抗R₁，R₂并联构成分流电路)将网络输出进行反馈后作为偏置即可实现，显然在物理实现上具有明显优势，而且只要ρ的取值适当，就可以使得该模型适用于多值盲均衡问题

第二步为实现多值QAM盲均衡的DTCS反馈电压偏置复RNN型神经网络的动态方程配置

假设网络具有N个互连接节点，忽略中间神经元传播时间延迟，并作如下定义神经元输出向量激活函数算子矩阵上标T表示向量转置运算，连接权矩阵

且有W^H＝W，上标T表示向量转置运算，T_RC为主对角元素由τ_j＝C_j，j＝1，2，…，N组成的对角实矩阵，C表示复数域，得到如下反馈神经网络模型

$\left\{\begin{array}{c}{T}_{RC}\frac{du}{dt}=-u+Ws+\mathrm{\θ}\\ s=f\left(u\right)\end{array}\right.---\left(3\right)$

其中，u和s均为时间的函数；假设激活函数f(z)逆函数存在，记为f^-1(z)，则u＝f^-1(s)。

在网络平衡点处必有所以有u＝Ws+θ，将时间进行离散化，并用k代表第k时刻，上式可以用松弛法继续求解，松弛方程为f^-1(s(k+1))＝Ws(k)，则有

s(k+1)＝f(Ws(k)+θ) (4)

第三步权矩阵配置

虽然对于同一问题，权矩阵的配置并非唯一，但是权矩阵配置成功与否将直接影响到算法的性能优劣。为实现本发明网络结构下的系统盲均衡问题，网络的连接权矩阵可作如下配置

W＝UU^H (5)

其中：U是X_N奇异值分解中的酉阵，上标H表示向量共轭转置运算，V为X_N奇异值分解后的右乘酉矩阵，D是主对角元素由特征值由大及小排列的对角矩阵，U是与D对应的分块矩阵，U_c为与0阵对应的分块矩阵，它们均由奇异值分解运算自动获得。因为W＝UU^H，所以有W＝W^H＝W²，即W为幂等矩阵(Idempotent Matrix)，所以有权矩阵W阵的特征值非零即1；那么可以知道如式(5)配置的网络权矩阵必为非负定矩阵，且它的特征值非零即1。该特性可保证该方法配置的权值矩阵不会使得网络随着反馈的运行而出现发散状态。

第四步ρ值的获取方法

对于同种结构的网络，当连接权值发生变化时(即网络本身发生了变化)，网络能量函数极小点的个数和值的大小也会随之改变，将直接导致能量函数的波动而无法递减。而由大数定理可知，随机初始信号经激活函数首次映射后，所有状态数据会向坐标原点收缩。具有反馈电压偏置的反馈神经网络，若保证ρ的取值适当，反馈电源偏置θ＝ρ·s(k)将使得搜索空间得以适度扩张，使得激活函数可进一步实现理想映射。而ρ的取值将直接影响的算法的性能，因为它们的取值直接影响的网络平衡点的邻域范围。

鉴于通信系统中的QAM信号最小欧几里德距离为2，并考虑ρ的值若过大，则邻域为半径的多维超球体中可能出现多个平衡点；邻域小，接近真实平衡点的可能性就高，比较真实地反映搜索面凹凸情况。选择该邻域的范围时可根据上所针对的问题不同而先验获得它的取值范围，对于多值系统盲均衡问题，仿真模拟实验获得经验公式ρ∈[0.08，0.28]是较为合理的。

图3展示了不同电导ρ时，N＝640情况下获得的平均BER曲线。可以发现要使得新算法具有良好的盲检测性能，就需要严格控制ρ的取值范围，这是因为反馈电压偏置的大小和平衡点邻域的范围均由它们来控制。

本发明适用于无线光通信基带系统盲均衡问题，接收端采用多探测单元得到多路信号，利用无线激光通信系统信号的高频化特性，采用状态连续的神经元是接近物理现实的，而数字化实现使得连续模型需要将时间离散化，发明了一种适用于的解决多值QAM信号的盲检测问题的离散时间连续状态(Continuous Time Discrete State，DTCS)反馈电压偏置型复RNN神经网络结构。反馈电压偏置的引入即不脱离传统RNN模型又使得网络的物理实现更为简单，且能有效满足多值信号检测时所需的搜索空间变大的特殊要求。

Claims (1)

1.一种基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法，其特征包括如下步骤：

第一步：建立反馈电源偏置DTCS复RNN神经网络结构

所述反馈电源偏置DTCS复RNN神经网络结构在t时刻第j个神经元输入输出的RNN神经网络，假设该网络具有N个突触输入，该结构中第j个突触输入s_j(t)与其权值w_jj进行乘法运算，和其它N-1个突触输入s_i(t)，i＝1，2，…，N，i≠j与它们各自的权值w_ji，i＝1，2，…，N，i≠j进行乘法运算后的值联合进行电流和作用后获得连接权值输出然后网络神经输出s_j(t+τ)经过时间τ延迟后作为反馈偏置电源与偏置因子ρ相乘之后再与上述连接权值输出相加获得激活函数输入该输入经过激活函数f(·)非线性映射后获得神经输出s_j(t+τ)；

忽略中间神经元传播时延τ，由基尔霍夫电流定理可写出第j个神经元的动态方程

$\left\{\begin{array}{c}{C}_j\frac{{\mathrm{du}}_j\left(t\right)}{dt}=-\frac{1}{R_j}{u}_j\left(t\right)+\underset{i=1}{\overset{N}{\Σ}}{w}_{ji}{s}_i\left(t\right)+{\mathrm{\ρ\θ}}_j\left(t\right)\\ s_i\left(t\right)=f\left(u_i\right(t\left)\right),i=1,\mathrm{...},N\end{array}\right.---\left(1\right)$

其中：R_j为漏泄阻抗，C_j为漏泄电容，w_ji为电导，u_j(t)表示第j个神经元激活函数输入电压，u_i(t)表示第i个神经元激活函数的输入电压，i＝1，...，N；s_i(t)表示电势，i＝1，…，N，θ_j(t)表示偏置，新模型中θ_j(t)＝s_j(t)，ρ为反馈电导，N表示网络神经元总数；

第二步为实现多值QAM系统盲均衡的DTCS反馈电压偏置复RNN型神经网络的动态方程配置

假设网络具有N个互连接节点，忽略中间神经元传播时间延迟，并作如下定义神经元输出向量激活函数算子矩阵连接权矩阵

且有W^H＝W，T_RC为主对角元素由τ_j＝C_j，j＝1，2，…，N组成的对角实矩阵，得到如下反馈神经网络模型

$\left\{\begin{array}{c}{T}_{RC}\frac{du}{dt}=-u+Ws+\mathrm{\θ}\\ s=f\left(u\right)\end{array}\right.---\left(3\right)$

其中，u和s均为时间的函数；假设激活函数f(z)逆函数存在，记为f^-1(z)，则u＝f^-1(s)；

在网络平衡点处必有所以有u＝Ws+θ，将时间进行离散化，并用k代表第k时刻，上式可以用松弛法继续求解，松弛方程为f^-1(s(k+1))＝Ws(k)，则有

s(k+1)＝f(Ws(k)+θ) (4)

所述W＝UU^H (5)

其中：U是X_N奇异值分解中的酉阵，ρ∈[0.08，0.28]。