CN105224985A - 一种基于深度重构模型的功率放大器行为建模方法 - Google Patents

Abstract

本发明公开了一种基于深度重构模型的功率放大器行为建模方法，本深度重构模型结合了深度学习理论和Elman神经网络的优点，通过使用受限波尔兹曼机来初始化神经网络的权系数，在建模过程中只需较少的迭代次数，获得更快的收敛速度；利用Elman神经网络的输出除了与即时输入有关，也与历史输入有关的特点，用于描述非线性系统的记忆效应，完成功率放大器行为模型的精确重构。

Description

一种基于深度重构模型的功率放大器行为建模方法

技术领域

本发明涉及非线性系统建模与分析应用领域，尤其涉及一种基于神经网络的功率放大器行为模型建模与分析方法。

背景技术

功率放大器(PowerAmplifier,PA)是发射机的关键部分，也是辐射源特征的主要来源之一。功放是一个复杂的非线性系统，对其进行系统建模方法的研究对于功放非线性特性的测量、行为模型的参数提取、以及采用预失真技术消除功放的非线性失真等方面具有重要的实际意义和应用价值。

功放的建模方法可分为物理建模和行为建模两种：物理建模通常要求知道功放的电路结构、相关的元器件特性、基本电路定律以及相关理论规则等；而行为建模则仅需利用功放的输入输出数据，采用黑盒的方式描述系统响应特性，分析更为简便。按照模型所反映的物理本质，将行为模型分为：无记忆模型、有记忆模型等。

实际中的功放属于典型的非线性记忆系统。有记忆模型一般采用Volterra级数模型和神经网络模型等。传统的Volterra级数模型一般适用于弱非线性系统的行为建模，系统参数的数量会随着系统阶次和记忆深度的增加而急剧增多，常用的有记忆的多项式模型可以看成是Volterra级数模型的简化形式。神经网络模型可以逼近任意的非线性函数，并且具有灵活有效的自组织学习能力，因而被广泛用于功放系统的行为建模。目前已经提出了很多种具有记忆效应的神经网络模型，如径向基神经网络、动态模糊神经网络、基于切比雪夫正交基的神经网络等。但是神经网络算法存在收敛速度较慢，易陷入局部极小值等缺点。

发明内容

本发明的目的在于提供一种基于深度重构模型(DeepReconstructionModel，DRM)的功率放大器行为建模方法,克服现有方法迭代次数较多、计算复杂、建模精度较低造成对功率放大器产生的非线性失真认识不完整，从而影响功率放大器性能提高的问题。本方法对功率放大器采用基于深度重构模型的神经网络方法进行行为建模，使用受限波尔兹曼机来初始化神经网络的权系数，降低模型的迭代次数，提高收敛速度；利用Elman神经网络的输出除了与即时输入有关，也与历史输入有关的特点，用于描述功率放大器的记忆效应，以实现对有记忆非线性系统的系统建模与分析。

本发明采用的技术方案为：一种基于深度重构模型的功率放大器行为建模方法，包括以下步骤：

步骤A：准备系统行为建模的输入数据向量x＝[x(1),x(2),…,x(N)]和输出数据向量其中N为数据长度。

步骤B：将输入和输出数据归一化。

$\stackrel{\‾}{x}\left(i\right)=\frac{x\left(i\right)}{\max \left(x\right)},{\stackrel{\‾}{y}}_{d,i}=\frac{y_{d,i}}{max\left(y_d\right)},i=1,2,\mathrm{...},N$

步骤C：初始化受限玻尔兹曼机(RestrictedBoltzmannMachine，RBM)网络，RBM网络的模型结构有两层：可见层和隐含层。其过程如下：

步骤C-1：设置RBM网络可见层有N个单元，构成可见层单元向量v＝[v₁,v₂,…v_N]，接收外部的输入变量并将输入变量传递到隐含层单元；隐含层有L个单元，构成隐含层单元向量h＝[h₁,h₂,…h_L]。从可见层到隐含层有N×L维权系数矩阵可见层单元有1×N维偏置向量a＝[a₁,a₂,…a_N]，隐含层单元有1×L偏置向量b＝[b₁,b₂,…b_L]；构成RBM网络的系数矩阵θ＝{R,a,b}；

步骤C-2：设置RBM网络的系数矩阵θ＝0；

步骤C-3：设置RBM网络的训练最大迭代次数T；

步骤C-4：设置RBM网络重构误差的误差阈值为μ；

步骤C-5：设置RBM网络的学习速率为φ；

步骤C-6：设置重构误差初始值E_reconst(0)＝0。

步骤D：使用输入数据训练二进制RBM网络，它的随机变量(v,h)只从{0,1}取值，v_i和h_j是可见层单元i和隐含层单元j的二进制状态，R_ij是可见层单元i和隐含层单元j的权系数。每一次迭代训练由两个RBM网络组成，其中，底层RBM的隐含层连接顶层RBM的可见层。其过程如下：

步骤D-1：初始化可见层输入数据

步骤D-2：对于所有隐含层的节点j：计算也就是进行层与层之间的映射运算其中，是sigmoid激励函数；依据进行吉布斯采样(GibbsSampling)得到

步骤D-3：对于所有可见层的节点i：计算即进行层与层之间的映射运算依据进行吉布斯采样得到

步骤D-4：对于所有隐含层的节点j：计算即进行层与层之间的映射运算依据进行吉布斯采样得到

步骤D-5：RBM网络的学习算法是基于梯度上升的对数似然函数(gradientascentonthelog-likelihood)。计算梯度参数ΔR_ij(t)，Δa_i(t)，Δb_j(t)，其中t为RBM网络训练迭代次数：

${\mathrm{\ΔR}}_{ij}\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂R_{ij}}=E_{data}\[{\mathrm{vh}}^T\]-E_{\mathrm{mod}e1}\[{\mathrm{vh}}^T\]$

${\mathrm{\Δa}}_i\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂a_i}=E_{data}\[h\]-E_{\mathrm{mod}e1}\[h\]$

${\mathrm{\Δb}}_j\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂b_j}=E_{data}\[v\]-E_{\mathrm{mod}e1}\[v\]$

其中，E_data[·]为基于数据的期望，E_model[·]为模型期望。

步骤D-6：计算更新的R_ij(t+1)、a_i(t+1)、b_j(t+1)。

R_ij(t+1)＝R_ij(t)+φΔR_ij(t)

a_i(t+1)＝a_i(t)+φ·Δa_i(t)

b_j(t+1)＝b_j(t)+φ·Δb_j(t)

步骤D-7：用v⁰和v¹计算RBM网络的重构误差E_reconst，

E_reconst(t+1)＝E_reconst(t)+||v⁰-v¹||

其中，||·||为2-范数。

步骤D-8：迭代次数加1，即t＝t+1。当迭代次数t＝T或者重构误差E_reconst(t)≤μ时，结束训练，跳到步骤D-9；否则，返回步骤D-1，继续训练。

步骤D-9：获得目标更新的权系数为R。

步骤E：初始化Elman神经网络(Elmanneuralnetwork，ENN)，ENN的模型结构有四层：输入层、隐含层、承接层和输出层。其过程如下：

步骤E-1：设置ENN输入层有N个神经元，接受外部的输入变量u＝[u₁,u₂,…u_N]并将输入变量传递到隐含层；隐含层有L个神经元，每个神经元都具有传递函数f＝H_i(p)(i＝1,2,…,L)，隐含层向量H(p)＝[H₁(p),H₂(p),…H_L(p)]；承接层是隐含层对于神经元的延时，同时拥有一个反馈系数为α的自反馈，所以该层的神经元个数与隐含层相同，承接层向量输出层有M个神经元，该层神经元的输出y_m，m＝1,2,…,M，是隐含层神经元输出的线性组合；

步骤E-2：设置最大迭代次数为N_max；

步骤E-3：设置误差函数的误差阈值为ε；

步骤E-4：在ENN模型中，有三种权系数矩阵：从隐含层到输出层的L×M维的权系数矩阵W¹；从输入层到隐含层的N×L维的权系数矩阵W²；从承接层到隐含层的L×L维的权系数矩阵W³。设置网络的初始权值，其中输入层到隐含层的初始权值W²(0)使用RBM网络的训练结果，即

W¹(0)＝0，W²(0)＝R，W³(0)＝0

步骤E-5：设置网络的学习速率η₁，η₂，η₃；

步骤E-6：设置承接层的初始值X_c(0)＝0；

步骤E-7：设置承接层的自反馈系数α。

步骤F：利用Elman神经网络对行为模型进行建模，其过程如下：

步骤F-1：根据Elman网络结构，由动态方程计算ENN各层的输出：

y(p)＝W¹(p)H(p)

H(p)＝f[W²(p)u+W³(p)X_c(p)]

X_c(p)＝αH(p-1)

其中p为迭代次数，f是sigmoid激励函数。

步骤F-2：计算目标误差函数，其定义为：

$E\left(p\right)=\frac{1}{2}\[{({\stackrel{\‾}{y}}_d-y(p\left)\right)}^T({\stackrel{\‾}{y}}_d-y(p\left)\right)\]$

其中y(p)为第p次迭代的Elman网络模型的输出，为系统的实际归一化输出。如果误差函数E(p)＞ε，进行步骤F-3；如果误差函数E(p)＜ε，则进行步骤G。

步骤F-3：用最速下降(GradientDescent,GD)算法训练网络，得到模型的权值矩阵的变化量：

${\mathrm{\ΔW}}_{lm}^1\left(p\right)=-{\mathrm{\η}}_1\frac{\∂E\left(p\right)}{\∂W_{lm}^1\left(p\right)}={\mathrm{\η}}_1{\mathrm{\δ}}_m^o\left(p\right)H_l\left(p\right)$

${\mathrm{\ΔW}}_{nl}^2\left(p\right)=-{\mathrm{\η}}_2\frac{\∂E\left(p\right)}{\∂W_{nl}^2\left(p\right)}={\mathrm{\η}}_2{\mathrm{\δ}}_l^h\left(p\right)\frac{\∂H_l\left(p\right)}{\∂W_{nl}^2\left(p\right)}$

${\mathrm{\ΔW}}_{kl}^3\left(p\right)=-{\mathrm{\η}}_3\frac{\∂E\left(p\right)}{\∂W_{kl}^3\left(p\right)}={\mathrm{\η}}_3{\mathrm{\δ}}_l^h\left(p\right)\frac{\∂H_l\left(p\right)}{\∂W_{kl}^3\left(p\right)}$

其中

${\mathrm{\δ}}_m^o\left(p\right)={\stackrel{\‾}{y}}_{d,m}-y_m\left(p\right)$

${\mathrm{\δ}}_l^h\left(p\right)=\underset{m=1}{\overset{M}{\Σ}}{\mathrm{\δ}}_m^o\left(p\right)W_{lm}^1\left(p\right)$

$\frac{\∂H_l\left(p\right)}{\∂W_{nl}^2\left(p\right)}=f_l^{\′}(\·)\[u_n+{\mathrm{\αW}}_{ll}^3\left(p\right)\frac{\∂H_l(p-1)}{\∂W_{nl}^2(p-1)}\]$

$\frac{\∂H_l\left(p\right)}{\∂W_{kl}^3\left(p\right)}=f_l^{\′}(\·)\[{\mathrm{\αH}}_k(p-1)+{\mathrm{\αW}}_{ll}^3\left(p\right)\frac{\∂H_l(p-1)}{\∂W_{kl}^3(p-1)}\]$

这里j表示输入层的第j个神经元，i表示隐含层的第i个神经元，k表示承接层的第k个神经元，m代表输出层的第m个神经元，f_l′(·)是激励函数f的导数。

步骤F-4：迭代次数加1，即p＝p+1。当迭代次数小于最大迭代次数N_max时，继续步骤F-5；当迭代次数大于最大迭代次数N_max时，停止迭代，执行步骤G。

步骤F-5：根据ΔW¹(p),ΔW²(p),ΔW³(p)，更新权值系数，其中

W¹(p+1)＝W¹(p)+ΔW¹(p)

W²(p+1)＝W²(p)+ΔW²(p)

W³(p+1)＝W³(p)+ΔW³(p)

步骤F-6：返回步骤F-1。

步骤G：通过步骤F得到的权系数，计算ENN模型最终的输出y。

本发明通过使用受限波尔兹曼机(RestrictedBoltzmannMachine，RBM)来初始化神经网络的权系数，在建模过程中只需较少的迭代次数，获得更快的收敛速度；利用Elman神经网络的输出除了与即时输入有关，也与历史输入有关的特点，用于描述功率放大器的记忆效应，以实现对有记忆非线性系统的系统建模与分析。

本发明的有益效果：1.RBM加快收敛速度，减少运算量，避免陷入局部极小值；2.在相同的迭代次数下，DRM比ENN具有更高的精度。

附图说明

图1为半桥D类功率放大器电路图；

图2为DRM模型结构图；

图3为RBM网络；

图4为两层RBM训练网络；

图5为DRM和ENN的误差曲线图；

图6为ENN模型与DRM模型时域仿真结果比较；

图7为ENN模型与DRM模型频域仿真结果比较。

具体实施方式

以下以D类半桥功率放大器为例，结合附图，详细说明本发明的实施方式。

D类功放的MOS管工作在开关状态，是一种典型的非线性系统。如图1所示为D类半桥功率放大器电路，其中，三角波信号的幅度为10V，频率为40kHz；输入双音信号x，频率分别为436Hz和3kHz，幅度都为4V。经过D类放大器输出脉冲宽度调制信号(PWM)，再经过低通滤波器，输出信号为y_d，并带有失真。

如图2所示为DRM模型结构图，它包含两部分：受限玻尔兹曼机和Elman神经网络。

本发明是一种基于深度重构模型(DeepReconstructionModel，DRM)的功率放大器的行为建模方法，包括如下步骤：

步骤A：准备系统行为建模的输入数据向量x＝[x(1),x(2),…,x(N)]和输出数据向量其中N＝2000为数据长度。其中前1000个用于训练，后1000个用于行为建模。

步骤B：将输入和输出数据归一化。

$\stackrel{\‾}{x}\left(i\right)=\frac{x\left(i\right)}{\max \left(x\right)},{\stackrel{\‾}{y}}_{d,i}=\frac{y_{d,i}}{max\left(y_d\right)},i=1,2,\mathrm{...},N$

步骤C：初始化受限玻尔兹曼机(RestrictedBoltzmannMachine，RBM)网络，如图3所示，RBM网络的模型结构有两层：可见层和隐含层。其过程如下：

步骤C-1：设置RBM网络可见层有N＝1000个单元，构成可见层单元向量v＝[v₁,v₂,…v_N]，接收外部的输入变量并将输入变量传递到隐含层单元；隐含层有L＝15个单元，构成隐含层单元向量h＝[h₁,h₂,…h_L]。从可见层到隐含层有N×L维权系数矩阵可见层单元有1×N维偏置向量a＝[a₁,a₂,…a_N]，隐含层单元有1×L偏置向量b＝[b₁,b₂,…b_L]；构成RBM网络的系数矩阵θ＝{R,a,b}；

步骤C-2：设置RBM网络的系数矩阵θ＝0；

步骤C-3：设置RBM网络的训练最大迭代次数T＝10；

步骤C-4：设置RBM网络重构误差的误差阈值为μ＝15.9；

步骤C-5：设置RBM网络的学习速率为φ＝0.01；

步骤C-6：设置重构误差初始值E_reconst(0)＝0。

步骤D：使用输入数据训练二进制RBM网络，它的随机变量(v,h)只从{0,1}取值，v_i和h_j是可见层单元i和隐含层单元j的二进制状态，R_ij是可见层单元i和隐含层单元j的权系数。每一次迭代训练由如图4所示的两层RBM网络完成，其中，底层RBM的隐含层连接顶层RBM的可见层。其过程如下：

步骤D-1：初始化可见层输入数据

步骤D-2：对于所有隐含层的节点j：计算也就是进行层与层之间的映射运算其中，是sigmoid激励函数；依据进行吉布斯采样(GibbsSampling)得到

步骤D-3：对于所有可见层的节点i：计算即进行层与层之间的映射运算依据进行吉布斯采样得到

步骤D-4：对于所有隐含层的节点j：计算即进行层与层之间的映射运算依据进行吉布斯采样得到

步骤D-5：RBM网络的学习算法是基于梯度上升的对数似然函数(gradientascentonthelog-likelihood)。计算梯度参数ΔR_ij(t)，Δa_i(t)，Δb_j(t)，其中t为RBM网络训练迭代次数：

${\mathrm{\ΔR}}_{ij}\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂R_{ij}}=E_{data}\[{\mathrm{vh}}^T\]-E_{\mathrm{mod}e1}\[{\mathrm{vh}}^T\]$

${\mathrm{\Δa}}_i\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂a_i}=E_{data}\[h\]-E_{\mathrm{mod}e1}\[h\]$

${\mathrm{\Δb}}_j\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂b_j}=E_{data}\[v\]-E_{\mathrm{mod}e1}\[v\]$

其中，E_data[·]为基于数据的期望，E_model[·]为模型期望。

步骤D-6：计算更新的R_ij(t+1)、a_i(t+1)、b_j(t+1)。

R_ij(t+1)＝R_ij(t)+φΔR_ij(t)

a_i(t+1)＝a_i(t)+φ·Δa_i(t)

b_j(t+1)＝b_j(t)+φ·Δb_j(t)

步骤D-7：用v⁰和v¹计算RBM网络的重构误差E_reconst，

E_reconst(t+1)＝E_reconst(t)+||v⁰-v¹||

其中，||·||为2-范数。

步骤D-8：迭代次数加1，即t＝t+1。当迭代次数t＝T或者重构误差E_reconst(t)≤μ时，结束训练，跳到步骤D-9；否则，返回步骤D-1，继续训练。

步骤D-9：获得目标更新的权系数为R。

步骤E：初始化Elman神经网络(Elmanneuralnetwork，ENN)，ENN的模型结构有四层：输入层、隐含层、承接层和输出层。其过程如下：

步骤E-1：设置ENN输入层有N＝1000个神经元，接受外部的输入变量u＝[u₁,u₂,…u_N]并将输入变量传递到隐含层；隐含层有L＝15个神经元，每个神经元都具有传递函数f＝H_i(p)(i＝1,2,…,L)，隐含层向量H(p)＝[H₁(p),H₂(p),…H_L(p)]；承接层是隐含层对于神经元的延时，同时拥有一个反馈系数为α的自反馈，所以该层的神经元个数与隐含层相同，承接层向量输出层有M＝1000个神经元，该层神经元的输出y_m(m＝1,2,…,M)是隐含层神经元输出的线性组合。

步骤E-2：设置最大迭代次数为N_max＝25；

步骤E-3：设置误差函数的误差阈值为ε＝5.2；

步骤E-4：在ENN模型中，有三种权系数矩阵：从隐含层到输出层的L×M维的权系数矩阵W¹；从输入层到隐含层的N×L维的权系数矩阵W²；从承接层到隐含层的L×L维的权系数矩阵W³。设置网络的初始权值，其中输入层到隐含层的初始权值W²(0)使用RBM网络的训练结果，即

W¹(0)＝0，W²(0)＝R，W³(0)＝0

步骤E-5：设置网络的学习速率η₁＝0.01，η₂＝0.01，η₃＝0.01；

步骤E-6：设置承接层的初始值X_c(0)＝0；

步骤E-7：设置承接层的自反馈系数α＝0.001。

步骤F：利用Elman神经网络对行为模型进行建模，其过程如下：

步骤F-1：根据Elman网络结构，由动态方程计算ENN各层的输出：

y(p)＝W¹(p)H(p)

H(p)＝f[W²(p)u+W³(p)X_c(p)]

X_c(p)＝αH(p-1)

其中p为迭代次数，f是sigmoid激励函数。

步骤F-2：计算目标误差函数，其定义为：

$E\left(p\right)=\frac{1}{2}\[{({\stackrel{\‾}{y}}_d-y(p\left)\right)}^T({\stackrel{\‾}{y}}_d-y(p\left)\right)\]$

其中y(p)为第p次迭代的Elman网络模型的输出，为系统的实际归一化输出。如果误差函数E(p)＞ε，进行步骤F-3；如果误差函数E(p)＜ε，则进行步骤G。

步骤F-3：用最速下降(GradientDescent,GD)算法训练网络，得到模型的权值矩阵的变化量：

${\mathrm{\ΔW}}_{lm}^1\left(p\right)=-{\mathrm{\η}}_1\frac{\∂E\left(p\right)}{\∂W_{lm}^1\left(p\right)}={\mathrm{\η}}_1{\mathrm{\δ}}_m^o\left(p\right)H_l\left(p\right)$

${\mathrm{\ΔW}}_{nl}^2\left(p\right)=-{\mathrm{\η}}_2\frac{\∂E\left(p\right)}{\∂W_{nl}^2\left(p\right)}={\mathrm{\η}}_2{\mathrm{\δ}}_l^h\left(p\right)\frac{\∂H_l\left(p\right)}{\∂W_{nl}^2\left(p\right)}$

${\mathrm{\ΔW}}_{kl}^3\left(p\right)=-{\mathrm{\η}}_3\frac{\∂E\left(p\right)}{\∂W_{kl}^3\left(p\right)}={\mathrm{\η}}_3{\mathrm{\δ}}_l^h\left(p\right)\frac{\∂H_l\left(p\right)}{\∂W_{kl}^3\left(p\right)}$

其中

${\mathrm{\δ}}_m^o\left(p\right)={\stackrel{\‾}{y}}_{d,m}-y_m\left(p\right)$

${\mathrm{\δ}}_l^h\left(p\right)=\underset{m=1}{\overset{M}{\Σ}}{\mathrm{\δ}}_m^o\left(p\right)W_{lm}^1\left(p\right)$

$\frac{\∂H_l\left(p\right)}{\∂W_{nl}^2\left(p\right)}=f_l^{\′}(\·)\[u_n+{\mathrm{\αW}}_{ll}^3\left(p\right)\frac{\∂H_l(p-1)}{\∂W_{nl}^2(p-1)}\]$

$\frac{\∂H_l\left(p\right)}{\∂W_{kl}^3\left(p\right)}=f_l^{\′}(\·)\[{\mathrm{\αH}}_k(p-1)+{\mathrm{\αW}}_{ll}^3\left(p\right)\frac{\∂H_l(p-1)}{\∂W_{kl}^3(p-1)}\]$

这里j表示输入层的第j个神经元，i表示隐含层的第i个神经元，k表示承接层的第k个神经元，m代表输出层的第m个神经元，f_l′(·)是激励函数f的导数。

步骤F-4：迭代次数加1，即p＝p+1。当迭代次数小于最大迭代次数N_max时，继续步骤F-5；当迭代次数大于最大迭代次数N_max时，停止迭代，执行步骤G。

步骤F-5：根据ΔW¹(p),ΔW²(p),ΔW³(p)，更新权值系数，其中

W¹(p+1)＝W¹(p)+ΔW¹(p)

W²(p+1)＝W²(p)+ΔW²(p)

W³(p+1)＝W³(p)+ΔW³(p)

步骤F-6：返回步骤F-1。

步骤G：通过步骤F得到的权系数，计算ENN模型最终的输出y。

采用RBM训练带来的优势在图5的DRM和ENN的误差曲线图中可以体现。在经典的ENN模型中，初始权值W¹(0)＝0，W²(0)＝0，W³(0)＝0。而DRM模型中初始权值W²(0)使用RBM网络的训练结果R，其他初始权值与ENN相同。从仿真结果可以看出：在迭代次数和隐含层神经元数相同的情况下，DRM比ENN收敛速度更快；或者说在隐含层神经元个数相同的情况下，要达到相同的误差，DRM所需的迭代次数更少。

如图6是ENN模型与DRM模型时域仿真结果比较。在隐含层神经元L＝15，迭代次数为25的情况下，ENN的平均误差为0.015V，最大瞬时误差为0.0323V，而DRM的平均误差为0.0087V，最大瞬时误差为0.0187V，所以，从时域仿真结果可以看出，DRM比ENN的精度更高。

如图7是ENN模型与DRM模型仿真结果的频谱比较。输入双音信号的频率f₁＝436Hz和f₂＝3kHz，由于系统的非线性，出现的非线性失真频率f₃＝f₂-f₁和f₄＝f₂+f₁是二阶互调失真(IMD2)，f₅＝f₂-2f₁和f₆＝f₂+2f₁是三阶互调失真(IMD3)。互调失真(IMD)的不对称性证明了系统存在记忆效应。表1列出了ENN模型与DRM模型仿真结果的频谱误差。在相同条件下，ENN的频域误差为0.2856dB，而DRM的频域误差为0.1631dB，也证明了DRM在频域的精度依旧优于ENN。DRM模型不仅可以重构系统的时域波形，同时，也能够重构非线性系统的记忆效应和非线性频域特性。

表1.ENN模型与DRM模型的频谱误差比较

综上所述，以上实施例仅用以说明本发明的技术方案，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，其均应涵盖在本发明的权利要求范围当中。

Claims (1)

1.一种基于深度重构模型的功率放大器行为建模方法，其特征在于：包括以下步骤：

步骤A：准备系统行为建模的输入数据向量x＝[x(1),x(2),…,x(N)]和输出数据向量其中N为数据长度；

步骤B：将输入和输出数据归一化；

$\stackrel{\‾}{x}\left(i\right)=\frac{x\left(i\right)}{\max \left(x\right)},{\stackrel{\‾}{y}}_{d,i}=\frac{y_{d,i}}{max\left(y_d\right)},i=1,2,...,N$

步骤C：初始化RBM网络，RBM网络的模型结构有两层：可见层和隐含层，其过程如下：

步骤C-1：设置RBM网络可见层有N个单元，构成可见层单元向量v＝[v₁,v₂,…v_N]，接收外部的输入变量并将输入变量传递到隐含层单元；隐含层有L个单元，构成隐含层单元向量h＝[h₁,h₂,…h_L]；从可见层到隐含层有N×L维权系数矩阵可见层单元有1×N维偏置向量a＝[a₁,a₂,…a_N]，隐含层单元有1×L偏置向量b＝[b₁,b₂,…b_L]；构成RBM网络的系数矩阵θ＝{R,a,b}；

步骤C-2：设置RBM网络的系数矩阵θ＝0；

步骤C-3：设置RBM网络的训练最大迭代次数T；

步骤C-4：设置RBM网络重构误差的误差阈值为μ；

步骤C-5：设置RBM网络的学习速率为φ；

步骤C-6：设置重构误差初始值E_reconst(0)＝0；

步骤D：使用输入数据训练二进制RBM网络，它的随机变量(v,h)只从{0,1}取值，v_i和h_j是可见层单元i和隐含层单元j的二进制状态，R_ij是可见层单元i和隐含层单元j的权系数；每一次迭代训练由两个RBM网络组成，其中，底层RBM的隐含层连接顶层RBM的可见层；其过程如下：

步骤D-1：初始化可见层输入数据

步骤D-2：对于所有隐含层的节点j：计算也就是进行层与层之间的映射运算其中，是sigmoid激励函数；依据进行吉布斯采样(GibbsSampling)得到

步骤D-3：对于所有可见层的节点i：计算即进行层与层之间的映射运算 $sigm(\underset{j}{\Σ}{R}_{ij}{h}_j^0+a_i);$ 依据 $P(v_i^1=1|h^0;\mathrm{\θ})$ 进行吉布斯采样得到

步骤D-4：对于所有隐含层的节点j：计算即进行层与层之间的映射运算 $sigm(\underset{i}{\Σ}{R}_{ij}{v}_i^1+b_j),$ 依据 $P(h_j^1=1|v^1;\mathrm{\θ})$ 进行吉布斯采样得到

步骤D-5：RBM网络的学习算法是基于梯度上升的对数似然函数；计算梯度参数ΔR_ij(t)，Δa_i(t)，Δb_j(t)，其中t为RBM网络训练迭代次数：

${\mathrm{\ΔR}}_{ij}\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂R_{ij}}=E_{data}\[{\mathrm{vh}}^T\]-E_{\mathrm{mod}el}\[{\mathrm{vh}}^T\]$

${\mathrm{\Δa}}_i\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂a_i}=E_{data}\[h\]-E_{\mathrm{mod}el}\[h\]$

${\mathrm{\Δb}}_j\left(t\right)=\frac{\∂\log P(v;\mathrm{\θ})}{\∂b_j}=E_{data}\[v\]-E_{\mathrm{mod}el}\[v\]$

其中，E_data[·]为基于数据的期望，E_model[·]为模型期望；

步骤D-6：计算更新的R_ij(t+1)、a_i(t+1)、b_j(t+1)；

R_ij(t+1)＝R_ij(t)+φΔR_ij(t)

a_i(t+1)＝a_i(t)+φ·Δa_i(t)

b_j(t+1)＝b_j(t)+φ·Δb_j(t)

步骤D-7：用v⁰和v¹计算RBM网络的重构误差E_reconst，

E_reconst(t+1)＝E_reconst(t)+||v⁰-v¹||

其中，||·||为2-范数；

步骤D-8：迭代次数加1，即t＝t+1；当迭代次数t＝T或者重构误差E_reconst(t)≤μ时，结束训练，跳到步骤D-9；否则，返回步骤D-1，继续训练；

步骤D-9：获得目标更新的权系数为R；

步骤E：初始化ENN，ENN的模型结构有四层：输入层、隐含层、承接层和输出层；其过程如下：

步骤E-1：设置ENN输入层有N个神经元，接受外部的输入变量u＝[u₁,u₂,…u_N]并将输入变量传递到隐含层；隐含层有L个神经元，每个神经元都具有传递函数f＝H_i(p)(i＝1,2,…,L)，隐含层向量H(p)＝[H₁(p),H₂(p),…H_L(p)]；承接层是隐含层对于神经元的延时，同时拥有一个反馈系数为α的自反馈，所以该层的神经元个数与隐含层相同，承接层向量X_c(p)＝[X_c,1(p),X_c,2(p),…X_c,L(p)]；输出层有M个神经元，该层神经元的输出y_m，m＝1,2,…,M，是隐含层神经元输出的线性组合；

步骤E-2：设置最大迭代次数为N_max；

步骤E-3：设置误差函数的误差阈值为ε；

步骤E-4：在ENN模型中，有三种权系数矩阵：从隐含层到输出层的L×M维的权系数矩阵W¹；从输入层到隐含层的N×L维的权系数矩阵W²；从承接层到隐含层的L×L维的权系数矩阵W³；设置网络的初始权值，其中输入层到隐含层的初始权值W²(0)使用RBM网络的训练结果，即

W¹(0)＝0，W²(0)＝R，W³(0)＝0

步骤E-5：设置网络的学习速率η₁，η₂，η₃；

步骤E-6：设置承接层的初始值X_c(0)＝0；

步骤E-7：设置承接层的自反馈系数α；

步骤F：利用ENN对行为模型进行建模，其过程如下：

步骤F-1：根据ENN，由动态方程计算ENN各层的输出：

y(p)＝W¹(p)H(p)

H(p)＝f[W²(p)u+W³(p)X_c(p)]

X_c(p)＝αH(p-1)

其中p为迭代次数，f是sigmoid激励函数；

步骤F-2：计算目标误差函数，其定义为：

$E\left(p\right)=\frac{1}{2}\[{({\stackrel{\‾}{y}}_d-y(p\left)\right)}^T({\stackrel{\‾}{y}}_d-y(p\left)\right)\]$

其中y(p)为第p次迭代的ENN网络模型的输出，为系统的实际归一化输出；如果误差函数E(p)＞ε，进行步骤F-3；如果误差函数E(p)＜ε，则进行步骤G；

步骤F-3：用最速下降算法训练网络，得到模型的权值矩阵的变化量：

${\mathrm{\ΔW}}_{lm}^1\left(p\right)=-{\mathrm{\η}}_1\frac{\∂E\left(p\right)}{\∂W_{lm}^1\left(p\right)}={\mathrm{\η}}_1{\mathrm{\δ}}_m^o\left(p\right)H_l\left(p\right)$

${\mathrm{\ΔW}}_{nl}^2\left(p\right)=-{\mathrm{\η}}_2\frac{\∂E\left(p\right)}{\∂W_{nl}^2\left(p\right)}={\mathrm{\η}}_2{\mathrm{\δ}}_l^h\left(p\right)\frac{\∂H_l\left(p\right)}{\∂W_{nl}^2\left(p\right)}$

${\mathrm{\ΔW}}_{kl}^3\left(p\right)=-{\mathrm{\η}}_3\frac{\∂E\left(p\right)}{\∂W_{kl}^3\left(p\right)}={\mathrm{\η}}_3{\mathrm{\δ}}_l^h\left(p\right)\frac{\∂H_l\left(p\right)}{\∂W_{kl}^3\left(p\right)}$

其中

${\mathrm{\δ}}_m^o\left(p\right)={\stackrel{\‾}{y}}_{d,m}-y_m\left(p\right)$

${\mathrm{\δ}}_l^h\left(p\right)=\underset{m=1}{\overset{M}{\Σ}}{\mathrm{\δ}}_m^o\left(p\right)W_{lm}^1\left(p\right)$

$\frac{\∂H_l\left(p\right)}{\∂W_{nl}^2\left(p\right)}=f_l^{\′}(\·)\[u_n+{\mathrm{\αW}}_{ll}^3\left(p\right)\frac{\∂H_l(p-1)}{\∂W_{nl}^2(p-1)}\]$

$\frac{\∂H_l\left(p\right)}{\∂W_{kl}^3\left(p\right)}=f_l^{\′}(\·)\[{\mathrm{\αH}}_k(p-1)+{\mathrm{\αW}}_{ll}^3\left(p\right)\frac{\∂H_l(p-1)}{\∂W_{kl}^3(p-1)}\]$

这里j表示输入层的第j个神经元，i表示隐含层的第i个神经元，k表示承接层的第k个神经元，m代表输出层的第m个神经元，f_l′(·)是激励函数f的导数；

步骤F-4：迭代次数加1，即p＝p+1；当迭代次数小于最大迭代次数N_max时，继续步骤F-5；当迭代次数大于最大迭代次数N_max时，停止迭代，执行步骤G；

步骤F-5：根据ΔW¹(p),ΔW²(p),ΔW³(p)，更新权值系数，其中

W¹(p+1)＝W¹(p)+ΔW¹(p)

W²(p+1)＝W²(p)+ΔW²(p)

W³(p+1)＝W³(p)+ΔW³(p)

步骤F-6：返回步骤F-1；

步骤G：通过步骤F得到的权系数，计算ENN模型最终的输出y。