CN102788955B

CN102788955B - 基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法

Info

Publication number: CN102788955B
Application number: CN201210246132.3A
Authority: CN
Inventors: 刘大同; 周建宝; 王红; 王建民; 徐勇; 彭宇
Original assignee: Harbin Institute of Technology
Current assignee: Harbin University of technology high tech Development Corporation
Priority date: 2012-07-17
Filing date: 2012-07-17
Publication date: 2015-02-11
Anticipated expiration: 2032-07-17
Also published as: CN102788955A

Abstract

基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，涉及基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法。它为了解决现有预测方法选择合适的网络拓扑困难，训练时需训练网络的全部的权值，计算时容易陷入局部最优的问题。本发明对100个测试数据单元进行分类，得到k个测试数据集合；每个测试数据集合对应一个ESN的涡轮发电机的分类子模型，每个ESN的涡轮发电机分类子模型的参数不同，k个ESN的涡轮发电机的分类子模型组成分类子模型库；将每个测试数据输入与该数据集合对应ESN的涡轮发电机的分类子模型进行运算得到该测试数据的剩余寿命预测值。本发明适用于涡轮发动机等领域。

Description

基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法

技术领域

本法明涉及预测方法，具体涉及基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法

背景技术

随着现实系统越来越复杂，预测与健康管理（Prognostics and Health Management，PHM）技术成为当前一个热门的话题。对于复杂系统一般由很多组件组成，例如飞机发动机，涡轮发电机等。通过完全了解系统的动态特性进而建立系统模型的模型驱动方法，不仅成本高，费时而且也许是不可能实现的。而使用数据驱动的方法是很合理的，它只需要依靠收集到的系统状态数据而不需要知道系统的先验知识。典型的基于数据驱动的故障预测方法有：人工神经网络(artificial neural networks,ANN)、模糊系统(fuzzy systems)和其他计算智能方法，神经网络是一类在故障预测方法和应用研究中最多的一种方法。理论上讲，递归神经网络更适合预测剩余寿命。Yam et al.使用递归神经网路跟踪变速箱的退化速度，当变速箱的预测状态降到预先设定的危险阈值时发出报警。Felix O.Heimes使用由扩展Kalman滤波训练的RNN预测在PHM08会议上首次提出的数据集，并在比赛中获得了二等奖。Yam and Tse提出一种有效的轴承系统的智能诊断程序用于状态监测和寿命预测。这些结果都可以作为设备管理系统的输入去事先计划设备的维修工作Jie Liu andAbhinav Saxena中提出一种自适应的递归神经网络用于系统的动态状态预测。在递归神经网络的基础上建立改进的ARN，使用recursive Levenberg-Marquardt(RLM)方法训练权值，并通过预测锂电池的剩余寿命来验证方法的有效性。

虽然从理论上讲RNN可以以任意精度逼近任意动态系统，但是理论和实际上的困难限制了RNN的使用。RN的基本网络结构。数据由输入层输入(由u(n)表示)，输出层表示网络的输出或响应（由y(n)表示），隐含层包含n个内部神经单元。RN存在以下问题：

(1)很难选择合适的网络拓扑，包括RN的隐层数以及每个隐层中含有的神经元个数；

(2)RNN要训练网络的全部的权值即Wⁱⁿ,W，W^out，W^back；

(3)使用梯度法训练权值，容易陷入局部最优。

发明内容

本发明是为了解决现有预测方法选择合适的网络拓扑困难，训练时需训练网络的全部的权值，并且计算时容易陷入局部最优的问题，从而提出了基于卡尔曼(Kalman)滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法

基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，它包括下述步骤：

步骤一、对100个测试数据单元进行分类，得到k个测试数据集合；每个测试数据集合对应一个ESN的涡轮发电机的分类子模型，每个ESN的涡轮发电机的分类子模型的参数不同，k个ESN的涡轮发电机的分类子模型组成分类子模型库；E表示测试数据单元的个数，

测试数据单元为ESN的涡轮发电机的分类子模型的一组数据集，该组数据集包含E个涡轮发动机的数据单元，其中，E＝100，

每一个测试数据单元为24维数据，该24维数据中的3维数据表示涡轮发动机操作条件数据，剩余的21维表示传感器采集的涡轮发动机状态数据，

步骤二、将步骤一的每个测试数据输入与该数据集合对应的ESN的涡轮发电机的分类子模型进行运算得到该测试数据的剩余寿命预测值。

本发明通过使用随机建立的大规模稀疏连接权（叫做储备池）作为信息处理单元代替RNN的隐层；将低维的输入空间映射到高维的状态空间；随机建立输入权值，反馈权值和神经元内部连接权值；通过线性回归的方法训练输出权值，得到全局最优权值。

附图说明

图1为基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的方法流程图；

图2为基于分类子模型方法的剩余寿命预测方法框图；

图3为对100个测试数据单元进行分类的流程图；

图4为第一个分类子模型用于100个涡轮发电机单元的预测值和剩余寿命真实值的比较曲线图

图5为第一个分类子模型的100个涡轮发动机单元的预测误差曲线图；

图6为第二个分类子模型用于剩余80个涡轮发电机单元的预测值和剩余寿命真实值的比较曲线图；

图7为第一个分类子模型的80个涡轮发动机单元的预测误差曲线图；

图8为所有分类子模型用于100个涡轮发动机单元预测误差小于等于10的涡轮发动机单元的预测值和剩余寿命真实值的比较曲线图；

图9为所有分类子模型用于100个涡轮发动机单元预测误差小于等于10的涡轮发动机单元的预测误差曲线图。

具体实施方式

具体实施方式一、结合图1、图2和图3具体说明本实施方式，本实施方式所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，它包括下述步骤：

每一个测试数据单元为24维数据，该24维数据中的3维数据表示涡轮发动机操作条件数据，剩余的21维表示传感器采集的涡轮发动机状态数据，该24维数据中的3维数据表示涡轮发动机操作条件数据包括:高度、马赫数和油门角度，剩余的21维表示传感器采集的涡轮发动机状态数据包括：不同点的温度、压力和速度；如表1所示，表1表示其中一个实例的多维时间序列。

表1

具体实施方式二、结合图2和图3具体说明本实施方式，本实施方式与具体实施方式一所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的区别在于，步骤一所述的对100个测试数据单元进行分类，得到k个测试数据集合的具体步骤为：

步骤一一、数据初始值，U=100，i=1，

步骤一二、随机选取U个已知的训练数据单元中的一个训练数据单元作为一个ESN的涡轮发电机的分类子模型的输入输出数据，同时将所述的被选择的训练数据单元删除，U表示已知的训练数据单元的个数；通过交叉验证法选取使得与该子模型输出结果最好储备池参数，建立第i个Kalman滤波的ESN的涡轮发电机的分类子模型；

训练数据单元包含100个涡轮发动机的数据单元，所述的100个涡轮发动机均属于同一生产批次，且100个涡轮发动机在开始试验之前的初始剩余寿命不同，

每个数据单元为24维数据，该24维数据中的3维数据表示涡轮发动机操作条件数据，剩余的21维表示传感器采集的涡轮发动机状态数据，

步骤一三、将测试数据单元依次输入至第i个ESN的涡轮发电机的分类子模型进行剩余寿命预测，并计算相应的剩余寿命，选择测试单元的剩余寿命与该测试单元的设计的剩余寿命之间的误差小于或等于10的测试单元加入第i组分类数据，同时将所述测试数据单元删除；

测试单元的设计的剩余寿命为预先设定的剩余寿命，

步骤一四、判断U是否大于90，判断为是，则执行步骤一三；判断为否，则结束训练，删除剩余的测试数据单元，令k=i，得到k个测试数据集合和k个ESN的涡轮发电机的分类子模型；

步骤一五、则令i=i+1,U=U-1，并返回执行步骤一二，进行下一轮判断。

本实施方式的实验步骤如图4所示：

1、在训练数据中选择第三个测试单元，使用交叉验证的方法选择ESN的参数，参数设置如表2所示，表2表示ESN和Kalman参数设置，预测所有测试单元的剩余寿命，预测结果如图4和图5所示，从而得到第一个ESN模型和第一组分类数据集；

表2

2、从剩余99组训练数1、据中选择第11个训练单元，使用交叉验证的方法选择ESN的参数，参数设置如表3所示，表3表示ESN和Kalman参数设置，预测剩余测试单元的剩余寿命，预测结果如图6和图7所示。从而得到第二个ESN模型和第二组分类数据集；

表3

3、重复上述实验步骤，从训练集中随机选取的单元及其对应的测试单元序号如表4所示，表4表示数据分类结果，图8和图9所示为使用基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法预测的测试数据单元的剩余寿命预测结果。

表4

具体实施方式三、本实施方式与具体实施方式二所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的区别在于，步骤一二所述的通过交叉验证法选取使得与该子模型输出结果最好储备池参数，建立第i个Kalman滤波的ESN的涡轮发电机的分类子模型的具体步骤为：

A、训练阶段，建立Kalman滤波的ESN的涡轮发动机的数学模型，根据已知的输入单元u(n)和已知的输出单元y(n-1)，采用Kalman滤波的ESN的涡轮发动机的数学模型的内部处理单元的更新方程和Kalman滤波求得输出权值矩阵W^out，

B、在测试阶段，被测涡轮发动机在正常运行时，通过传感器测量获得涡轮发动机的24维数据作为输入单元的数据集；结合步骤一训练后的Kalman滤波的ESN的涡轮发动机的数学模型的输出单元和输出权值矩阵W^out，采用训练后的Kalman滤波的ESN的涡轮发动机的数学模型的输出单元的方程求得待测ESN的涡轮发动机的剩余寿命预测值。

具体实施方式四、本实施方式与具体实施方式三所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的区别在于，步骤A所述的ESN的涡轮发动机的数学模型的内部处理单元的更新方程为：

x(n)=f(Wⁱⁿu(n)+Wx(n-1)+W^backy(n-1)) （1）

其中，n=0，...t₀...，t，n表示时刻，t₀表示初始截断时刻；t表示涡轮发动机失效的前一时刻；f＝(f₁,...，f_L)是内部处理单元的激活函数，该激活函数为双曲正切tanh函数；是N×L维的输入权值矩阵；W=(w_ij)是N×N维的内部连接权值矩阵；是N×M维的反馈权值矩阵，且W^back=0；i表示第i行、j表示第j列；内部处理单元x(n)为N维矩阵；输入单元u(n)为L维向量，表示涡轮发动机的状态监测数据；输出单元y(n-1)为M维向量，表示已知的涡轮发动机的剩余寿命。

具体实施方式五、本实施方式与具体实施方式四所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的区别在于，步骤A所述的采用ESN的涡轮发动机的数学模型的内部处理单元的更新方程和Kalman滤波求得输出权值矩阵W^out的具体过程为：

在k时刻输入单元u(k)=(u₁(k),...,u_L(k)),内部处理单元x(k)=(x₁(k),...,x_N(k)),输出单元y(k)=(y₁(k),...,y_M(k))，

W₁=W/|λ_max|，其中λ_max是W的谱半径，W₁表示谱半径为1时的内部连接权值矩阵；

内部处理单元x(n)的内部神经元通过权值连接组成储备池，储备池的参数有：储备池规模N、谱半径λ_max、输入单元缩放IS和输入单元移位IF；

初始化内部处理单元x(n)的参数；

初始化在0时刻的M×(L+N+M)维输出权值矩阵W^out(0)的转置矩阵(W^out(0))^T、0时刻的误差协方差P(0)、激励噪声协方差矩阵Q和观测噪声协方差矩阵R，根据已知的输入单元u(n)和输出单元y(n-1)，当时间大于或等于初始截断时间t₀时，通过交叉验证算法选择使得Kalman滤波的ESN的涡轮发动机的数学模型性能最好的一组参数，确定内部处理单元x(n)的参数、观测噪声协方差矩阵R和激励噪声协方差矩阵Q，

根据Kalman滤波的时间更新方程计算出k时刻的M×(L+N+M)维先验估计输出权值转置矩阵的(W^out(k))^T-和k时刻的先验估计误差协方差P-(k)，

Kalman滤波的时间更新方程由公式（2）和公式（3）组成，

(W^out(k))^T-=A(W^out(k-1))^T （2）

P^-(k)=AP(k-1)A^T+Q （3）

其中，k表示时刻，k为整数且k≧1；A为(L+N)维的单位矩阵；上角标T代表的转置；

Kalman滤波的时间更新方程将当前状态变量作为先验估计投射到Kalman滤波的测量更新方程，

根据Kalman滤波的测量更新方程计算出k时刻的M×(L+N+M)维输出权值转置矩阵的(W^out(k))^T、k时刻的误差协方差P(k)，

Kalman滤波的测量更新方程将先验估计好新的测量变量结合以构造后验估计，测量更新方程由公式（4）、公式（5）和公式（6）组成，

K(k)=P^-(k)H^T(HP^-(k)H^T+R)^-1 （4）

(W^out(k))^T=(W^out(k))^T-+K(k)(y(k)^T-x(k+1)^T(Wout(k))^T-) （5）

P(k)=(I-K(k)H)P^-(k) （6）

其中，K(k)表示k时刻的卡尔曼增益，H(k)是k时刻的ESN的涡轮发电机的数学模型的内部处理单元x(k)矩阵的转置；R表示测量噪声协方差矩阵；y(k)为M维向量，表示k时刻已知的涡轮发动机的剩余寿命，故y(k)^T＝y(k)，y(k)^T表示k时刻已知的涡轮发动机的剩余寿命，x(k+1)^T表示k+1时刻内部处理单元的转置矩阵，I表示单位矩阵；

计算完一次Kalman滤波的测量更新方程后，将公式（5）计算得到的(W^out(k))^T代入公式（2），将公式（6）计算得到的P(k)代入公式（3）再次重复计算，直到训练完所有数据。

具体实施方式六、本实施方式与具体实施方式五所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的区别在于，所述的k时刻的激励噪声协方差矩阵为：

p(w)~N(0,Q),Q=E(w(k)w(k)^T) （7）

其中，w(k)表示k时刻的过程噪声。

具体实施方式七、本实施方式与具体实施方式五所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的区别在于，所述的k时刻的ESN的涡轮发电机的数学模型的内部处理单元x(k)矩阵的转置H(k)为：

H(k)=(x(k))^T （8）。

具体实施方式八、本实施方式与具体实施方式三所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法的区别在于，其特征在于，步骤B所述的Kalman滤波的ESN的涡轮发动机的数学模型的输出单元的方程为：

y′(n)=f_out(W^outx(n)) （9）

其中：n=0，...t₀...t，n表示时刻，t₀表示初始截断时刻；t表示涡轮发动机失效时的时刻，输出单元y′(n)为M维向量，表示待测涡轮发动机的剩余寿命，f_out=(f_out ¹,...，f_out ^M)为输出单元的输出函数，是M×(L+N+M)维输出权值矩阵，内部处理单元x(n)为N维矩阵。

Claims

1.基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，它包括下述步骤：

测试数据单元为ESN的涡轮发电机的分类子模型的一组数据集，该组数据集包含E个涡轮发电机的数据单元，其中，E＝100，

每一个测试数据单元为24维数据，该24维数据中的3维数据表示涡轮发电机操作条件数据，剩余的21维表示传感器采集的涡轮发电机状态数据，

步骤二、将步骤一的每个测试数据单元输入与该测试数据集合对应的ESN的涡轮发电机的分类子模型进行运算得到该测试数据的剩余寿命预测值；

其特征在于，

步骤一所述的对100个测试数据单元进行分类，得到k个测试数据集合的具体步骤为：

步骤一一、数据初始值，U＝100，i＝1，

步骤一二、随机选取U个已知的训练数据单元中的一个训练数据单元作为一个ESN的涡轮发电机的分类子模型的输入输出数据，同时将被选择的一个训练数据单元删除，U表示已知的训练数据单元的个数；通过交叉验证法选取使得与该子模型输出结果最好储备池参数，建立第i个Kalman滤波的ESN的涡轮发电机的分类子模型；

训练数据单元包含100个涡轮发电机的数据单元，所述的100个涡轮发电机均属于同一生产批次，且100个涡轮发电机在开始试验之前的初始剩余寿命不同，

每个数据单元为24维数据，该24维数据中的3维数据表示涡轮发电机操作条件数据，剩余的21维表示传感器采集的涡轮发电机状态数据，

步骤一四、判断U是否大于90，判断为是，则执行步骤一三；判断为否，则结束训练，删除剩余的测试数据单元，令k＝i，得到k个测试数据集合和k个ESN的涡轮发电机的分类子模型；

步骤一五、则令i＝i+1,U＝U-1，并返回执行步骤一二，进行下一轮判断。

2.根据权利要求1所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，其特征在于，步骤一二所述的通过交叉验证法选取使得与该子模型输出结果最好储备池参数，建立第i个Kalman滤波的ESN的涡轮发电机的分类子模型的具体步骤为：

A、训练阶段，建立Kalman滤波的ESN的涡轮发电机的数学模型，根据已知的输入单元u(n)和已知的输出单元y(n-1)，采用Kalman滤波的ESN的涡轮发电机的数学模型的内部处理单元的更新方程和Kalman滤波求得输出权值矩阵W^out，

B、在测试阶段，被测涡轮发电机在正常运行时，通过传感器测量获得涡轮发电机的24维数据作为输入单元的数据集；结合步骤一训练后的Kalman滤波的ESN的涡轮发电机的数学模型的输出单元和输出权值矩阵W^out，采用训练后的Kalman滤波的ESN的涡轮发电机的数学模型的输出单元的方程求得待测ESN的涡轮发电机的剩余寿命预测值。

3.根据权利要求2所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，其特征在于，步骤A所述的ESN的涡轮发电机的数学模型的内部处理单元的更新方程为：

x(n)＝f(Wⁱⁿu(n)+Wx(n-1)+W^backy(n-1)) (1)

其中，n＝0，…t₀…，t，n表示时刻，t₀表示初始截断时刻；t表示涡轮发电机失效的前一时刻；f＝(f₁,…,f_L)是内部处理单元的激活函数，该激活函数为双曲正切tanh函数；是N×L维的输入权值矩阵；W＝(w_ij)是N×N维的内部连接权值矩阵；是N×M维的反馈权值矩阵，且W^back＝0；i表示第i行、j表示第j列；内部处理单元x(n)为N维矩阵；输入单元u(n)为L维向量，表示涡轮发电机的状态监测数据；输出单元y(n-1)为M维向量，表示已知的涡轮发电机的剩余寿命。

4.根据权利要求3所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，其特征在于，步骤A所述的采用ESN的涡轮发电机的数学模型的内部处理单元的更新方程和Kalman滤波求得输出权值矩阵W^out的具体过程为：

在k时刻输入单元u(k)＝(u₁(k),…,u_L(k)),内部处理单元x(k)＝(x₁(k),…,x_N(k)),输出单元y(k)＝(y₁(k),…,y_M(k))，

W₁＝W/|λ_max|，其中λ_max是W的谱半径，W₁表示谱半径为1时的内部连接权值矩阵；

初始化内部处理单元x(n)的参数；

初始化在0时刻的M×(L+N+M)维输出权值矩阵W^out(0)的转置矩阵(W^out(0))^T、0时刻的误差协方差P(0)、激励噪声协方差矩阵Q和观测噪声协方差矩阵R，根据已知的输入单元u(n)和输出单元y(n-1)，当时间大于或等于初始截断时间t₀时，通过交叉验证算法选择使得Kalman滤波的ESN的涡轮发电机的数学模型性能最好的一组参数，确定内部处理单元x(n)的参数、观测噪声协方差矩阵R和激励噪声协方差矩阵Q，

根据Kalman滤波的时间更新方程计算出k时刻的M×(L+N+M)维先验估计输出权值转置矩阵的(W^out(k))^T-和k时刻的先验估计误差协方差P^-(k)，

Kalman滤波的时间更新方程由公式(2)和公式(3)组成，

(W^out(k))^T-＝A(W^out(k-1))^T (2)

P^-(k)＝AP(k-1)A^T+Q (3)

其中，k表示时刻，k为整数且k≧1；A为(L+N)维的单位矩阵；上角标^T代表的转置；

Kalman滤波的测量更新方程将先验估计好新的测量变量结合以构造后验估计，测量更新方程由公式(4)、公式(5)和公式(6)组成，

K(k)＝P^-(k)H^T(HP^-(k)H^T+R)^-1 (4)

(W^out(k))^T＝(W^out(k))^T-+K(k)(y(k)^T-x(k+1)^T(W^out(k))^T-) (5)

P(k)＝(I-K(k)H)P^-(k) (6)

其中，K(k)表示k时刻的卡尔曼增益，H(k)是k时刻的ESN的涡轮发电机的数学模型的内部处理单元x(k)矩阵的转置；R表示测量噪声协方差矩阵；y(k)为M维向量，表示k时刻已知的涡轮发电机的剩余寿命，故y(k)^T＝y(k)，y(k)^T表示k时刻已知的涡轮发电机的剩余寿命，x(k+1)^T表示k+1时刻内部处理单元的转置矩阵，I表示单位矩阵；

计算完一次Kalman滤波的测量更新方程后，将公式(5)计算得到的(W^out(k))^T代入公式(2)，将公式(6)计算得到的P(k)代入公式(3)再次重复计算，直到训练完所有数据。

5.根据权利要求4所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，其特征在于，所述的k时刻的激励噪声协方差矩阵为：

p(w)～N(0,Q),Q＝E(w(k)w(k)^T) (7)

其中，w(k)表示k时刻的过程噪声。

6.根据权利要求4所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，其特征在于，所述的k时刻的ESN的涡轮发电机的数学模型的内部处理单元x(k)矩阵的转置H(k)为：

H(k)＝(x(k))^T (8)。

7.根据权利要求2所述的基于Kalman滤波的ESN的涡轮发电机的分类子模型的剩余寿命预测方法，其特征在于，步骤B所述的Kalman滤波的ESN的涡轮发电机的数学模型的输出单元的方程为：

y'(n)＝f_out(W^outx(n)) (9)

其中：n＝0，…t₀…t，n表示时刻，t₀表示初始截断时刻；t表示涡轮发电机失效时的时刻，输出单元y'(n)为M维向量，表示待测涡轮发电机的剩余寿命，为输出单元的输出函数，是M×(L+N+M)维输出权值矩阵，内部处理单元x(n)为N维矩阵。