CN112257935A - 一种基于lstm—rbf神经网络模型的航空安全预测方法 - Google Patents
一种基于lstm—rbf神经网络模型的航空安全预测方法 Download PDFInfo
- Publication number
- CN112257935A CN112257935A CN202011158039.8A CN202011158039A CN112257935A CN 112257935 A CN112257935 A CN 112257935A CN 202011158039 A CN202011158039 A CN 202011158039A CN 112257935 A CN112257935 A CN 112257935A
- Authority
- CN
- China
- Prior art keywords
- lstm
- model
- neural network
- output
- rbf
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 25
- 238000003062 neural network model Methods 0.000 title claims abstract description 24
- 238000012549 training Methods 0.000 claims abstract description 26
- 230000001364 causal effect Effects 0.000 claims abstract description 14
- 230000008859 change Effects 0.000 claims abstract description 12
- 230000009471 action Effects 0.000 claims abstract description 8
- 238000013528 artificial neural network Methods 0.000 claims description 20
- 230000006870 function Effects 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 15
- 230000000694 effects Effects 0.000 claims description 14
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 230000001965 increasing effect Effects 0.000 claims description 8
- 238000012795 verification Methods 0.000 claims description 7
- 238000001514 detection method Methods 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000007613 environmental effect Effects 0.000 claims description 4
- 230000001939 inductive effect Effects 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 238000013459 approach Methods 0.000 claims description 3
- 230000005284 excitation Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- YHXISWVBGDMDLQ-UHFFFAOYSA-N moclobemide Chemical compound C1=CC(Cl)=CC=C1C(=O)NCCN1CCOCC1 YHXISWVBGDMDLQ-UHFFFAOYSA-N 0.000 description 3
- 231100000279 safety data Toxicity 0.000 description 3
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 description 2
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000004880 explosion Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000012954 risk control Methods 0.000 description 2
- 238000010998 test method Methods 0.000 description 2
- 241001123248 Arma Species 0.000 description 1
- 238000012300 Sequence Analysis Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000013112 stability test Methods 0.000 description 1
- 238000011425 standardization method Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0635—Risk analysis of enterprise or organisation activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/40—Business processes related to the transportation industry
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Resources & Organizations (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- General Business, Economics & Management (AREA)
- Molecular Biology (AREA)
- Tourism & Hospitality (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Life Sciences & Earth Sciences (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Development Economics (AREA)
- Educational Administration (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于LSTM—RBF神经网络模型的航空安全预测方法,包括步骤S1:建立LSTM—RBF模型;步骤S2:利用LSTM—RBF模型对航空安全进行预测;利用LSTM模型训练致因事件数据样本,分析各类致因事件的时序变化趋势;利用RBF模型训练致因事件与航空不安全后果事件数据间的因果联系,计算各类致因因素的作用权值,该模型通过研究致因事件的时序规律,进而预测航空不安全后果事件变化趋势。
Description
技术领域
本发明涉及计算机处理技术领域,具体涉及一种基于LSTM—RBF神经网络模型的航空安全预测方法。
背景技术
安全是航空业永恒的话题,航空事故会导致大量人员伤亡、严重设备损坏,造成严重的社会损失。精确的航空安全预测是有效开展安全预警、预防的前提。目前航空安全预测有时间序列预测、计量模型预测和机器学习预测等;
时间序列预测是一种线性预测模型,以时间为自变量对样本进行相关分析,得到数据变化的趋势和周期。再辨识合适的随机模型,进行曲线拟合,常用的时间序列预测模型包括AR、MA、ARMA和ARIMA模型等,由于该类模型只能分析样本点之间的线性关系,且要求数据样本容量大,分布平稳,所以预测精度偏低。
计量模型预测通过建立关于预测对象与影响因素的方程式,并对这一系列方程式进行计量,根据影响因素的变化规律来预测目标的未来趋势。常用计量模型预测方法有回归预测、灰色预测和马尔科夫链预测等。该类方法易操作,不受样本容量限制,量化了各因素的影响权重,结论具有较高可信度。但航空事故致因机理复杂,简单的数学模型较难精确描述因果关系。机器学习预测运用计算机等工具,模仿人脑的学习方式,对现有样本进行训练,设定损失目标函数,对参数更新优化,将最终优化得到的模型用以预测。
常用的机器学习方法有人工神经网络预测和支持向量机预测等。机器学习具有较强的自学习能力和鲁棒性,能较好地拟合复杂变量间非线性关系。然而,传统神经网络模型的输入量一般认为是彼此独立的,即将输入层的时间变量作为一般输入变量,未考虑数据样本自身的时序特点。这给预测结果增加了误差。
发明内容
针对上述存在的问题,本发明旨在提供一种基于LSTM—RBF神经网络模型的航空安全因果预测方法,通过将数据量小、难以记录统计的航空不安全后果事件分解为若干致因事件,航空不安全后果事件具有一定危险性,但后果严重程度未达到事故的标准,该类事件样本小且难以准确统计,给预测带来了较大不确定性;致因事件是诱发航空不安全后果事件的各类风险源,这些事件样本大、变化趋势平稳,便于进行时序分析;LSTM模型训练致因事件数据样本,分析各类致因事件的时序变化趋势;RBF模型训练致因事件与航空不安全后果事件数据间的因果联系,计算各类致因事件的作用权值,该模型通过研究致因事件的时序规律,进而预测航空不安全后果事件变化趋势。
为了实现上述目的,本发明所采用的技术方案如下:
一种基于LSTM-RBF神经网络模型的航空安全预测方法,包括以下步骤:
步骤S1:建立LSTM—RBF模型;
步骤S2:利用LSTM—RBF模型对航空安全进行预测;
S201数据及指标选取:使用SHEL模型定量分析航空不安全后果事件,确定诱发航空不安全后果事件的致因因素,并对致因因素进行分类,获得各类致因因素对应的不安全事故数据;
S202数据标准化:对步骤S201获得的数据进行归一化处理,得到致因因素数据样本;
S203使用图检法对步骤S202获得的致因因素数据样本进行平稳性检验;
S204将步骤S203检验后的不安全事故数据样本作为LSTM模型输入变量,训练致因因素数据样本,分析各类致因因素的时序变化趋势,得到预测值;
S205利用RBF模型训练致因因素与航空不安全后果事件数据之间的因果联系,计算各类致因因素的作用权值,并用步骤S204获得的预测值作为验证样本对模型效果进行评价。
优选的,在上述步骤S1中,LSTM—RBF模型建立过程如下:
步骤S101:建立LSTM神经网络结构
LSTM神经网络结构自带记忆单元和遗忘单元,能伴随时间节点变化更新元胞状态;
首先,上一节点输出ht-1和当前输入xt进入遗忘门,由遗忘门决定前一时刻元胞状态ct-1舍弃的信息;然后,由输入门对上一节点输出ht-1和当前输入xt进行选择记忆,并结合遗忘门训练结果决定出当前元胞状态ct;最后,由输出门决定ct输出到当前输出值ht的信息量,由此随时间推移持续更新各状态参数;
各门和元胞状态的更新公式如下:
ft=σ(WfXt+Ufht-1+bf) (1)
it=σ(WiXt+Uiht-1+bi) (2)
ot=σ(WoXt+Uoht-1+bo) (3)
ht=ot·tanh(ct) (6)
其中,f为遗忘门,i为输入门,o为输出门,σ表示激励函数,W表示t时刻输入值xt在各门和元胞的权重,U表示上一时刻输出值ht-1在各门和元胞的权重,b为偏置项,为t时刻下信号尚未进入输入门的临界状态;ct为更新后的元胞状态,ht为输出值;
步骤S102:建立RBF神经网络模型
(1)RBF神经网络结构:RBF神经网络由输入层、隐含层和输出层构成的三层前向型网络,信号直接从输入层传递到隐含层,改层为非线性变换,隐含层到输出层通过权连接,该阶段为线性变换;
(2)RBF神经网络学习算法
RBF神经网络学习算法分为隐含层节点数增加与节点数固定两种:节点数增加时,网络通过样本学习不断调整权值;节点固定时由线性方程组直接解出权值;由于节点数固定计算效率更高,因此,选用隐含层节点数固定算法,具体步骤为:
①确定径向基函数中心
假设I为输入矩阵,O为期望输出矩阵,样本容量为R,则R个隐含层节点对应的径向基函数中心为:
C=I' (8)
②计算隐含层节点阈值
该阈值可通过
bi=0.8326/spread (9)
得出;bi为第i个隐含层节点的阈值,spread为RBF扩展速度;
③计算隐含层到输出层的权值与阈值,隐含层输出由激活函数得出:
其中,hi为第i个输入向量对应的输出;
假设W为权重矩阵,b'为隐含层到输出层间的阈值向量,H为隐含层输出矩阵,E单位矩阵,则列出关于权重的线性方程组
[W b′]·[H;E]=O (11)
即可求解权值。
优选的,在LSTM神经网络模型中,反向传播公式如式:
优选的,在上述步骤S201中,所述致因因素包括外来影响事件因素、设备设施因素、环境因素、管理因素和人为因素。
本发明的有益效果是:本发明公开了一种基于LSTM—RBF神经网络模型的航空安全因果预测方法,与现有技术相比,本发明的改进之处在于:
(1)运用SHEL模型定量分析各类致因因素,从而避免了直接分析难获取、样本小的航空不安全后果事件数据,而定量分析数据量较大的不安全事件数据。同时将航空安全研究关口前移,提高了风险管控效率;
(2)对于时序依赖性强的不安全事件,建立LSTM模型进行训练,该模型能够对时序样本选择性记忆:一方面可以不断积累有价值信息;另一方面可以随时舍弃价值较少的信息,提升了时序样本的利用价值;
(3)RBF模型训练致因因素与事故间的因果关系,定量计算各致因因素作用权值,并用验证样本对模型效果进行评估。
结果显示LSTM—RBF模型预测精度优于传统方法。该工作在定量计算致因事件时序特征的基础上,利用RBF强大的非线性拟合能力处理复杂的因果关系。从而使结论更具普遍性、稳健性。
附图说明
图1为本发明基于LSTM—RBF神经网络航空安全预测流程图。
图2为本发明LSTM神经网络结构图。
图3为本发明RBF神经网络结构图。
图4为本发明航空安全数据指标体系图。
图5为本发明实施例1中2019年1—35周某航空公司安全数据时序图。
图6为本发明实施例1中LSTM—RBF模型预测结果对比图。
图7为本发明实施例1中LSTM模型预测结果对比图。
图8为本发明实施例1中BP模型预测结果对比图。
图9为本发明实施例1中预测结果对比图。
具体实施方式
为了使本领域的普通技术人员能更好的理解本发明的技术方案,下面结合附图和实施例对本发明的技术方案做进一步的描述。
参照附图1-9所示,本发明具体提供了一种基于LSTM-RBF神经网络模型的航空安全预测方法,包括以下步骤:
步骤S1:建立LSTM—RBF模型;
步骤S101:建立LSTM神经网络结构
LSTM神经网络结构(如图2)自带记忆单元和遗忘单元,能伴随时间节点变化更新元胞状态:首先上一节点输出ht-1和当前输入xt进入遗忘门,由遗忘门决定前一时刻元胞状态ct-1舍弃哪些信息;再由输入门对上一节点输出ht-1和当前输入xt进行选择记忆,并结合遗忘门训练结果决定出当前元胞状态ct;最后由输出门决定ct有多少信息输出到当前输出值ht,由此随时间推移持续更新各状态参数;
其中,f为遗忘门,i为输入门,o为输出门,σ表示激励函数,一般取用sigmoid函数(如式1)。tanh为双曲正切函数。“×”表示点乘,“+”为一般意义的加法;
σ(x)=1/1+e–x
tanh(x)=ex-e-xex+e–x
各门和元胞状态的更新公式如下:
ft=σ(WfXt+Ufht-1+bf) (1)
it=σ(WiXt+Uiht-1+bi) (2)
ot=σ(WoXt+Uoht-1+bo) (3)
ht=ot·tanh(ct) (6)
传统神经网络模型在处理时间序列时,由于步长增加,BPTT(随时间反向传播算法)的迭代次数随之增大,极可能造成梯度消失、爆炸等问题,使得各参数无法精确更新;而LSTM神经网络模型独特的“门”结构能较好地规避此类问题;
在LSTM神经网络模型中,反向传播公式如式:
步骤S102:建立RBF神经网络模型
(1)RBF神经网络结构
RBF网络是典型的三层(输入层、隐含层和输出层)前向型网络(如图3),其中输入层感知信号,输出层响应信号,隐含层空间由若干RBF构成。信号不需要赋权而直接从输入层传递到隐含层,该阶段为非线性变换;隐含层到输出层需通过权连接,即网络输出是隐含层输出的线性加权和,该阶段为线性变换;
(2)RBF神经网络学习算法
RBF学习算法分为隐含层节点数增加与节点数固定两种:节点数增加时,网络通过样本学习不断调整权值;节点固定时由线性方程组直接解出权值,显然后者计算效率更高,所以选用隐含层节点数固定的算法,即隐含层节点数等于训练样本数,具体步骤为:
①确定径向基函数中心
设I为输入矩阵,O为期望输出矩阵,样本容量为R,则R个隐含层节点对应的径向基函数中心为:
C=I' (8)
②计算隐含层节点阈值
该阈值可通过经验公式(式9)
bi=0.8326/spread (9)
得出;bi为第i个隐含层节点的阈值,spread为RBF扩展速度;
(3)计算隐含层到输出层的权值与阈值隐含层输出由激活函数:
得出,hi为第i个输入向量对应的输出,设W为权重矩阵,b'为隐含层到输出层间的阈值向量,H为隐含层输出矩阵,E单位矩阵;
列出线性方程组(式11)
[W b′]·[H;E]=O (11)
即可求解权值。
步骤S2:利用LSTM—RBF模型对航空安全进行预测(如图1):
S201数据及指标选取:使用SHEL模型定量分析航空不安全后果事件,确定诱发航空不安全后果事件的致因因素,并对致因因素进行分类,获得各类致因因素对应的不安全事故数据;
S202数据标准化:对步骤S201获得的数据进行归一化处理,得到致因因素数据样本;
S203使用图检法对步骤S202获得的致因因素数据样本进行平稳性检验;
S204将步骤S203检验后的不安全事故数据样本作为LSTM模型输入变量,训练致因因素数据样本,分析各类致因因素的时序变化趋势,得到预测值;
S205利用RBF模型训练致因因素与航空不安全后果事件数据之间的因果联系,计算各类致因因素的作用权值,并用步骤S204获得的预测值作为验证样本对模型效果进行评价。
实施例1
基于LSTM—RBF预测模型很好继承了时间与致因两个维度的变量,既保留了前一时刻的有效信息,又量化了各不安全事件对事故的贡献作用,能为航空安全决策提供定量的科学依据,预测流程如图1所示;
(1)数据及指标选取
基于SHEL模型事故诱因分析,事故是多种致因因素相互作用的结果,具体可分为人、硬件、软件和环境四方面;考虑航空事故特点,结合历年航空安全数据统计规律,可将事故致因分为外来影响事件因素、设备设施因素、环境因素、管理因素和人为因素五大类。其中,外来影响事件因素包括鸟击、电磁干扰、机身卷入异物;设施设备因素包括工具磨损、机载设备故障;环境因素包括维修环境、保障环境、恶劣天气;管理因素包括教育培训不到位、安全隐患失察、规章制度不完善;人为因素包括操作失误、违规维修、处置特情能力不足。本实施例数据选取自某民航公司2019年(1~35周)不安全事件以及航空不安全后果事件周统计(如图4)。航空不安全后果事件作为事故,不安全事件作为致因因素。建立二级指标体系如图4;
(2)数据标准化
为减小量纲及其单位差异对各指标间关联性的影响,首先对数据进行归一化处理,本文采用min-max标准化方法,如式(12):
其中xmax为样本最大值,xmin为样本最小值,标准化处理的不安全事件数据如表1;
表1:2019年1—35周某航空公司不安全事件数据
设计以下实施例对上述方法进行验证:
(1)LSTM模型训练
1.1平稳性检验
对时间序列数据预测之前,有必要对其进行平稳性检验,以确保样本具备统计分析的实际意义,其中图检法是一种简便直观的检验方法。观察样本时序图,可看出各样本均围绕某一值上下波动,其波动范围近似相等,符合平稳时间序列的特性。
1.2参数选择
隐含层节点个数是决定LSTM神经网络模型精度的主要因素,一般来说,隐含层节点数越多,网络迭代速度越快,训练效果越精确,但易出现“过拟合”;若节点过少,无法准确刻画样本点间存在的复杂非线性关系,降低了模型精度;目前没有求解最优隐含层节点数的公式,一般根据经验设定,并多次实验确定最优解。对于单变量时间序列预测,输入层(时间)节点数为1,输出层(不安全事件)节点数为1;
其它参数设置如下:训练次数250,初始学习率根据样本数量级调整,在125轮训练后乘以衰减系数0.2降低学习率;为防止梯度爆炸,梯度阈值设置为1。
1.3训练结果及分析
为确保模型的学习效率及泛化能力,结合样本容量和经验公式,确定训练样本与验证样本的容量比为4:1,即选取1~28周数据作为训练样本,29~35周数据作为预测样本。隐含层节点数取值为[1,40],分别预测五类不安全事件的变化趋势。同条件下的实验运算二十次,取精度最佳的结果反归一化,作为RBF模型的输入样本,选用均方根误差(RMSE)、平均绝对百分比误差(MAPE)作为预测精度的评价指标(如式13、式14),两者值越小,则对应实验精度越好:
其中:yi为真实值,y'i为预测值,y为样本均值,n为样本个数,经计算,并综合比较三个性能指标,五类不安全事件预测模型对应的最优隐含层节点数分别为23,23,20,25和20,记录相应的输出结果。
(2)RBF模型训练
搭建RBF神经网络模型,五类不安全事件数据作为输入量,对航空不安全后果事件数开展预测,训练样本(1~28周数据)采用原始数据,验证样本(29~35周数据)中的输入量采用LSTM网络预测值,输出量采用原始数据;输入层节点数设为5,输出层节点数设为1,隐含层节点数设为5,记录实验结果;为直观评价预测精度,对同一样本分别在LSTM模型、BP模型和ARIMA模型运算;预测误差对比如图6、图7、图8、图9;(由于LSTM、BP模型初始权值随机产生,每次训练效果不尽相同,故重复训练20次,衡量结果稳健性)
从图6—图9并结合各模型预测结果(表2,t表示模型求解计算时间(秒));综合各性能指标分析:LSTM—RBF预测航空安全,计算RMSE、MAPE分别为11.5136、7.555;较其他模型精度有显著提高;对照模型中LSTM和ARIMA效果较好,BP模型效果最差;说明航空安全数据样本的时序依赖性,是影响预测精度的一个主要因素;采用时间序列预测方法能在一定程度拟合其变化趋势。在此基础定量分析致因间的作用权值,能够进一步提升预测效果;
表2:模型预测效果对比
本文提出了基于LSTM—RBF神经网络模型的航空安全因果预测新方法,主要有以下三方面工作:
(1)运用SHEL模型定量分析各类致因因素,从而避免了直接分析难获取、样本小的航空不安全后果事件数据,而定量分析数据量较大的不安全事件数据。同时将航空安全研究关口前移,提高了风险管控效率;
(2)对于时序依赖性强的不安全事件,建立LSTM模型进行训练,该模型能够对时序样本选择性记忆:一方面可以不断积累有价值信息;另一方面可以随时舍弃价值较少的信息,提升了时序样本的利用价值;
(3)RBF模型训练致因因素与事故间的因果关系,定量计算各致因因素作用权值,并用验证样本对模型效果进行评估。
结果显示LSTM—RBF模型预测精度优于传统方法。该工作在定量计算致因事件时序特征的基础上,利用RBF强大的非线性拟合能力处理复杂的因果关系。从而使结论更具普遍性、稳健性。
以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是说明本发明的原理,在不脱离本发明精神和范围的前提下,本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。
Claims (4)
1.一种基于LSTM-RBF神经网络模型的航空安全预测方法,其特征在于:包括以下步骤:
步骤S1:建立LSTM—RBF模型;
步骤S2:利用LSTM—RBF模型对航空安全进行预测;
S201数据及指标选取:使用SHEL模型定量分析航空不安全后果事件,确定诱发航空不安全后果事件的致因因素,并对致因因素进行分类,获得各类致因因素对应的不安全事故数据;
S202数据标准化:对步骤S201获得的数据进行归一化处理,得到致因因素数据样本;
S203使用图检法对步骤S202获得的致因因素数据样本进行平稳性检验;
S204将步骤S203检验后的不安全事故数据样本作为LSTM模型输入变量,训练致因因素数据样本,分析各类致因因素的时序变化趋势,得到预测值;
S205利用RBF模型训练致因因素与航空不安全后果事件数据之间的因果联系,计算各类致因因素的作用权值,并用步骤S204获得的预测值作为验证样本对模型效果进行评价。
2.根据权利要求1所述的一种基于LSTM-RBF神经网络模型的航空安全预测方法,其特征在于,在上述步骤S1中,LSTM—RBF模型建立过程如下:
步骤S101:建立LSTM神经网络结构
LSTM神经网络结构自带记忆单元和遗忘单元,能伴随时间节点变化更新元胞状态;
首先,上一节点输出ht-1和当前输入xt进入遗忘门,由遗忘门决定前一时刻元胞状态ct-1舍弃的信息;然后,由输入门对上一节点输出ht-1和当前输入xt进行选择记忆,并结合遗忘门训练结果决定出当前元胞状态ct;最后,由输出门决定ct输出到当前输出值ht的信息量,由此随时间推移持续更新各状态参数;
各门和元胞状态的更新公式如下:
ft=σ(WfXt+Ufht-1+bf) (1)
it=σ(WiXt+Uiht-1+bi) (2)
ot=σ(WoXt+Uoht-1+bo) (3)
ht=ot·tanh(ct) (6)
其中,f为遗忘门,i为输入门,o为输出门,σ表示激励函数,W表示t时刻输入值xt在各门和元胞的权重,U表示上一时刻输出值ht-1在各门和元胞的权重,b为偏置项,为t时刻下信号尚未进入输入门的临界状态;ct为更新后的元胞状态,ht为输出值;
步骤S102:建立RBF神经网络模型
(1)RBF神经网络结构:RBF神经网络由输入层、隐含层和输出层构成的三层前向型网络,信号直接从输入层传递到隐含层,改层为非线性变换,隐含层到输出层通过权连接,该阶段为线性变换;
(2)RBF神经网络学习算法
RBF神经网络学习算法分为隐含层节点数增加与节点数固定两种:节点数增加时,网络通过样本学习不断调整权值;节点固定时由线性方程组直接解出权值;由于节点数固定计算效率更高,因此,选用隐含层节点数固定算法,具体步骤为:
①确定径向基函数中心
假设I为输入矩阵,O为期望输出矩阵,样本容量为R,则R个隐含层节点对应的径向基函数中心为:
C=I' (8)
②计算隐含层节点阈值
该阈值可通过
bi=0.8326/spread (9)
得出;bi为第i个隐含层节点的阈值,spread为RBF扩展速度;
③计算隐含层到输出层的权值与阈值,隐含层输出由激活函数得出:
其中,hi为第i个输入向量对应的输出;
假设W为权重矩阵,b'为隐含层到输出层间的阈值向量,H为隐含层输出矩阵,E单位矩阵,则列出关于权重的线性方程组
[W b′]·[H;E]=O (11)
即可求解权值。
4.根据权利要求1所述的一种基于LSTM-RBF神经网络模型的航空安全预测方法,其特征在于,在上述步骤S201中,所述致因因素包括外来影响事件因素、设备设施因素、环境因素、管理因素和人为因素。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011158039.8A CN112257935B (zh) | 2020-10-26 | 2020-10-26 | 一种基于lstm—rbf神经网络模型的航空安全预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011158039.8A CN112257935B (zh) | 2020-10-26 | 2020-10-26 | 一种基于lstm—rbf神经网络模型的航空安全预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112257935A true CN112257935A (zh) | 2021-01-22 |
CN112257935B CN112257935B (zh) | 2023-05-09 |
Family
ID=74261309
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011158039.8A Active CN112257935B (zh) | 2020-10-26 | 2020-10-26 | 一种基于lstm—rbf神经网络模型的航空安全预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112257935B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112801362A (zh) * | 2021-01-26 | 2021-05-14 | 桂林电子科技大学 | 一种基于人工神经网络与lstm网络的学业预警方法 |
CN113222218A (zh) * | 2021-04-16 | 2021-08-06 | 浙江工业大学 | 基于卷积长短时记忆神经网络的交通事故风险预测方法 |
CN114046179A (zh) * | 2021-09-15 | 2022-02-15 | 山东省计算中心(国家超级计算济南中心) | 一种基于co监测数据智能识别和预测井下安全事故的方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109472110A (zh) * | 2018-11-29 | 2019-03-15 | 南京航空航天大学 | 一种基于lstm网络和arima模型的航空发动机剩余使用寿命预测方法 |
CN110262251A (zh) * | 2019-07-11 | 2019-09-20 | 电子科技大学 | 基于lstm神经网络的飞控系统数据预测及辅助诊断方法 |
CN110702418A (zh) * | 2019-10-10 | 2020-01-17 | 山东超越数控电子股份有限公司 | 航空发动机故障预测方法 |
US20200301406A1 (en) * | 2019-03-21 | 2020-09-24 | United Technologies Corporation | System for forecasting aircraft engine deterioration using recurrent neural networks |
-
2020
- 2020-10-26 CN CN202011158039.8A patent/CN112257935B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109472110A (zh) * | 2018-11-29 | 2019-03-15 | 南京航空航天大学 | 一种基于lstm网络和arima模型的航空发动机剩余使用寿命预测方法 |
US20200301406A1 (en) * | 2019-03-21 | 2020-09-24 | United Technologies Corporation | System for forecasting aircraft engine deterioration using recurrent neural networks |
CN110262251A (zh) * | 2019-07-11 | 2019-09-20 | 电子科技大学 | 基于lstm神经网络的飞控系统数据预测及辅助诊断方法 |
CN110702418A (zh) * | 2019-10-10 | 2020-01-17 | 山东超越数控电子股份有限公司 | 航空发动机故障预测方法 |
Non-Patent Citations (1)
Title |
---|
李京峰等: "基于LSTM-DBN的航空发动机剩余寿命预测" * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112801362A (zh) * | 2021-01-26 | 2021-05-14 | 桂林电子科技大学 | 一种基于人工神经网络与lstm网络的学业预警方法 |
CN112801362B (zh) * | 2021-01-26 | 2022-03-22 | 桂林电子科技大学 | 一种基于人工神经网络与lstm网络的学业预警方法 |
CN113222218A (zh) * | 2021-04-16 | 2021-08-06 | 浙江工业大学 | 基于卷积长短时记忆神经网络的交通事故风险预测方法 |
CN113222218B (zh) * | 2021-04-16 | 2022-06-10 | 浙江工业大学 | 基于卷积长短时记忆神经网络的交通事故风险预测方法 |
CN114046179A (zh) * | 2021-09-15 | 2022-02-15 | 山东省计算中心(国家超级计算济南中心) | 一种基于co监测数据智能识别和预测井下安全事故的方法 |
CN114046179B (zh) * | 2021-09-15 | 2023-09-22 | 山东省计算中心(国家超级计算济南中心) | 一种基于co监测数据智能识别和预测井下安全事故的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112257935B (zh) | 2023-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112257935B (zh) | 一种基于lstm—rbf神经网络模型的航空安全预测方法 | |
CN110321603B (zh) | 一种用于航空发动机气路故障诊断的深度计算模型 | |
CN111539515B (zh) | 一种基于故障预测的复杂装备维修决策方法 | |
Abul-Haggag et al. | Application of fuzzy logic for risk assessment using risk matrix | |
Aslansefat et al. | Performance evaluation and design for variable threshold alarm systems through semi-Markov process | |
CN115018348B (zh) | 基于人工智能的环境分析方法、系统、设备及存储介质 | |
CN112257914B (zh) | 一种基于随机森林的航空安全因果预测方法 | |
Wawrzyniak et al. | Data-driven models in machine learning for crime prediction | |
CN112287596A (zh) | 一种基于聚类和lstm的发动机剩余寿命预测方法 | |
Zekić-Sušac et al. | Cluster analysis and artificial neural networks in predicting energy efficiency of public buildings as a cost-saving approach | |
CN114707712A (zh) | 一种发电机组备件需求的预测方法 | |
CN113657814A (zh) | 一种航空网络风险预测方法及风险等级评估方法 | |
Wang et al. | Reliability analysis for automobile engines: Conditional inference trees | |
CN116542701A (zh) | 一种基于cnn-lstm组合模型的碳价预测方法及系统 | |
CN116957331A (zh) | 风险旅客流量范围预测方法和装置 | |
CN111598328A (zh) | 一种计及疫情事件的电力负荷预测方法 | |
CN113779893B (zh) | 基于回声状态网络的保障性仿真输出结果可信性评价方法 | |
CN112232557B (zh) | 基于长短期记忆网络的转辙机健康度短期预测方法 | |
Wang et al. | Aviation risk analysis: U-bowtie model based on chance theory | |
Chimitova et al. | Goodness-of-fit testing for the degradation models in reliability analysis | |
Mahdi et al. | Development of a Method of Structural-Parametric Assessment of the Object State | |
Bezuhlyi et al. | Development of object state estimation method in intelligent decision support systems | |
CN115996082B (zh) | 一种可追溯的机载总线网络健康状态评估方法及系统 | |
Cejnek et al. | Influence of type and level of noise on the performance of an adaptive novelty detector | |
Bermeo et al. | Artificial Neural Network and Monte Carlo Simulation in a hybrid method for time series forecasting with generation of L-scenarios |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |