CN110470259A - 基于lstm的滑坡位移动态预测方法 - Google Patents
基于lstm的滑坡位移动态预测方法 Download PDFInfo
- Publication number
- CN110470259A CN110470259A CN201910614884.2A CN201910614884A CN110470259A CN 110470259 A CN110470259 A CN 110470259A CN 201910614884 A CN201910614884 A CN 201910614884A CN 110470259 A CN110470259 A CN 110470259A
- Authority
- CN
- China
- Prior art keywords
- landslide
- displacement
- lstm
- data
- prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B21/00—Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant
- G01B21/02—Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring length, width, or thickness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Testing Or Calibration Of Command Recording Devices (AREA)
Abstract
本发明公开的基于LSTM的滑坡位移动态预测方法,首先,构建滑坡位移在线监测系统,并进行实时监测得到一个周期内完整的位移数据,通过3δ算法对采集的位移数据做异常值剔除处理,并进行归一化;然后,建立LSTM的滑坡位移预测模型,并进行训练;最后,将得到的归一化后的数据作为模型的输入量,输入到滑坡位移预测模型中,由预测模型对输入数据进行处理,实现对未来时期滑坡位移的预测。本发明公开的基于LSTM的滑坡位移动态预测方法,解决了RNN网络模型在训练时可能出现的梯度爆炸和梯度消失现象,从而更进一步提高训练模型的滑坡位移预测精度。
Description
技术领域
本发明属于地质灾害监测预报技术领域,具体涉及一种基于长短期记忆网络(Long Short Term Memory Network,LSTM)的滑坡位移动态预测方法。
背景技术
滑坡灾害作为中国常见的地质灾害,因其具有广泛分布、频繁发生、运动快速的特点,每年因滑坡造成的经济损失可达10亿美元。不仅如此,滑坡所带来的次生灾害也是不可估量的。因此,采取必要的手段对其监测,进而科学、有效地对滑坡灾害进行预测预报,具有重大的经济价值及社会意义。
在以往的滑坡位移预测研究中主要使用RBF(Radial Basis Function)、BP(BackPropagation)、k-means等智能算法,然而这些算法从实际应用的情况来看还存在如下问题:RBF神经网络具有较强的聚类能力,在处理复杂事物和大量数据方面能力较强,但其是一个静态网络,不能用于滑坡动态预测;BP神经网络可以解决非线性问题,但其在训练过程中易陷入局部极小,收敛速度慢,对训练样本具有依赖性;k-means需要预先确定聚类数目K,难以适应大规模数据,后期容易陷入局部最优、聚类停滞等问题。
RNN(Recurrent Neural Network,RNN)主要用于时序数据的处理和预测,是一种典型的动态神经网络。其具有以下优势:(1)适用于时序数据的处理,具有记忆功能,使得前一时刻的状态能够对后一时刻的状态造成影响,实现网络状态的反馈;(2)RNN本身特有的结构使其预测精度更加准确。RNN的提出是为了描述一个序列当前的输出与之前状态信息的关系。RNN包括以下3个特性:a)RNN能够在每个时间节点产生一个输出,且隐藏层单元间的连接是循环的;b)RNN能够在每个时间节点产生一个输出,且该时间节点上的输出仅与下一时间节点的隐单元有循环连接;c)RNN包含带有循环连接的隐单元,且能够处理序列数据并输出单一的预测。即RNN会记忆之前的信息,并利用之前的信息作用于后面结点的输出。即RNN的隐藏层之间的结点是有连接的,隐藏层的输入不仅包括输入层的输出,还包括上一时刻隐藏层的输出,但RNN在训练过程中由于依赖长时序数据从而会产生梯度膨胀或梯度消失的现象,导致预测存在偏差,对滑坡灾害定性分析产生严重后果。
LSTM是一种特定形式的RNN,它的提出是为了解决RNN在处理长期依赖时产生的梯度膨胀或梯度消失的现象,其在其它领域也取得了惊人的成就。LSTM相较于原始RNN隐藏层的一个状态h,LSTM增添了一个状态c并引入了“门”。在一个cell单元中引入3个门—输入门(计算某一时刻网络的输入xt保存到单元状态ct的程度);输出门(单元状态ct有多少输出到LSTM的当前输出值ht);遗忘门(判断上一时刻的单元状态ct-1保留到当前单元状态ct的程度);导致自循环的权重是变化的,因此在模型参数固定的情况下,不同时刻的积分尺度是动态改变的,从而避免了梯度消失或者梯度膨胀的问题,较大程度提高了RNN处理长期序列数据的能力,使预测精度更进一步提高。
发明内容
本发明的目的是提供一种基于LSTM的滑坡位移动态预测方法,解决了现有RNN网络模型在训练时可能出现的梯度爆炸和梯度消失现象,从而更进一步提高训练模型的滑坡位移预测精度。
本发明所采用的技术方案是,基于LSTM的滑坡位移动态预测方法,具体操作过程包括如下步骤:
步骤1,构建滑坡位移在线监测系统,并进行实时监测得到一个周期内完整的位移数据,通过3δ算法对采集的位移数据做异常值剔除处理,并进行归一化;
步骤2,建立LSTM的滑坡位移预测模型,并进行训练;
步骤3,将步骤1得到的归一化后的数据作为模型的输入量,输入到步骤2建立的滑坡位移预测模型中,由预测模型对输入数据进行处理,实现对未来时期滑坡位移的预测。
本发明的其他特点还在于,
步骤1中建立的滑坡位移在线监测系统包括:位于滑坡现场的数据采集模块、主控模块和上位机,数据采集模块与主控模块信号连接,主控模块通过无线传输模块与上位机连接,上位机用于LSTM滑坡位移预测模型的训练,实现对滑坡位移的预测。
优选的,数据采集模块包括分布式安装在滑坡上的至少一个位移传感器,用于实时采集滑坡位移。
优选的,主控模块包括电源模块、时钟电路、复位电路和存储模块;主控模块采用STM32F103RCT6芯片,用于对数据进行处理;电源模块为主控模块供电;时钟电路为整个系统提供特定运行频率;复位电路用于异常情况下恢复处理;存储模块用于存储采集的滑坡位移数据。
优选的,无线传输模块采用ESP8266芯片,通过配置网关端口,服务器等实现远程传输数据。
优选的,步骤1中3δ算法异常值处理的具体过程如下:
假设对监测点进行了n次监测,所得的第i次监测值为Mi(i=1,2,…,n),连续3次监测的测量值分别为Mi–1,Mi,Mi+1(i=2,3,…,n–1),则第i次监测的跳动特征定义如式(1)所示:
hi=|2×Mi-(Mi-1+Mi+1)| (1)
跳动特征值均值如式(2)所示:
跳动特征值均方差如式(3)所示:
则相对差值如式(4)所示:
如果Qi>3,则该监测值是异常值,则将该数据剔除。
优选的,骤1中进行归一化的具体过程如下:
首先找到做异常值剔除处理后的样本数据Y的最小值Min及最大值Max;
然后,按照式(5)计算系数:
则得到归一化到[a,b]区间的数据如式(6)所示:
norY=a+k*(Y-Min) (6)
优选的,步骤2中建立LSTM的滑坡位移预测模型并进行训练的具体过程如下:
步骤2.1,构建神经网络层,LSTM滑坡位移预测模型分为三层,即输入层、隐藏层、输出层;采用网格搜索法进行参数寻优,求出最佳隐藏层节点数:给定n个输入层、隐藏层节点数据对(j,k),将数据集分为训练集和测试集,训练集用来训练模型,测试集用来进行交叉验证实现精确度最高的求平均返回,找出与之对应的最大参数组合;
步骤2.2,训练LSTM的滑坡位移预测模型:
构建遗忘门ft如式(7)所示:
ft=σ(Wf·[ht-1,xt]+bf) (7)
构建输入门it如式(8)所示:
it=σ(Wi·[ht-1,xt]+bi) (8)
构建当前输入的单元状态如式(9)所示:
计算当前时刻的单元状态ct如式(10)
计算输出门ot如式(11)所示:
ot=σ(WO·[ht-1,xt]+bo) (11)
计算最终输出ht如式(12)所示:
上式中,ft、it、ct、ot、ht分别代表遗忘门、输入门、当前输入单元状态、当前时刻单元状态、输出、最终输出;
其中,Wf是遗忘门的权重矩阵,[ht-1,xt]表示把两个向量连接成一个更长的向量,bf为遗忘门的偏置项;σ为sigmoid函数,Wi为输入门的权重矩阵,Wc为当前输入单元状态的权重矩阵,bi为输入门的偏置项;符号°表示按元素乘,Wo为输出权重矩阵,bo为输出偏置项;
步骤2.3,前向计算每个神经元的ft、it、ct、ot、ht输出值,然后反向计算每个神经元的误差项值σi,包括两个方向:a):分别沿时间的反向传播,即从当前t时刻开始,计算每个时刻误差项σi;b):将误差项向上一层传播;最后按照相应的误差项σi,计算LSTM网络结构中各层权重,包括Wf、Wc、Wi、Wo,使得损失函数达到最小,最终获得训练的滑坡预测模型。
本发明的有益效果是,基于LSTM的滑坡位移动态预测方法,解决了现有RNN网络模型在训练时可能出现的梯度爆炸和梯度消失现象,从而更进一步提高训练模型的滑坡位移预测精度。使用滑坡灾害在线监测预报系统,得到实时位移监测数据,增加了系统的及时性,通过“3δ”对监测点采集来的数据做异常值剔除处理,从而避免因设备损耗或其它突发因素导致最终训练结果偏差较大的后果。针对滑坡灾害突发性和非线性的特点,建立LSTM滑坡位移动态预测模型进行,在弥补人工神经网络训练的不足和单纯RNN预测时出现的梯度消失或梯度爆炸现象的同时,能更准确预测滑坡灾害的位移,从而对进一步预报分析做出了重大贡献,大大减少了人身财产的损失。
附图说明
图1是本发明的基于LSTM的滑坡位移动态预测方法中采用的滑坡灾害在线预报系统的结构示意图;
图2是本发明基于LSTM的滑坡位移动态预测方法中涉及的LSTM神经网络结构图;
图3是实施例中的LSTM的滑坡位移动态预测模型训练误差-迭代图;
图4是实施例中的LSTM的滑坡位移动态预测模型训练结果图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
本发明的基于LSTM的滑坡位移动态预测方法,具体操作过程包括如下步骤:
步骤1,构建滑坡位移在线监测系统,并进行实时监测得到一个周期内完整的位移数据,通过3δ算法对采集的位移数据做异常值剔除处理,并进行归一化;
如图1所示,步骤1中建立的滑坡位移在线监测系统包括:位于滑坡现场的数据采集模块、主控模块和上位机,数据采集模块与主控模块信号连接,主控模块通过无线传输模块与上位机连接,上位机用于LSTM滑坡位移预测模型的训练,实现对滑坡位移的预测。
数据采集模块包括分布式安装在滑坡上的至少一个位移传感器,用于实时采集滑坡位移。
主控模块包括电源模块、时钟电路、复位电路和存储模块;主控模块采用STM32F103RCT6芯片,用于对数据进行处理;电源模块为主控模块供电;时钟电路为整个系统提供特定运行频率;复位电路用于异常情况下恢复处理;存储模块用于存储采集的滑坡位移数据。
无线传输模块采用ESP8266芯片,通过配置网关端口,服务器等实现远程传输数据。
步骤1中3δ算法异常值处理的具体过程如下:
假设对监测点进行了n次监测,所得的第i次监测值为Mi(i=1,2,…,n),连续3次监测的测量值分别为Mi–1,Mi,Mi+1(i=2,3,…,n–1),则第i次监测的跳动特征定义如式(1)所示:
hi=|2×Mi-(Mi-1+Mi+1)| (1)
跳动特征值均值如式(2)所示:
跳动特征值均方差如式(3)所示:
则相对差值如式(4)所示:
如果Qi>3,则该监测值是异常值,则将该数据剔除。
步骤1中进行归一化的具体过程如下:
首先找到做异常值剔除处理后的样本数据Y的最小值Min及最大值Max;
然后,按照式(5)计算系数:
则得到归一化到[a,b]区间的数据如式(6)所示:
norY=a+k*(Y-Min) (6)。
步骤2,建立LSTM的滑坡位移预测模型,并进行训练,如图2所示;
步骤2中建立LSTM的滑坡位移预测模型并进行训练的具体过程如下:
步骤2.1,构建神经网络层,LSTM滑坡位移预测模型分为三层,即输入层、隐藏层、输出层;采用网格搜索法进行参数寻优,求出最佳隐藏层节点数:给定n个输入层、隐藏层节点数据对(j,k);对数据集进行交叉验证;
例如:k折交叉验证,首先对数据对进行分割,将原始数据集分为训练集和测试集,训练集是用来训练模型,测试集是用来测试模型的准确率。然后进行数据验真,在k折交叉验证方法中其中k-1份作为训练数据,剩下的一份作为验真数据;最后循环k次,将k次使用实现精确度最高的求平均返回,最终找出与之对应的最大的一个参数组合;
步骤2.2,训练LSTM的滑坡位移预测模型:
构建遗忘门ft如式(7)所示:
ft=σ(Wf·[ht-1,xt]+bf) (7)
构建输入门it如式(8)所示:
it=σ(Wi·[ht-1,xt]+bi) (8)
构建当前输入的单元状态如式(9)所示:
计算当前时刻的单元状态ct如式(10)
计算输出门ot如式(11)所示:
ot=σ(WO·[ht-1,xt]+bo) (11)
计算最终输出ht如式(12)所示:
上式中,ft、it、ct、ot、ht分别代表遗忘门、输入门、当前输入单元状态、当前时刻单元状态、输出、最终输出;
其中,Wf是遗忘门的权重矩阵,[ht-1,xt]表示把两个向量连接成一个更长的向量,bf为遗忘门的偏置项;σ为sigmoid函数,Wi为输入门的权重矩阵,Wc为当前输入单元状态的权重矩阵,bi为输入门的偏置项;符号表示按元素乘,Wo为输出权重矩阵,bo为输出偏置项;
步骤2.3,前向计算每个神经元的ft、it、ct、ot、ht输出值,然后反向计算每个神经元的误差项值σi,包括两个方向:a):分别沿时间的反向传播,即从当前t时刻开始,计算每个时刻误差项σi;b):将误差项向上一层传播;最后按照相应的误差项σi,计算LSTM网络结构中各层权重,包括Wf、Wc、Wi、Wo,使得损失函数达到最小,最终获得训练的滑坡预测模型。
步骤3,将步骤1得到的归一化后的数据作为模型的输入量,输入到步骤2以建立的滑坡位移预测模型中,由预测模型对输入数据进行处理,实现对未来时期滑坡位移的预测。
例如:根据前3组4个监测点的采集数据,预测第4组4个监测点的数据,依此类推,表1为网络训练模型过程。
表1网络模型训练过程
实施例
利用Matlab构建LSTM滑坡位移动态预测模型:
数据加载,并归一化处理:
[train_data,test_data]=LSTM_data_process();
data_length=size(train_data,1);
data_num=size(train_data,2);
网格搜索法后结点数设置:
input_num=12;
cell_num=18;
output_num=4;
网络中门的偏置:
bias_input_gate=rand(1,cell_num);
bias_forget_gate=rand(1,cell_num);
bias_output_gate=rand(1,cell_num);
网络层权重初始化:
ab=15.5;
weight_input_x=rand(input_num,cell_num)/ab;
weight_input_h=rand(output_num,cell_num)/ab;
weight_inputgate_x=rand(input_num,cell_num)/ab;
weight_inputgate_c=rand(cell_num,cell_num)/ab;
weight_forgetgate_x=rand(input_num,cell_num)/ab;
weight_forgetgate_c=rand(cell_num,cell_num)/ab;
weight_outputgate_x=rand(input_num,cell_num)/ab;
weight_outputgate_c=rand(cell_num,cell_num)/ab;
迭代误差:cost_gate=1e-3;
学习速率:yita=0.001;
误差计算:Error=h_state(:,m)-test_data(:,m);
最终输出:h_state(:,m)=(pre_h_state*weight_preh_h)';
将监测并处理之后的位移数据输入到LSTM滑坡位移动态预测模型中进行训练;第一步前向计算每个神经元ft、it、ct、ot、ht的输出值;第二步反向计算每个神经元的误差项值,包含两个方向:a.沿时间的反向传播(从当前t时刻开始,计算每个时刻误差项);b.将误差项向上一层传播;第三步按照相应的误差项,计算每个权重的梯度并计算出最终位移。
本发明以200组数据为例说明,一部分数据作为训练样本,另一部分数据作为验证,采用”轮转训练”的方式进行预测训练,即以前3次/天的数据预测第4次/天的数据。本次训练以第68组数据为例采用网格搜索法(Grid search method)进行参数寻优,最终确定输入节点数为12,隐藏层节点数为18,预设期望精度0.001,期望误差0.001。样本数据见表2。
表2样本数据
编号 | NO.1 | NO.2 | NO.3 | NO.4 |
1 | 3.38 | 6.08 | 2.23 | 10.7 |
2 | 3.87 | 6.24 | 2.87 | 13.9 |
3 | 4.28 | 6.87 | 3.46 | 21 |
4 | 4.79 | 7.15 | 3.58 | 27.1 |
5 | 5.06 | 7.32 | 5.65 | 33.5 |
6 | 6.67 | 7.83 | 9.83 | 42.2 |
7 | 8.57 | 8.37 | 12.32 | 55.3 |
8 | 12.31 | 10.45 | 16.23 | 62.2 |
9 | ........ | ......... | ......... | ......... |
注:NO.1、NO.2、NO.3、NO.4为4个监测点编号
LSTM神经网络模型训练误差-迭代如图3所示,本次训练中预设期望精度为0.001,学习速率为0.001。当迭代步数约为3000步时,LSTM训练结果的误差约为0.00001,此时已满足预设期望精度。
LSTM神经网络模型训练结果如图4所示;横坐标为组数,纵坐标为位移量化值(归一化值)。可得,LSTM预测曲线与实测曲线的拟合度较高。究其原因,RNN存在梯度消失现象,无法处理长序列数据:即当进行某一轮训练时,某一时刻梯度已减小为0,并且从此刻以后所得到的梯度都近似为0,其对权重数组W最终的梯度贡献为0(即W不再更新)。而LSTM由于其算法结构的特殊及复杂,可以解决梯度消失问题并且预测精度高。
综上所述,LSTM滑坡位移动态预测模型进行建立,在弥补人工神经网络训练的不足和单纯RNN预测时出现的梯度消失或梯度爆炸现象的同时,能更准确预测滑坡灾害的位移,从而对进一步预报分析做出了重大贡献,大大减少了人身财产的损失。
Claims (8)
1.基于LSTM的滑坡位移动态预测方法,其特征在于,具体操作过程包括如下步骤:
步骤1,构建滑坡位移在线监测系统,并进行实时监测得到一个周期内完整的位移数据,通过3δ算法对采集的位移数据做异常值剔除处理,并进行归一化;
步骤2,建立LSTM的滑坡位移预测模型,并进行训练;
步骤3,将步骤1得到的归一化后的数据作为模型的输入量,输入到步骤2建立的滑坡位移预测模型中,由预测模型对输入数据进行处理,实现对未来时期滑坡位移的预测。
2.如权利要求1所述的基于LSTM的滑坡位移动态预测方法,其特征在于,所述步骤1中建立的滑坡位移在线监测系统包括:位于滑坡现场的数据采集模块、主控模块和上位机,所述数据采集模块与所述主控模块信号连接,所述主控模块通过无线传输模块与所述上位机连接,所述上位机用于LSTM滑坡位移预测模型的训练,实现对滑坡位移的预测。
3.如权利要求2所述的基于LSTM的滑坡位移动态预测方法,其特征在于,所述数据采集模块包括分布式安装在滑坡上的至少一个位移传感器,用于实时采集滑坡位移。
4.如权利要求2所述的基于LSTM的滑坡位移动态预测方法,其特征在于,所述主控模块包括电源模块、时钟电路、复位电路和存储模块;所述主控模块采用STM32F103RCT6芯片,用于对数据进行处理;所述电源模块为所述主控模块供电;所述时钟电路为整个系统提供特定运行频率;所述复位电路用于异常情况下恢复处理;所述存储模块用于存储采集的滑坡位移数据。
5.如权利要求2所述的基于LSTM的滑坡位移动态预测方法,其特征在于,所述无线传输模块采用ESP8266芯片,通过配置网关端口,服务器等实现远程传输数据。
6.如权利要求1所述的基于LSTM的滑坡位移动态预测方法,其特征在于,所述步骤1中3δ算法异常值处理的具体过程如下:
假设对监测点进行了n次监测,所得的第i次监测值为Mi(i=1,2,…,n),连续3次监测的测量值分别为Mi–1,Mi,Mi+1(i=2,3,…,n–1),则第i次监测的跳动特征定义如式(1)所示:
hi=|2×Mi-(Mi-1+Mi+1)| (1)
跳动特征值均值如式(2)所示:
跳动特征值均方差如式(3)所示:
则相对差值如式(4)所示:
如果Qi>3,则该监测值是异常值,则将该数据剔除。
7.如权利要求1所述的基于LSTM的滑坡位移动态预测方法,其特征在于,所述骤1中进行归一化的具体过程如下:
首先找到做异常值剔除处理后的样本数据Y的最小值Min及最大值Max;
然后,按照式(5)计算系数:
则得到归一化到[a,b]区间的数据如式(6)所示:
norY=a+k*(Y-Min) (6)。
8.如权利要求1所述的基于LSTM的滑坡位移动态预测方法,其特征在于,所述步骤2中建立LSTM的滑坡位移预测模型并进行训练的具体过程如下:
步骤2.1,构建神经网络层,LSTM滑坡位移预测模型分为三层,即输入层、隐藏层、输出层;采用网格搜索法进行参数寻优,求出最佳隐藏层节点数:给定n个输入层、隐藏层节点数据对(j,k),将数据集分为训练集和测试集,训练集用来训练模型,测试集用来进行交叉验证实现精确度最高的求平均返回,找出与之对应的最大参数组合;
步骤2.2,训练LSTM的滑坡位移预测模型:
构建遗忘门ft如式(7)所示:
ft=σ(Wf·[ht-1,xt]+bf) (7)
构建输入门it如式(8)所示:
it=σ(Wi·[ht-1,xt]+bi) (8)
构建当前输入的单元状态如式(9)所示:
计算当前时刻的单元状态ct如式(10)
计算输出门ot如式(11)所示:
ot=σ(WO·[ht-1,xt]+bo) (11)
计算最终输出ht如式(12)所示:
上式中,ft、it、ct、ot、ht分别代表遗忘门、输入门、当前输入单元状态、当前时刻单元状态、输出、最终输出;
其中,Wf是遗忘门的权重矩阵,[ht-1,xt]表示把两个向量连接成一个更长的向量,bf为遗忘门的偏置项;σ为sigmoid函数,Wi为输入门的权重矩阵,Wc为当前输入单元状态的权重矩阵,bi为输入门的偏置项;符号°表示按元素乘,Wo为输出权重矩阵,bo为输出偏置项;
步骤2.3,前向计算每个神经元的ft、it、ct、ot、ht输出值,然后反向计算每个神经元的误差项值σi,包括两个方向:a):分别沿时间的反向传播,即从当前t时刻开始,计算每个时刻误差项σi;b):将误差项向上一层传播;最后按照相应的误差项σi,计算LSTM网络结构中各层权重,包括Wf、Wc、Wi、Wo,使得损失函数达到最小,最终获得训练的滑坡预测模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910614884.2A CN110470259A (zh) | 2019-07-09 | 2019-07-09 | 基于lstm的滑坡位移动态预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910614884.2A CN110470259A (zh) | 2019-07-09 | 2019-07-09 | 基于lstm的滑坡位移动态预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110470259A true CN110470259A (zh) | 2019-11-19 |
Family
ID=68507188
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910614884.2A Pending CN110470259A (zh) | 2019-07-09 | 2019-07-09 | 基于lstm的滑坡位移动态预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110470259A (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111027686A (zh) * | 2019-12-26 | 2020-04-17 | 杭州鲁尔物联科技有限公司 | 一种滑坡位移的预测方法、装置及设备 |
CN111310902A (zh) * | 2020-02-24 | 2020-06-19 | 石家庄铁道大学 | 神经网络模型的训练方法、边坡位移预测方法及相关装置 |
CN111461340A (zh) * | 2020-03-10 | 2020-07-28 | 北京百度网讯科技有限公司 | 权重矩阵的更新方法、装置及电子设备 |
CN112101660A (zh) * | 2020-09-15 | 2020-12-18 | 重庆交通大学 | 基于阶段性注意力机制的降雨型滑坡位移预测模型及方法 |
CN112270229A (zh) * | 2020-10-16 | 2021-01-26 | 西安工程大学 | 一种基于奇异谱分析的滑坡体位移预测方法 |
CN112784336A (zh) * | 2020-12-31 | 2021-05-11 | 杭州鲁尔物联科技有限公司 | 一种基于深度学习lstm网络的桥梁静态位移预测技术 |
CN112836789A (zh) * | 2020-12-27 | 2021-05-25 | 苏州大学 | 一种基于复合神经网络算法的地连墙变形动态预测方法 |
CN112883075A (zh) * | 2021-01-22 | 2021-06-01 | 中国地质环境监测院(自然资源部地质灾害技术指导中心) | 一种滑坡普适型地表位移监测数据缺失及异常值处理方法 |
CN113033101A (zh) * | 2021-03-30 | 2021-06-25 | 桂林电子科技大学 | 一种基于lstm算法的滑坡稳定性评价方法 |
CN113033091A (zh) * | 2021-03-24 | 2021-06-25 | 桂林电子科技大学 | 一种滑坡位移预测方法 |
CN113111573A (zh) * | 2021-03-24 | 2021-07-13 | 桂林电子科技大学 | 基于gru的滑坡位移预测方法 |
CN113378582A (zh) * | 2021-07-15 | 2021-09-10 | 重庆交通大学 | 一种基于语义信息驱动的滑坡位移预测模型及方法 |
CN115081706A (zh) * | 2022-06-16 | 2022-09-20 | 中国安能集团第三工程局有限公司 | 基于双向lstm网络的黄土塌陷预测方法及装置 |
CN116089225A (zh) * | 2023-04-12 | 2023-05-09 | 浙江大学 | 一种基于BiLSTM的公共数据采集动态感知系统及方法 |
-
2019
- 2019-07-09 CN CN201910614884.2A patent/CN110470259A/zh active Pending
Non-Patent Citations (8)
Title |
---|
储征伟 等: "《长江漫滩地面沉降监测与应用——以南京河西地区为例》", 31 July 2015, 武汉大学出版社 * |
周勇: "湘西高速公路滑坡监测关键技术及监测信息系统研究", 《中国博士学位论文全文数据库基础科学辑》 * |
孙锴: "《基于系统图谱的复杂机电系统状态分析方法》", 31 August 2016, 西北工业大学出版社 * |
席军强: "《车辆信息技术》", 31 December 2013, 北京理工大学出版社 * |
彭令 等: "时间序列分析与支持向量机的滑坡位移预测", 《浙江大学学报(工学版)》 * |
曹国清 等: "基于PCA-LSTM的多变量矿山排土场滑坡预警研究", 《计算机系统应用》 * |
聂增丽 等: "《无线传感网开发与实践》", 30 November 2018, 西南交通大学出版社 * |
闫帆: "矿山高边坡变形动态监测及稳定性预测", 《中国优秀硕士学位论文全文数据库工程科技Ⅰ辑》 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111027686A (zh) * | 2019-12-26 | 2020-04-17 | 杭州鲁尔物联科技有限公司 | 一种滑坡位移的预测方法、装置及设备 |
CN111027686B (zh) * | 2019-12-26 | 2023-06-16 | 杭州鲁尔物联科技有限公司 | 一种滑坡位移的预测方法、装置及设备 |
CN111310902A (zh) * | 2020-02-24 | 2020-06-19 | 石家庄铁道大学 | 神经网络模型的训练方法、边坡位移预测方法及相关装置 |
CN111310902B (zh) * | 2020-02-24 | 2023-09-29 | 石家庄铁道大学 | 神经网络模型的训练方法、边坡位移预测方法及相关装置 |
CN111461340A (zh) * | 2020-03-10 | 2020-07-28 | 北京百度网讯科技有限公司 | 权重矩阵的更新方法、装置及电子设备 |
CN111461340B (zh) * | 2020-03-10 | 2023-03-31 | 北京百度网讯科技有限公司 | 权重矩阵的更新方法、装置及电子设备 |
CN112101660B (zh) * | 2020-09-15 | 2022-06-28 | 重庆交通大学 | 基于阶段性注意力机制的降雨型滑坡位移预测模型及方法 |
CN112101660A (zh) * | 2020-09-15 | 2020-12-18 | 重庆交通大学 | 基于阶段性注意力机制的降雨型滑坡位移预测模型及方法 |
CN112270229A (zh) * | 2020-10-16 | 2021-01-26 | 西安工程大学 | 一种基于奇异谱分析的滑坡体位移预测方法 |
CN112836789A (zh) * | 2020-12-27 | 2021-05-25 | 苏州大学 | 一种基于复合神经网络算法的地连墙变形动态预测方法 |
CN112784336A (zh) * | 2020-12-31 | 2021-05-11 | 杭州鲁尔物联科技有限公司 | 一种基于深度学习lstm网络的桥梁静态位移预测技术 |
CN112883075A (zh) * | 2021-01-22 | 2021-06-01 | 中国地质环境监测院(自然资源部地质灾害技术指导中心) | 一种滑坡普适型地表位移监测数据缺失及异常值处理方法 |
CN112883075B (zh) * | 2021-01-22 | 2024-04-05 | 中国地质环境监测院(自然资源部地质灾害技术指导中心) | 一种滑坡普适型地表位移监测数据缺失及异常值处理方法 |
CN113111573A (zh) * | 2021-03-24 | 2021-07-13 | 桂林电子科技大学 | 基于gru的滑坡位移预测方法 |
CN113033091A (zh) * | 2021-03-24 | 2021-06-25 | 桂林电子科技大学 | 一种滑坡位移预测方法 |
CN113033101A (zh) * | 2021-03-30 | 2021-06-25 | 桂林电子科技大学 | 一种基于lstm算法的滑坡稳定性评价方法 |
CN113378582A (zh) * | 2021-07-15 | 2021-09-10 | 重庆交通大学 | 一种基于语义信息驱动的滑坡位移预测模型及方法 |
CN113378582B (zh) * | 2021-07-15 | 2022-04-26 | 重庆交通大学 | 基于语义信息驱动的滑坡位移预测模型构建及使用方法 |
CN115081706A (zh) * | 2022-06-16 | 2022-09-20 | 中国安能集团第三工程局有限公司 | 基于双向lstm网络的黄土塌陷预测方法及装置 |
CN116089225A (zh) * | 2023-04-12 | 2023-05-09 | 浙江大学 | 一种基于BiLSTM的公共数据采集动态感知系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110470259A (zh) | 基于lstm的滑坡位移动态预测方法 | |
CN109829543B (zh) | 基于集成学习的空间有效载荷数据流在线异常检测方法 | |
Bhardwaj et al. | Estimation of solar radiation using a combination of Hidden Markov Model and generalized Fuzzy model | |
Gao et al. | A neural network-based joint prognostic model for data fusion and remaining useful life prediction | |
CN110007652A (zh) | 一种水电机组劣化趋势区间预测方法与系统 | |
CN111815033A (zh) | 一种基于rcnn和气象时序特征的海上风电功率预测方法 | |
CN110232461A (zh) | 基于量子遗传算法优化的多关联向量机水质预测方法 | |
CN109002781B (zh) | 一种储能变流器故障预测方法 | |
CN110083125A (zh) | 一种基于深度学习的机床热误差建模方法 | |
CN114397043B (zh) | 多点温度智能检测系统 | |
Tan et al. | Multi-node load forecasting based on multi-task learning with modal feature extraction | |
CN114462718A (zh) | 基于时间滑动窗口的cnn-gru风电功率预测方法 | |
CN111461187A (zh) | 一种建筑物沉降智能检测系统 | |
CN113485261A (zh) | 一种基于CAEs-ACNN的软测量建模方法 | |
CN106650918B (zh) | 构建系统模型的方法和装置 | |
Chang et al. | Remaining useful life prediction for complex systems considering varying future operational conditions | |
Ding et al. | Jaya-based long short-term memory neural network for structural damage identification with consideration of measurement uncertainties | |
Zhao et al. | Predication of remaining useful life of aircraft engines based on Multi-head Attention and LSTM | |
Peng et al. | Meteorological satellite operation prediction using a BiLSTM deep learning model | |
CN116432359A (zh) | 基于元迁移学习的变拓扑网络潮流计算方法 | |
CN114880930B (zh) | 一种基于在线学习的实体设备数字孪生建模仿真预测方法 | |
CN113973403B (zh) | 基于结构离散测点拓扑的温致应变场重分布智能感知方法 | |
CN115099066A (zh) | 一种基于Kriging的输电塔结构风灾易损性建模方法 | |
CN113935600A (zh) | 一种基于深度学习的自适应经济调度系统及方法 | |
Bi et al. | A spatio-temporal prediction method of wind energy in green cloud data centers |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20191119 |
|
RJ01 | Rejection of invention patent application after publication |