CN111310902A - 神经网络模型的训练方法、边坡位移预测方法及相关装置 - Google Patents

神经网络模型的训练方法、边坡位移预测方法及相关装置 Download PDF

Info

Publication number
CN111310902A
CN111310902A CN202010113332.6A CN202010113332A CN111310902A CN 111310902 A CN111310902 A CN 111310902A CN 202010113332 A CN202010113332 A CN 202010113332A CN 111310902 A CN111310902 A CN 111310902A
Authority
CN
China
Prior art keywords
neural network
network model
slope displacement
cnn
slope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010113332.6A
Other languages
English (en)
Other versions
CN111310902B (zh
Inventor
郑海青
宗广昌
孙晓云
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shijiazhuang Tiedao University
Original Assignee
Shijiazhuang Tiedao University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shijiazhuang Tiedao University filed Critical Shijiazhuang Tiedao University
Priority to CN202010113332.6A priority Critical patent/CN111310902B/zh
Publication of CN111310902A publication Critical patent/CN111310902A/zh
Application granted granted Critical
Publication of CN111310902B publication Critical patent/CN111310902B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请提供了一种神经网络模型的训练方法、边坡位移预测方法及相关装置,其中,该训练方法包括:获取边坡位移样本,其中,上述边坡位移样本包括影响因素数据、与上述影响因素数据对应的边坡位移数据,上述影响因素数据包括一个以上影响因素;构建CNN‑LSTM混合神经网络模型;基于上述边坡位移样本和自适应粒子群算法,优化上述CNN‑LSTM混合神经网络模型的超参数;基于上述边坡位移样本,对优化超参数后的CNN‑LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。基于本申请提供的技术方案,能够有效提高边坡位移预测的准确率。

Description

神经网络模型的训练方法、边坡位移预测方法及相关装置
技术领域
本申请涉及边坡位移预测技术领域,尤其涉及神经网络模型的训练方法、边坡位移预测方法及相关装置。
背景技术
目前,由滑坡所引起的灾害严重影响了人们的生活质量和生命安全,因此,预测边坡位移已经成为滑坡防灾工作的关键组成部分,如何进行边坡位移预测是本领域的研究重点。
由于涉及到很多不确定的岩土体结构特征参数和工程地质条件等复杂因素,边坡位移预测是一个具有高度随机性特征的动力非线性问题,影响滑坡的因素具有复杂性、多样性和随机性等特点,而现有的边坡位移预测方法难以结合多类影响滑坡的因素进行预测,在根据单一影响滑坡的因素进行预测时的准确率低。
发明内容
本申请提供了一种神经网络模型的训练方法、边坡位移预测方法及相关装置,可提高边坡位移预测的准确率。
为了实现上述技术效果,本申请第一方面提供了一种神经网络模型的训练方法,上述神经网络模型用于边坡位移预测,上述训练方法包括:
获取边坡位移样本,其中,上述边坡位移样本包括影响因素数据、与上述影响因素数据对应的边坡位移数据,上述影响因素数据包括一个以上影响因素;
构建CNN-LSTM(ConvolutionalNeuralNetworks-LongShort-TermMemory,卷积神经网络-长短期记忆网络)混合神经网络模型;
基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;
基于上述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。
基于本申请第一方面,在第一种可能的实现方式中,上述基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数包括:
将上述CNN-LSTM混合神经网络模型的超参数作为优化对象并对自适应粒子群算法的算法模型进行初始化;
将上述算法模型中的粒子进行子群划分,以得到一个以上子群并将上述一个以上子群中的粒子分为普通粒子和局部最优粒子;
基于上述边坡位移样本和上述CNN-LSTM混合神经网络模型,计算上述一个以上子群中的每个粒子的适应度值;
基于上述子群划分的结果和上述每个粒子的适应度值,确定当前的全局最优粒子位置和局部最优粒子位置;
基于上述当前的全局最优粒子位置和局部最优粒子位置,更新普通粒子位置和上述局部最优粒子位置;
判断是否满足预设的算法终止条件;
若不满足上述算法终止条件,则返回执行上述计算上述一个以上子群中的每个粒子的适应度值的步骤以及后续步骤;
若满足上述算法终止条件,则基于上述全局最优粒子位置和局部最优粒子位置,优化上述CNN-LSTM混合神经网络模型的超参数。
基于本申请第一方面或本申请第一方面的第一种可能的实现方式,在第二种可能的实现方式中,在上述获取边坡位移样本之后,上述训练方法还包括:
对上述边坡位移样本进行归一化处理;
上述基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数的步骤具体为:基于归一化处理后的边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;
上述基于上述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练的步骤具体为:基于上述归一化处理后的边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练。
基于本申请第一方面或本申请第一方面的第一种可能的实现方式,在第三种可能的实现方式中,上述CNN-LSTM混合神经网络模型中的CNN神经网络包括dropout层(即深度学习的dropout算法层)。
本申请第二方面提供了一种基于本申请第一方面或本申请第一方面的第一种或第二种或第三种可能的实现方式中的神经网络模型的边坡位移预测方法,上述边坡位移预测方法包括:
获取待预测边坡的影响因素数据,其中,上述待预测边坡的影响因素数据包括一个以上影响因素;
将上述待预测边坡的影响因素数据输入上述神经网络模型;
通过上述神经网络模型计算输出边坡位移预测的预测结果。
本申请第三方面提供了一种神经网络模型的训练装置,上述神经网络模型用于边坡位移预测,上述训练装置包括:
获取单元,用于获取边坡位移样本,其中,上述边坡位移样本包括影响因素数据、与上述影响因素数据对应的边坡位移数据,上述影响因素数据包括一个以上影响因素;
构建单元,用于构建CNN-LSTM混合神经网络模型;
优化单元,用于基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;
训练单元,用于基于上述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。
基于本申请第三方面,在第一种可能的实现方式中,上述优化单元具体用于:
将上述CNN-LSTM混合神经网络模型的超参数作为优化对象并对自适应粒子群算法的算法模型进行初始化;
将上述算法模型中的粒子进行子群划分,以得到一个以上子群并将上述一个以上子群中的粒子分为普通粒子和局部最优粒子;
基于上述边坡位移样本和上述CNN-LSTM混合神经网络模型,计算上述一个以上子群中的每个粒子的适应度值;
基于上述子群划分的结果和上述每个粒子的适应度值,确定当前的全局最优粒子位置和局部最优粒子位置;
基于上述当前的全局最优粒子位置和局部最优粒子位置,更新普通粒子位置和上述局部最优粒子位置;
判断是否满足预设的算法终止条件;
若不满足上述算法终止条件,则返回执行上述计算上述一个以上子群中的每个粒子的适应度值的步骤以及后续步骤;
若满足上述算法终止条件,则基于上述全局最优粒子位置和局部最优粒子位置,优化上述CNN-LSTM混合神经网络模型的超参数。
基于本申请第三方面或本申请第三方面的第一种可能的实现方式,在第二种可能的实现方式中,上述获取单元还用于:
对上述边坡位移样本进行归一化处理;
上述优化单元具体用于:基于归一化处理后的边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;
上述训练单元具体用于:基于上述归一化处理后的边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练。
基于本申请第三方面或本申请第三方面的第一种可能的实现方式,在第三种可能的实现方式中,上述CNN-LSTM混合神经网络模型中的CNN神经网络包括dropout层。
本申请第四方面提供了一种基于本申请第三方面或本申请第三方面的第一种或第二种或第三种可能的实现方式中的神经网络模型的边坡位移预测装置,上述边坡位移预测装置包括:
获取单元,用于获取待预测边坡的影响因素数据,其中,上述待预测边坡的影响因素数据包括一个以上影响因素;
输入单元,用于将上述待预测边坡的影响因素数据输入上述神经网络模型;
输出单元,用于通过上述神经网络模型计算输出边坡位移预测的预测结果。
由上可见,本申请中通过获取边坡位移样本,并构建CNN-LSTM混合神经网络模型;基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;基于上述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。一方面,通过构建并训练用于边坡位移预测的CNN-LSTM混合神经网络模型,相对于传统的单一网络模型(例如LSTM模型),能够提高边坡位于预测的精度;另一方面,由于自适应粒子群算法相较于其他生物智能演化算法具备算法设计简单、收敛速度快的优点,因此,采用自适应粒子群算法对CNN-LSTM混合神经网络模型的超参数进行优化,可提高参数寻优的准确性;再一方面,由于边坡位移样本包括影响因素数据、与影响因素数据对应的边坡位移数据,影响因素数据包括一个以上影响因素,因此,通过边坡位移样本对CNN-LSTM网络模型进行训练,可实现CNN-LSTM网络模型与边坡数据特征的有效结合。综上,本申请提供的技术方案能够有效提高边坡位移预测的准确率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本申请提供的神经网络模型的训练方法一个实施例流程示意图;
图2为本申请提供的边坡位移预测方法一个实施例流程示意图;
图3为本申请提供的神经网络模型的训练装置一个实施例结构示意图;
图4为本申请提供的边坡位移预测装置一个实施例结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其他实施例中也可以实现本申请。在其它情况下,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
下面结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本申请,但是本申请还可以采用其它不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施例的限制。
实施例一
本申请提供一种神经网络模型的训练方法,上述神经网络模型用于边坡位移预测,如图1所示,上述训练方法包括:
步骤101,获取边坡位移样本;
其中,上述边坡位移样本包括影响因素数据、与上述影响因素数据对应的边坡位移数据,上述影响因素数据包括一个以上影响因素;
本申请实施例中,监测并记录下一个以上边坡位移样本,其中,每个边坡位移样本包括:影响边坡的一个以上影响因素,以及边坡在该一个以上影响因素的影响下产生的边坡位移。
需要说明的是,上述影响因素可以是边坡地质条件(包括:边坡土质结构、边坡形态)、降雨量、降雨时长、库水位、人类工程活动强度、人类工程活动时长中的一种;为了确保训练得到的神经网络模型具备足够的通用性,边坡位移样本可尽量取自处于不同影响因素组合影响下的边坡,以确保边坡位移样本的多样性。
需要说明的是,由于在上述边坡位移样本中,不同种类的数据可能采用不同的量纲,这将增大数据处理的计算量,因此,在获取该边坡位移样本数据后进行归一化处理,将该边坡位移样本中具有不同量纲的数据化为无量纲的数据,可以减小数据处理的计算量。
可选的,在上述获取边坡位移样本之后,上述训练方法还包括:
对上述边坡位移样本进行归一化处理,以便后续可基于归一化处理后的边坡位移样本执行相应的步骤;
具体的,上述对上述边坡位移样本进行归一化处理具体为:对上述边坡位移样本采用极大极小归一化(Min-MaxNormalization)方法进行归一化处理。
需要说明的是,上述对上述边坡位移样本采用极大极小归一化(Min-MaxNormalization)方法进行归一化处理的具体流程为:
基于极大极小归一化公式,将上述边坡位移样本中的样本数据(如:上述影响因素数据和上述边坡位移数据)分别映射为(0,1)区间内的小数,其中,上述极大极小归一化公式如下:
Figure BDA0002390742830000101
式(1)中,x*为归一化后的行程时间数据,x为收集的行程时间数据,max为样本数据的最大值,min为样本数据的最小值。
步骤102,构建CNN-LSTM混合神经网络模型;
本申请实施例中,构建CNN-LSTM混合神经网络模型,以得到CNN-LSTM混合神经网络模型的初始架构。
需要说明的是,本申请实施例所构建的CNN-LSTM混合神经网络模型包括CNN神经网络部分和LSTM神经网络部分,CNN神经网络部分用于提取特征,LSTM神经网络部分用于基于上述特征进行预测。
可选的,上述CNN-LSTM混合神经网络模型中的CNN神经网络包括dropout层。
步骤103,基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;
本申请实施例中,在构建CNN-LSTM混合神经网络模型之后,采用自适应粒子群算法,配合边坡位移样本,计算得出CNN-LSTM混合神经网络模型的超参数的最优值,以完成优化。
在一种应用场景中,先对上述边坡位移样本进行归一化处理,则步骤103的具体表现为:
基于归一化处理后的边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数。
需要说明的是,本申请实施例所构建的CNN-LSTM混合神经网络模型的超参数较多,这些超参数都是需要人工设定的,不同超参数的组合会CNN-LSTM混合神经网络模型的预测精度产生不同的影响,故需找到超参数的最优值,以使构建出的CNN-LSTM混合神经网络模型具备足够的学习效率和准确率。
可选的,上述基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数包括:
将上述CNN-LSTM混合神经网络模型的超参数作为优化对象并对自适应粒子群算法的算法模型进行初始化;
将上述算法模型中的粒子进行子群划分,以得到一个以上子群并将上述一个以上子群中的粒子分为普通粒子和局部最优粒子;
基于上述边坡位移样本和上述CNN-LSTM混合神经网络模型,计算上述一个以上子群中的每个粒子的适应度值;
基于上述子群划分的结果和上述每个粒子的适应度值,确定当前的全局最优粒子位置和局部最优粒子位置;
基于上述当前的全局最优粒子位置和局部最优粒子位置,更新普通粒子位置和上述局部最优粒子位置;
判断是否满足预设的算法终止条件;
若不满足上述算法终止条件,则返回执行上述计算上述一个以上子群中的每个粒子的适应度值的步骤以及后续步骤;
若满足上述算法终止条件,则基于上述全局最优粒子位置和局部最优粒子位置,优化上述CNN-LSTM混合神经网络模型的超参数。
需要说明的是,上述基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数的具体流程可以如下:
第一,初始化粒子群。
第二,对粒子群进行子群划分,以划分出多个子群并将每个子群中的粒子划分为普通粒子和局部最优粒子两类;
其中,所采用的公式如下:
Figure BDA0002390742830000121
Figure BDA0002390742830000122
式中(2)、(3)中,ρi为第i个粒子的局部密度,dij为第i个粒子和第j个粒子之间的欧式距离,dc为截断距离,δi为第i个粒子到比第i个粒子局部密度更高的粒子之间的距离;
基于各个粒子的局部密度和各个粒子到比自身局部密度更高的粒子之间的距离,划分出多个子群,并将每个子群中的粒子划分为普通粒子和局部最优粒子两类。
第三,计算每个粒子的适应度值,包括:以各粒子对应的超参数构建CNN-LSTM混合神经网络模型,通过训练样本数据进行训练,验证样本数据进行预测,将预测结果的平均绝对百分比误差作为各粒子的适应度值,其中,平均绝对百分比误差公式如下:
Figure BDA0002390742830000131
式(4)中,f为平均绝对百分比误差,K为验证样本数据的数量,
Figure BDA0002390742830000132
为第i个验证样本数据的预测值,yi为第i个验证样本数据的真实值。
第四,基于子群划分的结果和每个粒子的适应度值,确定当前的全局最优粒子位置和局部最优粒子位置。
第五,基于全局最优粒子位置、局部最优粒子位置、普通粒子更新公式和局部最优粒子更新公式分别对普通粒子位置和局部最优粒子位置进行更新;
其中,普通粒子位置更新公式如下:
Figure BDA0002390742830000133
局部最优粒子位置更新公式如下:
Figure BDA0002390742830000134
Figure BDA0002390742830000141
式(5)、(6)中,
Figure BDA0002390742830000142
为第i个粒子位置的第d维分量,w为惯性权重,c1和c2为学习因子,r1 d
Figure BDA0002390742830000144
为(0,1)区间内的均匀分布随机数,
Figure BDA0002390742830000145
为全局最优粒子位置,
Figure BDA0002390742830000146
为第c个子群中的最优粒子(即局部最优粒子)位置;
第六,判断是否满足终止条件,其中,该终止条件可以是:基于当前的普通粒子位置和局部最优粒子位置优化的CNN-LSTM混合神经网络模型在训练后的预测精准度是否达到阈值;若不满足终止条件,则返回执行上述第三步骤及后续步骤;若满足终止条件,则基于当前的普通粒子位置和局部最优粒子位置,优化上述CNN-LSTM混合神经网络模型的超参数。
可选的,上述超参数包括:CNN卷积核大小、CNN卷积核数量、CNN池化类型、CNN激活函数的类型、LSTM时间窗口大小、LSTM隐藏层单元数目、LSTM批量大小和LSTM网络训练学习率。
步骤104,基于上述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。
本申请实施例中,在优化CNN-LSTM混合神经网络模型的超参数之后,向优化超参数后的CNN-LSTM混合神经网络模型输入边坡位移样本,以进行神经网络模型的训练。
在一种应用场景中,先对上述边坡位移样本进行归一化处理,则步骤104的具体表现为:
基于上述归一化处理后的边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练。
需要说明的是,在实际状况中,完成训练的神经网络模型需验证合格才能投入使用,即需将一定数量的未用于训练的边坡样本数据作为验证样本数据,并将该验证样本数据中的影响因素数据输入该完成训练的神经网络模型;使该神经网络模型输出预测值;基于预测值与该验证样本数据中的真实值,评价预测能力,以判断是否可投入使用;
评价预测能力的指标包括:
均方根误差(RMSE,RootMeanSquareError)
Figure BDA0002390742830000151
RMSE的范围在[0,+∞),当预测值与真实值完全吻合时等于0,即完美模型;误差越大,该值越大。
均方误差(MSE,MeanSquareError)
Figure BDA0002390742830000152
MSE的范围在[0,+∞),当预测值与真实值完全吻合时等于0,即完美模型;误差越大,该值越大。
平均绝对误差(MAE,MeanAbsoluteError)
Figure BDA0002390742830000153
MAE的范围在[0,+∞),当预测值与真实值完全吻合时等于0,即完美模型;误差越大,该值越大。
平均绝对百分比误差(MAPE,MeanAbsolutePercentageError)
Figure BDA0002390742830000161
MAPE为0%表示完美模型,MAPE大于100%则表示劣质模型;当真实值有数据等于0时,存在分母0除问题,该公式不可用。
对称平均绝对百分比误差(SMAPE,SymmetricMeanAbsolutePercentageError)
Figure BDA0002390742830000162
SMAPE为0%表示完美模型,SMAPE大于100%则表示劣质模型;当真实值有数据等于0时,存在分母0除问题,该公式不可用。
式(7)至式(11)中,
Figure BDA0002390742830000163
为第i个预测值,yi为第i个真实值,n为真实值的个数。
由上可见,本申请提供的神经网络模型的训练方法通过获取边坡位移样本,并构建CNN-LSTM混合神经网络模型;基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;基于上述边坡位移样本,对优化超参数的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。一方面,通过构建并训练用于边坡位移预测的CNN-LSTM混合神经网络模型,相对于传统的单一网络模型(例如LSTM模型),能够提高边坡位于预测的精度;另一方面,由于自适应粒子群算法相较于其他生物智能演化算法具备算法设计简单、收敛速度快的优点,因此,采用自适应粒子群算法对CNN-LSTM混合神经网络模型的超参数进行优化,可提高参数寻优的准确性;再一方面,由于边坡位移样本包括影响因素数据、与影响因素数据对应的边坡位移数据,影响因素数据包括一个以上影响因素,因此,通过边坡位移样本对CNN-LSTM网络模型进行训练,可实现CNN-LSTM网络模型与边坡数据特征的有效结合。综上,本申请提供的技术方案能够有效提高边坡位移预测的准确率。
实施例二
本申请提供一种基于实施例一的神经网络模型的边坡位移预测方法,如图2所示,上述边坡位移预测方法包括:
步骤201,获取待预测边坡的影响因素数据;
其中,上述待预测边坡的影响因素数据包括一个以上影响因素;
步骤202,将上述待预测边坡的影响因素数据输入上述神经网络模型;
步骤203,通过上述神经网络模型计算输出边坡位移预测的预测结果。
本申请实施例中,首先,获取待预测边坡的影响因素数据;然后,将该待预测边坡的影响因素数据输入已训练完成的神经网络模型中;最后,通过该神经网络模型计算输出边坡位移预测的结果,完成整个预测过程。具体的,该神经网络模型的训练过程可参照实施例一中的描述,此处不再赘述。
可选的,在步骤203之后,上边坡位移预测方法还可包括:基于上述预测结果,判断是否存在滑坡风险;
若不存在滑坡风险,则不发出危险警示信号;
若存在滑坡风险,则发出危险警示信号。
由上可见,本申请提供的边坡位移预测方法通过获取边坡位移样本,并构建CNN-LSTM混合神经网络模型;基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;基于上述边坡位移样本,对优化超参数的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型,并基于上述神经网络模型进行边坡位移预测。一方面,通过构建并训练用于边坡位移预测的CNN-LSTM混合神经网络模型,相对于传统的单一网络模型(例如LSTM模型),能够提高边坡位于预测的精度;另一方面,由于自适应粒子群算法相较于其他生物智能演化算法具备算法设计简单、收敛速度快的优点,因此,采用自适应粒子群算法对CNN-LSTM混合神经网络模型的超参数进行优化,可提高参数寻优的准确性;再一方面,由于边坡位移样本包括影响因素数据、与影响因素数据对应的边坡位移数据,影响因素数据包括一个以上影响因素,因此,通过边坡位移样本对CNN-LSTM网络模型进行训练,可实现CNN-LSTM网络模型与边坡数据特征的有效结合。综上,本申请提供的技术方案能够有效提高边坡位移预测的准确率。
实施例三
本申请提供一种神经网络模型的训练装置,对应上文实施例一的训练方法,上述神经网络模型用于边坡位移预测,如图3所示,训练装置30包括:
获取单元301,用于获取边坡位移样本,其中,上述边坡位移样本包括影响因素数据、与上述影响因素数据对应的边坡位移数据,上述影响因素数据包括一个以上影响因素;
构建单元302,用于构建CNN-LSTM混合神经网络模型;
优化单元303,用于基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;
训练单元304,用于基于上述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。
可选的,优化单元303具体用于:
将上述CNN-LSTM混合神经网络模型的超参数作为优化对象并对自适应粒子群算法的算法模型进行初始化;
将上述算法模型中的粒子进行子群划分,以得到一个以上子群;
基于上述边坡位移样本和上述CNN-LSTM混合神经网络模型,计算上述一个以上子群中的每个粒子的适应度值;
基于上述子群划分的结果和上述每个粒子的适应度值,确定当前的全局最优粒子位置和局部最优粒子位置;
更新上述全局最优粒子位置和局部最优粒子位置;
判断是否满足预设的算法终止条件;
若不满足上述算法终止条件,则返回执行上述计算上述一个以上子群中的每个粒子的适应度值的步骤以及后续步骤;
若满足上述算法终止条件,则基于上述全局最优粒子位置和局部最优粒子位置,优化上述CNN-LSTM混合神经网络模型的超参数。
可选的,获取单元301还用于:
对上述边坡位移样本进行归一化处理;
上述优化单元具体用于:基于归一化处理后的边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;
上述训练单元具体用于:基于上述归一化处理后的边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练。
可选的,上述CNN-LSTM混合神经网络模型中的CNN神经网络包括dropout层。
由上可见,本申请提供的神经网络模型的训练装置通过获取边坡位移样本,并构建CNN-LSTM混合神经网络模型;基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;基于上述边坡位移样本,对优化超参数的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。一方面,通过构建并训练用于边坡位移预测的CNN-LSTM混合神经网络模型,相对于传统的单一网络模型(例如LSTM模型),能够提高边坡位于预测的精度;另一方面,由于自适应粒子群算法相较于其他生物智能演化算法具备算法设计简单、收敛速度快的优点,因此,采用自适应粒子群算法对CNN-LSTM混合神经网络模型的超参数进行优化,可提高参数寻优的准确性;再一方面,由于边坡位移样本包括影响因素数据、与影响因素数据对应的边坡位移数据,影响因素数据包括一个以上影响因素,因此,通过边坡位移样本对CNN-LSTM网络模型进行训练,可实现CNN-LSTM网络模型与边坡数据特征的有效结合。综上,本申请提供的技术方案能够有效提高边坡位移预测的准确率。
实施例四
本申请提供一种基于实施例三的神经网络模型的边坡位移预测装置,如图4所示,边坡位移预测装置40包括:
获取单元401,用于获取待预测边坡的影响因素数据,其中,上述待预测边坡的影响因素数据包括一个以上影响因素;
输入单元402,用于将上述待预测边坡的影响因素数据输入上述神经网络模型;
输出单元403,用于通过上述神经网络模型计算输出边坡位移预测的预测结果。
具体的,上述神经网络模型的训练装置可参照实施例三中的描述,此处不再赘述。
可选的,边坡位移预测装置40还可包括:
预警单元404,用于:
基于上述预测结果,判断是否存在滑坡风险;
若不存在滑坡风险,则不发出危险警示信号;
若存在滑坡风险,则发出危险警示信号。
由上可见,本申请提供的边坡位移预测装置通过获取边坡位移样本,并构建CNN-LSTM混合神经网络模型;基于上述边坡位移样本和自适应粒子群算法,优化上述CNN-LSTM混合神经网络模型的超参数;基于上述边坡位移样本,对优化超参数的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型,并基于上述神经网络模型进行边坡位移预测。一方面,通过构建并训练用于边坡位移预测的CNN-LSTM混合神经网络模型,相对于传统的单一网络模型(例如LSTM模型),能够提高边坡位于预测的精度;另一方面,由于自适应粒子群算法相较于其他生物智能演化算法具备算法设计简单、收敛速度快的优点,因此,采用自适应粒子群算法对CNN-LSTM混合神经网络模型的超参数进行优化,可提高参数寻优的准确性;再一方面,由于边坡位移样本包括影响因素数据、与影响因素数据对应的边坡位移数据,影响因素数据包括一个以上影响因素,因此,通过边坡位移样本对CNN-LSTM网络模型进行训练,可实现CNN-LSTM网络模型与边坡数据特征的有效结合。综上,本申请提供的技术方案能够有效提高边坡位移预测的准确率。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将上述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
需要说明的是,上述实施例所提供的方法及其细节举例可结合至实施例提供的装置和设备中,相互参照,不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各实例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟是以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同的方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/设备实施例仅仅是示意性的,例如,上述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以由另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
上述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (10)

1.一种神经网络模型的训练方法,其特征在于,所述神经网络模型用于边坡位移预测,所述训练方法包括:
获取边坡位移样本,其中,所述边坡位移样本包括影响因素数据、与所述影响因素数据对应的边坡位移数据,所述影响因素数据包括一个以上影响因素;
构建CNN-LSTM混合神经网络模型;
基于所述边坡位移样本和自适应粒子群算法,优化所述CNN-LSTM混合神经网络模型的超参数;
基于所述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。
2.根据权利要求1所述的训练方法,其特征在于,所述基于所述边坡位移样本和自适应粒子群算法,优化所述CNN-LSTM混合神经网络模型的超参数包括:
将所述CNN-LSTM混合神经网络模型的超参数作为优化对象并对自适应粒子群算法的算法模型进行初始化;
将所述算法模型中的粒子进行子群划分,以得到一个以上子群并将所述一个以上子群中的粒子分为普通粒子和局部最优粒子;
基于所述边坡位移样本和所述CNN-LSTM混合神经网络模型,计算所述一个以上子群中的每个粒子的适应度值;
基于所述子群划分的结果和所述每个粒子的适应度值,确定当前的全局最优粒子位置和局部最优粒子位置;
基于所述当前的全局最优粒子位置和局部最优粒子位置,更新普通粒子位置和所述局部最优粒子位置;
判断是否满足预设的算法终止条件;
若不满足所述算法终止条件,则返回执行所述计算所述一个以上子群中的每个粒子的适应度值的步骤以及后续步骤;
若满足所述算法终止条件,则基于所述全局最优粒子位置和局部最优粒子位置,优化所述CNN-LSTM混合神经网络模型的超参数。
3.根据权利要求1或2所述的训练方法,其特征在于,在所述获取边坡位移样本之后,所述训练方法还包括:
对所述边坡位移样本进行归一化处理;
所述基于所述边坡位移样本和自适应粒子群算法,优化所述CNN-LSTM混合神经网络模型的超参数的步骤具体为:基于归一化处理后的边坡位移样本和自适应粒子群算法,优化所述CNN-LSTM混合神经网络模型的超参数;
所述基于所述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练的步骤具体为:基于所述归一化处理后的边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练。
4.根据权利要求1或2所述的训练方法,其特征在于,所述CNN-LSTM混合神经网络模型中的CNN神经网络包括dropout层。
5.一种基于权利要求1-4任一项所述的神经网络模型的边坡位移预测方法,其特征在于,所述边坡位移预测方法包括:
获取待预测边坡的影响因素数据,其中,所述待预测边坡的影响因素数据包括一个以上影响因素;
将所述待预测边坡的影响因素数据输入所述神经网络模型;
通过所述神经网络模型计算输出边坡位移预测的预测结果。
6.一种神经网络模型的训练装置,其特征在于,所述神经网络模型用于边坡位移预测,所述训练装置包括:
获取单元,用于获取边坡位移样本,其中,所述边坡位移样本包括影响因素数据、与所述影响因素数据对应的边坡位移数据,所述影响因素数据包括一个以上影响因素;
构建单元,用于构建CNN-LSTM混合神经网络模型;
优化单元,用于基于所述边坡位移样本和自适应粒子群算法,优化所述CNN-LSTM混合神经网络模型的超参数;
训练单元,用于基于所述边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练,以得到用于边坡位移预测的神经网络模型。
7.根据权利要求6所述的训练装置,其特征在于,所述优化单元具体用于:
将所述CNN-LSTM混合神经网络模型的超参数作为优化对象并对自适应粒子群算法的算法模型进行初始化;
将所述算法模型中的粒子进行子群划分,以得到一个以上子群并将所述一个以上子群中的粒子分为普通粒子和局部最优粒子;
基于所述边坡位移样本和所述CNN-LSTM混合神经网络模型,计算所述一个以上子群中的每个粒子的适应度值;
基于所述子群划分的结果和所述每个粒子的适应度值,确定当前的全局最优粒子位置和局部最优粒子位置;
基于所述当前的全局最优粒子位置和局部最优粒子位置,更新普通粒子位置和所述局部最优粒子位置;
判断是否满足预设的算法终止条件;
若不满足所述算法终止条件,则返回执行所述计算所述一个以上子群中的每个粒子的适应度值的步骤以及后续步骤;
若满足所述算法终止条件,则基于所述全局最优粒子位置和局部最优粒子位置,优化所述CNN-LSTM混合神经网络模型的超参数。
8.根据权利要求6或7所述的训练装置,其特征在于,所述获取单元还用于:
对所述边坡位移样本进行归一化处理;
所述优化单元具体用于:基于归一化处理后的边坡位移样本和自适应粒子群算法,优化所述CNN-LSTM混合神经网络模型的超参数;
所述训练单元具体用于:基于所述归一化处理后的边坡位移样本,对优化超参数后的CNN-LSTM混合神经网络模型进行训练。
9.根据权利要求6或7所述的训练装置,其特征在于,所述CNN-LSTM混合神经网络模型中的CNN神经网络包括dropout层。
10.一种基于权利要求6-9任一项所述的神经网络模型的边坡位移预测装置,其特征在于,所述边坡位移预测装置包括:
获取单元,用于获取待预测边坡的影响因素数据,其中,所述待预测边坡的影响因素数据包括一个以上影响因素;
输入单元,用于将所述待预测边坡的影响因素数据输入所述神经网络模型;
输出单元,用于通过所述神经网络模型计算输出边坡位移预测的预测结果。
CN202010113332.6A 2020-02-24 2020-02-24 神经网络模型的训练方法、边坡位移预测方法及相关装置 Active CN111310902B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010113332.6A CN111310902B (zh) 2020-02-24 2020-02-24 神经网络模型的训练方法、边坡位移预测方法及相关装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010113332.6A CN111310902B (zh) 2020-02-24 2020-02-24 神经网络模型的训练方法、边坡位移预测方法及相关装置

Publications (2)

Publication Number Publication Date
CN111310902A true CN111310902A (zh) 2020-06-19
CN111310902B CN111310902B (zh) 2023-09-29

Family

ID=71145719

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010113332.6A Active CN111310902B (zh) 2020-02-24 2020-02-24 神经网络模型的训练方法、边坡位移预测方法及相关装置

Country Status (1)

Country Link
CN (1) CN111310902B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111914481A (zh) * 2020-07-27 2020-11-10 山西大学 基于改进的pso-rbf算法的边坡稳定性预测方法
CN112311488A (zh) * 2020-11-05 2021-02-02 上海应用技术大学 基于小波分解的频谱感知方法
CN113638305A (zh) * 2021-08-16 2021-11-12 福建九鼎建设集团有限公司 一种铅挤压复合旋叶式粘滞阻尼器及其应用方法
CN113762486A (zh) * 2021-11-11 2021-12-07 中国南方电网有限责任公司超高压输电公司广州局 换流阀故障诊断模型的构建方法、装置和计算机设备
CN116070675A (zh) * 2023-03-06 2023-05-05 西南交通大学 边坡神经网络模型选取方法、装置、设备及可读存储介质
CN117582185A (zh) * 2024-01-19 2024-02-23 季华实验室 一种基于cllsr混合模型的脉力等级预测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018072351A1 (zh) * 2016-10-20 2018-04-26 北京工业大学 一种基于粒子群优化算法对支持向量机的优化方法
CN109902863A (zh) * 2019-02-15 2019-06-18 浙江财经大学 一种基于多因素时空相关性的风速预测方法及装置
CN110470259A (zh) * 2019-07-09 2019-11-19 西安工程大学 基于lstm的滑坡位移动态预测方法
CN110686633A (zh) * 2019-08-30 2020-01-14 深圳大学 一种滑坡位移预测方法、装置及电子设备
CN110705763A (zh) * 2019-09-23 2020-01-17 山东大学 一种包含误差修正的超短期负荷预测方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018072351A1 (zh) * 2016-10-20 2018-04-26 北京工业大学 一种基于粒子群优化算法对支持向量机的优化方法
CN109902863A (zh) * 2019-02-15 2019-06-18 浙江财经大学 一种基于多因素时空相关性的风速预测方法及装置
CN110470259A (zh) * 2019-07-09 2019-11-19 西安工程大学 基于lstm的滑坡位移动态预测方法
CN110686633A (zh) * 2019-08-30 2020-01-14 深圳大学 一种滑坡位移预测方法、装置及电子设备
CN110705763A (zh) * 2019-09-23 2020-01-17 山东大学 一种包含误差修正的超短期负荷预测方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
TAE-YOUNG KIM 等: "Particle Swarm Optimization-based CNN-LSTM Networks for Forecasting Energy Consumption" *
ZHANG GUOLI等: "Dynamic prediction model for landslide susceptibility based on deep learning methods" *
袁志明;李沛鸿;钟亮;杨鹏;: "基于LSTM-GM神经网络模型的深基坑沉降变形预测" *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111914481A (zh) * 2020-07-27 2020-11-10 山西大学 基于改进的pso-rbf算法的边坡稳定性预测方法
CN111914481B (zh) * 2020-07-27 2022-03-18 山西大学 基于改进的pso-rbf算法的边坡稳定性预测方法
CN112311488A (zh) * 2020-11-05 2021-02-02 上海应用技术大学 基于小波分解的频谱感知方法
CN113638305A (zh) * 2021-08-16 2021-11-12 福建九鼎建设集团有限公司 一种铅挤压复合旋叶式粘滞阻尼器及其应用方法
CN113762486A (zh) * 2021-11-11 2021-12-07 中国南方电网有限责任公司超高压输电公司广州局 换流阀故障诊断模型的构建方法、装置和计算机设备
CN116070675A (zh) * 2023-03-06 2023-05-05 西南交通大学 边坡神经网络模型选取方法、装置、设备及可读存储介质
CN116070675B (zh) * 2023-03-06 2023-06-09 西南交通大学 边坡神经网络模型选取方法、装置、设备及可读存储介质
CN117582185A (zh) * 2024-01-19 2024-02-23 季华实验室 一种基于cllsr混合模型的脉力等级预测方法
CN117582185B (zh) * 2024-01-19 2024-05-07 季华实验室 一种基于cllsr混合模型的脉力等级预测方法

Also Published As

Publication number Publication date
CN111310902B (zh) 2023-09-29

Similar Documents

Publication Publication Date Title
CN111310902A (zh) 神经网络模型的训练方法、边坡位移预测方法及相关装置
CN112581263A (zh) 一种基于灰狼算法优化广义回归神经网络的信用评估方法
CN113538125A (zh) 一种基于萤火虫算法优化Hopfield神经网络的风险评级方法
CN109033513B (zh) 电力变压器故障诊断方法与电力变压器故障诊断装置
CN112215446A (zh) 一种基于神经网络的单位动态火灾风险评估方法
CN106656357B (zh) 一种工频通信信道状态评估系统和方法
CN110728177B (zh) 基于双协方差随机子空间的类噪声数据低频振荡辨识方法
CN112529685A (zh) 一种基于bas-fnn的贷款用户信用评级方法及系统
CN114863226A (zh) 一种网络物理系统入侵检测方法
CN110826692B (zh) 一种自动化模型压缩方法、装置、设备及存储介质
CN113239638A (zh) 一种基于蜻蜓算法优化多核支持向量机的逾期风险预测方法
CN113379536A (zh) 一种基于引力搜索算法优化递归神经网络的违约概率预测方法
CN114282704A (zh) 充电站充电负荷预测方法、装置、计算机设备和存储介质
CN112232565A (zh) 基于两阶段的时间序列预测方法、预测系统、终端及介质
CN116304940A (zh) 基于长短期记忆神经网络的模拟电路故障诊断方法
CN106228029A (zh) 基于众包的量化问题求解方法和装置
CN105225018A (zh) 基于bp神经网络的手机流量的预测方法及预测装置
CN115587616A (zh) 网络模型训练方法、装置、存储介质及计算机设备
CN112348656A (zh) 一种基于ba-wnn的个人贷款信用评分方法
CN111028512B (zh) 一种基于稀疏bp神经网络的实时交通预测方法及装置
CN110009579B (zh) 一种基于头脑风暴优化算法的图像复原方法及系统
Singh et al. Novel optimal deployment of sensor nodes using bio inspired algorithm
CN112529303A (zh) 基于模糊决策的风险预测方法、装置、设备和存储介质
Nadagouda et al. Switched hawkes processes
Mirikitani et al. Dynamic modeling with ensemble Kalman filter trained recurrent neural networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant