CN112733442B - 基于深度学习的路面长期性能预测模型的构建方法 - Google Patents

基于深度学习的路面长期性能预测模型的构建方法 Download PDF

Info

Publication number
CN112733442B
CN112733442B CN202011623981.7A CN202011623981A CN112733442B CN 112733442 B CN112733442 B CN 112733442B CN 202011623981 A CN202011623981 A CN 202011623981A CN 112733442 B CN112733442 B CN 112733442B
Authority
CN
China
Prior art keywords
data
model
long
lstm
bpnn
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011623981.7A
Other languages
English (en)
Other versions
CN112733442A (zh
Inventor
权磊
田波
向傑
尚千里
李思李
李立辉
何哲
谢晋德
张盼盼
侯荣国
刘洁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Research Institute of Highway Ministry of Transport
Original Assignee
Research Institute of Highway Ministry of Transport
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Research Institute of Highway Ministry of Transport filed Critical Research Institute of Highway Ministry of Transport
Priority to CN202011623981.7A priority Critical patent/CN112733442B/zh
Publication of CN112733442A publication Critical patent/CN112733442A/zh
Application granted granted Critical
Publication of CN112733442B publication Critical patent/CN112733442B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Human Resources & Organizations (AREA)
  • General Physics & Mathematics (AREA)
  • Strategic Management (AREA)
  • Evolutionary Computation (AREA)
  • Economics (AREA)
  • Software Systems (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Operations Research (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Educational Administration (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Quality & Reliability (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Game Theory and Decision Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Marketing (AREA)
  • Mathematical Physics (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Traffic Control Systems (AREA)

Abstract

本发明公开了一种基于深度学习的路面长期性能预测模型的构建方法,该模型是将LSTM长短期记忆网络和BPNN反向传播神经网络通过注意方法进行融合的LSTM‑BPNN特征融合模型。本发明通过分析国内外学者基于深度学习在路用性能中的预测模型,根据路面长期性能数据库的数据特性,将数据特征划分为基本特征和时序特征,结合不同特征数据,构建的LSTM‑BPNN神经网络长期性能预测模型,使它们在预测路用性能方面,发挥自身网络优势,各司其职,关联耦合,充分捕捉不同类型气候变化与路用性能变化趋势的潜在关联性,从而更加准确的预测未来的路面路面长期性能。

Description

基于深度学习的路面长期性能预测模型的构建方法
技术领域
本发明属于公路养护行业技术领域,具体涉及了一种基于深度学习的路面长期性能预测模型及其构建方法。
背景技术
随着路网规模的几何级增长,每年投入路网养护资金高达4000亿人民币,路网的养护决策和资金分割多依靠经验判断,如何掌握准确路网服役状态并确定养护时机事关国民经济健康运行,极为迫切和必要。路面性能预测的准确与否不仅决定了养护维修决策的可靠性,还决定了养护经费投入的经济效益、道路使用者的舒适安全性等社会效益,因此对路面性能预测研究具有重要意义。
基于力学经验法建立的模型虽然能够很好地捕捉影响路面性能具有因果联系的指标,但其扩展性弱,数据收集困难,难以挖掘潜在的相关性特征。而随着技术的不断发展,机器学习已成为一种标准的预测分析工作。它被广泛运用于解决复杂场景下的预测分析难题。在路面性能预测方面,到目前为止,也已经提出了许多机器学习模型。其中最常用的模型,如线性回归模型,基于决策树的树模型等在解决相关问题上表现优异。随着近年来对深度学习技术的探究,反向传播神经网络(BPNN)模型的性能也变得越来越优异。与传统力学模型相比,基于机器学习的预测模型能够更好地捕捉各种特征之间的潜在关系,具有更好的预测性能。此外,机器学习模型通过增加更多的特征来提高预测性能,可以更好的扩展模型输入。
现有的机器学习模型大多建立在较小的路面性能数据集上,面对实际的大规模数据,它们很难实现精确预测。更重要的一点是,现有数据中的大量时序特征被简化为基本特征数据,忽略了时间序列的变化趋势。大多数现有的预测模型不包括完整的特征集(即,性能、交通、气象、路面结构及施工信息)。对于气候特征,它们只建模几个简单的统计数据(例如平均值、方差),没有将时序特征和基本特征结合起来进行路面性能的预测,无法捕获气候变化的深层模式。综上,现有的机器学习模型难以建模复杂的时序特征和数据中蕴含的深层的潜在相关性。
发明内容
本发明的目的在于针对现有技术中存在的不足,提供了一种基于深度学习的路面长期性能预测模型及其构建方法。本发明为了获得高精度的路面服役性能预测模型,综合对比线性回归模型、树模型和深度神经网络学习模型在路面性能预测方面的优劣,通过对路面性能基本特征与时序特征的融合,首次提出一种基于BPNN+LSTM的新型深度机器学习模型,对多个路面性能指标包括平整度、车辙深度、构造深度、横向力系数、弯沉等实现了高精准的预测。
为了实现上述目的,本发明采用以下技术方案:
一种基于深度学习的路面长期性能预测模型,是将LSTM长短期记忆网络和BPNN反向传播神经网络通过注意方法进行融合的LSTM-BPNN特征融合模型。
所述的LSTM-BPNN特征融合模型主要由两部分组分,第一部分为BPNN反向传播神经网络,接受不同路面的基本特征作为输入并学习相应的隐含影响因素;第二部分为LSTM长短期记忆网络,用于学习不同长度的气候时间序列特征;然后通过应用注意机制隐式融合时间序列与截面特征,以相互耦合的方式工作,最终输出表示BPNN和LSTM的整体输出。
本发明是通过分析了国内外学者基于深度学习在路用性能中的预测模型,根据路面长期性能数据库的数据特性,将数据特征划分为基本特征和时序特征;结合不同特征数据,构建的LSTM-BPNN神经网络长期性能预测模型,该模型是将BPNN反向传播神经网络和LSTM长短期记忆网络通过注意方法进行融合的LSTM-BPNN特征融合模型。长短期记忆网络(LSTM)用来学习时序特征,BPNN反向传播神经网络用来学习基本特征,并通过注意方法进行融合;使其在预测沥青路面平整度方面,发挥自身网络优势,各司其职,关联耦合;充分捕捉不同类型气候变化与平整度趋势的潜在关联性,从而更加准确的预测未来的路面平整度。另外该模型具有一定的泛化能力,只要提供高质量数据集,可进行平整度、抗滑性能、车辙深度等路用性能的预测。
上述的基于深度学习的路面长期性能预测模型的构建方法,包括以下步骤:
步骤一,数据的准备;使用SQL路面长期性能数据库作为数据源来为模型设计创建高质量的数据集,并选取国际平整度指数IRI作为建模数据。具体为:
101.进行数据获取,结合数据库考虑适用于不同场景下的路面性能指标的预测;从SQL路面长期性能数据库中导出IRI建模所需的数据,大致分为路面结构与施工数据、环境气候数据、交通荷载数据和路面性能数据四大类;即:
将天气数据按月进行抽取,保留每月的原始数据进行特征学习,此外还引入路面结构特征、地理位置特征、气候分区特征、公路改善特征、交通量特征,使得数据集的特征更加丰富,充分考虑了各种因素对公路性能指标的影响;相较于其他相关研究工作仅使用几个简单的统计数据(例如平均值、方差)的模型充分考虑了极端天气的影响,抗干扰性更强;
102.对所获取的数据进行数据数值化处理、数据质量检查及数据清洗,再进行特征值选取;即:
首先提取路面长期使用性能评价指标IRI,路面结构和施工以及交通信息以获得有用的基本特征,再提取年度温度和降水相关特征作为时间序列特征;
103.在经过数据清洗及特征值选取工作之后,根据基本特征使用BP神经网络和时序特征使用LSTM神经网络的原则,构建供建模使用的数据宽表。
步骤二,模型构建及训练;应用BPNN反向传播神经网络和LSTM长短期记忆网络构建用于路面长期性能预测的LSTM-BPNN特征融合深度学习模型;应用提前停止策略和具有指数衰减学习率的Adam优化器训练模型,并且使用来自SQL路面长期性能数据库的真实数据集验证新预测模型。具体为:
201.模型构建,研究LSTM长短期记忆网络和BPNN反向传播神经网络各自优缺点后,利用各自的优势首创用于路面使用性能预测的LSTM-BPNN特征融合深度学习模型;它主要由两部分组成:第一部分为BPNN反向传播神经网络,接受不同路面的基本特征作为输入并学习相应的隐含影响因素;第二部分为LSTM长短期记忆网络用于学习不同长度的气候时间序列特征;然后通过应用注意机制隐式融合时间序列与截面特征;模型的两部分以相互耦合的方式工作,其最终输出表示BPNN和LSTM的整体输出;
202.在模型训练期间,应用提前停止策略和具有指数衰减学习率的Adam优化器,衰减倍率的参数设置为10,超参数使用网格搜索来查找最佳设置;使用来自SQL路面长期性能数据库的真实数据集验证新预测模型,并选择三种传统回归模型和纯BPNN模型、LSTM-BPNN融合模型在基本特征和时序特征实验进行比较;所述三种传统回归模型为线性回归、梯度提升决策树、极限梯度增强回归;
在验证实验中,采用的评估指标是均方误差RMSE和确定系数R2,它们是回归分析常用的指标,指标的公式如下所示:
Figure GDA0003684504200000041
Figure GDA0003684504200000042
其中y和
Figure GDA0003684504200000043
分别代表真实值和预测值。
步骤三,训练完成后,即得基于深度学习的路面长期性能预测模型。
本发明进一步说明,上述的基于深度学习的路面长期性能预测模型的构建方法,还包括预测模型对验证集预测分析并对预测结果进行评价,具体为:
401.利用国际平整度指数(IRI),计算路面行驶质量指数(RQI)并将美国阿肯色州的2938条IRI记录进行数据清洗工作,采用10折交叉验证方法将清洗完成的全部样本数据进行划分,从而得到630条记录训练集和70条记录验证集来制作数据宽表输入LSTM-BPNN特征融合模型进行预测;
402.将训练完成的预测模型对70条IRI记录验证集进行预测分析,并对验证集上70条IRI数据的预测值和观测值进行误差分析,结果显示误差绝对值在1m/km左右浮动,个别出现预测异常值,由此可见该预测模型在路面平整度预测性能上表现优异;
403.评价方法依据《公路技术状况评定标准》(JTG 5210-2018),利用国际平整度指数IRI,计算路面行驶质量指数RQI;计算公式如下:
Figure GDA0003684504200000044
式中:IRI为国际平整度指数(m/km);a0为标定系数,本节采用0.026;a1为标定系数,本节采用0.65;
Figure GDA0003684504200000045
根据上表的路面行驶质量分级标准对路面平整度状况进行评价。
本发明相对于现有技术所具备的有益效果:
(1)现有的机器学习模型大多建立在较小的路面性能数据集上,面对实际的大规模数据,它们很难实现精确预测。更重要的一点是,现有数据中的大量时序特征被简化为基本特征数据,忽略了时间序列的变化趋势。大多数现有的预测模型不包括完整的特征集(即,性能、交通、气象、路面结构及施工信息)。对于气候特征,它们只建模几个简单的统计数据(例如平均值、方差),没有将时序特征和基本特征结合起来进行路面性能的预测,无法捕获气候变化的深层模式。综上,现有的机器学习模型难以建模复杂的时序特征和数据中蕴含的深层的潜在相关性。
本发明的LSTM-BPNN特征融合模型是在BP神经网络模型的基础上引入在预测时序特征表现优异的长短期记忆网络,并通过注意方法进行融合。使其在预测沥青路面平整度方面,发挥自身网络优势,各司其职,关联耦合,充分捕捉不同类型气候变化与平整度趋势的潜在关联性,从而更加准确的预测未来的路面平整度。另外该模型具有一定的泛化能力,只要提供高质量数据集,可进行平整度、抗滑性能、车辙深度等路用性能的预测。
(2)本发明通过与三种传统回归模型,即线性回归(LR)、梯度提升决策树(GBDT)、极限梯度增强回归(XGBR),以及纯BPNN模型进行比较,经过比对实验表明,本发明的模型预测性能及稳定性均高于其他模型。
附图说明
图1为本发明中LSTM-BPNN特征融合模型结构示意图。
图2为本发明的预测模型的构建与预测方法流程图。
图3为本发明中输入模型的数据宽表。
图4为实验中融合特征输入实验结果。
图5为实验中全部特征输入时不同模型回归预测效果对比图。
图6为本发明中验证集预测结果。
图7为误差分析示意图。
图8为真实值各评级预测结果对比图。
具体实施方式
为了使本发明的技术特征、目的和效果更加清楚的被理解,现对照附图详细说明本发明的具体实施方式
一种基于深度学习的路面长期性能预测模型,是将LSTM长短期记忆网络和BPNN反向传播神经网络通过注意方法进行融合的LSTM-BPNN特征融合模型。
如图1所示,所述的LSTM-BPNN特征融合模型主要由两部分组分,第一部分为BPNN反向传播神经网络,接受不同路面的基本特征作为输入并学习相应的隐含影响因素;第二部分为LSTM长短期记忆网络,用于学习不同长度的气候时间序列特征;然后通过应用注意机制隐式融合时间序列与截面特征,以相互耦合的方式工作,最终输出表示BPNN和LSTM的整体输出。
基本特征输入:BPNN
为了学习路面的不具时序性的基本特征,采用反向神经网络,因其在非线性拟合能力方面具有优异的性能。通过这种方式,模型将具有更好的捕获路面本身重要特征的能力。考虑l-1层的第j个神经元的状态为βj l-1,定义以下等式:
Figure GDA0003684504200000061
其中wl jk是权重矩阵,bj是偏置向量。在本模型中,将BPNN结构的层数设置为三层结构,即S1、S2、S3;S1是基本特征的输入层,S2是隐藏层,S3是与LSTM部分输出连接的矩阵顶层。
时序特征输入:LSTM
模型右部分为LSTM神经网络,长期短期记忆(LSTM)已成功应用于学习时间序列特征。采用LSTM对气候时间序列特征进行编码,并更好地捕捉气候变化对路面性能的影响。LSTM部分主要由三个部分组成:遗忘门、输入门和输出门。当在t时刻,输入为Xt,前一个隐藏层状态为Xt-1,遗忘门状态为ft,则遗忘门、输入门和输出门三者的数学表达式依次如式所示:
ft=σ(Wf[ht-1,xt]+bf)
it=σ(Wi[ht-1,xt]+bi)
Figure GDA0003684504200000071
Figure GDA0003684504200000072
ot=σ(Wo[ht-1,xt]+bo)
ht=ot*tanh(Ct)
其中,Wf、Wi、WC、Wo是权重向量,bf、bi、bC、bo是偏置项。
掩蔽层
考虑到有效的时间序列特征的长度是可变的,则在输入LSTM部分之前添加掩蔽层,目的是为了使模型预测更具精准性。掩蔽层将自动过滤无效特征(例如幻数-100)并处理具有不同长度的特征,用来过滤掉输入值中的无效特征值。
基于注意力的特征融合
对于路用性能预测,显然不同的气候变化均会影响路面的性能。在模型中,希望有能力纳入更多信息。通过在LSTM-BPNN模型中使用注意方法,基本特征以逐年的方式影响气候时序特征的权重,并且权重a将通过学习过程自动加重或减少。使两神经网络结构进行特征融合。特征融合的输出激活函数f设置为sigmoid函数或softmax函数,则权重输出函数见式:
Figure GDA0003684504200000073
LSTM网络的最终输出结果见式:
Figure GDA0003684504200000074
其中Wa、Wh、Ws为权重矩阵,ba为偏置向量。
性能预测
在将两个组件的输出分别设置为S3和Ht之后,模型通过将S3和Ht连接在一起来计算最终回归。LSTM-BPNN模型的最终输出
Figure GDA0003684504200000075
为两神经网络输出结果结合,如式:
Figure GDA0003684504200000081
其中Wy、by分别为模型的权重矩阵和偏置向量。将LSTM-BPNN模型的损失函数定义为实际回归目标y和预测目标
Figure GDA0003684504200000082
之间的均方误差。
上述基于深度学习的路面长期性能预测模型的构建方法,如图2所示,具体包括以下步骤:
步骤一,数据的准备;使用SQL路面长期性能数据库作为数据源来为模型设计创建高质量的数据集,并选取国际平整度指数IRI作为建模数据。由于模型泛化能力比较强,后期更改预测目标亦可实现其他路用性能指标的预测。具体为:
101.进行数据获取,结合数据库考虑适用于不同场景下的路面性能指标的预测;从SQL路面长期性能数据库中导出IRI建模所需的数据,大致分为路面结构与施工数据、环境气候数据、交通荷载数据和路面性能数据四大类;即:
将天气数据按月进行抽取,保留每月的原始数据进行特征学习,此外还引入路面结构特征、地理位置特征、气候分区特征、公路改善特征、交通量特征,使得数据集的特征更加丰富,充分考虑了各种因素对公路性能指标的影响;相较于其他相关研究工作仅使用几个简单的统计数据(例如平均值、方差)的模型充分考虑了极端天气的影响,抗干扰性更强;
102.对所获取的数据进行数据数值化处理、数据质量检查及数据清洗;再进行特征值选取,即:首先提取路面长期使用性能评价指标IRI,路面结构和施工以及交通信息以获得有用的基本特征,再提取年度温度和降水相关特征作为时间序列特征;
103.在经过数据清洗及特征值选取工作之后,根据基本特征使用BPNN反向传播神经网络和时序特征使用LSTM神经网络的原则,构建供建模使用的数据宽表。
步骤二,模型构建及训练;应用BPNN反向传播神经网络和LSTM长短期记忆网络构建用于路面长期性能预测的LSTM-BPNN特征融合深度学习模型;应用提前停止策略和具有指数衰减学习率的Adam优化器训练模型,并且使用来自SQL路面长期性能数据库的真实数据集验证新预测模型。具体为:
201.模型构建,研究LSTM长短期记忆网络和BPNN反向传播神经网络各自优缺点后,利用各自的优势首创用于路面使用性能预测的LSTM-BPNN特征融合深度学习模型;它主要由两部分组成:第一部分为BPNN反向传播神经网络,接受不同路面的基本特征作为输入并学习相应的隐含影响因素;第二部分为LSTM长短期记忆网络用于学习不同长度的气候时间序列特征;然后通过应用注意机制隐式融合时间序列与截面特征;模型的两部分以相互耦合的方式工作,其最终输出表示BPNN和LSTM的整体输出;
202.在模型训练期间,应用提前停止策略和具有指数衰减学习率的Adam优化器,衰减倍率的参数设置为10,超参数使用网格搜索来查找最佳设置;使用来自SQL路面长期性能数据库的真实数据集验证新预测模型,并选择三种传统回归模型和纯BPNN模型、LSTM-BPNN融合模型在基本特征和时序特征实验进行比较;所述三种传统回归模型为线性回归(LR)、梯度提升决策树(GBDT)、极限梯度增强回归(XGBR);
在验证实验中,采用的评估指标是均方误差RMSE和确定系数R2,它们是回归分析常用的指标,指标的公式如下所示:
Figure GDA0003684504200000091
Figure GDA0003684504200000092
其中y和
Figure GDA0003684504200000093
分别代表真实值和预测值。
步骤三,训练完成后,即得基于深度学习的路面长期性能预测模型。
在本实施例中,为了对模型进行评估,选择三种传统回归模型,即线性回归(LR),梯度提升决策树(GBDT),极限梯度增强回归(XGBR)和纯BPNN模型、LSTM-BPNN融合模型在基本特征和时序特征实验进行比较。
实验中采用的评估指标是均方误差(RMSE)和确定系数(R2),它们是回归分析常用的指标,指标的公式如下所示:
Figure GDA0003684504200000094
Figure GDA0003684504200000095
其中y和
Figure GDA0003684504200000101
分别代表真实值和预测值。
使用所有基本特征和IRI预测的时间序列特征来比较LSTM-BPNN模型和其他模型。图4为实验结果。首先,更多关键特征的参与明显提高了这些模型的预测精度。在基础模型中,R2为0.738的最差表现来自LR。最好的性能来自XGBR模型,即R2为0.789。而LSTM-BPNN模型实现R2为0.867,远远优于XGBR模型,并且最低RMSE为0.242。与BPNN相比,这也是LSTM-BPNN模型的重大改进。
图5展示上述六个模型的所有回归结果,从图中还可以发现,与其他基本模型相比,LSTM-BPNN实现了更好的回归性能。这些实验结果表明,具有BPNN注意机制的LSTM模型有效地捕捉了不同类型的气候变化和IRI趋势之间的潜在关系,从而更准确地预测了未来的IRI。
注意力激活函数。还通过将注意力输出的激活函数分别设置为sigmoid和softmax来比较LSTM-BPNN模型。如图4和图5所示,sigmoid激活表现出了比softmax更好的性能。一个合理的解释是,年气候变化对道路的影响是每年独立的,这意味着未来气候变化如何影响IRI与之前的影响无关,反之亦然。因此,在参数方面,最好在不进行标准化的情况下单独计算每个注意力权重。换句话说,在注意力机制被加在时间序列上的情况,sigmoid激活函数更适合于IRI预测。
为了验证本文建立的路面长期性能LSTM-BPNN神经网络预测模型的有效性和精确性,下文选取SQL数据库表MON_HSS_PROFILE_SECTION中美国阿肯色州(STATE_CODE:5)全部59条试验路段的平整度数据,共计2938条IRI记录。对原始数据清洗后进行模型的应用验证。
评价方法依据《公路技术状况评定标准》(JTG 5210-2018),利用国际平整度指数(IRI),计算路面行驶质量指数(RQI)。根据表的路面行驶质量分级标准对路面平整度状况进行评价,计算公式如式见。
Figure GDA0003684504200000102
式中:IRI——国际平整度指数(International Roughness Index,m/km);
a0——标定系数,本节采用0.026;
a1——标定系数,本节采用0.65。
Figure GDA0003684504200000111
将训练完成的模型对70条IRI记录验证集进行预测分析,预测结果如图6所示,模型的预测性能很可观,R2达到了0.871。为了更直观的展示模型的预测效果,现对验证集上70条IRI数据的预测值和观测值进行误差分析,见图7。结果显示误差绝对值在1m/km左右浮动,个别出现预测异常值,由此可见该模型在路面平整度预测性能上表现优异。
在评价结果对比中,由图8知,其中真实值评级为优,预测准确率为80%;真实值评级为良,预测准确率为87.5%;真实值评级为中,预测准确率为76.92%;真实值评级为次,预测准确率为77.78%;真实值评级为差,预测准确率为85.71%。根据真实值数量求得的加权平均准确率为81.43%,即为模型验证准确率。
上面结合附图对本发明的具体实施方案进行了详尽描述,得出基于深度学习的LSTM-BPNN模型预测方法的准确率达到81.43%以上,同时验证了该模型的有效性及精确性。
另外,该模型具有一定的泛化能力,只要提供高质量数据集,可进行平整度、抗滑性能、沥青路面车辙等路用性能的预测。
显然,上述实施例仅仅是为了清楚的说明本发明所作的举例,而并非对本发明实施的限定。对于所属技术领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动;这里无需也无法对所有的实施方式予以穷举;而由此所引申出的显而易见的变化或变动仍处于本发明的保护范围之中。

Claims (4)

1.一种基于深度学习的路面长期性能预测模型的构建方法,其特征在于包括以下步骤:
步骤一,数据的准备;使用SQL路面长期性能数据库作为数据源来为模型设计创建高质量的数据集,并选取国际平整度指数IRI作为建模数据;
步骤二,模型构建及训练;应用BPNN反向传播神经网络和LSTM长短期记忆网络构建用于路面长期性能预测的LSTM-BPNN特征融合深度学习模型;应用提前停止策略和具有指数衰减学习率的Adam优化器训练模型,并且使用来自SQL路面长期性能数据库的真实数据集验证新预测模型;
步骤三,训练完成后,即得基于深度学习的路面长期性能预测模型。
2.根据权利要求1所述的基于深度学习的路面长期性能预测模型的构建方法,其特征在于步骤一具体包括:
101.进行数据获取,结合数据库考虑适用于不同场景下的路面性能指标的预测,从SQL路面长期性能数据库中导出IRI建模所需的数据,分为路面结构与施工数据、环境气候数据、交通荷载数据和路面性能数据四大类;具体为:
将天气数据按月进行抽取,保留每月的原始数据进行特征学习,此外还引入路面结构特征、地理位置特征、气候分区特征、公路改善特征、交通量特征,使得数据集的特征更加丰富,充分考虑了各种因素对公路性能指标的影响;
102.对所获取的数据进行数据数值化处理、数据质量检查及数据清洗,再进行特征值选取;具体为:
首先提取路面长期使用性能评价指标IRI,路面结构和施工以及交通信息以获得有用的截面特征,再提取年度温度和降水相关特征作为时间序列特征;
103.在经过数据清洗及特征值选取工作之后,根据截面特征使用BP神经网络和时间序列特征使用LSTM神经网络的原则,构建供建模使用的数据宽表。
3.根据权利要求2所述的基于深度学习的路面长期性能预测模型的构建方法,其特征在于步骤二具体包括:
201.模型构建,研究LSTM长短期记忆网络和BPNN反向传播神经网络各自优缺点后,利用各自的优势首创用于路面使用性能预测的LSTM-BPNN特征融合深度学习模型;它主要由两部分组成:第一部分为BPNN反向传播神经网络,接受不同路面的截面特征作为输入并学习相应的隐含影响因素;第二部分为LSTM长短期记忆网络,用于学习不同长度的气候时间序列特征;然后通过应用注意机制隐式融合时间序列特征与截面特征;模型的两部分以相互耦合的方式工作,其最终输出表示BPNN和LSTM的整体输出;
202.在模型训练期间,应用提前停止策略和具有指数衰减学习率的Adam优化器,衰减倍率的参数设置为10,超参数使用网格搜索来查找最佳设置;使用来自SQL路面长期性能数据库的真实数据集验证新预测模型,并选择三种传统回归模型和纯BPNN模型、LSTM-BPNN融合模型在基本特征和时序特征实验进行比较;所述三种传统回归模型为线性回归、梯度提升决策树、极限梯度增强回归;
在验证实验中,采用的评估指标是均方误差RMSE和确定系数R2,它们是回归分析常用的指标,指标的公式如下所示:
Figure FDA0003684504190000021
Figure FDA0003684504190000022
其中y和
Figure FDA0003684504190000023
分别代表真实值和预测值。
4.根据权利要求1-3任一所述的基于深度学习的路面长期性能预测模型的构建方法,其特征在于:还包括预测模型对验证集预测分析并对预测结果进行评价,具体为:
401.利用国际平整度指数IRI,计算路面行驶质量指数RQI并将美国阿肯色州的2938条IRI记录进行数据清洗工作,采用10折交叉验证方法将清洗完成的全部样本数据进行划分,从而得到630条记录训练集和70条记录验证集来制作数据宽表输入LSTM-BPNN特征融合模型进行预测;
402.将训练完成的预测模型对70条IRI记录验证集进行预测分析,并对验证集上70条IRI数据的预测值和观测值进行误差分析,结果显示误差绝对值在1m/km左右浮动,个别出现预测异常值,由此可见该预测模型在路面平整度预测性能上表现优异;
403.评价方法依据《公路技术状况评定标准》JTG 5210-2018,利用国际平整度指数IRI,计算路面行驶质量指数RQI;计算公式如下:
Figure FDA0003684504190000031
式中:IRI为国际平整度指数,单位为m/km;a0为标定系数,采用0.026;a1为标定系数,采用0.65;
Figure FDA0003684504190000032
根据上表的路面行驶质量分级标准对路面平整度状况进行评价。
CN202011623981.7A 2020-12-31 2020-12-31 基于深度学习的路面长期性能预测模型的构建方法 Active CN112733442B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011623981.7A CN112733442B (zh) 2020-12-31 2020-12-31 基于深度学习的路面长期性能预测模型的构建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011623981.7A CN112733442B (zh) 2020-12-31 2020-12-31 基于深度学习的路面长期性能预测模型的构建方法

Publications (2)

Publication Number Publication Date
CN112733442A CN112733442A (zh) 2021-04-30
CN112733442B true CN112733442B (zh) 2022-07-29

Family

ID=75609664

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011623981.7A Active CN112733442B (zh) 2020-12-31 2020-12-31 基于深度学习的路面长期性能预测模型的构建方法

Country Status (1)

Country Link
CN (1) CN112733442B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113191291A (zh) * 2021-05-10 2021-07-30 南京金智视讯技术有限公司 一种基于运动相机的路面平整度检测方法
CN113177735B (zh) * 2021-05-25 2022-03-08 河北工业大学 一种基于人工智能的公路路面全生命周期质量追溯方法
CN113536665B (zh) * 2021-06-18 2022-05-31 云南省交通规划设计研究院有限公司 基于特征工程和lstm的路表温度短临预测方法及系统
CN113505440B (zh) * 2021-07-28 2024-05-14 大连理工大学 一种基于三维深度学习的汽车气动性能参数实时预测方法
CN114048790B (zh) * 2021-08-01 2024-05-24 北京工业大学 一种基于耦合双向lstm和卷积结构网络的道路基层应变分析方法
CN114413832B (zh) * 2021-12-02 2023-12-15 中国通信建设第三工程局有限公司 一种基于光纤传感的道路监测系统及方法
CN114881359B (zh) * 2022-06-02 2024-05-14 招商局重庆交通科研设计院有限公司 融合GBDT和XGBoost的路面IRI预测方法
CN117113515B (zh) * 2023-10-23 2024-01-05 湖南大学 一种路面设计方法、装置、设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110210993A (zh) * 2019-05-22 2019-09-06 重庆大学 基于循环神经网络模型的城市短期燃气负荷预测方法
CN110220725A (zh) * 2019-05-30 2019-09-10 河海大学 一种基于深度学习与bp集成的地铁车轮健康状态预测方法
CN111639748A (zh) * 2020-05-15 2020-09-08 武汉大学 一种基于lstm-bp时空组合模型的流域污染物通量预测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109410575B (zh) * 2018-10-29 2020-05-01 北京航空航天大学 一种基于胶囊网络和嵌套式长短时记忆神经网络的路网状态预测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110210993A (zh) * 2019-05-22 2019-09-06 重庆大学 基于循环神经网络模型的城市短期燃气负荷预测方法
CN110220725A (zh) * 2019-05-30 2019-09-10 河海大学 一种基于深度学习与bp集成的地铁车轮健康状态预测方法
CN111639748A (zh) * 2020-05-15 2020-09-08 武汉大学 一种基于lstm-bp时空组合模型的流域污染物通量预测方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
基于LSTM-BP 组合模型的短时交通流预测;李明明 等;《计算机系统应用》;20191015;摘要和参见第153页第2段 *
指数趋势预测的BP-LSTM模型;孙存浩等;《四川大学学报(自然科学版)》;20200108(第01期);全文 *
面向季节性时空数据的预测式循环网络及其 在城市计算中的应用;张建晋等;《计算机学报》;20191016;全文 *

Also Published As

Publication number Publication date
CN112733442A (zh) 2021-04-30

Similar Documents

Publication Publication Date Title
CN112733442B (zh) 基于深度学习的路面长期性能预测模型的构建方法
CN109243178A (zh) 一种不良气候条件下城镇公路交通安全分析与评价方法
CN116050670B (zh) 一种基于数据驱动的道路养护决策方法及系统
CN113918538B (zh) 一种基于人工神经网络的新建道路养护数据迁移系统
CN113505536A (zh) 一种优化的基于时空图卷积网络的交通流预测模型
CN113065722B (zh) 一种基于深度学习的连续多步预测道路智能养护系统
CN110674996A (zh) 一种城市交通噪声预测方法
CN112614021B (zh) 一种基于已建隧道信息智能识别的隧道围岩地质信息预测方法
CN109741604A (zh) 基于平稳化长短期记忆网络模型预测交叉口交通流量方法
CN111583413A (zh) 一种路面病害bim参数化建模与增强现实移动巡检方法
Hossain et al. Prediction of international roughness index of flexible pavements from climate and traffic data using artificial neural network modeling
CN108537377A (zh) 一种基于网络搜素指数的房价预测方法
CN112163669A (zh) 基于bp神经网络的路面沉陷预测方法
CN116311921A (zh) 一种基于多空间尺度时空Transformer的交通速度预测方法
Lee et al. Dynamic BIM component recommendation method based on probabilistic matrix factorization and grey model
CN109544926A (zh) 一种基于路口相关性的交通流量修复方法
CN116739376A (zh) 一种基于数据挖掘的公路路面预防性养护决策方法
CN116756825A (zh) 一种中小跨径桥梁的群结构性能预测系统
CN117238126A (zh) 一种连续流道路场景下的交通事故风险评估方法
CN114926802A (zh) 基于双层lstm网络的车辆轨迹预测方法
CN114973665A (zh) 一种结合数据分解和深度学习的短时交通流预测方法
Cao et al. Performance prediction of expressway pavement in high maintenance level areas based on cosine deterioration equation: A case study of Zhejiang Province in China
CN111724597B (zh) 基于驾驶行为评估驾驶员认知表现的研究方法
Lethanh et al. A hidden Markov model for modeling pavement deterioration under incomplete monitoring data
CN116956754A (zh) 一种结合深度学习的裂缝型漏失压力计算方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant