CN118031899A - 一种基于深度学习的多因素路基沉降预测方法 - Google Patents

Abstract

本发明提出了一种基于深度学习的多因素路基沉降预测方法，基于注意力机制优化的多因素双向长短时记忆神经网络模型(AM‑BI‑LSTM)，对高速铁路路基进行多因素路基工后沉降预测，通过AM对BI‑LSTM模型输出值进行权重计算，通过分配环境和岩土工程性质对路基工后沉降的关注度，提高路基工后沉降的精度，为高速铁路路基沉降评估提供更为准确的数据，同时提升了路基工后沉降的评估效率。

Description

一种基于深度学习的多因素路基沉降预测方法

技术领域

本发明属于路基工程技术领域，具体涉及一种基于深度学习的多因素路基沉降预测方法。

背景技术

路基是高速铁路轨道结构和列车的承载主体，为了实现列车运行的高安全性和高速铁路轨道结构的高平顺性，无砟轨道高速铁路路基一般地段的工后沉降不大于20mm，有砟轨道高速铁路路基的一般地段工后沉降不大于50mm，这对岩土工程是一个非常大的挑战，因此，在高速铁路轨道工程施工前，必须进行严格的路基工后沉降评估。

目前，高速铁路路基的工后沉降评估是在路基内安装监测设备，通过长时间的观测采集沉降数据，绘制“填土高度-时间-沉降”曲线，基于双曲线法、指数曲线法、Asaoka法或灰色理论等方法，对工后沉降数据进行回归拟合，然后预测路基的长期工后沉降，这些方法对高速铁路路基的工后沉降评估起到了重要作用，但是受长期波动的影响较大。实际工程中，路基所处的岩土工程环境复杂多变，沉降受气温、地下水和荷载变化等因素的影响，黄土地区的路基多处于非饱和状态，在干湿循环和冻融循环下易出现工后沉降过大的问题，然而传统的双曲线法、指数曲线法、Asaoka法等单因素回归拟合沉降预测模型具有明显的时间依赖性，无法考虑气温、降水等因素的影响，灰色理论法虽然可以弥补贫信息和不确定性的缺点，但是具有波动性。实践证明，单因素回归拟合沉降预测模型对软土路基的工后沉降预测精度较高，对黄土路基工后沉降预测结果还需长期的观测评价，对于高速铁路毫米级的路基沉降控制，路基工后沉降预测方法仍然需要改进，提高其预测精度非常必要。

虽然深度学习模型已经用于路基沉降预测，但是考虑环境和岩土工程性质的多因素深度学习沉降预测方法和系统仍然是空白。不同时序的环境和岩土工程性质对路基的影响程度不同，现有的深度学习沉降预测方法还没有实现环境和岩土工程性质对沉降影响程度的计算。

发明内容

有鉴于此，本发明的目的在于提供一种基于深度学习的多因素路基沉降预测方法。本发明旨在解决现有路基沉降预测方法预测准确性差，未考虑环境和岩土工程性质对路基沉降影响的问题。

为达到上述目的，本发明提供了一种基于深度学习的多因素路基沉降预测方法，包括以下步骤：

S1.建立路基沉降观测系统；

所述路基沉降观测系统包括静力水准仪、水分计、温度计、数据传输系统和供电系统，所述静力水准仪用于获取地基和路基面沉降数据，所述水分计用于获取地基内部土体含水率，所述温度计用于获取路基附近的环境温度；

S2.采集数据，并对数据进行前处理；

S3.采用深度学习机器建立多因素AM-BI-LSTM模型；

S4.根据多因素AM-BI-LSTM模型定义输入数据集，划分训练数据集和测试数据集；

S5.数据分割：设定窗口分割长度L_c；

S6.模型调参；

将数据集导入多因素AM-BI-LSTM模型，开展模型训练，训练过程以均方根误差RMSE最小为优化目标，应用Adam优化算法更新权重，直到RMSE最小；

S7.滚动预测；

S8.选取评价指标，判别预测值与实测值的偏离程度。

进一步，所述步骤S2包括以下子步骤：

S2.1通过步骤S1所述的路基沉降观测系统监测工程所在区域的日最低气温、地基土含水率以及路基面和地基的沉降数据；

S2.2剔除明显的异常数据；

S2.3对数据进行插值补缺和等时距处理；

S2.4对数据进行归一化的处理，将原始数据转换统一在[0，1]区间。

进一步，所述步骤S2.3中，等时距处理的时距以3天为单位。

进一步，所述步骤S2.4中，数据归一化采用min-max标准化方法进行处理，min-max标准化函数的计算表达式如下：

式中，X^*为标准化的数据；X为原始数据；X_max为原始数据中的最大值，X_min为原始数据的最小值。

进一步，所述步骤S4包括以下子步骤：

S4.1根据多因素AM-BI-LSTM模型，定义输入数据集F_n；

F_n＝(x₁,x₂,…,x_t,…x_n)

x_t＝{S_ct,T_t,w_t}

式中，S_ct为t时刻的沉降量；T_t为t时刻的最低气温；w_t为t时刻的地基土含水率；

S4.2将经过标准化处理和格式转换后的数据分为训练数据集F’_train和测试数据集F’_test；

F’_train＝(x’₁,x'₂,…,x'_m)，

F’_test＝(x'_m+1,x'_m+2,…,x'_n)

其中，F’_train为数据处理后的训练集，训练集的窗口长度为总数据的75％；F’_train为数据处理后的测试集，测试集的窗口长度为总数据的25％；m为训练样本的因素数量；n为训练和测试样本的总数。

进一步，所述多因素AM-BI-LSTM模型的计算过程如下：

I.根据分割窗口长度L_c，将数据集输入多因素AM-BI-LSTM模型的隐藏层；

输入隐含层的数据集为：X＝(X₁,X₂,X_t…,X_Lc)，X_t＝(x’_t,x’_t+1,…,x'_m-Lc+t-1)；

隐含层的理论输出为：

II.将Y_t输入至AM层计算对应的权值，用计算的权值对编码向量进行加权作为解码器Decoder的输入；

III.经过解码器得到的实际输出为：

IV.最终AM-BI-LSTM模型的实际输出为：H_t＝AM-BI-LSTM(X_t,c_t-1,h_t-1)。

进一步，所述步骤S6中，均方根误差RMSE的计算表达式如下：

式中，P_i为解码器的实际输出；Y_i为隐藏层的理论输出。

进一步，所述步骤S7包括以下子步骤：

S7.1输入时序样本数据集F_n，得到沉降量预测集Y_i；

S7.2将Y_i与对应时刻T_t、w_t组成下一个时序样本集F_n1，经多因素AM-BI-LSTM模型训练和运行后，得到对应时刻的沉降量预测值Y_i1；

S7.3重复步骤S7.2，每次向前迭代一个窗口长度，直至沉降量发展趋势稳定或达到规定时间。

进一步，所述步骤S8中，评价指标包括平均绝对误差MAE和均方根误差RMSE；

式中，为预测值，S_t为实测值。

有益效果：

1、本发明提供了一种基于深度学习的多因素路基沉降预测方法，利用路基沉降观测系统，获取路基沉降值、最低气温和地基土含水率3个因素，建立多因素AM-BI-LSTM模型，输入参数包括：路基沉降值、最低气温和地基土含水率，输出参数为路基的工后沉降预测值；

由于路基在建设和服役期内经历冻融循环和干湿循环过程，这两个过程对地基土的物理力学指标影响较大，而路基的沉降与地基土的物理力学指标直接相关，通过实时试验获得地基土的物理力学指标工作强度较大，也不现实，因此，本发明用最低气温表征路基的冻融循环，用地基土含水率表征路基的干湿循环，在路基的工后沉降预测中考虑了环境温度和地基土工程性质的影响，提升了预测的准确率。

2、本发明提供了一种基于注意力机制(AM)优化的多因素双向长短时记忆(BI-LSTM)神经网络模型，用AM-BI-LSTM表示，可用于高速铁路路基多因素路基工后沉降预测，通过AM对BI-LSTM模型输出值进行权重计算，通过分配环境和岩土工程性质对路基工后沉降的关注度，提高路基工后沉降的精度，为高速铁路路基沉降评估提供更为准确的数据，同时提升了路基工后的沉降评估效率。

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究，对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

图1为多因素AM-BI-LSTM模型结构；

图2为BI-LSTM神经网络基本单元结构；

图3为AM结构层；

图4为LSTM神经网络的基本单元结构；

图5为多因素AM-BI-LSTM模型滚动预测流程；

图6为实施例1的路基沉降观测系统；

图7为测点W6-W8沉降数据的等时距分布；

图8为日最底气温的等时距分布；

图9为地基含水率的等时距分布；

图10为多因素AM-BI-LSTM模型训练过程损失曲线；

图11为测点W6测试集实测值与预测值对比；

图12为测点W7测试集实测值与预测值对比；

图13为测点W8测试集实测值与预测值对比。

具体实施方式

为使本发明的技术方案、优点和目的更加清楚，下面将结合本发明实施例的附图，对本发明实施例的技术方案进行清楚、完整地描述。显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于所描述的本发明的实施例，本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例，都属于本申请的保护范围。

本发明提供了一种基于深度学习的多因素路基沉降预测方法，包括以下步骤：

S1.建立路基沉降观测系统；

所述路基沉降观测系统包括静力水准仪、水分计、温度计、数据传输系统和供电系统，所述静力水准仪用于获取地基和路基面沉降数据，所述水分计用于获取地基内部土体含水率，所述温度计用于获取路基附近的环境温度，数据为某一段时间内连续观测的数据，以天为单位记录；

S2.采集数据，并对数据进行前处理；

S2.1通过步骤S1所述的路基沉降观测系统监测工程所在区域的日最低气温、地基土含水率以及路基面和地基的沉降数据；

S2.2剔除明显的异常数据；

S2.3对数据进行插值补缺和等时距处理；

所述步骤S2.3中，等时距处理的时距以3天为单位；

S2.4对数据进行归一化的处理，将原始数据转换统一在[0，1]区间。

所述步骤S2.4中，数据归一化采用min-max标准化方法进行处理，使其满足激活函数梯度敏感区间，min-max标准化函数的计算表达式如下：

式中，X^*为标准化的数据；X为原始数据；X_max为原始数据中的最大值，X_min为原始数据的最小值。

S3.采用深度学习机器建立多因素AM-BI-LSTM模型，设置相关参数；

多因素AM-BI-LSTM模型图1所示，多因素AM-BI-LSTM的路基工后沉降预测模型包括两个独立的LSTM和AM机制，其中BI-LSTM的输入序列分别以正序和逆序输入到两个LSTM神经网络中进行特征提取。将2个输出向量(即提取的特征向量)连接形成的词向量作为词的最终特征表达。Bi-LSTM神经网络设计理念是使在时刻t获得的特征数据同时具有过去和未来的信息，然后将t获得的特征数据输入AM层，通过编码器(Encoder)进行编码，然后通过AM对编码向量计算对应的权值((α₁,α₂,2,α_n)，用计算的权值对编码向量进行加权作为解码器(Decoder)的输入，最后经过解码器得到输出。通过不断学习优化相应的权值，突出输入特征中的关键信息，进一步深度挖掘变量之间的非线性特征。实验表明，该神经网络在文本特征提取效率和性能方面优于单一的LSTM神经网络。AM-BI-LSTM神经网络中的2个LSTM神经网络参数是相互独立的，它们共享嵌入词向量列表，其基本单元结构如图2所示；AM机制可以很好地捕捉到沉降变化的这一特征，它改变了传统的encoder-decoder结构，传统的解码器对每一个输入都赋予相同的权重，但现实中不同的输入重要性往往不同，AM机制如下图3所示。

BI-LSTM神经网络模型包括t时刻的向前和向后计算输出向量，具体包括：

建立前向计算输出向量

建立后向计算输出向量

计算隐含层理论输出值y_t：

式中，和/>分别为正向LSTM网络的权重矩阵和偏置向量；/>分别为反向LSTM的权重矩阵和偏置向量；W₁、W₂、b_y分别为全连接层的权重矩阵和偏置向量；sigmoid和ReLu为激活函数；/>为向前计算输出向量时，每一层连接到前一个隐状态h_t-1的权重矩阵；为向后计算输出向量时，每一层连接到前一个隐状态h_t-1的权重矩阵。

多因素BI-LSTM模型中的LSTM神经网络包括：

建立遗忘门f_t：f_t＝sigmoid(U_fh_t-1+W_fx_t+b_f)；

建立输入门i_t：i_t＝sigmoid(U_ih_t-1+W_ix_t+b_i)；

建立控制门o_t：o_t＝sigmoid(U_oh_t-1+W_ox_i+b_o)；

建立新记忆

建立长期记忆c_t：

计算输出向量h_t：h_t＝o_totanh(c_t)；

式中，x_t、h_t分别为输入和输出向量；f_t、i_t、o_t分别为遗忘门、输入门和输出门控制状态；c为单元状态；C_t、-为长期记忆和新记忆；sigmoid和tanh为激活函数；W为权重矩阵；b为偏置向量；o为哈达玛积运算。

LSTM神经网络的基本单元结构见图4。

AM层权重分配：

u_j＝tanh(W_iY_t+b_i)；

其中，W_i是权重系数，b_i是偏置量，将u_j输入softmax函数中，进行归一化，得到归一化后的权重a_j：

其中，u_w是随机初始化的注意力权重矩阵，AM机制的S是不同权重与对应各个隐藏层状态的乘积的累加和，计算如式如下：

最终得到了各个变量被赋予了不同关注度的AM层的输出，如下式：

H_j＝P(S,P_i)

全连接层的输入为AM层的输出。全连接层对该层的输入进行计算，得到C沉降的预测结果。与真实的沉降相减，返回损失函数。通过损失函数的反向传播，不断地修正权重和预测结果。

S4.根据多因素AM-BI-LSTM模型定义输入数据集，划分训练数据集和测试数据集；

S4.1根据多因素AM-BI-LSTM模型，定义输入数据集F_n；

F_n＝(x₁,x₂,…,x_t,…x_n)

x_t＝{S_ct,T_t,w_t}

式中，S_ct为t时刻的沉降量；T_t为t时刻的最低气温；w_t为t时刻的地基土含水率；

S4.2将经过标准化处理和格式转换后的数据分为训练数据集F_t'_rain和测试数据集F_t'_est；

F’_train＝(x’₁,x'₂,…,x'_m)，

F’_test＝(x'_m+1,x'_m+2,…,x'_n)

其中，F’_train为数据处理后的训练集，训练集的窗口长度为总数据的75％；F’_train为数据处理后的测试集，测试集的窗口长度为总数据的25％；m为训练样本的因素数量；n为训练和测试样本的总数。

S5.数据分割：设定窗口分割长度L_c，本实施例窗口分割长度L_c＝85；

基于步骤S1～步骤S5可知，本发明多因素AM-BI-LSTM模型的计算过程如下：

I.根据分割窗口长度L_c，将数据集输入多因素AM-BI-LSTM模型的隐藏层；

输入隐含层的数据集为：X＝(X₁,X₂,X_t…,X_Lc)，X_t＝(x’_t,x’_t+1,…,x'_m-Lc+t-1)；

隐含层的理论输出为：

II.将Y_t输入至AM层计算对应的权值，用计算的权值对编码向量进行加权作为解码器Decoder的输入；

III.经过解码器得到的实际输出为：

IV.最终AM-BI-LSTM模型的实际输出为：H_t＝AM-BI-LSTM(X_t,c_t-1,h_t-1)。

S6.模型调参；

将数据集导入多因素AM-BI-LSTM模型，开展模型训练，训练过程以均方根误差RMSE最小为优化目标，应用Adam优化算法更新权重，直到RMSE最小；

所述步骤S6中，均方根误差RMSE的计算表达式如下：

式中，P_i为解码器的实际输出；Y_i为隐藏层的理论输出。

S7.滚动预测；

由于气候特征的周期性，将最低气温和地基土含水率监测数据以年为周期滚动，可以通过窗口滑移的方法实现多因素BI-LSTM模型的滚动预测，初次预测时，将初次预测时的窗口长度设置为原始窗口，窗口内沉降数据的训练集对应最低气温和地基土含水率时序，当开展第二次预测时，数据窗口向前滑移，取滑移后窗口对应时序的最低气温、地基土含水率和沉降值为训练集进行训练和运行，依次类推，完成多因素AM-BI-LSTM模型滚动预测，工作流程如图5所示；

S7.1输入时序样本数据集F_n，包括S_ct，T_t，w_t，得到沉降量预测集Y_i；

S7.2将Y_i与对应时刻T_t、w_t组成下一个时序样本集F_n1，经多因素AM-BI-LSTM模型训练和运行后，得到对应时刻的沉降量预测值Y_i1；

S7.3重复步骤S7.2，每次向前迭代一个窗口长度，直至沉降量发展趋势稳定或达到规定时间

S8.选取评价指标，判别预测值与实测值的偏离程度；

模型预测结果的评价标准因其算法差异对数据的敏感性不同，同时路基沉降特征明显，沉降周期较长，最终决定选取MAE(平均绝对误差)、RMSE(均方根误差)两个判别指标进行分析，判别预测值与实测值的偏离程度，MAE和RMSE的计算表达式如下：

式中，为预测值，S_t为实测值。

实施例1

本发明提供了一种基于深度学习的多因素路基沉降预测方法，包括以下步骤：

a.建立路基沉降观测系统，包括静力水准仪、水分传感器、温度传感器、数据采集模块、太阳能供电系统等，详见图6所示；

b.获取静力水准仪、水分传感器、温度传感器监测的路基沉降、地基土含水率、日最低气温数据，数据为某一段时间内连续观测的数据，以天为单位记录。

c.对路基沉降、地基土含水率、日最低气温数据进行以3d为时距进行等时距处理，等时距处理后数据如图7～图9所示；

d.定义训练数据集和测试数据集：选取2021年7月至2022年3月14日的数据进行标准化处理，处理后的样本数据为85组，然后对数据进行标准化处理，经过标准化处理和格式转换后的数据分为训练数据集F’_train和测试数据集F’_test，训练集的样本为64个，测试集的样本为21个；

e.采用深度学习机器建立多因素AM-BI-LSTM模型结构进行训练，在模型中导入数据集，然后开展模型的训练，将训练批次大小设定为30个，迭代次数为250，每轮迭代2次，共计训练500次，损失函数为RMSE，优化器为Adam算法，训练目的是出现最小的损失，应用优化器不断更新网络权重，直至网络损失最小值，本实施例训练过程的损失曲线如图10所示；

f.预测结果对比分析：将图6中测点W6-W8的预测数据与传统单因素预测模型及实测值进行对比，对比结果如图11～图13所示；

预测精度对比：

表1 AM-BI-LSTM模型的预测集(测试集)MAE和RMSE数值

通过表1可知，与传统单因素预测模型相比，本发明基于深度学习的多因素路基沉降预测方法和多因素AM-BI-LSTM模型预测精度更高，预测结果更接近实测值。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的保护范围当中。

Claims (9)

1.一种基于深度学习的多因素路基沉降预测方法，其特征在于，包括以下步骤：

S1.建立路基沉降观测系统；

所述路基沉降观测系统包括静力水准仪、水分计、温度计、数据传输系统和供电系统，所述静力水准仪用于获取地基和路基面沉降数据，所述水分计用于获取地基内部土体含水率，所述温度计用于获取路基附近的环境温度；

S2.采集数据，并对数据进行前处理；

S3.采用深度学习机器建立多因素AM-BI-LSTM模型；

S4.根据多因素AM-BI-LSTM模型定义输入数据集，划分训练数据集和测试数据集；

S5.数据分割：设定窗口分割长度L_c；

S6.模型调参；

将数据集导入多因素AM-BI-LSTM模型，开展模型训练，训练过程以均方根误差RMSE最小为优化目标，应用Adam优化算法更新权重，直到RMSE最小；

S7.滚动预测；

S8.选取评价指标，判别预测值与实测值的偏离程度。

2.根据权利要求1所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于：所述步骤S2包括以下子步骤：

S2.1通过步骤S1所述的路基沉降观测系统监测工程所在区域的日最低气温、地基土含水率以及路基面和地基的沉降数据；

S2.2剔除明显的异常数据；

S2.3对数据进行插值补缺和等时距处理；

S2.4对数据进行归一化的处理，将原始数据转换统一在[0，1]区间。

3.根据权利要求2所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于：所述步骤S2.3中，等时距处理的时距以3天为单位。

4.根据权利要求2所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于，所述步骤S2.4中，数据归一化采用min-max标准化方法进行处理，min-max标准化函数的计算表达式如下：

式中，X^*为标准化的数据；X为原始数据；X_max为原始数据中的最大值，X_min为原始数据的最小值。

5.根据权利要求1所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于，所述步骤S4包括以下子步骤：

S4.1根据多因素AM-BI-LSTM模型，定义输入数据集F_n；

F_n＝(x₁,x₂,…,x_t,…x_n)

x_t＝{S_ct,T_t,w_t}

式中，S_ct为t时刻的沉降量；T_t为t时刻的最低气温；w_t为t时刻的地基土含水率；

S4.2将经过标准化处理和格式转换后的数据分为训练数据集F'_train和测试数据集F'_test；

F'_train＝(x'₁,x'₂,…,x'_m)，

F'_test＝(x'_m+1,x'_m+2,…,x'_n)

其中，F'_train为数据处理后的训练集，训练集的窗口长度为总数据的75％；F'_train为数据处理后的测试集，测试集的窗口长度为总数据的25％；m为训练样本的因素数量；n为训练和测试样本的总数。

6.根据权利要求5所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于，所述多因素AM-BI-LSTM模型的计算过程如下：

I.根据分割窗口长度L_c，将数据集输入多因素AM-BI-LSTM模型的隐藏层；

输入隐含层的数据集为：X＝(X₁,X₂,X_t…,X_Lc)，X_t＝(x'_t,x'_t+1,…,x'_m-Lc+t-1)；

隐含层的理论输出为：

II.将Y_t输入至AM层计算对应的权值，用计算的权值对编码向量进行加权作为解码器Decoder的输入；

III.经过解码器得到的实际输出为：

IV.最终AM-BI-LSTM模型的实际输出为：H_t＝AM-BI-LSTM(X_t,c_t-1,h_t-1)。

7.根据权利要求6所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于，所述步骤S6中，均方根误差RMSE的计算表达式如下：

式中，P_i为解码器的实际输出；Y_i为隐藏层的理论输出。

8.根据权利要求7所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于，所述步骤S7包括以下子步骤：

S7.1输入时序样本数据集F_n，得到沉降量预测集Y_i；

S7.2将Y_i与对应时刻T_t、w_t组成下一个时序样本集F_n1，经多因素AM-BI-LSTM模型训练和运行后，得到对应时刻的沉降量预测值Y_i1；

S7.3重复步骤S7.2，每次向前迭代一个窗口长度，直至沉降量发展趋势稳定或达到规定时间。

9.根据权利要求8所述的一种基于深度学习的多因素路基沉降预测方法，其特征在于，所述步骤S8中，评价指标包括平均绝对误差MAE和均方根误差RMSE；

式中，为预测值，S_t为实测值。