CN110147875A - 一种基于lstm神经网络的盾构机辅助巡航方法 - Google Patents

Abstract

一种基于LSTM神经网络的盾构机辅助巡航方法，先通过在线采集盾构机的巡航参数数据，预处理得到训练时间序列，划分得到LSTM神经网络模型的训练数据集；然后训练LSTM神经网络模型，更新LSTM神经网络模型的参数；最后使用训练过的LSTM神经网络模型去预测下一时刻的巡航参数；本发明通过不断训练神经网络的参数，去拟合整个地质‑盾构机耦合非线性系统的特性，对盾构机的主要运行参数做出预测，降低了对操作人员经验的需求。

Description

一种基于LSTM神经网络的盾构机辅助巡航方法

技术领域

本发明属于盾构机辅助巡航技术领域，具体涉及一种基于LSTM(长短时记忆网络)神经网络的盾构机辅助巡航方法。

背景技术

盾构机是一种挖掘隧道的专用机电一体化设备，是轨道交通、水利工程、公路铁路、地下综合管廊等领域的关键性设备，在城市现代化建设的过程发挥着至关重要的作用。作为一种特殊的移动加工车间，盾构机结构庞大，具有高度集成、工作环境恶劣、易发生故障的特点。盾构机的故障对整体施工进度具有重要的影响，甚至导致设计线路作废、整条隧道报废；另外，盾构机工作的地质条件多变且难以预测，控制参数流繁多，对操作人员提出了很高的要求。然而，操作人员多依赖人工经验进行操作，需要长时间保持高度集中的注意力，存在一定的误操作导致盾构机故障的可能性。因此，为了降低对操作人员的要求，降低盾构机故障发生的可能性，辅助保障整体的施工进度，降低盾构机市场扩大之后对操作人员的要求，迫切需要一种辅助巡航技术。

辅助巡航技术的实质是基于当前的地质信息和盾构机的运行状态对下一时间(时段)的巡航参数进行预测，所以建立一个精确、合适的模型对盾构机历史巡航参数的拟合以及未来参数的预测有着至关重要的作用。然而，由于地质情况复杂多变，盾构机的控制参数众多(贯入度、螺旋机转速、刀盘转速、推进速度、刀盘功率、土压、刀盘扭矩和总推力等)，传统的时间序列预测算法难以应对这种地质参数和盾构机运行参数耦合的情况。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供了一种基于LSTM神经网络的盾构机辅助巡航方法，通过不断训练神经网络的参数，去拟合整个地质-盾构机耦合非线性系统的特性，对盾构机的主要运行参数做出预测，降低了对操作人员经验的需求。

为了达到上述目的，本发明采取的技术方案是：

一种基于LSTM神经网络的盾构机辅助巡航方法，包括以下步骤：

1)收集盾构机在前期施工过程的巡航参数数据，巡航参数数据包括贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F，其中，刀盘扭矩M和总推力F表现出正相关关系，而且各个巡航参数和地质情况之间相互耦合；使用z-score方法预处理巡航参数数据得到贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F的训练时间序列D＝{D₁，D₂，D₃,…,D_T}、Vt＝{Vt₁，Vt₂，Vt₃,…,Vt_T}、Va＝{Va₁，Va₂，Va₃,…,Va_T}、P＝{P₁，P₂，P₃,…,P_T}、M＝{M₁，M₂，M₃,…,M_T}和F＝{F₁，F₂，F₃,…,F_T}，其中T为训练时间序列数据长度；

2)根据预处理的巡航参数数据贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F的特性，划分训练时间序列得到LSTM的训练数据集S₁＝{D₁,Vt₁,Va₁,P₁,M₁,F₁}，S₂＝{D₂,Vt₂,Va₂,P₂,M₂,F₂}，……，S_T＝{D_T,Vt_T,Va_T,P_T,M_T,F_T}，确定辅助巡航的控制参数输出为刀盘转速Vt、推进速度Va、刀盘扭矩M、总推力F，则LSTM神经网络模型的输入节点数为6，输出节点数为4；

3)根据训练数据集{S₁S₂,……,S_T}，训练LSTM神经网络模型，更新LSTM神经网络模型的参数；

4)使用训练过的LSTM神经网络模型去预测下一时刻的巡航参数：Y＝{Y₁Y₂,……,Y_T}，其中Y中每个时刻的样本均包含预测的刀盘转速Vt_pre、推进速度Va_pre、刀盘扭矩M_pre和总推力F_pre。

所述的步骤3)中LSTM神经网络模型的训练包括前向传播和反向传播，其中，前向传播过程如下：

LSTM神经网络模型是RNN变体之一，由遗忘门、输入门、输出门和细胞四部分组成，三个门限结构负责短期记忆的选择，控制时序数据中之前数据和当前数据的记忆和遗忘程度，细胞则是对长期记忆进行传输；

遗忘门的结构是一个sigmoid神经层，由前一个时刻的隐藏状态h_t-1和当前时刻输入x_t同时传入到sigmoid激活函数中，遗忘门输出f_t被控制在0到1之间，‘0’表示不允许任何信息通过，‘1’表示所有信息通过，遗忘门的更新方式如下：

f_t＝σ(W_f[h_t-1，x_t]+b_f)

其中，f_t为遗忘门的输出,σ为sigmoid函数，h_t-1为上一时刻状态，x_t为当前时刻输入，W_f为遗忘门权重，b_f为遗忘门偏置；

输入门的结构是前一个时刻的隐藏状态h_t-1和当前时刻输入x_t同时传入到sigmoid激活函数生成输入门需要更新的信息i_t，同时tanh层生成备用的可更新信息C_tt，i_t和C_tt更新如下：

i_t＝σ(W_i[h_t-1，x_t]+b_i)

C_tt＝tanh(W_C[h_t-1，x_t]+b_C)

其中，W_i为输入门权重，b_i为输入门偏置，tanh为双曲正切函数，W_C为状态权重，b_C为状态偏置；

输出门接受前一个时刻的隐藏状态h_t-1和当前时刻输入x_t并通过sigmoid层决定哪些信息会输出，输出门更新o_t和状态更新h_t分别如下：

o_t＝σ(W_o[h_t-1，x_t]+b_o)

h_t＝o_t*tanh(C_t)

其中，W_o为输出门权重，b_o为输出门偏置，C_t为当前时刻状态；

细胞则是把旧的状态信息C_t-1和遗忘门的输出f_t相乘加上输入门的输出i_t和C_tt形成新的状态信息C_t，其决定方式如下：

C_t＝f_t*C_t-1+i_t*C_tt；

其中，C_t-1为旧的状态信息；

反向传播方法如下：

定义损失函数为均方误差函数MSE：

其中，y_i(t)是t时刻的真实巡航参数输出，y_i_pre(t)是t时刻的预测巡航参数输出，N是训练使用的样本数量，所有时刻的输出参数即输出序列Y＝{Y₁，Y₂，Y₃,…,Y_T}，优化过程使用Adam优化算法。

本发明的有益效果为：作为当下最为成功的循环神经网络结构之一，LSTM(长短时记忆网络)具有良好的拟合复杂序列数据的能力，适合处理和预测时间序列中间隔和延迟比较长的重要事件。本发明通过建立历史巡航参数数据(刀盘转速、推进速度、刀盘功率、贯入度、刀盘扭矩和总推力)的LSTM神经网络模型，刻画了地质参数和盾构机运行参数的耦合情况，实现了巡航参数的综合预测，得到了巡航参数(刀盘转速、推进速度、刀盘扭矩和总推力)的预测值，降低了对操作人员经验的需求。

附图说明

图1为本发明的流程示意图。

图2为LSTM神经网络模型的单个结构示意图。

图3为LSTM神经网络模型遗忘门结构示意图。

图4为LSTM神经网络模型输入门结构示意图。

图5为LSTM神经网络模型输出门结构示意图。

图6为LSTM神经网络模型细胞结构示意图。

图7为本发明实施例的应用效果图。

具体实施方式

下面结合附图和实施例对本发明作详细描述。

参照图1，一种基于LSTM神经网络的盾构机辅助巡航方法，包括以下步骤：

1)收集盾构机在前期施工过程的巡航参数数据，巡航参数数据包括贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F，其中，刀盘扭矩M和总推力F表现出正相关关系，而且各个巡航参数和地质情况之间相互耦合；使用z-score方法预处理巡航参数数据得到贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F的训练时间序列D＝{D₁，D₂，D₃,…,D_T}、Vt＝{Vt₁，Vt₂，Vt₃,…,Vt_T}、Va＝{Va₁，Va₂，Va₃,…,Va_T}、P＝{P₁，P₂，P₃,…,P_T}、M＝{M₁，M₂，M₃,…,M_T}和F＝{F₁，F₂，F₃,…,F_T}，其中T为训练时间序列数据长度；

2)根据预处理的巡航参数数据D、Vt、Va、P、M、F特性，划分训练时间序列得到LSTM的训练数据集S₁＝{D₁,Vt₁,Va₁,P₁,M₁,F₁}，S₂＝{D₂,Vt₂,Va₂,P₂,M₂,F₂}，……，S_T＝{D_T,Vt_T,Va_T,P_T,M_T,F_T}，确定辅助巡航的控制参数输出为Vt、Va、M、F，则LSTM神经网络模型的输入节点数为6，输出节点数为4；

3)根据训练数据集{S₁S₂,……,S_T}，训练LSTM神经网络模型，更新LSTM神经网络模型的参数；

所述的LSTM神经网络模型的训练包括前向传播和反向传播，其中，前向传播过程如下：

LSTM神经网络模型是众多RNN变体之一，其核心要素是遗忘门、输入门、输出门和细胞(状态向量)四部分；参照图2，三个门限结构(遗忘门、输入门和输出门)由sigmoid激活函数(图2中s)和tanh激活函数(图2中t)组成，其主要是负责短期记忆的选择并控制时序数据中之前数据和当前数据的记忆和遗忘程度；细胞则是对长期记忆进行传输；通过这种特殊的网络机构，LSTM神经网络模型有效改善了RNN梯度消失和长期记忆不足的缺陷；

参照图3，遗忘门的结构是一个sigmoid神经层，由前一个时刻的隐藏状态h_t-1和当前时刻输入x_t同时传入到sigmoid激活函数中，遗忘门输出f_t被控制在0到1之间，‘0’表示不允许任何信息通过，‘1’表示所有信息通过，遗忘门的更新方式如下：

f_t＝σ(W_f[h_t-1，x_t]+b_f)

其中，f_t为遗忘门的输出,σ为sigmoid函数，h_t-1为上一时刻状态，x_t为当前时刻输入，W_f为遗忘门权重，b_f为遗忘门偏置；

参照图4，输入门的结构是前一个时刻的隐藏状态h_t-1和当前时刻输入x_t同时传入到sigmoid激活函数生成输入门需要更新的信息i_t，同时tanh层生成备用的可更新信息C_tt，i_t和C_tt更新如下：

i_t＝σ(W_i[h_t-1，x_t]+b_i)

C_tt＝tanh(W_C[h_t-1，x_t]+b_C)

其中，W_i为输入门权重，b_i为输入门偏置，tanh为双曲正切函数，W_C为状态权重，b_C为状态偏置；

参照图5，输出门接受前一个时刻的隐藏状态h_t-1和当前时刻输入x_t并通过sigmoid层决定哪些信息会输出，输出门更新o_t和状态更新h_t分别如下：

o_t＝σ(W_o[h_t-1，x_t]+b_o)

h_t＝o_t*tanh(C_t)

其中，W_o为输出门权重，b_o为输出门偏置，C_t为当前时刻状态；

参照图6，细胞则是把旧的状态信息C_t-1和遗忘门的输出f_t相乘加上输入门的输出i_t和C_tt形成新的状态信息C_t，其决定方式如下：

C_t＝f_t*C_t-1+i_t*C_tt

其中，C_t-1为旧的状态信息；

反向传播方法如下：

定义LSTM模型的损失函数为均方误差函数(MSE)：

其中，y_i(t)是t时刻的真实巡航参数输出，y_i_pre(t)是t时刻的预测巡航参数输出，N是训练使用的样本数量，所有时刻的输出参数即输出序列Y＝{Y₁，Y₂，Y₃,…,Y_T}，优化过程使用Adam优化算法，可变学习率代替传统的随机梯度下降，能够更快地更新网络的权重；

4)使用训练过的LSTM神经网络模型去预测下一时刻的巡航参数：Y＝{Y₁Y₂,……,Y_T}，其中Y中每个时刻的样本均包含预测的刀盘转速Vt_pre、推进速度Va_pre、刀盘扭矩M_pre和总推力F_pre。

本发明已经成功应用在盾构机的辅助巡航中，针对某盾构机的实时巡航数据(贯入度、刀盘转t、推进速度、刀盘功率、刀盘扭矩和总推力)，预处理形成训练时间序列，划分训练时间序列得到训练数据集，训练LSTM神经网络模型，预测下一时刻的巡航参数；对比实际巡航参数和预测巡航参数的拟合效果，如图7所示，横坐标是盾构机运行的环号(即运行时刻)，纵坐标是巡航参数值，由图7可见，在环号850至环号1050之间，实际巡航参数和预测巡航参数拟好良好，LSTM神经网络模型能够为盾构机辅助巡航提供支持。

以上实例只为说明本发明的技术构思和特点，并不能以此限制本发明的保护范围。对于本领域的技术人员来说，凡是根据本发明精神实质所做的等效变换或修饰改进，都应涵盖在本发明的保护范围之内。

Claims (2)

1.一种基于LSTM神经网络的盾构机辅助巡航方法，其特征在于，包括以下步骤：

1)收集盾构机在前期施工过程的巡航参数数据，巡航参数数据包括贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F，其中，刀盘扭矩M和总推力F表现出正相关关系，而且各个巡航参数和地质情况之间相互耦合；使用z-score方法预处理巡航参数数据得到贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F的训练时间序列D＝{D₁，D₂，D₃,…,D_T}、Vt＝{Vt₁，Vt₂，Vt₃,…,Vt_T}、Va＝{Va₁，Va₂，Va₃,…,Va_T}、P＝{P₁，P₂，P₃,…,P_T}、M＝{M₁，M₂，M₃,…,M_T}和F＝{F₁，F₂，F₃,…,F_T}，其中T为训练时间序列数据长度；

2)根据预处理的巡航参数数据贯入度D、刀盘转速Vt、推进速度Va、刀盘功率P、刀盘扭矩M和总推力F的特性，划分训练时间序列得到LSTM的训练数据集S₁＝{D₁,Vt₁,Va₁,P₁,M₁,F₁}，S₂＝{D₂,Vt₂,Va₂,P₂,M₂,F₂}，……，S_T＝{D_T,Vt_T,Va_T,P_T,M_T,F_T}，确定辅助巡航的控制参数输出为刀盘转速Vt、推进速度Va、刀盘扭矩M、总推力F，则LSTM神经网络模型的输入节点数为6，输出节点数为4；

3)根据训练数据集{S₁ S₂,……,S_T}，训练LSTM神经网络模型，更新LSTM神经网络模型的参数；

4)使用训练过的LSTM神经网络模型去预测下一时刻的巡航参数：Y＝{Y₁ Y₂,……,Y_T}，其中Y中每个时刻的样本均包含预测的刀盘转速Vt_pre、推进速度Va_pre、刀盘扭矩M_pre和总推力F_pre。

2.根据权利要求1所述的一种基于LSTM神经网络的盾构机辅助巡航方法，其特征在于：所述的步骤3)中LSTM神经网络模型的训练包括前向传播和反向传播，其中，前向传播过程如下：

LSTM神经网络模型是RNN变体之一，由遗忘门、输入门、输出门和细胞四部分组成，三个门限结构负责短期记忆的选择，控制时序数据中之前数据和当前数据的记忆和遗忘程度，细胞则是对长期记忆进行传输；

遗忘门的结构是一个sigmoid神经层，由前一个时刻的隐藏状态h_t-1和当前时刻输入x_t同时传入到sigmoid激活函数中，遗忘门输出f_t被控制在0到1之间，‘0’表示不允许任何信息通过，‘1’表示所有信息通过，遗忘门的更新方式如下：

f_t＝σ(W_f[h_t-1，x_t]+b_f)

其中，f_t为遗忘门的输出,σ为sigmoid函数，h_t-1为上一时刻状态，x_t为当前时刻输入，W_f为遗忘门权重，b_f为遗忘门偏置；

输入门的结构是前一个时刻的隐藏状态h_t-1和当前时刻输入x_t同时传入到sigmoid激活函数生成输入门需要更新的信息i_t，同时tanh层生成备用的可更新信息C_tt，i_t和C_tt更新如下：

i_t＝σ(W_i[h_t-1，x_t]+b_i)

C_tt＝tanh(W_C[h_t-1，x_t]+b_C)

其中，W_i为输入门权重，b_i为输入门偏置，tanh为双曲正切函数，W_C为状态权重，b_C为状态偏置；

输出门接受前一个时刻的隐藏状态h_t-1和当前时刻输入x_t并通过sigmoid层决定哪些信息会输出，输出门更新o_t和状态更新h_t分别如下：

o_t＝σ(W_o[h_t-1，x_t]+b_o)

h_t＝o_t*tanh(C_t)

其中，W_o为输出门权重，b_o为输出门偏置，C_t为当前时刻状态；

细胞则是把旧的状态信息C_t-1和遗忘门的输出f_t相乘加上输入门的输出i_t和C_tt形成新的状态信息C_t，其决定方式如下：

C_t＝f_t*C_t-1+i_t*C_tt；

其中，C_t-1为旧的状态信息；

反向传播方法如下：

定义损失函数为均方误差函数MSE：

其中，y_i(t)是t时刻的真实巡航参数输出，y_i_pre(t)是t时刻的预测巡航参数输出，N是训练使用的样本数量，所有时刻的输出参数即输出序列Y＝{Y₁，Y₂，Y₃,…,Y_T}，优化过程使用Adam优化算法。