CN111340282A - 基于da-tcn的设备剩余使用寿命的估计方法及系统 - Google Patents
基于da-tcn的设备剩余使用寿命的估计方法及系统 Download PDFInfo
- Publication number
- CN111340282A CN111340282A CN202010107734.5A CN202010107734A CN111340282A CN 111340282 A CN111340282 A CN 111340282A CN 202010107734 A CN202010107734 A CN 202010107734A CN 111340282 A CN111340282 A CN 111340282A
- Authority
- CN
- China
- Prior art keywords
- data
- layer
- tcn
- equipment
- service life
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 230000007246 mechanism Effects 0.000 claims abstract description 42
- 238000007781 pre-processing Methods 0.000 claims abstract description 21
- 238000012549 training Methods 0.000 claims description 26
- 230000006870 function Effects 0.000 claims description 23
- 230000001364 causal effect Effects 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 12
- 230000004913 activation Effects 0.000 claims description 11
- 230000000694 effects Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 6
- 238000000605 extraction Methods 0.000 claims description 5
- 238000005070 sampling Methods 0.000 claims description 4
- 239000011159 matrix material Substances 0.000 claims description 3
- 230000001131 transforming effect Effects 0.000 claims description 2
- 238000002474 experimental method Methods 0.000 description 6
- 238000010606 normalization Methods 0.000 description 6
- 238000006731 degradation reaction Methods 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 5
- 230000015556 catabolic process Effects 0.000 description 4
- 230000010339 dilation Effects 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 230000007423 decrease Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004393 prognosis Methods 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Development Economics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Game Theory and Decision Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本发明公开了基于DA‑TCN的设备剩余使用寿命的估计方法及系统，获取若干个传感器采集的待估计设备的数据；对获取的数据进行预处理；将预处理后的数据输入到用于估计设备剩余使用寿命的DA‑TCN模型中，输出待估计设备的剩余使用寿命。本公开提出的RUL预测方法将分布注意力机制和TCN结合起来，对不同传感器和不同时间节点分别进行加权。实验结果表明，该方法优于传统方法，且模型能够实现RUL实时预测。
Description
技术领域
本公开涉及设备剩余使用寿命估计技术领域，特别是涉及基于DA-TCN的设备剩余使用寿命的估计方法及系统。
背景技术
本部分的陈述仅仅是提到了与本公开相关的背景技术，并不必然构成现有技术。
预测和健康管理(Prognostic and Health Management，PHM)在工业设备的监测和故障诊断中至关重要。PHM包括故障诊断和剩余使用寿命(Remaining Useful Life，RUL)预测，其对提高生产安全性和避免生产事故发生具有重要作用。
在工业物联网时代，随着信号采集技术和计算机技术的发展，从运行的机械设备中获取大量的工业数据成为可能，从而加速了基于数据驱动的PHM方法的发展。作为处理工业大数据的常用资源，云计算存在数据传输时间延迟，而边缘计算存在计算资源和存储空间有限等问题。在这种背景下，云边缘计算模式逐渐兴起，它能够灵活有效地在云计算服务器和边缘计算服务器上部署计算负载。云边缘计算在降低云计算传输延迟、提供实时RUL估计等方面具有广阔的应用前景。
基于数据驱动的RUL方法主要包括两个步骤：数据预处理和决策模型训练。一般来说，数据预处理包括数据归一化、噪声滤波和特征提取。特征提取方法的选择主要取决于研究者的经验。为了获得与监测数据或特征相适应的预测方法，决策模型应具有端到端可训练的参数和从序列数据中自动学习信息的能力。近年来，深度学习在RUL预测方面表现出了优异的性能。考虑到信号的时空相关性，卷积神经网络(Convolutional Neural Network，CNN)和递归神经网络(Recurrent Neural Network，RNN)是两种最常用的深度学习方法。
X.Li,Q.Ding,and J.-Q.Sun,“Remaining useful life estimation inprognostics using deep convolution neural networks,”Reliability Engineering&System Safety,vol.提出了以归一化原始数据为输入，利用CNN进行航空发动机退化评估的方法。
G.S.Babu,P.Zhao,and X.-L.Li,“Deep convolutional neural network basedregression approach for estimation of remaining useful life,”in Internationalconference on database systems for advanced applications.Springer,2016,pp.214–228.使用深度CNN对每个传感器的时间序列数据进行自适应特征学习和RUL预测。
L.Ren,Y.Sun,H.Wang,and L.Zhang,“Prediction of bearing remaininguseful life with deep convolution neural network,”IEEE Access,vol.6,pp.13041-13 049,2018.将谱能量向量与CNN相结合预测轴承的剩余寿命。
上述方法都有较好的RUL预测结果，并且默认数据中的每个时间步长和每个传感器对预测结果的贡献相等。但是，上述预测结果都不够精确。
在实现本公开的过程中，发明人发现现有技术中存在以下技术问题：
没有对设备状态监控数据进行贡献程度划分，限制了RUL预测精度的提升。
发明内容
为了解决现有技术的不足，本公开提供了基于DA-TCN的设备剩余使用寿命的估计方法及系统；
第一方面，本公开提供了基于DA-TCN的设备剩余使用寿命的估计方法；
基于DA-TCN的设备剩余使用寿命的估计方法，包括：
获取若干个传感器采集的待估计设备的数据；
对获取的数据进行预处理；
将预处理后的数据输入到用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命。
第二方面，本公开还提供了基于DA-TCN的设备剩余使用寿命的估计装置；
基于DA-TCN的设备剩余使用寿命的估计装置，包括：
获取模块，其被配置为：获取若干个传感器采集的待估计设备的数据；
预处理模块，其被配置为：对获取的数据进行预处理；
输出模块，其被配置为：将预处理后的数据输入到用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命。
第三方面，本公开还提供了一种电子设备，包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令，所述计算机指令被处理器运行时，完成第一方面所述的方法。
第四方面，本公开还提供了一种计算机可读存储介质，用于存储计算机指令，所述计算机指令被处理器执行时，完成第一方面所述的方法。
与现有技术相比，本公开的有益效果是：
1)本公开提出的RUL预测方法将分布注意力机制和TCN结合起来，对不同传感器和不同时间节点分别进行加权。实验结果表明，该方法优于传统方法，且模型能够实现RUL实时预测。
2)本公开将标注好的历史数据传输到计算能力较强的远程云服务器进行模型训练，并在本地云服务器上对采集到的实时数据进行预处理、分析和预测。
附图说明
构成本公开的一部分的说明书附图用来提供对本公开的进一步理解，本公开的示意性实施例及其说明用于解释本公开，并不构成对本公开的不当限定。
图1为第一个实施例的TCN网络结构示意图；
图2为第一个实施例的残差连接模块示意图；
图3为第一个实施例的方法扩张因果卷积层示意图；
图4为第一个实施例的本公开的方法流程图；
图5为第一个实施例的基于DA-TCN的RUL预测方法流程图；
图6为第一个实施例的注意力机制层结构图；
图7为第一个实施例的FD001中的21个传感器数据；
图8(a)和图8(b)为第一个实施例的当Tw等于20、30、40、50和60时C-MAPSS中四个子数据集的RMSE和Score值；
图9为第一个实施例的时间与传感器数据之间的回归系数。
具体实施方式
应该指出，以下详细说明都是示例性的，旨在对本公开提供进一步的说明。除非另有指明，本公开使用的所有技术和科学术语具有与本公开所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本公开的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
专业术语解释：
DA-TCN，Distributed Attention based Temporal Convolutional Network，基于分布式注意力的时间卷积网络；
C-MAPSS，Commercial Modular Aero-Propulsion System Simulation，数据集
PHM，Prognostic and Health Management，预测和健康管理；
RUL，Remaining Useful Life，故障诊断和剩余使用寿命；
TCN，Temporal Convolutional Network，时间卷积网络。
实施例一，本实施例提供了基于DA-TCN的设备剩余使用寿命的估计方法；
基于DA-TCN的设备剩余使用寿命的估计方法，包括：
S1：获取若干个传感器采集的待估计设备的数据；
S2：对获取的数据进行预处理；
S3：将预处理后的数据输入到用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命。
作为一个或多个实施例，所述S1中，获取若干个传感器采集的待估计设备的数据；待估计设备例如：航空发动机或轴承，待估计设备的数据，例如：风机温度、风机转速、风机压力或发动机压力等。
作为一个或多个实施例，所述S2中，对获取的数据进行预处理；包括：
S21：对每个传感器的时间序列数据进行归一化处理；
S22：计算每个传感器的时间序列数据的平均值；
S23：计算时间步长与时间序列数据之间的回归系数。
应理解的，所述S23的具体步骤包括：
设序列数据对应的时间为T＝{t1,t2,…,tn}，第i个传感器的时间序列数据为
如果横坐标表示时间，纵坐标表示传感器数值，则时间与传感器之间的关系可以用一条直线拟合，如图9中的直线。直线的斜率就是时间与传感器数据之间的回归系数。第i个传感器的的回归系数表示为
作为一个或多个实施例，所述S3中，用于估计设备剩余使用寿命的DA-TCN模型的训练步骤包括：
S31：构建DA-TCN模型；
S32：构建训练集；所述训练集为已知设备剩余使用寿命的设备数据；
S33：利用训练集对DA-TCN模型进行训练，得到于估计设备剩余使用寿命的DA-TCN模型。
作为一个或多个实施例，如图5所示，所述S31中，构建DA-TCN模型；DA-TCN模型具体包括：
依次连接的输入层、第一注意力机制层、若干并联的TCN网络、第二注意力机制层、第一全连接层、第二全连接层和输出层；
所述输入层，用于输入预处理后的设备数据，所述预处理后的设备数据包括：各个传感器采集的设备数据；每个传感器采集设备的一种数据，每一种数据均是按照设定间隔的时间点进行采集的；
所述第一注意力机制层，用于对各个传感器采集的数据进行处理得到每个传感器的权重；进而得到对每个传感器采集的数据加权处理后的结果。
所述TCN网络，用于对每个传感器采集的数据加权处理后的结果进行特征提取；
所述第二注意力机制层，用于计算采集数据时的每个时间点的权重，对TCN输出数据在每个时间点的进行加权处理；
所述第一全连接层，用于将第二注意力机制层输出矩阵进行一维化，作为第一全连接层的输入；将输入的特征空间线性变换到另一个特征空间；将线性变换结果作为输出；
所述第二全连接层，用于基于第一全连接层的输出值预测RUL值；
所述输出层，用于输出RUL预测结果。
进一步地，所述第一注意力机制层，包括：彼此连接的softmax函数和乘法器；
softmax函数对每个传感器采集的数据进行处理，得到该传感器的权重；
基于该传感器的权重、传感器采集的数据和乘法器，得到对传感器采集的数据加权后的结果。
第一注意力机制层，给不同传感器加权：机械数据为x，传感器数量为k，则x＝{x1,…,xk}，时间范围为T＝{t1,t2,…,tn}，则第i个传感器的数据为
由公式(2)得xi标准化处理的结果为
由公式(3)得x的平均值向量为
第i个传感器的的回归系数表示为
数据预处理后，xi被更新为
在DA-TCN中，注意力机制首先计算不同传感器的权重值。以所有传感器数据为输入，根据以下等式执行图6所示的注意力机制：
其中
是第i个传感器的注意力权重，ci是
的注意力加权输出向量。将第一个注意力机制应用于监测数据后，各传感器采集的数据都进行了加权。
进一步地，所述第二注意力机制层与第一注意力机制层的内部结构是一样的。
进一步地，所述第二注意力机制层，包括：彼此连接的softmax函数和乘法器；
第二注意力机制层，即注意力机制加权时间节点：在该过程中，TCN的输出在时间维度上被第二注意力机制层加权。这个过程旨在找出对RUL估计有更大贡献的时间点。
时间卷积模块的输入和输出大小相同。
设TCN输出为
将softmax函数应用于时间维度，
其中
是第t个时间步的注意力权重，ci是
的加权输出。
机械数据为x，传感器数量为k，则x＝{x1,…,xk}，时间范围为T＝{t1,t2,…,tn}，则第i个传感器的数据为
由公式(2)得xi标准化处理的结果为
由公式(3)得x的平均值向量为
第i个传感器的的回归系数表示为
数据预处理后，xi被更新为
进一步地，所述TCN网络，包括：
依次连接的输入端、第一残差连接模块、第二残差连接模块和输出端；
其中，第一残差连接模块，用于提取序列数据的特征；
其中，第二残差连接模块，用于提取序列数据的特征；
进一步地，所述第一残差连接模块，包括：
依次连接的第一扩展因果卷积层、第一门激活函数层、第一批正则化层、第一Dropout层、第二扩展因果卷积层、第二门激活函数层、第二批正则化层、第二Dropout层、卷积层、求和单元和输出端；
所述第一扩展因果卷积层，用于提取序列数据的卷积特征；
所述第一门激活函数层，用于对输入数据做非线性变换；
所述第一批正则化层，用于将输入归一化到[0,1]或[-1,1]范围；
所述第一Dropout层，用于在训练的时候，按一定的概率对第一扩展因果卷积层参数进行随机采样，将这些被采样的参数组成的子网络作为该次训练的目标网络；
所述第二扩展因果卷积层，用于提取序列数据的卷积特征；
所述第二门激活函数层，用于对输入数据做非线性变换；
所述第二批正则化层，用于将输入归一化到[0,1]或[-1,1]范围；
所述第二Dropout层，用于在训练的时候，按一定的概率对第二扩展因果卷积层参数进行随机采样，将这些被采样的参数组成的子网络作为该次训练的目标网络；
所述卷积层，用于提取序列数据的卷积特征；
所述求和单元，用于求输入数据与卷积层输出数据之和；
输出端，用于将结果输出。
进一步地，所述第二残差连接模块与所述第一残差连接模块是一样的。
如图2所示，TCN主要包含两个结构：扩展因果卷积层和残差连接。
在扩展因果卷积中，下一卷积层时间t处的值取决于上一卷积层时间t与其之前时间的值，如下表示：
其中T是时间序列的长度，n和(n+1)是卷积层序号数，f(.)表示卷积运算。与传统卷积不同，因果扩张卷积不使用时间t之后的数据。
同时，扩展因果卷积是扩大卷积范围的有效方法。如图1所示，d是扩张因子，k是卷积核大小。d＝1表示下一层卷积结果为上一层相邻节点的加权计算值，而d＝2表示下一层的卷积值是上一层节点交替取值的加权输出。一般来说，d越大，卷积跨越的范围越宽。
另外，TCN采用残差连接来提高其泛化性能，如图1所示。通过调节k、d等参数，TCN可以灵活地控制卷积范围以适应不同的预测任务。
RUL预测将基于多个传感器的时间序列数据完成。图3为基于分布注意力TCN的网络结构。该方法主要包括三个步骤：
基于注意力机制计算不同传感器的权重、TCN和基于注意力机制计算不同时间步的权重。
第一个注意力机制层衡量每个传感器对RUL估计的贡献。为了获取时间方向的信息，使用TCN进行时间特征提取。
在TCN之后使用第二个注意力机制层来估计不同时间步的贡献权值。
最后，两个全连接层将基于注意力机制的时间网络输出进行RUL结果估计。
每个步骤的具体实现如下：
1)数据预处理：数据预处理对于获得有效的机器学习模型至关重要。设机械数据为x，传感器数量为k，则x＝{x1,…,xk}，时间范围为T＝{t1,t2,…,tn}，则第i个传感器的数据为
首先使用最小最大化算法对向量xi进行标准化处理，如下式所示：
其中min(xi)和max(xi)分别表示xi的最小值和最大值，xi标准化处理的结果为
其次，计算每个传感器的时间序列数据的平均值：
因此，x的平均值向量为
最后，计算时间步长与序列数据之间的回归系数估计
经过数据预处理后，xi被更新为
x被更新为
2)注意力机制计算不同传感器的权重：在DA-TCN中，注意力机制首先计算不同传感器的权重值。以所有传感器数据为输入，根据以下等式执行图6所示的注意力机制：
其中
是第i个传感器的注意力权重，ci是
的注意力加权输出向量。将第一个注意力机制应用于监测数据后，各传感器采集的数据都进行了加权。
3)TCN：在本公开中，时间卷积模块由两个残差模块组成。对于每个残差模块，两个扩张因果卷积层和一个卷积层堆叠在一起(如图2所示)。在每个扩张因果卷积层之后，是门激活函数和批正则化；
其中，门激活函数的实现如下：
其中w表示卷积参数，o表示扩张因果卷积层的输出，*是卷积运算，⊙是矩阵点乘运算，
是门激活函数的输出。
由于TCN的输入数据涉及多个传感器，因此该模块使用一维卷积核分别处理每个传感器的时间序列数据。如图1所示，TCN在时间维度上对二维传感器数据应用一维扩张因果卷积层，并共享卷积层参数。参数共享策略减少了计算量，避免了训练过程中的过拟合。
4)注意力机制加权时间节点：在该过程中，TCN的输出在时间维度上被第二注意力机制层加权。这个过程旨在找出对RUL估计有更大贡献的时间点。
时间卷积模块的输入和输出大小相同。
设TCN输出为
将softmax函数应用于时间维度，
其中
是第t个时间步的注意力权重，ci是
的加权输出。
5)具体参数：注意力机制采用softmax函数进行权值计算，其具体实现与全连接层相似。本公开中TCN和全连接层的最优参数如表1所示。
表1.本公开方法的最优参数
实验数据集：
商用模块化航空推进系统仿真(Commercial Modular Aero-Propulsion SystemSimulation，C-MAPSS)R.May,J.Csank,J.S.Litt,and T.-H.Guo,“Commercial modularaero-propulsion system simulation 40k(c-mapss40k)users guide,”NASA TM-216831,2010.是RUL预测中广泛使用的数据集。
该数据集模拟了多台涡扇发动机在不同飞行状态和故障模式下的性能退化过程。在涡扇发动机寿命期内采集了21个传感器的RUL值和时间数据。
由于发动机的磨损程度在开始时是未知的，因此假设航天发动机开始时处于健康状态。
当某一时刻发生故障时，发动机的性能会随着时间的推移而逐渐下降。
从开始到系统故障的这段时间被认为是发动机的生命周期。
为了预测每台发动机的RUL，测试数据集中的所有数据都是系统完全失效前的数据。
C-MAPSS数据集包含四个子数据集，每个子数据集的详细信息见表2。
由于运行方式等条件的变化，故障分为单故障单模式、单故障多模式、多故障单模式和多故障多模式四种类型，如表2所示。
表2.C-MAPSS数据集
C-MAPSS数据集包含四种类型的数据集。每个子数据集包含26列数据，其中21列是传感器采集的时间序列数据。在数据预处理期间，使用最小-最大规范化方法将子数据集规范化到[0，1]之间。同时，去除方差为0的原始数据。FD001中所有传感器的一个生命周期数据如图7所示。
在实际应用中，如果发动机是首次使用，则不必考虑衰退问题，发动机的剩余寿命将保持在一个恒定值。当某个时间点发生故障时，发动机的性能将下降，当发动机达到完全故障时，发动机的寿命将终止。在F.O.Heimes,“Recurrent neural networks forremaining useful life estimation,”in 2008international conference onprognostics and health management.IEEE,2008,pp.1–6.中，Heimes将RUL从开始到性能下降前的寿命限制为120到130之间的某个常数，当故障发生时寿命开始线性下降。在本公开中，该值设置为125。
预测结果评价指标：
在评估RUL预测结果时，通常使用两种指标。一是真实RUL值和预测值之间的均方根误差(Root Mean Square Error,RMSE)，另一个是评分函数值。设N为测试样本数，mk和
分别为样本k(k＝1,...,N)的真实RUL值和预测RUL值。RMSE的计算式为
评分函数(Score)计算如下
RMSE和Score值越小，结果越好。式(12)表明，Score对小于真实RUL的预测结果的惩罚更大。其主要原因是预测的滞后可能导致发动机RUL估计中更为严重的后果。
实验结果与分析：
实验部分将研究时间序列的时间窗Tw大小和注意机制模型对RUL预测结果的影响。此外，还比较了本公开方法和其他方法的结果。
1)不同Tw值对DA-TCN结果的影响：由于多变量时间序列数据包含不同使用寿命的数据，因此在训练预测模型之前，必须为C-MAPSS数据集选择时间窗大小。适当的Tw大小将给出最佳的估计结果。因此，第一个实验关注时间窗大小对预测性能的影响。
图8(a)和图8(b)给出了在C-MAPSS的四个子数据集上使用不同Tw时的实验结果。这里使用的预测方法是DA-TCN。当Tw分别为40、50、50和50时，FD001、FD002、FD003和FD004的结果最好。因此，下面实验中，四个子数据集的Tw参数分别为40、50、50和50。
2)注意力机制设置的影响：本公开在DA-TCN中使用了两个注意力机制。本实验关注这些模块的效果，采用以下5种方法进行测试：TCN、TCN前使用注意力机制、TCN后使用注意力机制，只使用注意力机制和DA-TCN。结果如表3所示。显然，DA-TCN比其他三种方法有更好的表现，这证明了分布注意力机制的有效性。
表3.DA-TCN与TCN、TCN前注意力机制与TCN后注意力机制的性能比较
3)不同方法的结果比较：下面的实验比较了DA-TCN与DCNN、LSTM和DA-BiLSTM，如表4所示。DA-BiLSTM是基于本公开分布式注意机制的改进型BiLSTM。为了降低DA-TCN预测性能的随机性，我们进行了10次实验，并以两个指标的平均值(Mean)和标准差(STD)作为结果。如表4所示，DA-TCN具有较低的RMSE和得分值，这意味着它比其他方法更准确地预测发动机的RUL值。
表4.DA-TCN与DCNN、LSTM、DA-BiLSTM的性能比较
4)实时性分析：为了计算RUL预测模型的时间消耗，在100个测试样本上进行了实验。结果表明，在一个CPU上，每个测试样本的平均预测时间为2.4ms。因此，该方法满足实时预测的要求。
实施例二，本实施例还提供了基于DA-TCN的设备剩余使用寿命的估计装置；
基于DA-TCN的设备剩余使用寿命的估计装置，包括：
获取模块，其被配置为：获取若干个传感器采集的待估计设备的数据；
预处理模块，其被配置为：对获取的数据进行预处理；
输出模块，其被配置为：将预处理后的数据输入到用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命。
实施例三，本实施例还提供了一种电子设备，包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令，所述计算机指令被处理器运行时，完成实施例一所述的方法。
实施例四，本实施例还提供了一种计算机可读存储介质，用于存储计算机指令，所述计算机指令被处理器执行时，完成实施例一所述的方法。
实施例五，本实施例还提供了基于DA-TCN的设备剩余使用寿命的估计系统；
基于DA-TCN的设备剩余使用寿命的估计系统，包括：机械设备、本地云服务器和远程云服务器；
所述本地云服务器，获取若干个传感器采集的待估计设备的数据；对获取的数据进行预处理；将预处理后的数据输入到远程云服务器已经训练好的用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命；
远程云服务器，用于对DA-TCN模型进行训练，得到训练好的用于估计设备剩余使用寿命的DA-TCN模型。
如图4所示，用于RUL预测的云边缘计算框架包括三部分：机械设备、本地云服务器和远程云服务器。这三部分的功能介绍如下：
1)使用网关设备收集设备数据。此步骤将从机械设备中收集不同传感器的序列数据。
2)基于历史有标签数据，在远程云服务器上完成数据预处理、分析和模型训练。有标签的数据在监督学习中是必不可少的。因此，在将采集到的历史工业数据传输到远程云服务器之前，专家会对其进行标记，以获取训练数据集。然后在支持并行计算的远程服务平台上训练基于深度学习的RUL预测方法。
3)基于实时采集的工业数据，在本地云服务器完成RUL在线预测。在该框架中，网关将实时采集的数据发送到本地云服务器。我们使用来自远程云服务器的训练模型在线预测RUL结果。
以上所述仅为本公开的优选实施例而已，并不用于限制本公开，对于本领域的技术人员来说，本公开可以有各种更改和变化。凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。
Claims (10)
1.基于DA-TCN的设备剩余使用寿命的估计方法，其特征是，包括：
获取若干个传感器采集的待估计设备的数据；
对获取的数据进行预处理；
将预处理后的数据输入到用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命。
2.如权利要求1所述的方法，其特征是，对获取的数据进行预处理；包括：
S21：对每个传感器的时间序列数据进行归一化处理；
S22：计算每个传感器的时间序列数据的平均值；
S23：计算时间步长与时间序列数据之间的回归系数。
3.如权利要求1所述的方法，其特征是，用于估计设备剩余使用寿命的DA-TCN模型的训练步骤包括：
S31：构建DA-TCN模型；
S32：构建训练集；所述训练集为已知设备剩余使用寿命的设备数据；
S33：利用训练集对DA-TCN模型进行训练，得到于估计设备剩余使用寿命的DA-TCN模型。
4.如权利要求3所述的方法，其特征是，所述S31中，构建DA-TCN模型；DA-TCN模型具体包括：
依次连接的输入层、第一注意力机制层、若干并联的TCN网络、第二注意力机制层、第一全连接层、第二全连接层和输出层；
所述输入层，用于输入预处理后的设备数据，所述预处理后的设备数据包括：各个传感器采集的设备数据；每个传感器采集设备的一种数据，每一种数据均是按照设定间隔的时间点进行采集的；
所述第一注意力机制层，用于对各个传感器采集的数据进行处理得到每个传感器的权重；进而得到对每个传感器采集的数据加权处理后的结果；
所述TCN网络，用于对每个传感器采集的数据加权处理后的结果进行特征提取；
所述第二注意力机制层，用于计算采集数据时的每个时间点的权重，对TCN输出数据在每个时间点的进行加权处理；
所述第一全连接层，用于将第二注意力机制层输出矩阵进行一维化，作为第一全连接层的输入；将输入的特征空间线性变换到另一个特征空间；将线性变换结果作为输出；
所述第二全连接层，用于基于第一全连接层的输出值预测RUL值；
所述输出层，用于输出RUL预测结果。
5.如权利要求4所述的方法，其特征是，所述第一注意力机制层，包括：彼此连接的softmax函数和乘法器；
softmax函数对每个传感器采集的数据进行处理，得到该传感器的权重；
基于该传感器的权重、传感器采集的数据和乘法器，得到对传感器采集的数据加权后的结果；
或者，
所述第二注意力机制层，包括：彼此连接的softmax函数和乘法器；
第二注意力机制层，即注意力机制加权时间节点：在该过程中，TCN的输出在时间维度上被第二注意力机制层加权。
6.如权利要求4所述的方法，其特征是，所述TCN网络，包括：
依次连接的输入端、第一残差连接模块、第二残差连接模块和输出端；
其中，第一残差连接模块，用于提取序列数据的特征；
其中，第二残差连接模块，用于提取序列数据的特征；
进一步地，所述第一残差连接模块，包括：
依次连接的第一扩展因果卷积层、第一门激活函数层、第一批正则化层、第一Dropout层、第二扩展因果卷积层、第二门激活函数层、第二批正则化层、第二Dropout层、卷积层、求和单元和输出端；
所述第一扩展因果卷积层，用于提取序列数据的卷积特征；
所述第一门激活函数层，用于对输入数据做非线性变换；
所述第一批正则化层，用于将输入归一化到[0,1]或[-1,1]范围；
所述第一Dropout层，用于在训练的时候，按一定的概率对第一扩展因果卷积层参数进行随机采样，将这些被采样的参数组成的子网络作为该次训练的目标网络；
所述第二扩展因果卷积层，用于提取序列数据的卷积特征；
所述第二门激活函数层，用于对输入数据做非线性变换；
所述第二批正则化层，用于将输入归一化到[0,1]或[-1,1]范围；
所述第二Dropout层，用于在训练的时候，按一定的概率对第二扩展因果卷积层参数进行随机采样，将这些被采样的参数组成的子网络作为该次训练的目标网络；
所述卷积层，用于提取序列数据的卷积特征；
所述求和单元，用于求输入数据与卷积层输出数据之和；
输出端，用于将结果输出。
7.基于DA-TCN的设备剩余使用寿命的估计装置，其特征是，包括：
获取模块，其被配置为：获取若干个传感器采集的待估计设备的数据；
预处理模块，其被配置为：对获取的数据进行预处理；
输出模块，其被配置为：将预处理后的数据输入到用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命。
8.一种电子设备，其特征是，包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令，所述计算机指令被处理器运行时，完成权利要求1-6任一项所述的方法。
9.一种计算机可读存储介质，其特征是，用于存储计算机指令，所述计算机指令被处理器执行时，完成权利要求1-6任一项所述的方法。
10.基于DA-TCN的设备剩余使用寿命的估计系统，其特征是，包括：机械设备、本地云服务器和远程云服务器；
所述本地云服务器，获取若干个传感器采集的待估计设备的数据；对获取的数据进行预处理；将预处理后的数据输入到远程云服务器已经训练好的用于估计设备剩余使用寿命的DA-TCN模型中，输出待估计设备的剩余使用寿命；
远程云服务器，用于对DA-TCN模型进行训练，得到训练好的用于估计设备剩余使用寿命的DA-TCN模型。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010107734.5A CN111340282B (zh) | 2020-02-21 | 2020-02-21 | 基于da-tcn的设备剩余使用寿命的估计方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010107734.5A CN111340282B (zh) | 2020-02-21 | 2020-02-21 | 基于da-tcn的设备剩余使用寿命的估计方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111340282A true CN111340282A (zh) | 2020-06-26 |
| CN111340282B CN111340282B (zh) | 2021-04-23 |
Family
ID=71185350
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010107734.5A Active CN111340282B (zh) | 2020-02-21 | 2020-02-21 | 基于da-tcn的设备剩余使用寿命的估计方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111340282B (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112033463A (zh) * | 2020-09-02 | 2020-12-04 | 哈尔滨工程大学 | 一种核动力设备状态评估与预测一体化方法和系统 |
| CN112433907A (zh) * | 2020-10-26 | 2021-03-02 | 深圳前海有电物联科技有限公司 | 不间断电源的主机运行参量数据的处理方法、装置和电子装置 |
| CN112685961A (zh) * | 2021-01-12 | 2021-04-20 | 武汉大学 | 一种模拟电路的剩余使用寿命预测方法及系统 |
| CN113570138A (zh) * | 2021-07-28 | 2021-10-29 | 朗坤智慧科技股份有限公司 | 一种时间卷积网络的设备剩余使用寿命预测方法及装置 |
| CN113673774A (zh) * | 2021-08-25 | 2021-11-19 | 北京航空航天大学 | 基于自编码器和时序卷积网络的航空发动机余寿预测方法 |
| CN114189520A (zh) * | 2021-10-15 | 2022-03-15 | 中标慧安信息技术股份有限公司 | 基于边缘计算的终端设备寿命预测方法和系统 |
| CN114818997A (zh) * | 2022-06-28 | 2022-07-29 | 苏芯物联技术(南京)有限公司 | 一种基于高频焊接时序数据的烧穿故障预测方法 |
| CN115994630A (zh) * | 2023-03-24 | 2023-04-21 | 山东大学 | 基于多尺度自注意力的设备剩余使用寿命预测方法及系统 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109460618A (zh) * | 2018-11-13 | 2019-03-12 | 华中科技大学 | 一种滚动轴承剩余寿命在线预测方法及系统 |
| CN109522600A (zh) * | 2018-10-16 | 2019-03-26 | 浙江大学 | 基于组合深度神经网络的复杂装备剩余使用寿命预测方法 |
| CN109726524A (zh) * | 2019-03-01 | 2019-05-07 | 哈尔滨理工大学 | 一种基于cnn和lstm的滚动轴承剩余使用寿命预测方法 |
| CN110378052A (zh) * | 2019-07-25 | 2019-10-25 | 北京航空航天大学 | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 |
-
2020
- 2020-02-21 CN CN202010107734.5A patent/CN111340282B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109522600A (zh) * | 2018-10-16 | 2019-03-26 | 浙江大学 | 基于组合深度神经网络的复杂装备剩余使用寿命预测方法 |
| CN109460618A (zh) * | 2018-11-13 | 2019-03-12 | 华中科技大学 | 一种滚动轴承剩余寿命在线预测方法及系统 |
| CN109726524A (zh) * | 2019-03-01 | 2019-05-07 | 哈尔滨理工大学 | 一种基于cnn和lstm的滚动轴承剩余使用寿命预测方法 |
| CN110378052A (zh) * | 2019-07-25 | 2019-10-25 | 北京航空航天大学 | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112033463A (zh) * | 2020-09-02 | 2020-12-04 | 哈尔滨工程大学 | 一种核动力设备状态评估与预测一体化方法和系统 |
| CN112033463B (zh) * | 2020-09-02 | 2022-09-06 | 哈尔滨工程大学 | 一种核动力设备状态评估与预测一体化方法和系统 |
| CN112433907A (zh) * | 2020-10-26 | 2021-03-02 | 深圳前海有电物联科技有限公司 | 不间断电源的主机运行参量数据的处理方法、装置和电子装置 |
| CN112433907B (zh) * | 2020-10-26 | 2022-09-16 | 深圳有电物联科技有限公司 | 不间断电源的主机运行参量数据的处理方法、装置和电子装置 |
| CN112685961B (zh) * | 2021-01-12 | 2022-06-21 | 武汉大学 | 一种模拟电路的剩余使用寿命预测方法及系统 |
| CN112685961A (zh) * | 2021-01-12 | 2021-04-20 | 武汉大学 | 一种模拟电路的剩余使用寿命预测方法及系统 |
| CN113570138A (zh) * | 2021-07-28 | 2021-10-29 | 朗坤智慧科技股份有限公司 | 一种时间卷积网络的设备剩余使用寿命预测方法及装置 |
| CN113673774A (zh) * | 2021-08-25 | 2021-11-19 | 北京航空航天大学 | 基于自编码器和时序卷积网络的航空发动机余寿预测方法 |
| CN114189520A (zh) * | 2021-10-15 | 2022-03-15 | 中标慧安信息技术股份有限公司 | 基于边缘计算的终端设备寿命预测方法和系统 |
| CN114189520B (zh) * | 2021-10-15 | 2022-08-19 | 中标慧安信息技术股份有限公司 | 基于边缘计算的终端设备寿命预测方法和系统 |
| CN114818997A (zh) * | 2022-06-28 | 2022-07-29 | 苏芯物联技术(南京)有限公司 | 一种基于高频焊接时序数据的烧穿故障预测方法 |
| CN114818997B (zh) * | 2022-06-28 | 2022-09-16 | 苏芯物联技术(南京)有限公司 | 一种基于高频焊接时序数据的烧穿故障预测方法 |
| CN115994630A (zh) * | 2023-03-24 | 2023-04-21 | 山东大学 | 基于多尺度自注意力的设备剩余使用寿命预测方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111340282B (zh) | 2021-04-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111340282B (zh) | 基于da-tcn的设备剩余使用寿命的估计方法及系统 | |
| Li et al. | A directed acyclic graph network combined with CNN and LSTM for remaining useful life prediction | |
| Fu et al. | Condition monitoring of wind turbine gearbox bearing based on deep learning model | |
| CN111680446B (zh) | 一种基于改进多粒度级联森林的滚动轴承剩余寿命预测方法 | |
| CN111539515B (zh) | 一种基于故障预测的复杂装备维修决策方法 | |
| Wang et al. | A compound framework for wind speed forecasting based on comprehensive feature selection, quantile regression incorporated into convolutional simplified long short-term memory network and residual error correction | |
| CN108445752B (zh) | 一种自适应选择深度特征的随机权神经网络集成建模方法 | |
| CN114363195B (zh) | 面向时间和频谱残差卷积网络的网络流量预测预警方法 | |
| CN111461463A (zh) | 一种基于tcn-bp的短期负荷预测方法、系统及设备 | |
| CN116738868B (zh) | 一种滚动轴承剩余寿命预测方法 | |
| Zhu et al. | Res-HSA: Residual hybrid network with self-attention mechanism for RUL prediction of rotating machinery | |
| CN110689183A (zh) | 一种集群光伏功率概率预测方法、系统、介质及电子设备 | |
| CN114169091A (zh) | 工程机械部件剩余寿命的预测模型建立方法及预测方法 | |
| CN113128666A (zh) | 基于Mo-S-LSTMs模型的时间序列多步预测方法 | |
| CN114841076A (zh) | 基于时空图模型的动力电池生产工艺波动异常检测方法 | |
| CN116562158A (zh) | 基于可解释注意力机制的航空发动机气路部件剩余寿命估计方法 | |
| Ma et al. | Prediction of remaining useful life of rolling bearings based on multiscale efficient channel attention CNN and bidirectional GRU | |
| CN113469013A (zh) | 一种基于迁移学习和时间序列的电机故障预测方法及系统 | |
| Zhao et al. | Remaining useful life prediction method based on convolutional neural network and long short-term memory neural network | |
| Qin et al. | Remaining useful life prediction using temporal deep degradation network for complex machinery with attention-based feature extraction | |
| CN117371331A (zh) | 基于kddin的航空发动机剩余寿命预测方法 | |
| Gritsyuk et al. | CONVOLUTIONAL AND LONG SHORT-TERM MEMORY NEURAL NETWORKS BASED MODELS FOR REMAINING USEFUL LIFE PREDICTION. | |
| Hu et al. | Remaining useful life prediction method combining the life variation laws of aero-turbofan engine and auto-expandable cascaded LSTM model | |
| CN114841063A (zh) | 一种基于深度学习的航空发动机剩余寿命预测方法 | |
| Yao et al. | Remaining useful life estimation by empirical mode decomposition and ensemble deep convolution neural networks |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |