CN116579505B - 一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统 - Google Patents
一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统 Download PDFInfo
- Publication number
- CN116579505B CN116579505B CN202310848559.9A CN202310848559A CN116579505B CN 116579505 B CN116579505 B CN 116579505B CN 202310848559 A CN202310848559 A CN 202310848559A CN 116579505 B CN116579505 B CN 116579505B
- Authority
- CN
- China
- Prior art keywords
- domain
- data
- loss
- domain adaptive
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 230000003044 adaptive effect Effects 0.000 claims abstract description 158
- 238000012549 training Methods 0.000 claims abstract description 62
- 238000009826 distribution Methods 0.000 claims abstract description 56
- 238000012360 testing method Methods 0.000 claims abstract description 43
- 230000007246 mechanism Effects 0.000 claims abstract description 23
- 238000007781 pre-processing Methods 0.000 claims abstract description 13
- 239000011159 matrix material Substances 0.000 claims description 23
- 230000015556 catabolic process Effects 0.000 claims description 17
- 238000006731 degradation reaction Methods 0.000 claims description 17
- 238000010606 normalization Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 14
- 238000012544 monitoring process Methods 0.000 claims description 7
- 238000010276 construction Methods 0.000 claims description 6
- 230000001186 cumulative effect Effects 0.000 claims description 5
- 238000005315 distribution function Methods 0.000 claims description 5
- 238000013508 migration Methods 0.000 abstract description 8
- 230000005012 migration Effects 0.000 abstract description 7
- 230000008901 benefit Effects 0.000 abstract description 3
- 230000006870 function Effects 0.000 description 20
- 239000013598 vector Substances 0.000 description 11
- 238000010586 diagram Methods 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000003449 preventive effect Effects 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Business, Economics & Management (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Development Economics (AREA)
- Game Theory and Decision Science (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Operations Research (AREA)
- Entrepreneurship & Innovation (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统，方法包括，S1、数据预处理；S2、Transformer域自适应模型构建；S3、Transformer域自适应模型多层特征对齐；S4、剩余使用寿命预测。优点是：构建基于Transformer网络的域自适应模型，利用其多头自注意力机制和并行计算的特点，可以捕捉更丰富的时序特征信息并提高计算效率。采用基于多层特征对齐的域自适应策略，通过对多个网络层输出的特征矩阵进行对齐，更加充分的利用了各层网络的信息，使得对齐后的源域与目标域数据分布更加接近，提高迁移模型的泛化性。通过计算目标域测试序列与训练序列的SBD相似度，构造出了预测补偿项，该补偿项能够对模型测试阶段的预测结果进行修正，得到更准确的输出。
Description
技术领域
本发明涉及机电设备状态监测和健康管理技术领域，尤其涉及一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统。
背景技术
近年来，随着工业技术的不断发展与进步，设备系统的复杂化与自动化程度日益提高，为了维护设备系统长期高效的产出并保证其工作效率，人们对于设备的可靠性与安全性的需求也逐渐增强，故障预测与健康管理（Prognostics and Health Management,PHM）逐渐成为了工业领域关注的焦点问题。PHM旨在敏捷、高效地发现设备中存在的“亚健康”问题，为设备管理者提供有益的管理决策方案，即使进行预防性的维护，避免严重事故。剩余使用寿命（Remaining useful life prediction，RUL）预测是PHM领域最核心的问题之一，其目的是通过设备的历史状态变化及其他条件信息来判断设备从当前时刻运行到失效的剩余时间，及时制定维护策略。
目前，机电设备剩余寿命预测方法主要包括基于模型的剩余寿命预测方法和基于数据驱动的剩余寿命预测方法。（1）基于模型的剩余寿命预测方法：基于模型的方法是通过设备的内外特性、退化机理来构建设备退化的数学模型。基于模型的方法能够实现设备剩余使用寿命的准确估计，但是该类方法需要大量的相关知识作为支持，然而大多数设备的退化机理非常复杂、难以理解，构建高度精确的模型十分困难，这些问题限制了该类方法的推广与应用。（2）基于数据驱动的剩余寿命预测方法：随着人工智能、机器学习技术的发展，基于数据驱动的剩余寿命预测方法开始得到广泛应用，这类方法通过从历史数据中学习潜在的退化趋势，建立回归模型进而实现设备的剩余使用寿命预测，早期的方法都是基于传统机器学习算法实现的，需要人为构造特征，且无法处理海量的数据。深度学习方法的出现有效地解决了传统机器学习算法的问题，深度学习方法能够从大量的数据中自动提取高维特征建立回归模型，其所具有的优势引起了广泛的关注，人们也提出了很多基于深度学习的剩余使用寿命预测方法。
但无论传统的机器学习方法还是深度学习方法都需要训练数据集和测试数据集满足独立同分布的假设，数据的数量和质量决定了模型的精度与效果。但是在实际情况中，想要获取高质量有标签数据是很困难的，而且由于设备的型号、初始状态、工作条件等不同，导致了不同设备的数据分布存在差异，这就导致在一种设备上训练的剩余使用寿命预测模型在另一种设备上的预测性能急剧下降，这种问题被称为“跨域问题”。为了解决这种数据分布不一致导致的跨域问题，迁移学习（Transfer Learning, TL）方法已被广泛地应用于剩余使用寿命预测领域。迁移学习方法是利用可用数据域，也就是源域中学习到的知识在另一个分布不同的数据域，即目标域中建立可靠的模型，实现对目标域上可靠的预测。目前，迁移学习中的领域自适应（Domain Adaptation, DA）策略是应用最多的方法，其核心思想是将两个域数据映射到一个新的空间，使其数据分布更加接近，原理如图1所示。DA与深度学习相结合的剩余使用寿命预测方法也是目前最受关注的方向之一，取得了很多突出的成果。
基于域自适应的迁移学习方法很好的解决了剩余寿命预测中的“跨域问题”，然而绝大多数方法却忽略了一个问题，在实际应用中通常需要我们对目标域数据对应的设备进行剩余寿命的实时预测，这种背景下目标域的全寿命周期数据是缺失的，目标域数据在时间轴上存在“时序分布漂移”问题，同样会影响目标域数据上的预测精度，如图2所示。经过调研，针对此类问题的解决还未引起关注。
发明内容
本发明的目的在于提供一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统，从而解决现有技术中存在的前述问题。
为了实现上述目的，本发明采用的技术方案如下：
一种无全寿命周期样本的机电设备跨域剩余寿命预测方法，包括如下步骤，
S1、数据预处理：
采用滑动窗口对数据集中的源域数据集合和目标域数据集合进行切分，获取原始输入，并将原始输入按比例划分为训练集和测试集；
S2、Transformer域自适应模型构建：
基于Transformer网络模型构造域自适应编码器、域自适应解码器以及全连接结构的预测器，以形成Transformer域自适应模型；
S3、Transformer域自适应模型多层特征对齐：
将训练集输入到Transformer域自适应模型中对其进行训练；训练过程中，基于域自适应编码器的对齐损失、域自适应解码器的对齐损失以及预测器的回归误差损失和威布尔分布损失，获取模型总损失，并通过最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型；
S4、剩余使用寿命预测：
将测试集中输入到训练好的Transformer域自适应模型中获取初始预测结果；计算训练集和测试集的相似度以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
优选的，所述源域数据集合包括各源域多维时间序列数据样本所对应的多维退化特征以及各多维退化特征所对应的RUL标签；所述目标域数据集包括各目标域多维时间序列数据样本所对应的多维退化特征。
优选的，源域多维时间序列数据样本为机电设备运行到失效时采集的机电设备监测数据；目标域多维时间序列数据样本为无机电设备运行到故障时采集的完整机电设备监测数据；
所述源域多维时间序列数据样本是具有机电设备剩余寿命作为标签的有监督数据；所述目标域多维时间序列数据样本是不具有机电设备剩余寿命标签的无监督数据。
优选的，采用滑动窗口对源域数据集合和目标域数据集合中的数据进行切分，以获取等长度的数据。
优选的，所述Transformer域自适应模型包括依次连接的域自适应编码器输入层、位置编码层、域自适应编码器、域自适应解码器输入层、域自适应解码器以及全连接结构的预测器；
所述域自适应编码器包括多个相同的编码器块，编码器块由多头自注意力机制层和前馈层这两个子层构成，每个子层后跟随一个归一化层；
所述域自适应解码器包括多个相同的解码器块，解码器块由多头自注意力机制层和前馈层这两个子层构成，每个子层后跟随一个归一化层；所述解码器块比编码器块多一个多头自注意力机制层和归一化层。
优选的，步骤S3具体包括如下内容，
S31、利用域自适应编码器对训练集中的源域数据和目标域数据进行编码，获取编码后的时序特征矩阵并进行第一层特征对齐，获取域自适应编码器的对齐损失；
S32、利用域自适应解码器对域自适应编码器的输出进行解码，得到解码后的时序特征矩阵并对其进行特征对齐，得到域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失；
S33、汇总域自适应编码器的对齐损失、域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失，获取多层特征对齐总损失；
S34、将域自适应解码器的输出输入到全连接结构的预测器中，输出预测值；利用训练集中源域数据的预测值和真实值构造回归损失函数，获取回归误差损失；
S35、基于威布尔累计分布函数，利用训练集中源域数据的预测值和真实值的威布尔分布，构造基于威布尔分布的损失函数，获取威布尔分布损失；
S36、基于多层特征对齐总损失、回归误差损失和威布尔分布损失，获取模型总损失，最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型。
优选的，对齐损失利用多核最大平均差值来衡量。
优选的，步骤S4具体为，将测试集中的目标域数据输入到训练好的Transformer域自适应模型中获取初始预测结果；利用基于形状距离相似度算法SBD计算训练集中的目标域数据和测试集中的目标域数据的SBD相似度，并为每个数据赋予相应的权重，以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
本发明的目的还在于提供一种无全寿命周期样本的机电设备跨域剩余寿命预测系统，系统用于实现上述任一所述的方法，所述系统包括，
预处理模块：用于进行数据预处理；
采用滑动窗口对数据集中的源域数据集合和目标域数据集合进行切分，获取原始输入，并将原始输入按比例划分为训练集和测试集；
模型构建模块：用于构建Transformer域自适应模型；
基于Transformer网络模型构造域自适应编码器、域自适应解码器以及全连接结构的预测器，以形成Transformer域自适应模型；
对齐模块：用于进行Transformer域自适应模型多层特征对齐；
将训练集输入到Transformer域自适应模型中对其进行训练；训练过程中，基于域自适应编码器的对齐损失、域自适应解码器的对齐损失以及预测器的回归误差损失和威布尔分布损失，获取模型总损失，并通过最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型；
寿命预测模块：用于预测剩余使用寿命；
将测试集中输入到训练好的Transformer域自适应模型中获取初始预测结果；计算训练集和测试集的相似度以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
本发明的有益效果是：1、构建基于Transformer网络的域自适应模型，利用其多头自注意力机制和并行计算的特点，可以捕捉更丰富的时序特征信息并提高计算效率。2、针对源域与目标域的数据分布差异问题，本发明采用基于多层特征对齐的域自适应策略，通过对多个网络层输出的特征矩阵进行对齐，更加充分的利用了各层网络的信息，使得对齐后的源域与目标域数据分布更加接近，提高迁移模型的泛化性。3、为提高预测模型的精度和稳定度，引入了基于威布尔分布的损失项，将外部知识与回归损失相集成，优化模型的预测性能。4、对于现有技术未曾解决的目标域训练数据和测试数据不完整性差异所导致的预测精度下降问题，本发明采用基于形状距离（Shape-based Distance，SBD）相似度的预测补偿策略，通过计算目标域测试序列与训练序列的SBD相似度，构造出了预测补偿项，该补偿项能够对模型测试阶段的预测结果进行修正，得到更准确的输出。
附图说明
图1是域自适应模型原理图；
图2是目标域数据不完整导致的“时序分布漂移”示意图；
图3是本发明实施例中Transformer域自适应模型的训练过程示意图；
图4是本发明实施例中Transformer域自适应模型的测试过程示意图；
图5是本发明实施例中Transformer域自适应模型的编码器块和解码器块示意图；（a）为编码器块；（b）为解码器块。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不用于限定本发明。
实施例
本实施例中，提供了一种无全寿命周期样本的机电设备跨域剩余寿命预测方法，包括如下步骤，
一、数据预处理：
采用滑动窗口对数据集中的源域数据集合和目标域数据集合进行切分，获取原始输入，并将原始输入按比例划分为训练集和测试集。
本实施例中，所述源域数据集合包括各源域多维时间序列数据样本所对应的多维退化特征以及各多维退化特征所对应的RUL标签；所述目标域数据集包括各目标域多维时间序列数据样本所对应的多维退化特征。
源域多维时间序列数据样本为机电设备运行到失效时采集的机电设备监测数据；目标域多维时间序列数据样本为无机电设备运行到故障时采集的完整机电设备监测数据；
所述源域多维时间序列数据样本是具有机电设备剩余寿命作为标签的有监督数据；所述目标域多维时间序列数据样本是不具有机电设备剩余寿命标签的无监督数据。
采用滑动窗口对源域数据集合和目标域数据集合中的数据进行切分，以获取等长度的数据。
二、Transformer域自适应模型构建：
基于Transformer网络模型构造域自适应编码器、域自适应解码器以及全连接结构的预测器，以形成Transformer域自适应模型。
本实施例中，所述Transformer域自适应模型包括依次连接的域自适应编码器输入层、位置编码层、域自适应编码器、域自适应解码器输入层、域自适应解码器以及全连接结构的预测器；
所述域自适应编码器包括多个相同的编码器块，编码器块由多头自注意力机制层和前馈层这两个子层构成，每个子层后跟随一个归一化层；
所述域自适应解码器包括多个相同的解码器块，解码器块由多头自注意力机制层和前馈层这两个子层构成，每个子层后跟随一个归一化层；所述解码器块比编码器块多一个多头自注意力机制层和归一化层。
三、Transformer域自适应模型多层特征对齐：
将训练集输入到Transformer域自适应模型中对其进行训练；训练过程中，基于域自适应编码器的对齐损失、域自适应解码器的对齐损失以及预测器的回归误差损失和威布尔分布损失，获取模型总损失，并通过最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型。具体包括如下步骤，
1、利用域自适应编码器对训练集中的源域数据和目标域数据进行编码，获取编码后的时序特征矩阵并进行第一层特征对齐，获取域自适应编码器的对齐损失；
2、利用域自适应解码器对域自适应编码器的输出进行解码，得到解码后的时序特征矩阵并进行该部分特征对齐，得到域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失；
3、汇总域自适应编码器的对齐损失、域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失，获取多层特征对齐总损失；
4、将域自适应解码器的输出输入到全连接结构的预测器中，输出预测值；利用训练集中源域数据的预测值和真实值构造回归损失函数，获取回归误差损失；
5、基于威布尔累计分布函数，利用训练集中源域数据的预测值和真实值的威布尔分布，构造基于威布尔分布的损失函数，获取威布尔分布损失；
6、基于多层特征对齐总损失、回归误差损失和威布尔分布损失，获取模型总损失，最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型。
本实施例中，对齐损失利用多核最大平均差值来衡量。
四、剩余使用寿命预测：
将测试集中输入到训练好的Transformer域自适应模型中获取初始预测结果；计算训练集和测试集的相似度以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
具体地，将测试集中的目标域数据输入到训练好的Transformer域自适应模型中获取初始预测结果；利用基于形状距离相似度算法SBD计算训练集中的目标域数据和测试集中的目标域数据的SBD相似度，并为每个数据赋予相应的权重，以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
本实施例中，提供了一种无全寿命周期样本的机电设备跨域剩余寿命预测系统，系统用于实现所述的方法，所述系统包括，
1、预处理模块：用于进行数据预处理；
采用滑动窗口对数据集中的源域数据集合和目标域数据集合进行切分，获取原始输入，并将原始输入按比例划分为训练集和测试集；
2、模型构建模块：用于构建Transformer域自适应模型；
基于Transformer网络模型构造域自适应编码器、域自适应解码器以及全连接结构的预测器，以形成Transformer域自适应模型；
3、对齐模块：用于进行Transformer域自适应模型多层特征对齐；
将训练集输入到Transformer域自适应模型中对其进行训练；训练过程中，基于域自适应编码器的对齐损失、域自适应解码器的对齐损失以及预测器的回归误差损失和威布尔分布损失，获取模型总损失，并通过最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型；
4、寿命预测模块：用于预测剩余使用寿命；
将测试集中输入到训练好的Transformer域自适应模型中获取初始预测结果；计算训练集和测试集的相似度以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
实施例
本实施例中，结合具体实例，详细说明本发明方法的执行过程：
一、数据预处理
为了实现数据的实时分析，首先要对数据进行预处理，即在数据集中的特征矩阵输入到网络之前，需要对原始的序列进行滑动窗口定义和切分工作，具体设置为：假设，其中，表示源域数据集合，即源域中的第个样本所对应的多维退化特征，则是对应的RUL标签，样本满足边缘概率分布。令，其中，表示目标域数据集合，就是目标域的第个样本所对应的多维退化特征，目标域数据没有相应的标签，且只有设备前期部分数据，该部分数据满足边缘概率分布。源域和目标域的数据分布是不一致的，即。由于源域和目标域都是不同长度的多维时间序列数据，因此需要用滑动窗口函数确保输入序列的长度相同，窗口长度为，序列的总长度为，则在第个时间步长的输入数据的表示如公式(1)所示：
(1)
滑动窗口每次滑动一个时间步长，切分后的数据将会输出到模型中用于训练。
二、Transformer域自适应模型构建
为了能够充分利用时序数据中的位置信息，解决大部分时序网络存在的长期依赖问题，本发明以Transformer网络作为模型的主干网络，构造基于Transformer模型构造域自适应解码器和域自适应编码器，以此作为时序特征提取器。
1、Transformer结构：
在说明本发明的网络结构前，首先对Transformer的整体框架以及各部分结构进行说明。Transformer是一种序列到序列的结构，由输入部分、编码器、解码器和输出部分组成。原始序列首先通过输入部分对特征矩阵进行维度变换与位置编码，得到具有位置信息的位置编码矩阵，然后再将该矩阵输入到编码器中，通过自注意力机制找到序列内的关系，然后将输入序列编码为隐含特征输入到解码器中，解码器将隐含特征逐层解码为一个输出序列，即预测结果。编码器部分和解码器部分分别由多个相同的编码器块和解码器块组成的，图5展示了编码器块和解码器块的结构，编码器块由两个子层组成：多头自注意力机制层和前馈层，每个子层后面还跟随了一个归一化层，解码器块比编码器块多了一个编码-解码多头自注意力机制子层和一个归一化层。
具体的，在将序列输入至编码器前，首先要利用位置编码进行预处理，采用公式(2)(3)通过利用不同频率的正弦和余弦函数来对原始输入进行编码，以此将位置信息添加到输入序列当中：
(2)
(3)
其中，指输入序列的维度，是当前元素在序列中的位置，代表当前的维度。利用位置编码可以更好地学习序列中的位置信息。处理后的序列将会被输入到编码器当中。对于剩余使用寿命预测问题来说，位置编码将会提供时序位置信息，将时序数据的前后关系编码至矩阵中。
经过位置编码后的序列将被输入到编码器中，编码器是由多个相同的编码器块组成的，编码器块由两个子层组成：多头自注意力机制层和前馈层，每个子层后面还跟随了一个归一化层。所以位置编码后的序列首先会输入到编码器块的多头自注意力机制层，Transformer的多头自注意力机制层的主要目的是找到特征之间的依赖关系，并忽略它们在序列中的距离，其核心是自注意力机制，自注意力机制的原理是当给定一组键值K以及其对应的值V时，对每一次查询Q，注意力机制会给每一个值计算一个注意力权值，以此突出相关性最高的值，Transformer采用了一种与传统attention不同的多头attention，公式如下所示：
(4)
(5)
(6)
其中Softmax函数的作用是将权值映射到（0，1）之间，是的维度，其作用是使梯度更加稳定，代表第个注意头，，，是映射权值矩阵，是一个可训练权值矩阵。最终的输出就是所有的连接。多头自注意力机制层的输出再经由归一化层进行残差连接以及归一化，其作用是使特征数值维持在合理范围内，采用公式(7)计算：
(7)
对于Transformer而言，表示多头注意力机制层或前馈层的输入，表示多头注意力机制层或前馈层的输出，的作用是对输入归一化。
归一化层的输出再输入到前馈层中，前馈层是一个两层的全连接层，其作用是增强模型的拟合能力，第一个全连接层使用了激活函数，第二个全连接层不使用激活函数，采用如下公式计算：
(8)
其中，代表激活函数，表示输入。前馈层的输出再经过其连接的归一层处理后便输入到了下一个编码器块。顶层编码器的输出提供了一种关系信息，将其作为解码器部分编码-解码多头自注意力机制子层的K和V。
解码器和编码器的组成相似，由多个相同的解码器块组成，但是解码器块比编码器块多了一个编码-解码多头自注意力机制子层和一个归一化层，编码器的输出会直接输入到每个解码器块的编码-解码多头自注意力机制子层，解码器最终得到一个输出序列，该输出序列在经由后续的预测器即可得到预测的剩余使用寿命值。
2、本发明Transformer域自适应模型的结构
本发明所设计的网络结构如图3和图4所示，与传统的Transformer一致，特征提取部分由编码器和解码器组成，编码器块和解码器块的结构与图5中的一致，输入部分包含编码器输入层、位置编码层和解码器输入层，预测器则是由全连接网络构建的。整个模型的流程为：数据首先经过编码器进行编码，再通过解码器得到输出序列，最后再利用预测器进行预测。
三、Transformer网络多层特征对齐
因为源域和目标域之间存在差异，因此本发明采用了一种多层特征对齐策略，通过该策略来减少不同数据域之间的差异，对齐不同分布的数据。即在模型构建完成后，经过滑动窗口切片完的源域与目标域数据将被输入到模型中，依次经过域自适应编码器和域自适应解码器处理，在这个过程中，本发明利用了多层特征对齐得到数据分布更加接近的源域与目标域的时序特征矩阵。具体步骤包括：
1、利用域自适应编码器对源域和目标域进行编码，得到编码后的时序特征矩阵并进行第一层特征对齐
首先，将滑动窗口切片后的数据输入到域自适应编码器中，即原始的时间序列和被长度为的滑动窗口变成和之后输入到域自适应编码器中。域自适应编码器是由编码器输入层、位置编码层、5个相同的编码器块组成。输入层首先利用全连接网络将处理后的多维时间序列映射为维向量。位置编码层将输入向量与位置编码向量逐元素相加。所得到的具有位置信息的输入向量被送入编码器块堆栈中，得到如公式(9)、(10)所示的向量：
(9)
(10)
和分别是源域数据和目标域数据经过域自适应编码器后得到的特征向量。为了解决数据域分布差异，这里需要进行第一层分布对齐，得到第一部分对齐损失，即令源域与目标域的时序特征矩阵数据分布更加接近。本发明采用的策略就是将特征矩阵映射到子空间中，拉近两个域的特征矩阵的距离，选择了多核最大平均差值（Multi-KernelMaximum Mean Discrepancy，MMD)作为域间距离的衡量指标。MMD的核心思想是如果两个数据产生的分布是相同的，那么所有的统计数据也是一致的。对于两个不同域的概率分布和，它们的MMD定义为：
(11)
这里，代表的是拥有特征核k的再生希尔伯特空间（RKHS），映射函数定义了从原始数据到RKHS的映射，代表源域样本，代表目标域样本，核函数被定义为映射的内积，即：
(12)
<·>就是内积操作。也就是说，MMD距离等于两个分布的平均嵌入，并映射到RKHS上，表示如下：
(13)
就是的无偏估计。对于一般的MMD，是一个固定的函数，MK-MMD则是将核转化为一组不同核函数的组合来获得更好的结果，表示如下：
(14)
其中，代表一个半正定核，就是其对应的权重。下面的公式(15)用来计算和的距离：
(15)
即是编码器部分所得到的对齐损失。
2、利用域自适应解码器对域自适应编码器的输出进行解码，得到解码后的时序特征矩阵并进行这一部分特征对齐
域自适应解码器由解码器输入层、个相同的解码器块组成，本发明中，由于是要对一个窗口内的数据预测，所以选取了每个窗口内的最后两个元素构成的序列作为域自适应解码器输入层的输入。该输入被映射为维向量后，与域自适应编码器输出的编码向量一起送入到第一个解码器块中。经过解码器后的特征向量表示为：
(16)
(17)
和分别是源域数据和目标域数据经过域自适应解码器后得到的特征向量，同时，模型又增加了第一个解码器块输出的特征向量和来进行对齐，公式(18)、(19)用来计算和、和的距离：
(18)
(19)
结合公式(15)、(18)、(19)，得到多层特征对齐的总损失为：
(20)
通过最小化对齐损失，就可以学习到域不变特征，进而缩减目标域与源域之间的分布差异，完成源域到目标域的知识迁移，提高模型的泛化性，使得模型在两个数据域上都能取得突出的预测效果。
3、利用域自适应解码器的输出对预测器进行训练
将上一步得到的特征矩阵将被输入到预测器中进行训练，输出预测的RUL值，预测器由全连接网络构成，预测结果被表示为：
(21)
(22)
和分别是对源域和目标域训练数据的预测结果。对于源域有标签数据，采用下式作为回归的损失函数：
(23)
其中，代表源域第个训练样本的预测值，是该样本的真实值。同时，为了增强对设备退化趋势的建模能力，本发明将威布尔分布引入到了模型构建，威布尔分布用来表示一个设备组件失效的可能性，本发明采用两个参数的威布尔累积分布函数（CDF）来进行研究，CDF函数的公式如下式(24)所示：
(24)
其中，是形状参数，为特征寿命。设备组件的威布尔分布可以反映设备退化的趋势.对于RUL预测问题来说，通过预测值和真实值的威布尔分布也可以更好地提高预测的准确性。基于此，本发明引入了基于威布尔分布的损失函数：
(25)
其中，是网络预测值对应的失效分数，则是真实值对应的失效分数。引入基于威布尔分布的损失项可以实现外部知识集成，实现对回归误差损失的优化和完善。
本发明的损失总共由三部分组成，即回归误差损失、多层域迁移损失和威布尔分布损失。的目标是最小化源域与目标域之间的分布差异；是为了更好地预测设备退化的趋势，提高模型的准确性和稳定性。总的损失定义为：
(26)
其中，和分别是和的惩罚系数。通过最小化，实现对网络参数的优化，直至满足收敛条件。
四、剩余寿命预测
对于测试阶段，由于目标域训练数据和测试数据都是不完整的周期数据，所以存在时间轴上的差异，因此本发明提出了一种基于SBD的预测补偿项来目标域测试测试数据的预测结果进行修正，SBD是一种时间序列的相似性评估方法。其核心思想是，将两条时间序列在时间轴上做相向移动，每移动一次，计算重叠部分的内积，最后返回最大的内积作为这两条时间序列之间的相似度。SBD的计算公式如下：
(27)
(28)
(29)
(30)
式中，、、分别代表序列和序列的互相关系数、归一化后的互相关系数和SBD。考虑到需要处理的是多维数据，我们还引入了Discrete Cosine Transform(DCT)变换来进行降维，然后再通过计算每个目标域训练序列与测试序列的相似性，为每个序列赋予一个权重，权重的计算公式为：
(31)
最终的预测结果表示为：
(32)
其中，是最终的结果，是模型对目标域测试数据预测的结果，是第个目标域训练集的输入序列，是该序列包含的数据量，是目标域测试集的输入序列，是该序列包含的数据量。
通过这一补偿策略，能够更好地度量目标域训练数据与测试数据之间的偏差，并将此偏差作为补偿项，对预测结果进行修正，减少因“时序分布偏移”导致的预测结果不准确问题。
通过采用本发明公开的上述技术方案，得到了如下有益的效果：
本发明提供了一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统，构建基于Transformer网络的域自适应模型，利用其多头自注意力机制和并行计算的特点，可以捕捉更丰富的时序特征信息并提高计算效率。针对源域与目标域的数据分布差异问题，本发明采用基于多层特征对齐的域自适应策略，通过对多个网络层输出的特征矩阵进行对齐，更加充分的利用了各层网络的信息，使得对齐后的源域与目标域数据分布更加接近，提高迁移模型的泛化性。为提高预测模型的精度和稳定度，引入了基于威布尔分布的损失项，将外部知识与回归损失相集成，优化模型的预测性能。对于现有技术未曾解决的目标域训练数据和测试数据不完整性差异所导致的预测精度下降问题，本发明采用基于形状距离（Shape-based Distance，SBD）相似度的预测补偿策略，通过计算目标域测试序列与训练序列的SBD相似度，构造出了预测补偿项，该补偿项能够对模型测试阶段的预测结果进行修正，得到更准确的输出。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视本发明的保护范围。
Claims (7)
1.一种无全寿命周期样本的机电设备跨域剩余寿命预测方法，其特征在于：包括如下步骤，
S1、数据预处理：
采用滑动窗口对数据集中的源域数据集合和目标域数据集合进行切分，获取原始输入，并将原始输入按比例划分为训练集和测试集；
S2、Transformer域自适应模型构建：
基于Transformer网络模型构造域自适应编码器、域自适应解码器以及全连接结构的预测器，以形成Transformer域自适应模型；
S3、Transformer域自适应模型多层特征对齐：
将训练集输入到Transformer域自适应模型中对其进行训练；训练过程中，基于域自适应编码器的对齐损失、域自适应解码器的对齐损失以及预测器的回归误差损失和威布尔分布损失，获取模型总损失，并通过最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型；步骤S3具体包括如下内容，
S31、利用域自适应编码器对训练集中的源域数据和目标域数据进行编码，获取编码后的时序特征矩阵并进行第一层特征对齐，获取域自适应编码器的对齐损失；
S32、利用域自适应解码器对域自适应编码器的输出进行解码，得到解码后的时序特征矩阵并对解码后的部分进行特征对齐，得到域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失；
S33、汇总域自适应编码器的对齐损失、域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失，获取多层特征对齐总损失；
S34、将域自适应解码器的输出输入到全连接结构的预测器中，输出预测值；利用训练集中源域数据的预测值和真实值构造回归损失函数，获取回归误差损失；
S35、基于威布尔累计分布函数，利用训练集中源域数据的预测值和真实值的威布尔分布，构造基于威布尔分布的损失函数，获取威布尔分布损失；
S36、基于多层特征对齐总损失、回归误差损失和威布尔分布损失，获取模型总损失，最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型；
S4、剩余使用寿命预测：
将测试集中输入到训练好的Transformer域自适应模型中获取初始预测结果；计算训练集和测试集的相似度以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果；
步骤S4具体为，将测试集中的目标域数据输入到训练好的Transformer域自适应模型中获取初始预测结果；利用基于形状距离相似度算法SBD计算训练集中的目标域数据和测试集中的目标域数据的SBD相似度，并为每个数据赋予相应的权重，以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
2.根据权利要求1所述的无全寿命周期样本的机电设备跨域剩余寿命预测方法，其特征在于：所述源域数据集合包括各源域多维时间序列数据样本所对应的多维退化特征以及各多维退化特征所对应的RUL标签；所述目标域数据集包括各目标域多维时间序列数据样本所对应的多维退化特征。
3.根据权利要求2所述的无全寿命周期样本的机电设备跨域剩余寿命预测方法，其特征在于：源域多维时间序列数据样本为机电设备运行到失效时采集的机电设备监测数据；目标域多维时间序列数据样本为无机电设备运行到故障时采集的完整机电设备监测数据；
所述源域多维时间序列数据样本是具有机电设备剩余寿命作为标签的有监督数据；所述目标域多维时间序列数据样本是不具有机电设备剩余寿命标签的无监督数据。
4.根据权利要求1所述的无全寿命周期样本的机电设备跨域剩余寿命预测方法，其特征在于：采用滑动窗口对源域数据集合和目标域数据集合中的数据进行切分，以获取等长度的数据。
5.根据权利要求1所述的无全寿命周期样本的机电设备跨域剩余寿命预测方法，其特征在于：所述Transformer域自适应模型包括依次连接的域自适应编码器输入层、位置编码层、域自适应编码器、域自适应解码器输入层、域自适应解码器以及全连接结构的预测器；
所述域自适应编码器包括多个相同的编码器块，编码器块由多头自注意力机制层和前馈层这两个子层构成，每个子层后跟随一个归一化层；
所述域自适应解码器包括多个相同的解码器块，解码器块由多头自注意力机制层和前馈层这两个子层构成，每个子层后跟随一个归一化层；所述解码器块比编码器块多一个多头自注意力机制层和归一化层。
6.根据权利要求1所述的无全寿命周期样本的机电设备跨域剩余寿命预测方法，其特征在于：对齐损失利用多核最大平均差值来衡量。
7.一种无全寿命周期样本的机电设备跨域剩余寿命预测系统，其特征在于：所述系统包括，
预处理模块：用于进行数据预处理；
采用滑动窗口对数据集中的源域数据集合和目标域数据集合进行切分，获取原始输入，并将原始输入按比例划分为训练集和测试集；
模型构建模块：用于构建Transformer域自适应模型；
基于Transformer网络模型构造域自适应编码器、域自适应解码器以及全连接结构的预测器，以形成Transformer域自适应模型；
对齐模块：用于进行Transformer域自适应模型多层特征对齐；
将训练集输入到Transformer域自适应模型中对其进行训练；训练过程中，基于域自适应编码器的对齐损失、域自适应解码器的对齐损失以及预测器的回归误差损失和威布尔分布损失，获取模型总损失，并通过最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型；
具体过程为：
利用域自适应编码器对训练集中的源域数据和目标域数据进行编码，获取编码后的时序特征矩阵并进行第一层特征对齐，获取域自适应编码器的对齐损失；
利用域自适应解码器对域自适应编码器的输出进行解码，得到解码后的时序特征矩阵并对解码后的特征进行特征对齐，得到域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失；
汇总域自适应编码器的对齐损失、域自适应解码器的第一对齐损失和域自适应解码器的第二对齐损失，获取多层特征对齐总损失；
将域自适应解码器的输出输入到全连接结构的预测器中，输出预测值；利用训练集中源域数据的预测值和真实值构造回归损失函数，获取回归误差损失；
基于威布尔累计分布函数，利用训练集中源域数据的预测值和真实值的威布尔分布，构造基于威布尔分布的损失函数，获取威布尔分布损失；
基于多层特征对齐总损失、回归误差损失和威布尔分布损失，获取模型总损失，最小化模型总损失以优化域自适应编码器、域自适应解码器以及预测器的参数，获取训练好的Transformer域自适应模型；
寿命预测模块：用于预测剩余使用寿命；
将测试集中输入到训练好的Transformer域自适应模型中获取初始预测结果；计算训练集和测试集的相似度以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果；
具体过程为：将测试集中的目标域数据输入到训练好的Transformer域自适应模型中获取初始预测结果；利用基于形状距离相似度算法SBD计算训练集中的目标域数据和测试集中的目标域数据的SBD相似度，并为每个数据赋予相应的权重，以获取偏移补偿项，利用偏移补偿项修正初始预测结果，获取最终预测结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310848559.9A CN116579505B (zh) | 2023-07-12 | 2023-07-12 | 一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310848559.9A CN116579505B (zh) | 2023-07-12 | 2023-07-12 | 一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116579505A CN116579505A (zh) | 2023-08-11 |
| CN116579505B true CN116579505B (zh) | 2023-10-13 |
Family
ID=87534431
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310848559.9A Active CN116579505B (zh) | 2023-07-12 | 2023-07-12 | 一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116579505B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117236193A (zh) * | 2023-10-30 | 2023-12-15 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种基于Transformer网络的离子磨机剩余使用寿命预测方法 |
| CN118410332A (zh) * | 2023-12-27 | 2024-07-30 | 梅州市金航科技有限公司 | 基于无监督领域自适应的舵机实时故障诊断方法及装置 |
| CN118656595A (zh) * | 2024-08-09 | 2024-09-17 | 中国人民解放军国防科技大学 | 基于数实结合数据的发动机剩余寿命预测方法及装置 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109992872A (zh) * | 2019-03-27 | 2019-07-09 | 西安交通大学 | 一种基于层叠分离卷积模块的机械设备剩余寿命预测方法 |
| CN114297795A (zh) * | 2021-12-28 | 2022-04-08 | 桂林电子科技大学 | 一种基于PR-Trans的机械设备剩余寿命预测方法 |
| CN116150901A (zh) * | 2022-12-24 | 2023-05-23 | 北京工业大学 | 一种基于注意力增强时频Transformer的滚动轴承剩余寿命预测方法 |
| CN116306289A (zh) * | 2023-03-21 | 2023-06-23 | 中国科学院空间应用工程与技术中心 | 一种基于多源域自适应的机电设备跨域剩余寿命预测方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20220187819A1 (en) * | 2020-12-10 | 2022-06-16 | Hitachi, Ltd. | Method for event-based failure prediction and remaining useful life estimation |
-
2023
- 2023-07-12 CN CN202310848559.9A patent/CN116579505B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109992872A (zh) * | 2019-03-27 | 2019-07-09 | 西安交通大学 | 一种基于层叠分离卷积模块的机械设备剩余寿命预测方法 |
| CN114297795A (zh) * | 2021-12-28 | 2022-04-08 | 桂林电子科技大学 | 一种基于PR-Trans的机械设备剩余寿命预测方法 |
| CN116150901A (zh) * | 2022-12-24 | 2023-05-23 | 北京工业大学 | 一种基于注意力增强时频Transformer的滚动轴承剩余寿命预测方法 |
| CN116306289A (zh) * | 2023-03-21 | 2023-06-23 | 中国科学院空间应用工程与技术中心 | 一种基于多源域自适应的机电设备跨域剩余寿命预测方法 |
Non-Patent Citations (1)
| Title |
|---|
| 深度学习在故障诊断与预测中的应用;余萍;曹洁;;计算机工程与应用(第03期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116579505A (zh) | 2023-08-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN116579505B (zh) | 一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统 | |
| CN112101480B (zh) | 一种多变量聚类与融合的时间序列组合预测方法 | |
| CN112784920B (zh) | 云边端协同的旋转部件对抗域自适应故障诊断方法 | |
| CN111626764A (zh) | 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置 | |
| CN108876044B (zh) | 一种基于知识增强神经网络的线上内容流行度预测方法 | |
| CN116679211B (zh) | 一种锂电池健康状态的预测方法 | |
| CN111126658A (zh) | 一种基于深度学习的煤矿瓦斯预测方法 | |
| CN113177666A (zh) | 一种基于非侵入式注意力预处理过程与BiLSTM模型的预测方法 | |
| CN116929815A (zh) | 基于物联网的设备工作状态监测系统及其方法 | |
| CN114297918A (zh) | 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法 | |
| CN117435997B (zh) | 一种基于Transformer和时序压缩机制的电梯预警及按需维保方法 | |
| Liu et al. | Model fusion and multiscale feature learning for fault diagnosis of industrial processes | |
| CN117132089B (zh) | 用电策略优化调度方法及装置 | |
| CN115017826A (zh) | 一种装备剩余使用寿命预测方法 | |
| CN116502123A (zh) | 一种航空发动机剩余使用寿命无监督跨域预测方法 | |
| CN115859777A (zh) | 一种多故障模式下产品系统寿命预测的方法 | |
| CN116007937A (zh) | 一种机械设备传动部件智能故障诊断方法及装置 | |
| CN115345429A (zh) | 一种基于深度时空自编码器的软测量建模方法 | |
| CN113032778B (zh) | 一种基于行为特征编码的半监督网络异常行为检测方法 | |
| CN117724452A (zh) | 一种基于图神经网络的工业过程异常检测方法 | |
| CN117909881A (zh) | 多源数据融合的抽油机的故障诊断方法及装置 | |
| CN113469013A (zh) | 一种基于迁移学习和时间序列的电机故障预测方法及系统 | |
| CN117171713A (zh) | 一种基于轴承寿命的交叉自适应深度迁移学习方法及系统 | |
| CN111863153A (zh) | 一种基于数据挖掘的废水中悬浮固体总量的预测方法 | |
| CN116483036A (zh) | 一种基于Transformer的自编码器软测量建模方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CB03 | Change of inventor or designer information |
Inventor after: Song Lei Inventor after: Gui Xuanang Inventor after: Du Junrong Inventor after: Zhang Jian Inventor after: Guo Lili Inventor after: Yan Zhen Inventor before: Song Lei Inventor before: Gui Xuanang Inventor before: Du Junrong Inventor before: Zhang Jian Inventor before: Guo Lili Inventor before: Yan Zhen |
|
| CB03 | Change of inventor or designer information |