CN110502991A - 基于随机卷积神经网络结构的内燃机健康监测方法及系统 - Google Patents
基于随机卷积神经网络结构的内燃机健康监测方法及系统 Download PDFInfo
- Publication number
- CN110502991A CN110502991A CN201910648403.XA CN201910648403A CN110502991A CN 110502991 A CN110502991 A CN 110502991A CN 201910648403 A CN201910648403 A CN 201910648403A CN 110502991 A CN110502991 A CN 110502991A
- Authority
- CN
- China
- Prior art keywords
- neural networks
- convolutional neural
- data
- random
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 143
- 238000002485 combustion reaction Methods 0.000 title claims abstract description 35
- 238000000034 method Methods 0.000 title claims abstract description 34
- 230000036541 health Effects 0.000 title claims abstract description 32
- 238000012549 training Methods 0.000 claims abstract description 66
- 238000012360 testing method Methods 0.000 claims abstract description 45
- 239000000203 mixture Substances 0.000 claims abstract description 14
- 238000002372 labelling Methods 0.000 claims abstract description 9
- 238000005516 engineering process Methods 0.000 claims abstract description 8
- 238000012544 monitoring process Methods 0.000 claims description 28
- 230000004927 fusion Effects 0.000 claims description 10
- 238000013507 mapping Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 9
- 230000004913 activation Effects 0.000 claims description 8
- 230000006870 function Effects 0.000 claims description 7
- 238000005457 optimization Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 210000005036 nerve Anatomy 0.000 claims description 4
- 230000002779 inactivation Effects 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 239000013598 vector Substances 0.000 claims description 3
- 238000012937 correction Methods 0.000 claims description 2
- 238000001914 filtration Methods 0.000 claims description 2
- 238000010606 normalization Methods 0.000 claims description 2
- 230000000737 periodic effect Effects 0.000 claims description 2
- 239000012141 concentrate Substances 0.000 claims 1
- 238000003745 diagnosis Methods 0.000 abstract description 17
- 238000013528 artificial neural network Methods 0.000 description 9
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 230000001537 neural effect Effects 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000013136 deep learning model Methods 0.000 description 3
- 230000003862 health status Effects 0.000 description 3
- 230000007812 deficiency Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 230000003137 locomotive effect Effects 0.000 description 1
- 238000011089 mechanical engineering Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Classifications
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F02—COMBUSTION ENGINES; HOT-GAS OR COMBUSTION-PRODUCT ENGINE PLANTS
- F02B—INTERNAL-COMBUSTION PISTON ENGINES; COMBUSTION ENGINES IN GENERAL
- F02B77/00—Component parts, details or accessories, not otherwise provided for
- F02B77/08—Safety, indicating, or supervising devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Mechanical Engineering (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本发明公开了一种基于随机卷积神经网络结构的内燃机健康监测方法,首先采集内燃机在工作状态下的振动时域信号;对采集的时域信号数据进行标签化和标准化处理,然后将数据划分训练集与测试集;构建新型随机卷积神经网络并训练;将测试集输入到完成训练后的新型随机卷积神经网络,获得测试结果概率;最后通过Demspter合成规则将各个单一卷积神经网络的分类结果概率进行融合,输出最终的所属样本的概率值,得到所采集数据的最终分类结果。本发明在随机卷积神经网络中采用Adabound优化器和Dropout技术,减少模型参数训练量,防止模型陷入局部最优解。本发明采用集成学习的思想,解决了单一卷积网络结构诊断精度不稳定问题,提高了卷积神经网络诊断的准确率和泛化能力。
Description
技术领域
本发明属于人工智能技术领域,涉及一种内燃机健康监测方法及系统,具体涉及一种基于新型随机卷积神经网络结构的内燃机智能健康监测方法及系统。
背景技术
内燃机作为一种重要的动力机械,广泛应用于各个领域,对其系统健康状况的监测不仅能够保证设备平稳高效的运行,而且能够及时发现出现的故障状况,有效防止重大事故的发生。基于振动信号的分析是对内燃机健康状态监测的重要途径。这是由于振动信号采集方便,并且采集的振动信号包含了往复运动,旋转运动、机械冲击和气体的高速流动等丰富的信息。但是,内燃机系统的振动激励源多,其振动信号具有强耦合、弱故障特征的特点,因此如何准确地提取振动信号中的有效特征是健康监测中的难点所在。考虑到深度学习具有处理大规模数据的能力,通过多尺度和多层次的学习,对振动信号进行分析,因此深度学习可以成为机械健康监测系统中强大有效的解决方案。文章[雷亚国等,基于深度学习理论的机械装备大数据健康监测方法[J].机械工程学报,2015,51(21):49-56.]利用自动编码器(Autoencoder)对频域信号进行除噪,然后通过深度学习网络挖掘信号中的故障特征;文章[Ruonan Liu等人,Dislocated Time Series Convolutional NeuralArchitecture:An Intelligent Fault Diagnosis Approach for Electric Machine[J].IEEE Transactions on Industrial Informatics,2017,13(3):1310-1320.]提出了一种新型的错位时间序列卷积神经网络(dislocated time series convolutional neuralnetwork)用于电机的故障诊断;文章[Wenjun Sun等人,Convolutional DiscriminativeFeature Learning for Induction Motor Fault Diagnosis[J].IEEE Transactions onIndustrial Informatics,2017,13(3):1350-1359.]设计新型反馈神经网络来代替原卷积神经网络中的无监督方法进行滤波器权重的学习,并且最终的输出层用支持向量机来代替原softmax函数;文章[Haidong Shao等人,Electric Locomotive Bearing FaultDiagnosis Using a Novel Convolutional Deep Belief Network[J].IEEETransactions on Industrial Electronics,2018,65(3):2727-2736.]提出新型的深度信念网络实现轴承故障的诊断,在新的网络结构中用自编码器压缩原数据和指数加权移动提高模型性能;文章[Turker等人,Real-Time Motor Fault Detection by 1-DConvolutional Neural Networks[J].IEEE Transactions on IndustrialElectronics,2016,63(11):7067-7075.]提出一种1D卷积神经网络结构,将特征提取和分类融合到单个的学习个体中,能够准确快速的实现对电机状态的监测;文章[Janssens等人,Convolutional Neural Network Based Fault Detection for Rotating Machinery[J],Journal of Sound and Vibration.2016,377:331-345.]用卷积神经网络实现对信号特征的自动提取并有较高的准确率。相对于传统的基于数据驱动的健康监测方案,基于深度学习的健康监测方案不再依赖于信号分析技术和人工设计信号特征,直接实现端到端的结构,所有模型参数根据原始数据进行自动更新。尽管深度学习模型已经在机械健康监测方面取得的了一系列的突破,但是随着对深度学习模型的研究,这里仍出现了一些应用在机械健康监测的弊端,比如单一的深度学习网络结构造成了模型的泛化能力不足。同时,由于内燃机工况的复杂多变,数据量过多,造成深度学习模型训练时间过长等问题。如何在从采集的振动信号进行有效的信息挖掘,提高网络结构的泛化能力和模型的拟合速度,是目前亟待解决的问题。
发明内容
为了解决上述技术问题,本发明提供了一种基于随机卷积神经网络结构的内燃机健康监测方法及系统。
本发明的方法所采用的技术方案是:一种基于随机卷积神经网络结构的内燃机健康监测方法,其特征在于,包括以下步骤:
步骤1:实时采集内燃机在工作状态下的振动时域信号;
步骤2:对采集的原始振动时域信号数据进行标签化和标准化处理,然后将数据划分训练集与测试集;
步骤3:构建新型随机卷积神经网络结构;
所述新型随机卷积神经网络,由若干个单一的卷积神经网络结构组成,原始卷积神经网络结构通过Adabound优化器和Dropout技术进行优化;新型随机卷积神经网络每次从训练集中随机抽取部分数据,对每个单一的卷积神经网络进行训练;获得完成训练后的新型随机卷积神经网络参数;
步骤4:将完成训练后的新型随机卷积神经网络参数输入测试集,获得测试结果概率;
步骤5:通过Demspter合成规则将各个单一卷积神经网络的分类结果概率进行融合,输出最终的所属样本的概率值,得到所采集数据的最终分类结果。
本发明的系统所采用的技术方案是:一种基于随机卷积神经网络结构的内燃机健康监测系统,其特征在于:包括振动时域信号采集模块、数据预处理模块、新型随机卷积神经网络构建训练模块、测试模块、融合模块;
所述振动时域信号采集模块,用于实时采集内燃机在工作状态下的振动时域信号;
所述数据预处理模块,用于对采集的原始振动时域信号数据进行标签化和标准化处理,然后将数据划分训练集与测试集;
所述新型随机卷积神经网络构建训练模块,用于构建新型随机卷积神经网络并训练;
所述新型随机卷积神经网络,由若干个单一的优化后的卷积神经网络结构组成,每次从训练集中随机抽取部分数据,对每个单一的卷积神经网络进行训练;获得完成训练后的新型随机卷积神经网络参数;
所述测试模块,用于将完成训练后的新型随机卷积神经网络参数输入测试集,获得测试结果概率;
所述融合模块,用于通过Demspter合成规则将各个单一卷积神经网络的分类结果概率进行融合,输出最终的所属样本的概率值,得到所采集数据的最终分类结果。
本发明产生的有益效果是:
(1)本发明使用Adabound优化器和Dropout技术对原卷积神经网络结构进行优化;
(2)与传统的数据驱动方法相比,新型随机卷积神经网络在机械健康监测领域具有更好的性能。在网络结构超参数设定完成之后,新型随机卷积神经网络可以从原始信号直接提取特征,无需人工干预。
(3)本发明所提出的新型随机卷积神经网络中采用的Adabound优化器和Dropout技术,可以提高船用柴油机健康监测的稳定性和性能,大大节省了卷积神经网络训练时间。
(4)利用集成学习思想,构造了新型随机卷积神经网络,解决了传统单一神经网络在诊断精度不稳定的问题。同时,大大提高了诊断准确率和泛化能力。
附图说明
图1为本发明实施例的流程图;
图2为本发明实施例中不同优化器在相同训练集和测试集上的准确率示意图;
图3为本发明实施例中各监测方案测试集准确率示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合试验台架,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
请见图1,本发明提供的一种基于随机卷积神经网络结构的内燃机健康监测方法,包括以下步骤:
步骤1:实时采集内燃机在工作状态下的振动时域信号;
本实施例中,通过振动信号传感器对内燃机工作运行中振动信号直接采集,最终采集到信号是振动时域信号,直接使用时域信号建立监控数据集;
步骤2:对采集的原始振动时域信号数据进行标签化和标准化处理,然后将数据划分训练集与测试集;
本实施例中,步骤2的具体实现包括以下子步骤:
步骤2.1:将内燃机运行一个周期所监测到的振动时域信号作为一个样本,将最终采集的数据集进行标签分类;
根据运行工况的不同可分为以下五种不同的工况(假设有五种不同的工况):[1,0,0,0,0]代表正常工况,[0,1,0,0,0]代表故障工况1,[0,0,1,0,0]代表故障工况2,[0,0,0,1,0]代表故障工况3,[0,0,0,0,1]代表故障工况4;
步骤2.2:对数据进行标准化处理;
振动时域信号数据标准化的操作如下:
其中,xraw(n)为原始振动信号,xmean为每列数据的平均值,xstd为每列数据的方差;
步骤2.3:将数据划分训练集与测试集;
本实施例中,设原始振动时域信号数据的总量为N,m为一个周期的数据个数;将总数据以m个数据点为一个数据周期进行划分,设共划分了n组数据,故N=n*m;从n组数据中,随机抽取80%的数据对单个卷积神经网络进行训练;设共有i个卷积神经网络,故总共抽取了i次数据,分别对不同的卷积神经网络进行训练;每个卷积神经网络中都用了若干个卷积层、池化层、和全连接层;池化层中的操作为最大池化,卷积层中的激活函数为Relu。
卷积层通过滤波器(filters)对局部区域进行特征提取,并通过激活函数生成输出特征。卷积层通过滤波器对输入数据I进行扫描,这里的矩阵I为原始的振动信号。滤波器的超参数为大小F,步幅S,填充为P。经过卷积计算,输入的结果为特征映射。特征映射的尺寸大小O可表示为:
事实上,滤波器的本质是矢量W,W∈RF,通过W对原始数据进行卷积计算。滤波器可将原始信号划分为若干区域,其卷积计算可表示为:
ci=f(w·xi:i+F-1+b);
式中,b表示偏量,w表示模型参数;函数f表示非线性激活函数,比如Tanh,Sigmoid,ReLU。在本文研究中,采用的激活函数是ReLU;xi表示由滤波器截取的部分原始信号;表示两个向量的并置运算。由滤波器对输入信号进行卷积,最后得到特征映射表示为:
cj=[c1,c2,...cl-F+1];
式中,指标j表示第j个滤波器。
步骤3:构建新型随机卷积神经网络并训练;
新型随机卷积神经网络,由若干个单一的卷积神经网络结构组成,每次从训练集中随机抽取部分数据,对每个单一的卷积神经网络进行训练;获得完成训练后的新型随机卷积神经网络参数;
本实施例中,在每个卷积神经网络训练过程中采用Adabound优化器和Dropout技术对原始卷积神经网络结构进行优化,减少卷积神经网络参数的个数,加快更新模型参数,最终使损失函数的值达到全局最优解;
该优化器使得网络卷积神经网络中的学习率可以自适应变化,同时变在学习率的变化范围中加了一个动态边界。学习率的随着下降梯度的变化而变化,并且随着时间的推移,学习率的上限和下限会越来越紧,限制学习率减少到一个极小值,因此卷积神经网络在训练过程中也会越来越稳定。
其中,Adabound优化器的原理为:
mt=β1tmt-1+(1-β1t)gt
vt=β2vt-1+(1-β2)(gt)2
式中,mt是梯度的带权平均值,vt是梯度的带权有方差值,ηt是学习率,t表示时间,β1和β2是动力值,通常取0.9和0.99,Qi(w)是指模型的参数方程;是对ηt校正,对学习率的上限和下限进行限定;Vt=diag(vt);表示被限定在[ηl,ηu]范围内;ηl和ηu随着时间t的变化而变化,并不是一个恒定的上下限值;
卷积神经网络参数的更新为:
式中,wt为参数值,ηt是学习率。
根据上述公式可知,学习率将会随着时间的变化而变化,并且ηl与ηu的差也会逐渐变小。在这种设置下,使得Adabound优化器在训练早期由于上下界对学习率的影响较小,使得Adabound优化器更加接近于Adam优化器;而随着时间的增加,裁剪区间[ηl,ηu]越来越紧,在训练后期,使得Adabound优化器更接近于SGD优化器,保持一定的学习率,在卷积神经网络拟合后期中,仍保持稳定学习率去更新卷积神经网络参数。
步骤4:将完成训练后的新型随机卷积神经网络参数输入测试集,获得测试结果概率。
Dropout操作则能很好的解决过拟合的问题,同时可以加快卷积神经网络的训练速度。在训练过程中,按一定概率p对每个神经节点将其从网络结构中暂时失活。Dropout操作可以看做对原始网络中的神经元进行随机采样,得到一个更“瘦”的网络结构。但是在测试过程中,若还是随机失活部分神经元,将会导致输出结果的不稳定。因此,在测试阶段将每个神经元的输出乘以概率p,这样可以使在训练阶段和测试阶段每个神经元输出的期望值是相同的。在随机卷积神经网络结构中使用Dropout技术避免在训练过程中训练所有的神经元,减少卷积神经网络参数训练量,因此可以在一定程度减缓过拟合问题。同时,由于卷积神经网络参数的减少,卷积神经网络的拟合速度大大加快。公式为:
式中,r是关于概率p的伯努利分布,表示失活部分神经元后的数据,c是模型最终输出的分类概率值,下标i表示第i组数据。
步骤5:通过Demspter合成规则将各个单一卷积神经网络的分类结果概率进行融合,输出最终的所属样本的概率值,得到所采集数据的最终分类结果。通过这种设置,使得得到的分类概率更加直观并且准确。
式中,Li是分类的标签;ci是融合各个卷积神经网络结构诊断结果的融合分类概率值。最终预测的分类标签将会由融合后最大的概率的标签决定,为:
式中,L是最终预测的标签,C是所有可能的标签类别,yi是对应每个类别的概率,x为输入的周期振动信号。
本发明还提供了一种基于随机卷积神经网络结构的内燃机健康监测系统,包括振动时域信号采集模块、数据预处理模块、新型随机卷积神经网络构建训练模块、测试模块、融合模块;
振动时域信号采集模块,用于实时采集内燃机在工作状态下的振动时域信号;
数据预处理模块,用于对采集的原始振动时域信号数据进行标签化和标准化处理,然后将数据划分训练集与测试集;
新型随机卷积神经网络构建训练模块,用于构建新型随机卷积神经网络并训练;
所述新型随机卷积神经网络,由若干个单一的优化后的卷积神经网络结构组成,每次从训练集中随机抽取部分数据,对每个单一的卷积神经网络进行训练;获得完成训练后的新型随机卷积神经网络参数;
所述测试模块,用于将完成训练后的新型随机卷积神经网络参数输入测试集,获得测试结果概率
融合模块,用于通过Demspter合成规则将各个单一卷积神经网络的分类结果概率进行融合,输出最终的所属样本的概率值,得到所采集数据的最终分类结果。
下面通过实验来验证本发明的诊断准确率和泛化能力,本实施例的试验台架模拟了柴油机五种不同的工况,分别为正常工况,单缸失火,燃烧提前,燃烧滞后,以及空气滤清器堵塞。将五个工况分别标签为[1,0,0,0,0][0,1,0,0,0][0,0,1,0,0][0,0,0,1,0][0,0,0,0,1]。在本次模拟试验中,振动信号传感器的采样频率是40kHz,柴油机的转速为1500rpm,由于该柴油机为四冲程,曲轴转动720°为一个工作循环。所以在次试验中,以3200个数据点为一个采样周期。各工况的振动信号均在柴油机设置的转速下达到稳定工作状态后进行采集。
为了证明本次发明中,单一卷积神经网络用的Adabound优化器性能比较好,将Adabound优化器与其他优化器进行比较。本实施例中,进行对比的优化器有SGD优化器,Momentum优化器,RMSprop优化器,Adam优化器。使用不同的优化器构造的卷积神经网络对采集的振动时域信号进行诊断。利用训练集训练卷积神经网络,利用测试集检验卷积神经网络的性能。
图2表明了不同优化器在相同训练集和测试集上的准确率。图2显示了不同优化器在训练集和测试集上的学习曲线。在训练过程中,所有优化器加速的卷积神经网络结构都能达到接近100%的准确率,自适应方法Adam、Adabound优化器能够较快的使卷积神经网络拟合,但是SGD优化器达到令人满意的准确率速度较慢,差不多迭代40步才能达到令人满意的训练集准确度,并且拟合过程波动较大。在测试集方面,虽然Momentum、RMSProp、Adam、Adabound优化器能够在最快的速度达到较高的精确度,但是随着迭代次数的增加,SGD优化器使得卷积神经网络在迭代60步时使卷积神经网络的达到拟合,使用SGD优化器的卷积神经网络在卷积神经网络拟合之后的测试准确度高于Momentum、RMSProp、Adam优化器,如图(2)所示。同时,可以发现Momentum、RMSProp优化器卷积神经网络拟合好之后,准确率仍出现了部分波动。而Adabound优化器学在训练集和测试集方面均能较快的达到令人较高的准确率,并且学习曲线波动变化小,能够保持稳定的准确率。与其他优化器相比,所使用Adabound优化器卷积神经网络的测试精度提高了约2%。
表1为卷积神经网络达到拟合的时间,本实施例以测试集精确率稳定且达到94%为卷积神经网络达到拟合的标准。由表1分析可得,Adam和Adabound这种自适应的优化器使网络卷积神经网络在最短的时间内达到拟合。虽然SGD优化器在卷积神经网络训练后期能够使卷积神经网络得到较高的准确率,但是训练时间远远高于其他优化器所使用的时间。可以得到,随机卷积神经网络结构中所使用的Adabound优化器能够迅速的使卷积神经网络拟合。
表1
本发明中所提的随机卷积神经网络将多个单一的网络结构集成起来对内燃机进行健康监测。随机卷积神经网络从已经分好的训练集中每次随机抽取80%的数据对单一卷积神经网络进行训练。随机卷积神经网络中的每个网络结构中都用了两个卷积层,两个池化层,和一个全连接层。池化层中的操作为最大池化,卷积层中的激活函数为Relu,优化器为Adabound。表2为是随机卷积神经网络结构的参数设置表。
表2
为了进一步确认本发明中提出的健康监测方法,本实施例与传统的监测诊断方法进行对比,其中传统监测方法包括LLE-SVE,ISOMAP-SVM,TSNE-SVM,LLE-ELM,ISOMAP-ELM,TSNE-ELM,LLE-RF,ISOMAP-RF,TSNE-RF和CNN。我们用箱线图来更直观的表达不同方案的准确度。箱线图中间的横线表示每个方案准确率的中位数。各监测方案测试集准确率如图3所示。
当分析传统数据驱动的方法,SVM分类器在诊断上效果明显弱于其他两个分类器,而ELM和Random Forest的诊断性能相差不大。经分析可知,造成传统数据驱动方法监测性能方面的主要差异是由特征筛选方法导致的。不同的流形学习算法对特征学习能力不同,因此导致了最终分类性能的不同。因此可知,特征设计和特征筛选过程对诊断性能有较大的影响。而新型随机卷积神经网络在这两个过程方面有极大地优势,新型随机卷积神经网络能够从时域中的振动信号自适应地提取工况特征并且完成健康状况的智能诊断。传统的卷积神经网络在健康监测诊断方面的性能明显比其他方案好,测试准确率均可到达94%左右。本发明所提出的新型随机卷积神经网络集成了卷积神经网络的优点,能够自动实现数据特征设计和特征筛选的过程。基于新型随机卷积神经网络的内燃机健康监测方案显示了较高的性能,诊断准确率可达98%。同时,新型随机卷积神经网络的箱线图长度最短,说明在测试集准确率方面波动最小,非常适用于在线监测诊断内燃机健康状况,可以提供了高度可靠和稳定的诊断率。并且新型随机卷积神经网络集成了多个单一的网络结构,每个网络结构的训练数据从训练集中随机抽取80%用于训练,使得每个网络结构都不同,在减少数据输入的同时使得网络结构更加多样化,提高了网络结构在监测诊断方面的泛化能力。
本发明提供的一种随机卷积神经网络(Random ConvolutionalNeuralNetworks),直接对采集的一维时域信号进行分析诊断。该种新型随机卷积神经网络利用集成学习思想,集成多个单一的卷积网络神经结构,并用Dempster合成规则对每个神经网络结构产生的诊断结果概率进行融合,改善以往的用最大投票方案对诊断结果进行判断,使得诊断结果更加直观,并且解决了不确定性的问题。同时结合当前优化器的优点,在随机卷积神经网络中采用Adabound优化器,在加快随机卷积神经网络的训练速度的同时,解决了随机卷积神经网络在迭代过程中易陷入局部最优的问题。
该随机卷积神经网络克服了现有方法的不足,可以提高内燃机健康监测的稳定性和性能,大大节省了随机卷积神经网络训练时间。同时,利用集成学习思想,构造了随机神经网络结构,解决了传统单一神经网络在诊断精度不稳定的问题,大大提高了诊断准确率和泛化能力。
以上实例仅用于说明本发明的技术方案而并非限制本发明的使用范围,尽管参照较佳实例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的精神和范围,其均应涵盖在本发明的专利要求范围中。
Claims (7)
1.一种基于随机随机卷积神经网络结构的内燃机健康监测方法,其特征在于,包括以下步骤:
步骤1:实时采集内燃机在工作状态下的振动时域信号;
步骤2:对采集的原始振动时域信号数据进行标签化和标准化处理,然后将数据划分训练集与测试集;
步骤3:构建新型随机卷积神经网络结构;
所述新型随机卷积神经网络,由若干个单一的卷积神经网络结构组成,原始卷积神经网络结构通过Adabound优化器和Dropout技术进行优化;新型随机卷积神经网络每次从训练集中随机抽取部分数据,对每个单一的卷积神经网络进行训练;获得完成训练后的新型随机卷积神经网络参数;
步骤4:将完成训练后的新型随机卷积神经网络参数输入测试集,获得测试结果概率;
步骤5:通过Demspter合成规则将各个单一卷积神经网络的分类结果概率进行融合,输出最终的所属样本的概率值,得到所采集数据的最终分类结果。
2.根据权利要求1所述的基于随机卷积神经网络结构的内燃机健康监测方法,其特征在于,步骤2的具体实现包括以下子步骤:
步骤2.1:将内燃机运行一个周期所监测到的振动时域信号作为一个样本,将最终采集的数据集进行标签分类;
根据运行工况的不同可分为以下五种不同的工况:[1,0,0,0,0]代表正常工况,[0,1,0,0,0]代表故障工况1,[0,0,1,0,0]代表故障工况2,[0,0,0,1,0]代表故障工况3,[0,0,0,0,1]代表故障工况4;
步骤2.2:对数据进行标准化处理;
振动时域信号数据标准化的操作如下:
其中,xraw(n)为原始振动信号,xmean为每列数据的平均值,xstd为每列数据的方差;
步骤2.3:将数据划分训练集与测试集。
3.根据权利要求1或2所述的基于随机卷积神经网络结构的内燃机健康监测方法,其特征在于:步骤2中,设原始振动时域信号数据的总量为N,m为一个周期的数据个数;将总数据以m个数据点为一个数据周期进行划分,设共划分了n组数据,故N=n*m;从n组数据中,随机抽取80%的数据对单个卷积神经网络进行训练;设共有i个卷积神经网络,故总共抽取了i次数据,分别对不同的卷积神经网络进行训练;每个卷积神经网络中都用了若干个卷积层、池化层、和全连接层;池化层中的操作为最大池化,卷积层中的激活函数为Relu;
卷积层通过滤波器对局部区域进行特征提取,并通过激活函数生成输出特征;卷积层通过滤波器对输入数据矩阵I进行扫描,这里的数据矩阵I为原始的振动信号;滤波器的超参数为大小F,步幅S,填充为P;经过卷积计算,输入的结果为特征映射;特征映射的尺寸大小O为:
滤波器将原始信号划分为若干区域,其卷积计算为:
ci=f(w·xi:i+F-1+b);
式中,b表示偏量,w表示模型参数;函数f表示非线性激活函数;xi表示由滤波器截取的部分原始信号;表示两个向量的并置运算;由滤波器对输入信号进行卷积,最后得到特征映射表示为:
cj=[c1,c2,...cl-F+1];
式中,指标j表示第j个滤波器;
在卷积层进行特征提取后,池化层将对提取的特征映射进行特性选择和信息过滤,从而进一步减少模型参数的数量;设池化长度为f,则最大池化操作是在原特征映射c中的连续f个值中取最大值,以表示原特征映射的部分区域;经过池化层后,特征映射表示为:
式中,hj=max(c(j-1)f,c(j-1)(f+1),…cjf-1);
经过多次卷积-池化操作后,全连接层和softmax层将作为网络结构的最高层对输入的振动信号进行诊断与分类。
4.根据权利要求3所述的基于随机卷积神经网络结构的内燃机健康监测方法,其特征在于:步骤3中,在每个卷积神经网络训练过程中采用Adabound优化器和Dropout技术,减少卷积神经网络参数的个数,加快更新模型参数,最终使损失函数的值达到全局最优解;
其中,Adabound优化器的原理为:
mt=β1mt-1+(1-β1)gt
vt=β2vt-1+(1-β2)(gt)2
式中,mt是梯度的带权平均值,vt是梯度的带权有方差值,ηt是学习率,t表示时间,β1和β2是动力值,Qi(w)是指模型的参数方程;是对ηt校正,对学习率的上限和下限进行限定;Vt=diag(vt);表示被限定在[ηl,ηu]范围内;ηl和ηu随着时间t的变化而变化,并不是一个恒定的上下限值;
卷积神经网络参数的更新为:
式中,wt为参数值,ηt是学习率。
5.根据权利要求1-3任意一项所述的基于随机卷积神经网络结构的内燃机健康监测方法,其特征在于:步骤4中,卷积神经网络的拟合公式为:
r~Bernoulli(p)
ci=f(yi)
式中,r是关于概率p的伯努利分布,表示失活部分神经元后的数据,c是模型最终输出的分类概率值,下标i表示第i组数据。
6.根据权利要求1-4任意一项所述的基于随机卷积神经网络结构的内燃机健康监测方法,其特征在于:步骤5中,采用Dempster规则对每个卷积神经网络产生的类别概率进行融合,得到最终的分类概率;融合公式为:
式中,Li是分类的标签;ci是融合各个卷积神经网络结构诊断结果的融合分类概率值;最终预测的分类标签将会由融合后最大的概率的标签决定,为:
式中,L是最终预测的标签,C是所有可能的标签类别,yi是对应每个类别的概率,x为输入的周期振动信号。
7.一种基于随机卷积神经网络结构的内燃机健康监测系统,其特征在于:包括振动时域信号采集模块、数据预处理模块、新型随机卷积神经网络构建训练模块、测试模块、融合模块;
所述振动时域信号采集模块,用于实时采集内燃机在工作状态下的振动时域信号;
所述数据预处理模块,用于对采集的原始振动时域信号数据进行标签化和标准化处理,然后将数据划分训练集与测试集;
所述新型随机卷积神经网络构建训练模块,用于构建新型随机卷积神经网络并训练;
所述新型随机卷积神经网络,由若干个单一的优化后的卷积神经网络结构组成,每次从训练集中随机抽取部分数据,对每个单一的卷积神经网络进行训练;获得完成训练后的新型随机卷积神经网络参数;
所述测试模块,用于将完成训练后的新型随机卷积神经网络参数输入测试集,获得测试结果概率;
所述融合模块,用于通过Demspter合成规则将各个单一卷积神经网络的分类结果概率进行融合,输出最终的所属样本的概率值,得到所采集数据的最终分类结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910648403.XA CN110502991B (zh) | 2019-07-18 | 2019-07-18 | 基于随机卷积神经网络结构的内燃机健康监测方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910648403.XA CN110502991B (zh) | 2019-07-18 | 2019-07-18 | 基于随机卷积神经网络结构的内燃机健康监测方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110502991A true CN110502991A (zh) | 2019-11-26 |
CN110502991B CN110502991B (zh) | 2022-12-02 |
Family
ID=68585630
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910648403.XA Active CN110502991B (zh) | 2019-07-18 | 2019-07-18 | 基于随机卷积神经网络结构的内燃机健康监测方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110502991B (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111007035A (zh) * | 2019-12-12 | 2020-04-14 | 重庆科技学院 | 基于卷积神经网络的二燃室高温气体浓度检测方法、系统、装置及存储介质 |
CN111144269A (zh) * | 2019-12-23 | 2020-05-12 | 威海北洋电气集团股份有限公司 | 一种基于深度学习的信号相关行为识别方法及系统 |
CN111242021A (zh) * | 2020-01-10 | 2020-06-05 | 电子科技大学 | 一种分布式光纤振动信号特征提取与识别方法 |
CN111401136A (zh) * | 2020-02-22 | 2020-07-10 | 上海交通大学 | 一种柱塞泵空化程度检测方法、装置及终端 |
CN111783941A (zh) * | 2020-06-07 | 2020-10-16 | 北京化工大学 | 一种基于概率置信度卷积神经网络的机械设备诊断分类方法 |
CN111860839A (zh) * | 2020-07-28 | 2020-10-30 | 上海海事大学 | 基于多信号融合及Adam优化算法的岸桥故障监测方法 |
CN112283002A (zh) * | 2020-10-30 | 2021-01-29 | 江苏核电有限公司 | 一种应急柴油发电机组启动性能的评估方法 |
CN112528849A (zh) * | 2020-12-09 | 2021-03-19 | 西北工业大学 | 一种基于内积矩阵及深度学习的结构健康监测方法 |
CN112580588A (zh) * | 2020-12-29 | 2021-03-30 | 西北工业大学 | 一种基于经验模态分解的颤振信号智能识别方法 |
CN113008494A (zh) * | 2021-02-01 | 2021-06-22 | 上海盛磊信息科技有限公司 | 基于深度学习的天线罩结构健康度监测设备与监测方法 |
CN113266485A (zh) * | 2020-02-14 | 2021-08-17 | 丰田自动车株式会社 | 映射的学习方法 |
CN113453153A (zh) * | 2020-03-27 | 2021-09-28 | 威海北洋电气集团股份有限公司 | 基于深度学习的无线定位融合方法及系统 |
CN113804446A (zh) * | 2020-06-11 | 2021-12-17 | 卓品智能科技无锡有限公司 | 一种基于卷积神经网络的柴油机性能预测方法 |
CN114077849A (zh) * | 2021-11-17 | 2022-02-22 | 西安交通大学 | 一种基于部件级融合的发动机健康状态识别方法 |
CN114684217A (zh) * | 2022-03-16 | 2022-07-01 | 武汉理工大学 | 一种轨道交通健康监测系统及方法 |
CN114856811A (zh) * | 2022-05-25 | 2022-08-05 | 哈尔滨工业大学(威海) | 柴油发动机空气系统健康评估方法 |
CN114970349A (zh) * | 2022-05-27 | 2022-08-30 | 江南大学 | 基于卷积神经网络的随机变宽度微流控芯片自动设计方法 |
CN117648611A (zh) * | 2024-01-30 | 2024-03-05 | 太原理工大学 | 机械装备的故障诊断方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180357542A1 (en) * | 2018-06-08 | 2018-12-13 | University Of Electronic Science And Technology Of China | 1D-CNN-Based Distributed Optical Fiber Sensing Signal Feature Learning and Classification Method |
CN109001557A (zh) * | 2018-06-11 | 2018-12-14 | 西北工业大学 | 一种基于随机卷积神经网络的飞机机电系统故障识别方法 |
CN109918752A (zh) * | 2019-02-26 | 2019-06-21 | 华南理工大学 | 基于迁移卷积神经网络的机械故障诊断方法、设备及介质 |
-
2019
- 2019-07-18 CN CN201910648403.XA patent/CN110502991B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180357542A1 (en) * | 2018-06-08 | 2018-12-13 | University Of Electronic Science And Technology Of China | 1D-CNN-Based Distributed Optical Fiber Sensing Signal Feature Learning and Classification Method |
CN109001557A (zh) * | 2018-06-11 | 2018-12-14 | 西北工业大学 | 一种基于随机卷积神经网络的飞机机电系统故障识别方法 |
CN109918752A (zh) * | 2019-02-26 | 2019-06-21 | 华南理工大学 | 基于迁移卷积神经网络的机械故障诊断方法、设备及介质 |
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111007035B (zh) * | 2019-12-12 | 2022-03-25 | 重庆科技学院 | 基于卷积神经网络的二燃室高温气体浓度检测方法、系统、装置及存储介质 |
CN111007035A (zh) * | 2019-12-12 | 2020-04-14 | 重庆科技学院 | 基于卷积神经网络的二燃室高温气体浓度检测方法、系统、装置及存储介质 |
CN111144269B (zh) * | 2019-12-23 | 2023-11-24 | 威海北洋电气集团股份有限公司 | 一种基于深度学习的信号相关行为识别方法及系统 |
CN111144269A (zh) * | 2019-12-23 | 2020-05-12 | 威海北洋电气集团股份有限公司 | 一种基于深度学习的信号相关行为识别方法及系统 |
CN111242021A (zh) * | 2020-01-10 | 2020-06-05 | 电子科技大学 | 一种分布式光纤振动信号特征提取与识别方法 |
CN111242021B (zh) * | 2020-01-10 | 2022-07-29 | 电子科技大学 | 一种分布式光纤振动信号特征提取与识别方法 |
CN113266485A (zh) * | 2020-02-14 | 2021-08-17 | 丰田自动车株式会社 | 映射的学习方法 |
CN111401136A (zh) * | 2020-02-22 | 2020-07-10 | 上海交通大学 | 一种柱塞泵空化程度检测方法、装置及终端 |
CN113453153B (zh) * | 2020-03-27 | 2022-05-17 | 威海北洋电气集团股份有限公司 | 基于深度学习的无线定位融合方法及系统 |
CN113453153A (zh) * | 2020-03-27 | 2021-09-28 | 威海北洋电气集团股份有限公司 | 基于深度学习的无线定位融合方法及系统 |
CN111783941B (zh) * | 2020-06-07 | 2024-03-29 | 北京化工大学 | 一种基于概率置信度卷积神经网络的机械设备诊断分类方法 |
CN111783941A (zh) * | 2020-06-07 | 2020-10-16 | 北京化工大学 | 一种基于概率置信度卷积神经网络的机械设备诊断分类方法 |
CN113804446A (zh) * | 2020-06-11 | 2021-12-17 | 卓品智能科技无锡有限公司 | 一种基于卷积神经网络的柴油机性能预测方法 |
CN111860839A (zh) * | 2020-07-28 | 2020-10-30 | 上海海事大学 | 基于多信号融合及Adam优化算法的岸桥故障监测方法 |
CN112283002A (zh) * | 2020-10-30 | 2021-01-29 | 江苏核电有限公司 | 一种应急柴油发电机组启动性能的评估方法 |
CN112528849A (zh) * | 2020-12-09 | 2021-03-19 | 西北工业大学 | 一种基于内积矩阵及深度学习的结构健康监测方法 |
CN112528849B (zh) * | 2020-12-09 | 2023-03-24 | 西北工业大学 | 一种基于内积矩阵及深度学习的结构健康监测方法 |
CN112580588A (zh) * | 2020-12-29 | 2021-03-30 | 西北工业大学 | 一种基于经验模态分解的颤振信号智能识别方法 |
CN112580588B (zh) * | 2020-12-29 | 2024-01-12 | 西北工业大学 | 一种基于经验模态分解的颤振信号智能识别方法 |
CN113008494A (zh) * | 2021-02-01 | 2021-06-22 | 上海盛磊信息科技有限公司 | 基于深度学习的天线罩结构健康度监测设备与监测方法 |
CN114077849B (zh) * | 2021-11-17 | 2024-04-05 | 西安交通大学 | 一种基于部件级融合的发动机健康状态识别方法 |
CN114077849A (zh) * | 2021-11-17 | 2022-02-22 | 西安交通大学 | 一种基于部件级融合的发动机健康状态识别方法 |
CN114684217B (zh) * | 2022-03-16 | 2024-03-01 | 武汉理工大学 | 一种轨道交通健康监测系统及方法 |
CN114684217A (zh) * | 2022-03-16 | 2022-07-01 | 武汉理工大学 | 一种轨道交通健康监测系统及方法 |
CN114856811A (zh) * | 2022-05-25 | 2022-08-05 | 哈尔滨工业大学(威海) | 柴油发动机空气系统健康评估方法 |
CN114970349A (zh) * | 2022-05-27 | 2022-08-30 | 江南大学 | 基于卷积神经网络的随机变宽度微流控芯片自动设计方法 |
CN114970349B (zh) * | 2022-05-27 | 2024-04-30 | 江南大学 | 基于卷积神经网络的随机变宽度微流控芯片自动设计方法 |
CN117648611A (zh) * | 2024-01-30 | 2024-03-05 | 太原理工大学 | 机械装备的故障诊断方法 |
CN117648611B (zh) * | 2024-01-30 | 2024-04-05 | 太原理工大学 | 机械装备的故障诊断方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110502991B (zh) | 2022-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110502991A (zh) | 基于随机卷积神经网络结构的内燃机健康监测方法及系统 | |
CN109635677B (zh) | 基于多标签分类卷积神经网络的复合故障诊断方法及装置 | |
CN114048600B (zh) | 一种数字孪生驱动的多模型融合工业系统异常检测方法 | |
Abdel-Galil et al. | Power quality disturbance classification using the inductive inference approach | |
CN110006649B (zh) | 一种基于改进蚁狮算法和支持向量机的轴承故障诊断方法 | |
CN109272123A (zh) | 一种基于卷积-循环神经网络的有杆泵工况预警方法 | |
CN108256556A (zh) | 基于深度信念网络的风力发电机组齿轮箱故障诊断方法 | |
CN109583092A (zh) | 一种多层次多模式特征提取的智能机械系统故障诊断方法 | |
CN108960077A (zh) | 一种基于循环神经网络的智能故障诊断方法 | |
CN106779200A (zh) | 基于在历史数据中进行相似搜索的风电机组状态预测方法 | |
CN111753985A (zh) | 基于神经元覆盖率的图像深度学习模型测试方法与装置 | |
Lv et al. | A predictive maintenance system for multi-granularity faults based on AdaBelief-BP neural network and fuzzy decision making | |
CN111651530B (zh) | 一种智能化港口监测系统 | |
CN109597401A (zh) | 一种基于数据驱动的设备故障诊断方法 | |
CN114358124B (zh) | 基于深度对抗卷积神经网络的旋转机械新故障诊断方法 | |
CN105626502B (zh) | 基于小波包和拉普拉斯特征映射的柱塞泵健康评估方法 | |
CN108509701A (zh) | 一种基于振动信号的旋转机械故障直接智能诊断方法 | |
CN115952408B (zh) | 多通道跨域少样本的冲压生产线轴承故障诊断方法 | |
CN109033178A (zh) | 一种挖掘能见度多维时空数据之间格兰杰因果关系的方法 | |
CN111597996A (zh) | 基于深度学习的风力发电机轴承故障辨识模型的构建方法 | |
CN115979660A (zh) | 基于mpa优化的内燃机用滤清器故障诊断方法 | |
Pollastro et al. | Semi-supervised detection of structural damage using variational autoencoder and a one-class support vector machine | |
CN115165366A (zh) | 一种旋转机械变工况故障诊断方法及系统 | |
CN117056678B (zh) | 一种基于小样本的机泵设备运行故障诊断方法及装置 | |
CN111553115A (zh) | 基于数据驱动的台风作用下大跨度桥梁振动响应预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |